如何对 curl 命令的数据进行 urlencode？

使用curl --data-urlencode；来自 man curl：

这将发布数据，类似于其他 --data 选项，不同之处在于它执行 URL 编码。为了符合 CGI， 部分应以名称开头，后跟分隔符和内容规范。

示例用法：

curl \
    --data-urlencode "paramName=value" \
    --data-urlencode "secondParam=value" \
    http://example.com

有关详细信息，请参阅 the man page。

这需要 curl 7.18.0 or newer (released January 2008)。使用 curl -V 检查您拥有的版本。

您也可以对 query string 进行编码：

curl --get \
    --data-urlencode "p1=value 1" \
    --data-urlencode "p2=value 2" \
    http://example.com
    # http://example.com?p1=value%201&p2=value%202

---

这是纯粹的 BASH 答案。

更新：由于已经讨论了许多更改，因此我将其放在 https://github.com/sfinktah/bash/blob/master/rawurlencode.inc.sh 上供任何人发布 PR。

注意：此解决方案并非旨在对 unicode 或多字节字符进行编码——这完全超出了 BASH 不起眼的本机功能。它仅用于对符号进行编码，否则会破坏在 POST 或 GET 请求中传递的参数，例如“&”、“=”等。

非常重要的注意事项：永远不要尝试用任何语言编写自己的 UNICODE 转换函数。见答案结尾。

rawurlencode() {
  local string="${1}"
  local strlen=${#string}
  local encoded=""
  local pos c o

  for (( pos=0 ; pos<strlen ; pos++ )); do
     c=${string:$pos:1}
     case "$c" in
        [-_.~a-zA-Z0-9] ) o="${c}" ;;
        * )               printf -v o '%%%02x' "'$c"
     esac
     encoded+="${o}"
  done
  echo "${encoded}"    # You can either set a return variable (FASTER) 
  REPLY="${encoded}"   #+or echo the result (EASIER)... or both... :p
}

您可以通过两种方式使用它：

easier:  echo http://url/q?=$( rawurlencode "$args" )
faster:  rawurlencode "$args"; echo http://url/q?${REPLY}

[编辑]

这是匹配的 rawurldecode() 函数，它 - 谦虚地说 - 很棒。

# Returns a string in which the sequences with percent (%) signs followed by
# two hex digits have been replaced with literal characters.
rawurldecode() {

  # This is perhaps a risky gambit, but since all escape characters must be
  # encoded, we can replace %NN with \xNN and pass the lot to printf -b, which
  # will decode hex for us

  printf -v REPLY '%b' "${1//%/\\x}" # You can either set a return variable (FASTER)

  echo "${REPLY}"  #+or echo the result (EASIER)... or both... :p
}

使用匹配集，我们现在可以执行一些简单的测试：

$ diff rawurlencode.inc.sh \
        <( rawurldecode "$( rawurlencode "$( cat rawurlencode.inc.sh )" )" ) \
        && echo Matched

Output: Matched

如果你真的觉得你需要一个外部工具（嗯，它会更快，并且可能会做二进制文件等......）我在我的 OpenWRT 路由器上找到了这个......

replace_value=$(echo $replace_value | sed -f /usr/lib/ddns/url_escape.sed)

其中 url_escape.sed 是包含以下规则的文件：

# sed url escaping
s:%:%25:g
s: :%20:g
s:<:%3C:g
s:>:%3E:g
s:#:%23:g
s:{:%7B:g
s:}:%7D:g
s:|:%7C:g
s:\\:%5C:g
s:\^:%5E:g
s:~:%7E:g
s:\[:%5B:g
s:\]:%5D:g
s:`:%60:g
s:;:%3B:g
s:/:%2F:g
s:?:%3F:g
s^:^%3A^g
s:@:%40:g
s:=:%3D:g
s:&:%26:g
s:\$:%24:g
s:\!:%21:g
s:\*:%2A:g

虽然在 BASH 中编写这样一个能够处理 UTF-8 输入的脚本（可能使用 xxd 和一个非常冗长的规则集）并非不可能，但有更快、更可靠的方法。尝试将 UTF-8 解码为 UTF-32 是一项与准确性相关的重要任务，尽管很容易不准确地做到这一点，以至于您认为它可以工作直到它不起作用的那一天。

甚至 Unicode 联盟在发现它不再 100% 与实际标准兼容后也删除了他们的示例代码。

Unicode 标准在不断发展，并且变得非常微妙。您可以组合在一起的任何实现都不会完全合规，如果您通过一些极端的努力来管理它，它就不会保持合规。

---

另一种选择是使用 jq：

$ printf %s 'encode this'|jq -sRr @uri
encode%20this
$ jq -rn --arg x 'encode this' '$x|@uri'
encode%20this

-r (--raw-output) 输出字符串的原始内容，而不是 JSON 字符串文字。 -n (--null-input) 不从 STDIN 读取输入。

-R (--raw-input) 将输入行视为字符串，而不是将它们解析为 JSON，并且 -sR (--slurp --raw-input) 将输入读入单个字符串。如果您的输入仅包含一行，或者您不想将换行符替换为 %0A，则可以将 -sRr 替换为 -Rr：

$ printf %s\\n 'multiple lines' 'of text'|jq -Rr @uri
multiple%20lines
of%20text
$ printf %s\\n 'multiple lines' 'of text'|jq -sRr @uri
multiple%20lines%0Aof%20text%0A

或者这个百分比编码所有字节：

xxd -p|tr -d \\n|sed 's/../%&/g'

---

在 bash 脚本的第二行中使用 Perl 的 URI::Escape 模块和 uri_escape 函数：

...

value="$(perl -MURI::Escape -e 'print uri_escape($ARGV[0]);' "$2")"
...

编辑：修复引用问题，正如 Chris Johnsen 在评论中所建议的那样。谢谢！

---

一种变体，可能很难看，但很简单：

urlencode() {
    local data
    if [[ $# != 1 ]]; then
        echo "Usage: $0 string-to-urlencode"
        return 1
    fi
    data="$(curl -s -o /dev/null -w %{url_effective} --get --data-urlencode "$1" "")"
    if [[ $? != 3 ]]; then
        echo "Unexpected error" 1>&2
        return 2
    fi
    echo "${data##/?}"
    return 0
}

例如，这里是单行版本（如 Bruno 所建议）：

date | curl -Gso /dev/null -w %{url_effective} --data-urlencode @- "" | cut -c 3-

# If you experience the trailing %0A, use
date | curl -Gso /dev/null -w %{url_effective} --data-urlencode @- "" | sed -E 's/..(.*).../\1/'

---

为完整起见，许多使用 sed 或 awk 的解决方案仅翻译一组特殊字符，因此代码大小相当大，也不翻译应编码的其他特殊字符。

一种安全的 urlencode 方法是只对每个字节进行编码——即使是那些被允许的字节。

echo -ne 'some random\nbytes' | xxd -plain | tr -d '\n' | sed 's/\(..\)/%\1/g'

xxd 在这里注意输入被处理为字节而不是字符。

编辑：

xxd 带有 Debian 中的 vim-common 软件包，我只是在一个没有安装它的系统上，我不想安装它。替代方法是使用 Debian 中 bsdmainutils 软件包中的 hexdump。根据下图，安装 bsdmainutils 和 vim-common 的可能性应该差不多：

http://qa.debian.org/popcon-png.php?packages=vim-common%2Cbsdmainutils&show_installed=1&want_legend=1&want_ticks=1

但是这里有一个使用 hexdump 而不是 xxd 并允许避免 tr 调用的版本：

echo -ne 'some random\nbytes' | hexdump -v -e '/1 "%02x"' | sed 's/\(..\)/%\1/g'

---

我发现它在 python 中更具可读性：

encoded_value=$(python3 -c "import urllib.parse; print urllib.parse.quote('''$value''')")

三重 ' 确保价值中的单引号不会受到伤害。 urllib 在标准库中。例如，它适用于这个疯狂的（现实世界）网址：

"http://www.rai.it/dl/audio/" "1264165523944Ho servito il re d'Inghilterra - Puntata 7

---

我发现以下代码片段有助于将其粘贴到程序调用链中，其中 URI::Escape 可能未安装：

perl -p -e 's/([^A-Za-z0-9])/sprintf("%%%02X", ord($1))/seg'

(source)

---

如果您希望运行 GET 请求并使用纯 curl，只需将 --get 添加到 @Jacob 的解决方案中。

这是一个例子：

curl -v --get --data-urlencode "access_token=$(cat .fb_access_token)" https://graph.facebook.com/me/feed

---

这可能是最好的一个：

after=$(echo -e "$before" | od -An -tx1 | tr ' ' % | xargs printf "%s")

---

直接链接到 awk 版本：http://www.shelldorado.com/scripts/cmds/urlencode
我用了很多年，它就像一个魅力

:
##########################################################################
# Title      :  urlencode - encode URL data
# Author     :  Heiner Steven (heiner.steven@odn.de)
# Date       :  2000-03-15
# Requires   :  awk
# Categories :  File Conversion, WWW, CGI
# SCCS-Id.   :  @(#) urlencode  1.4 06/10/29
##########################################################################
# Description
#   Encode data according to
#       RFC 1738: "Uniform Resource Locators (URL)" and
#       RFC 1866: "Hypertext Markup Language - 2.0" (HTML)
#
#   This encoding is used i.e. for the MIME type
#   "application/x-www-form-urlencoded"
#
# Notes
#    o  The default behaviour is not to encode the line endings. This
#   may not be what was intended, because the result will be
#   multiple lines of output (which cannot be used in an URL or a
#   HTTP "POST" request). If the desired output should be one
#   line, use the "-l" option.
#
#    o  The "-l" option assumes, that the end-of-line is denoted by
#   the character LF (ASCII 10). This is not true for Windows or
#   Mac systems, where the end of a line is denoted by the two
#   characters CR LF (ASCII 13 10).
#   We use this for symmetry; data processed in the following way:
#       cat | urlencode -l | urldecode -l
#   should (and will) result in the original data
#
#    o  Large lines (or binary files) will break many AWK
#       implementations. If you get the message
#       awk: record `...' too long
#        record number xxx
#   consider using GNU AWK (gawk).
#
#    o  urlencode will always terminate it's output with an EOL
#       character
#
# Thanks to Stefan Brozinski for pointing out a bug related to non-standard
# locales.
#
# See also
#   urldecode
##########################################################################

PN=`basename "$0"`          # Program name
VER='1.4'

: ${AWK=awk}

Usage () {
    echo >&2 "$PN - encode URL data, $VER
usage: $PN [-l] [file ...]
    -l:  encode line endings (result will be one line of output)

The default is to encode each input line on its own."
    exit 1
}

Msg () {
    for MsgLine
    do echo "$PN: $MsgLine" >&2
    done
}

Fatal () { Msg "$@"; exit 1; }

set -- `getopt hl "$@" 2>/dev/null` || Usage
[ $# -lt 1 ] && Usage           # "getopt" detected an error

EncodeEOL=no
while [ $# -gt 0 ]
do
    case "$1" in
        -l) EncodeEOL=yes;;
    --) shift; break;;
    -h) Usage;;
    -*) Usage;;
    *)  break;;         # First file name
    esac
    shift
done

LANG=C  export LANG
$AWK '
    BEGIN {
    # We assume an awk implementation that is just plain dumb.
    # We will convert an character to its ASCII value with the
    # table ord[], and produce two-digit hexadecimal output
    # without the printf("%02X") feature.

    EOL = "%0A"     # "end of line" string (encoded)
    split ("1 2 3 4 5 6 7 8 9 A B C D E F", hextab, " ")
    hextab [0] = 0
    for ( i=1; i<=255; ++i ) ord [ sprintf ("%c", i) "" ] = i + 0
    if ("'"$EncodeEOL"'" == "yes") EncodeEOL = 1; else EncodeEOL = 0
    }
    {
    encoded = ""
    for ( i=1; i<=length ($0); ++i ) {
        c = substr ($0, i, 1)
        if ( c ~ /[a-zA-Z0-9.-]/ ) {
        encoded = encoded c     # safe character
        } else if ( c == " " ) {
        encoded = encoded "+"   # special handling
        } else {
        # unsafe character, encode it as a two-digit hex-number
        lo = ord [c] % 16
        hi = int (ord [c] / 16);
        encoded = encoded "%" hextab [hi] hextab [lo]
        }
    }
    if ( EncodeEOL ) {
        printf ("%s", encoded EOL)
    } else {
        print encoded
    }
    }
    END {
        #if ( EncodeEOL ) print ""
    }
' "$@"

---

这是一个不调用任何外部程序的 Bash 解决方案：

uriencode() {
  s="${1//'%'/%25}"
  s="${s//' '/%20}"
  s="${s//'"'/%22}"
  s="${s//'#'/%23}"
  s="${s//'$'/%24}"
  s="${s//'&'/%26}"
  s="${s//'+'/%2B}"
  s="${s//','/%2C}"
  s="${s//'/'/%2F}"
  s="${s//':'/%3A}"
  s="${s//';'/%3B}"
  s="${s//'='/%3D}"
  s="${s//'?'/%3F}"
  s="${s//'@'/%40}"
  s="${s//'['/%5B}"
  s="${s//']'/%5D}"
  printf %s "$s"
}

---

url=$(echo "$1" | sed -e 's/%/%25/g' -e 's/ /%20/g' -e 's/!/%21/g' -e 's/"/%22/g' -e 's/#/%23/g' -e 's/\$/%24/g' -e 's/\&/%26/g' -e 's/'\''/%27/g' -e 's/(/%28/g' -e 's/)/%29/g' -e 's/\*/%2a/g' -e 's/+/%2b/g' -e 's/,/%2c/g' -e 's/-/%2d/g' -e 's/\./%2e/g' -e 's/\//%2f/g' -e 's/:/%3a/g' -e 's/;/%3b/g' -e 's//%3e/g' -e 's/?/%3f/g' -e 's/@/%40/g' -e 's/\[/%5b/g' -e 's/\\/%5c/g' -e 's/\]/%5d/g' -e 's/\^/%5e/g' -e 's/_/%5f/g' -e 's/`/%60/g' -e 's/{/%7b/g' -e 's/|/%7c/g' -e 's/}/%7d/g' -e 's/~/%7e/g')

这将对 $1 中的字符串进行编码并将其输出到 $url 中。虽然如果你愿意，你不必把它放在一个 var 中。顺便说一句，没有包含 sed for tab 认为它会变成空格

---

从 shell 脚本中使用 php：

value="http://www.google.com"
encoded=$(php -r "echo rawurlencode('$value');")
# encoded = "http%3A%2F%2Fwww.google.com"
echo $(php -r "echo rawurldecode('$encoded');")
# returns: "http://www.google.com"

http://www.php.net/manual/en/function.rawurlencode.php http://www.php.net/manual/en/function.rawurldecode.php

---

如果你不想依赖 Perl，你也可以使用 sed。这有点混乱，因为每个字符都必须单独转义。创建一个包含以下内容的文件并将其命名为 urlencode.sed

s/%/%25/g
s/ /%20/g
s/ /%09/g
s/!/%21/g
s/"/%22/g
s/#/%23/g
s/\$/%24/g
s/\&/%26/g
s/'\''/%27/g
s/(/%28/g
s/)/%29/g
s/\*/%2a/g
s/+/%2b/g
s/,/%2c/g
s/-/%2d/g
s/\./%2e/g
s/\//%2f/g
s/:/%3a/g
s/;/%3b/g
s//%3e/g
s/?/%3f/g
s/@/%40/g
s/\[/%5b/g
s/\\/%5c/g
s/\]/%5d/g
s/\^/%5e/g
s/_/%5f/g
s/`/%60/g
s/{/%7b/g
s/|/%7c/g
s/}/%7d/g
s/~/%7e/g
s/      /%09/g

要使用它，请执行以下操作。

STR1=$(echo "https://www.example.com/change&$ ^this to?%checkthe@-functionality" | cut -d\? -f1)
STR2=$(echo "https://www.example.com/change&$ ^this to?%checkthe@-functionality" | cut -d\? -f2)
OUT2=$(echo "$STR2" | sed -f urlencode.sed)
echo "$STR1?$OUT2"

这会将字符串拆分为需要编码的部分，以及可以的部分，对需要它的部分进行编码，然后重新缝合在一起。

为方便起见，您可以将其放入 sh 脚本中，也许需要一个参数进行编码，将其放在您的路径上，然后您可以调用：

urlencode https://www.exxample.com?isThisFun=HellNo

_source

---

Python 3 基于@sandro 2010 年的好回答：

echo "Test & /me" | python -c "import urllib.parse;print (urllib.parse.quote(input()))"

测试%20%26%20/我

---

对于那些正在寻找不需要 perl 的解决方案的人，这里是一个只需要 hexdump 和 awk 的解决方案：

url_encode() {
 [ $# -lt 1 ] && { return; }

 encodedurl="$1";

 # make sure hexdump exists, if not, just give back the url
 [ ! -x "/usr/bin/hexdump" ] && { return; }

 encodedurl=`
   echo $encodedurl | hexdump -v -e '1/1 "%02x\t"' -e '1/1 "%_c\n"' |
   LANG=C awk '
     $1 == "20"                    { printf("%s",   "+"); next } # space becomes plus
     $1 ~  /0[adAD]/               {                      next } # strip newlines
     $2 ~  /^[a-zA-Z0-9.*()\/-]$/  { printf("%s",   $2);  next } # pass through what we can
                                   { printf("%%%s", $1)        } # take hex value of everything else
   '`
}

从网络上的几个地方和一些本地试验和错误缝合在一起。效果很好！

---

uni2ascii 非常方便：

$ echo -ne '你好世界' | uni2ascii -aJ
%E4%BD%A0%E5%A5%BD%E4%B8%96%E7%95%8C

---

您可以在 perl 中模拟 javascript 的 encodeURIComponent。这是命令：

perl -pe 's/([^a-zA-Z0-9_.!~*()'\''-])/sprintf("%%%02X", ord($1))/ge'

您可以在 .bash_profile 中将其设置为 bash 别名：

alias encodeURIComponent='perl -pe '\''s/([^a-zA-Z0-9_.!~*()'\''\'\'''\''-])/sprintf("%%%02X",ord($1))/ge'\'

现在您可以通过管道进入 encodeURIComponent：

$ echo -n 'hèllo wôrld!' | encodeURIComponent
h%C3%A8llo%20w%C3%B4rld!

---

简单的 PHP 选项：

echo 'part-that-needs-encoding' | php -R 'echo urlencode($argn);'

---

这个基于 nodejs 的答案将在标准输入上使用 encodeURIComponent：

uriencode_stdin() {
    node -p 'encodeURIComponent(require("fs").readFileSync(0))'
}

echo -n $'hello\nwörld' | uriencode_stdin
hello%0Aw%C3%B6rld

---

什么会比 javascript 更好地解析 URL？

node -p "encodeURIComponent('$url')"

---

这是节点版本：

uriencode() {
  node -p "encodeURIComponent('${1//\'/\\\'}')"
}

---

问题是关于在 bash 中执行此操作，并且不需要 python 或 perl，因为实际上有一个命令可以完全满足您的要求 - “urlencode”。

value=$(urlencode "${2}")

这也好得多，例如，上面的 perl 答案没有正确编码所有字符。用你从 Word 中得到的长破折号试试，你得到了错误的编码。

请注意，您需要安装“gridsite-clients”才能提供此命令。

---

另一种php方法：

echo "encode me" | php -r "echo urlencode(file_get_contents('php://stdin'));"

---

这是执行此操作的 POSIX 函数：

url_encode() {
   awk 'BEGIN {
      for (n = 0; n < 125; n++) {
         m[sprintf("%c", n)] = n
      }
      n = 1
      while (1) {
         s = substr(ARGV[1], n, 1)
         if (s == "") {
            break
         }
         t = s ~ /[[:alnum:]_.!~*\47()-]/ ? t s : t sprintf("%%%02X", m[s])
         n++
      }
      print t
   }' "$1"
}

例子：

value=$(url_encode "$2")

---

Ruby，为了完整性

value="$(ruby -r cgi -e 'puts CGI.escape(ARGV[0])' "$2")"

---

这是我的嵌入式系统busybox ash shell版本，我最初采用了Orwellophile的变体：

urlencode()
{
    local S="${1}"
    local encoded=""
    local ch
    local o
    for i in $(seq 0 $((${#S} - 1)) )
    do
        ch=${S:$i:1}
        case "${ch}" in
            [-_.~a-zA-Z0-9]) 
                o="${ch}"
                ;;
            *) 
                o=$(printf '%%%02x' "'$ch")                
                ;;
        esac
        encoded="${encoded}${o}"
    done
    echo ${encoded}
}

urldecode() 
{
    # urldecode <string>
    local url_encoded="${1//+/ }"
    printf '%b' "${url_encoded//%/\\x}"
}

---

这是使用 Lua 的单行转换，类似于 blueyed's answer，除了所有 RFC 3986 Unreserved Characters 未编码（如 this answer）：

url=$(echo 'print((arg[1]:gsub("([^%w%-%.%_%~])",function(c)return("%%%02X"):format(c:byte())end)))' | lua - "$1")

此外，您可能需要确保字符串中的换行符从 LF 转换为 CRLF，在这种情况下，您可以在百分比编码之前在链中插入 gsub("\r?\n", "\r\n")。

这是一个变体，在 the non-standard style of application/x-www-form-urlencoded 中，它执行换行规范化，以及将空格编码为“+”而不是“%20”（可能使用类似的技术将其添加到 Perl 片段中）。

url=$(echo 'print((arg[1]:gsub("\r?\n", "\r\n"):gsub("([^%w%-%.%_%~ ]))",function(c)return("%%%02X"):format(c:byte())end):gsub(" ","+"))' | lua - "$1")

---

安装 php 我使用这种方式：

URL_ENCODED_DATA=`php -r "echo urlencode('$DATA');"`

---