Python的字符串

    搞清楚了令人头疼的字符编码问题后,我们再来研究Python的字符串。

    在最新的Python 3版本中,字符串是以Unicode编码的,也就是说,Python的字符串支持多语言,例如:

    >>> print('包含中文的str')

    包含中文的str

    对于单个字符的编码,Python提供了 ord() 函数获取字符的整数表示, chr() 函数把编码转换为对应的字符:

    >>> ord('A')

    65

    >>> ord('中')

    20013

    >>> chr(66)

    'B'

    >>> chr(25991)

    '文'

    如果知道字符的整数编码,还可以用十六进制这么写 str

    >>> '\u4e2d\u6587'

    '中文'

    两种写法完全是等价的。

    由于Python的字符串类型是 str ,在内存中以Unicode表示,一个字符对应若干个字节。如果要在网络上传输,或者保存到磁盘上,就需要把 str 变为以字节为单位的 bytes

    Python对 bytes 类型的数据用带 b 前缀的单引号或双引号表示:

    x = b'ABC'

    要注意区分 'ABC' b'ABC' ,前者是 str ,后者虽然内容显示得和前者一样,但 bytes 的每个字符都只占用一个字节。

    以Unicode表示的 str 通过 encode() 方法可以编码为指定的 bytes ,例如:

    >>> 'ABC'.encode('ascii')

    b'ABC'

    >>> '中文'.encode('utf-8')

    b'\xe4\xb8\xad\xe6\x96\x87'

    >>> '中文'.encode('ascii')

    Traceback (most recent call last):

    File "<stdin>", line 1, in <module>

    UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)

    纯英文的 str 可以用 ASCII 编码为 bytes ,内容是一样的,含有中文的 str 可以用 UTF-8 编码为 bytes 。含有中文的 str 无法用 ASCII 编码,因为中文编码的范围超过了 ASCII 编码的范围,Python会报错。

    bytes 中,无法显示为ASCII字符的字节,用 \x## 显示。

    反过来,如果我们从网络或磁盘上读取了字节流,那么读到的数据就是 bytes 。要把 bytes 变为 str ,就需要用 decode() 方法:

    >>> b'ABC'.decode('ascii')

    'ABC'

    >>> b'\xe4\xb8\xad\xe6\x96\x87'.decode('utf-8')

    '中文'

    要计算 str 包含多少个字符,可以用 len() 函数:

    >>> len('ABC')

    3

    >>> len('中文')

    2

    len() 函数计算的是 str 的字符数,如果换成 bytes len() 函数就计算字节数:

    >>> len(b'ABC')

    3

    >>> len(b'\xe4\xb8\xad\xe6\x96\x87')

    6

    >>> len('中文'.encode('utf-8'))

    6

    可见,1个中文字符经过UTF-8编码后通常会占用3个字节,而1个英文字符只占用1个字节。

    在操作字符串时,我们经常遇到 str bytes 的互相转换。为了避免乱码问题,应当始终坚持使用UTF-8编码对 str bytes 进行转换。

    由于Python源代码也是一个文本文件,所以,当你的源代码中包含中文的时候,在保存源代码时,就需要务必指定保存为UTF-8编码。当Python解释器读取源代码时,为了让它按UTF-8编码读取,我们通常在文件开头写上这两行:

    #!/usr/bin/env python3

    # -- coding: utf-8 --

    第一行注释是为了告诉Linux/OS X系统,这是一个Python可执行程序,Windows系统会忽略这个注释;

    第二行注释是为了告诉Python解释器,按照UTF-8编码读取源代码,否则,你在源代码中写的中文输出可能会有乱码。

    申明了UTF-8编码并不意味着你的 .py 文件就是UTF-8编码的,必须并且要确保文本编辑器正在使用UTF-8 without BOM编码:

    Python的字符串 - 图1

    如果 .py 文件本身使用UTF-8编码,并且也申明了 # -- coding: utf-8 -- ,打开命令提示符测试就可以正常显示中文:

    Python的字符串 - 图2