地税城市维护建设税网站是什么意思,建设通一年多少钱,做网站服务器价格多少合适,广州省建设监理协会网站https://www.cnblogs.com/xiao-xue-di/p/11283496.html 《Python中的Unicode编码和UTF-8编码》 《字符串和编码》 《python编码转换(unicode / utf8 / gbk / 内部编码)》
字符编码
最早127个字母被编码到计算机里#xff0c;也就是大小写英文字母、数字和一些符号#xff0…https://www.cnblogs.com/xiao-xue-di/p/11283496.html 《Python中的Unicode编码和UTF-8编码》 《字符串和编码》 《python编码转换(unicode / utf8 / gbk / 内部编码)》
字符编码
最早127个字母被编码到计算机里也就是大小写英文字母、数字和一些符号这个编码表被称为ASCII编码比如大写字母A的编码是65小写字母z的编码是122。 但是要处理中文显然一个字节是不够的至少需要两个字节而且还不能和ASCII编码冲突所以中国制定了GB2312编码用来把中文编进去。
你可以想得到的是全世界有上百种语言日本把日文编到Shift_JIS里韩国把韩文编到Euc-kr里各国有各国的标准就会不可避免地出现冲突结果就是在多语言混合的文本中显示出来会有乱码。
因此Unicode应运而生。Unicode把所有语言都统一到一套编码里这样就不会再有乱码问题了。
Unicode标准也在不断发展但最常用的是用两个字节表示一个字符如果要用到非常偏僻的字符就需要4个字节。现代操作系统和大多数编程语言都直接支持Unicode。
现在捋一捋ASCII编码和Unicode编码的区别ASCII编码是1个字节而Unicode编码通常是2个字节。
字母A用ASCII编码是十进制的65二进制的01000001
字符0用ASCII编码是十进制的48二进制的00110000注意字符’0’和整数0是不同的
汉字中已经超出了ASCII编码的范围用Unicode编码是十进制的20013二进制的01001110 00101101。
你可以猜测如果把ASCII编码的A用Unicode编码只需要在前面补0就可以因此A的Unicode编码是00000000 01000001。
新的问题又出现了如果统一成Unicode编码乱码问题从此消失了。但是如果你写的文本基本上全部是英文的话用Unicode编码比ASCII编码需要多一倍的存储空间在存储和传输上就十分不划算。
所以本着节约的精神又出现了把Unicode编码转化为“可变长编码”的UTF-8编码。UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节常用的英文字母被编码成1个字节汉字通常是3个字节只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符用UTF-8编码就能节省空间
字符ASCIIUnicodeUTF-8A0100000100000000 0100000101000001中x01001110 0010110111100100 10111000 10101101
从上面的表格还可以发现UTF-8编码有一个额外的好处就是ASCII编码实际上可以被看成是UTF-8编码的一部分所以大量只支持ASCII编码的历史遗留软件可以在UTF-8编码下继续工作。
搞清楚了ASCII、Unicode和UTF-8的关系我们就可以总结一下现在计算机系统通用的字符编码工作方式
在计算机内存中统一使用Unicode编码当需要保存到硬盘或者需要传输的时候就转换为UTF-8编码。
用记事本编辑的时候从文件读取的UTF-8字符被转换为Unicode字符到内存里编辑完成后保存的时候再把Unicode转换为UTF-8保存到文件 浏览网页的时候服务器会把动态生成的Unicode内容转换为UTF-8再传输到浏览器 Python的字符串
unicode字符串用uxx表示 u中文
u\u4e2d\u6587print(u\u4e2d\u6587)
中文gbk编码用gbk转成unicode 中文
\xd6\xd0\xce\xc4print(\xd6\xd0\xce\xc4)
中文中文.decode(gbk)
u\u4e2d\u6587默认是utf-8转成unicode码 utfstr \xe4\xb8\xad\xe6\x96\x87utfstr.decode(utf-8)
u\u4e2d\u6587unicode码转成utf-8码 unistr u\u4e2d\u6587unistr.encode(utf-8)
\xe4\xb8\xad\xe6\x96\x87使用编码打印
默认utf编码时gbk码乱码
# 默认utf编码
utfstr \xe4\xb8\xad\xe6\x96\x87
print(utfstr)
unistr u\u4e2d\u6587
print(unistr)
gbkstr \xd6\xd0\xce\xc4
print(gbkstr)中文
中文默认gbk编码时utf-8码乱码 utfstr \xe4\xb8\xad\xe6\x96\x87print(utfstr)
涓枃unistr u\u4e2d\u6587print(unistr)
中文gbkstr \xd6\xd0\xce\xc4print(gbkstr)
中文错误处理
报错UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-3: ordinal not in range(128) 解决方法 在文件开头添加 import sys; reload(sys); sys.setdefaultencoding(“utf8”)
创建文件
默认编码创建
name 中文手册
print(type(name))
print(name)
filename {}.txt.format(name)
print(type(filename))
print(filename)
f open(filename, w)
print(f.name)type str
中文手册
type str
中文手册.txt
中文手册.txt创建的文件名乱码
涓枃鎵嬪唽.txtunicode编码创建
如果不全是unicode编码会出现错误
name u中文手册
print(type(name))
print(name)
filename {}.txt.format(name)
print(type(filename))
print(filename)
f open(filename, w)
print(f.name)Traceback (most recent call last):File H:/spiderexercise/crawlqiushibaike/test.py, line 12, in modulefilename {}.txt.format(name)
UnicodeEncodeError: ascii codec cant encode characters in position 0-3: ordinal not in range(128)
type unicode
中文手册全部设置成unicode编码
name u中文手册
print(name)
filename u{}.txt.format(name)
print(filename)
f open(filename, w)
print(f.name)
中文手册
中文手册.txt
中文手册.txt创建的文件名没有乱码
中文手册.txt使用decode(‘utf-8’)转成unicode也能创建成功
name 中文手册.decode(utf-8)
print(type(name))
print(name)
filename {}.txt.decode(utf-8).format(name)
print(type(filename))
print(filename)
f open(filename, w)
print(f.name)type unicode
中文手册
type unicode
中文手册.txt
中文手册.txt创建的文件
中文手册.txt或者
name 中文手册
print(type(name))
print(name)
filename {}.txt.format(name)
filename unicode(filename, utf-8)
print(type(filename))
print(filename)
f open(filename, w)
print(f.name)type str
中文手册
type unicode
中文手册.txt
中文手册.txt创建成功不乱码
中文手册.txt
