Python之string编码问题怎么解决


这篇文章主要介绍“Python之string编码问题怎么解决”,在日常操作中,相信很多人在Python之string编码问题怎么解决问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Python之string编码问题怎么解决”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!通常我们所说的编码一般为简称, 其实在平常的应用过程,编码一般包括 编码和解码,如在编码前指定 字符集UTF-8, 那么解码时也必须为UTF-8,否则会出现所谓的 乱码字符集类似于中文,英文,是一个规则集合的抽象概念,其规定了某个文字对应的二进制数字存放方式,即为编码过程,或者二进制数字对应的文字,即为解码过程!字符集包括如下:1.字库表字库表是一个相当于所有可读或者可显示字符的数据库,字库表决定了整个字符集能够展现表示的所有字符的范围2.编码字符集(通常简称 字符集)编码字符集,用一个编码值code point(二进制代码)来表示一个字符(即该字符在字库表中的位置)3.字符编码字符编码,是编码字符集和实际存储数值之间的转换关系;字符,是根据字符编码方案转换为一个二进制数值存储在计算机中的一个范例下面以一个实例解释下编解码的过程字符编码: UTF-8字符串:中国Python版本:2.7说明:1.编码转换方式str_unicode为中间码。即对应编码字符集 在字库表中有唯一id代表一个字符, 理论上 unicode即可以映射表示所有字符,但是为了压缩存储的位数,发展出了 utf-8、utf-16等字符编码,即在实际存储和字符展现之间又建立了一层映射,这层映射表示了 utf-8 到 unicode的方式,然后unicode又根据字库表展现改字符。即 unicode有 utf-8及utf-16等多种方式的字符编码方案,GBK字符集 则只有一种字符编码 EUC-CN, 而对于Ascii码来说,本身即是编码字符集又是字符编码,2.以一次Python代码执行为例, 解释 字库表编码字符集(字符集) 字符编码的关系:utf-8编码如何规定的?单字节的字符,字节的第一位设为0,对于英语文本,UTF-8码只占用一个字节,和ASCII码完全相同;n个字节的字符(n>1),第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,这n个字节的其余空位填充该字符unicode码,高位用0补足。UTF-8编码方式———————-
0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxxutf-8和unicode的关系utf 解释为诶 Unicode TransferFormat 即 转换Unicode。unicode是一种字符编码,规定了每个字符到数字的映射关系, 这个数字怎么存储它没有规定. 而如何存储? 几个字节表示? 这个是utf8等编码方式来规定的。有了unicode为什么还需要utf-8呢?首先 unicode 规定了所有字符的二进制编码,并没有规定如何存储如果我们以统一4个字节来存储所有unicode的编码字符,那就会在表示一个字节编码的ascii部分严重浪费存储性能另外因为统一4字节处理,那如果一个文件分片或者是一份缺失文件,那么此时该如何来判断我们从头读取的 4字节是一个完整的字符呢?这就会造成很大的分析复杂度,可以说 无法分析, 这也是 utf-8等编码的优点即utf-8错误编码不会向后扩散综合考虑 utf-8 是一种unicode 标准的存储方案,改方案规定了如何存储unicode字符,即看上面的utf-8的规定,大白话讲就是 utf-8 可变长编码规定了 字符的起始位置,且极大可能节省存储空间,总而言之很简单就是在无序中找到秩序下列四种影响Python执行的编码方案,具体实例以最后所列案例为准获取解释器默认编码,Python3对应的默认编码为 utf-8,Python2对应的默认编码为asciiPython2设置默认编码方式,Python3解释器默认utf-8所以去除该种设置方式解释器编码有什么用?当调用decode() 和 encode() 进行编码转换时候,如果未指定编码格式,会调用解释器默认编码进行编码转换若未指定编码方式 而有中文出现,此时会有报错产生python源文件的编码与解码,我们写的python程序从产生到执行的过程如下(以Pycharm为例)依次为编辑器 决定源代码的编码格式(编辑器中设置)pycharm 会根据文件开头的编码声明进行文件格式保存此种声明保存的文件,是utf-8编码的此种声明保存的文件,是gbk编码的同时也可以在setting中进行设置解释器按照Ascii或者声明指定的方式解码源代码, 以下是 官方文档给的解释Python will default to ASCII as standard encoding if no other encoding hints are given.※: Python2中会按照编码声明对源代码进行解码,如未指定 编码声明 则会以 Ascii进行解码,此时如果有中文会报错※:Python3默认以utf-8进行解码若未指定编码声明, 而源代码中有中文此时Python2 会以Ascii 来进行源代码的’解码’;Python3 会默认以 utf-8 进行源代码的’解码’。 若源文件编码为utf-8, 而编码声明gbk这种情况会出错,因为磁盘中保存的格式时 gbk 格式的而却以 utf-8 来进行解码,则会出错。UnicodeDecodeError: ‘gbk’ codec can’t decode bytes in position 2-3: illegal multibyte sequence注意1:Python3将源代码读取到内存中的字符串编码为 unicode, 这样的中间码的方式,不会出现乱码, Python2以文件头声明的方式将源代码读取到内存中注意2:Python2 在日常编程中一定注意 文件编码 和 文件声明要一致,如 文件编码为 utf-8 则此时应该如此声明 # coding: utf-8, 若此时用gbk 做声明,则此时会乱码,一编一解 要成对结果输出,控制台输出日志文件解释器如何知道该文件的编码格式?locale 模块获取 操作系统编码以open()函数为例open() 函数会调用 Python操作系统默认编码进行 编解码linux 下 vim打开以 gbk方式写入的文件会出现乱码,因为此时会调用操作系统的编码方式进行解码终端编码 继承自操作系统的编码很容易看出 其中的 16进制数 e4bda0e5a5bd对于字节流(bytes: 如utf-8字节流)来说表示字节数对于unic免费云主机域名ode则表示字符数Pycharm编码设置字符串变量级别编码脚本级别的编码py文件级别的编码显示窗口的编码问题收集 python3 unicode字符转中文即 一个字符可以是一个中文汉字、一个英文字母、一个阿拉伯数字、一个标点符号等 ↩︎如:Unicode、ASCII到此,关于“Python之string编码问题怎么解决”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注百云主机网站,小编会继续努力为大家带来更多实用的文章!

相关推荐: Android之BaseDexClassLoader如何使用

本篇内容介绍了“Android之BaseDexClassLoader如何使用”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!一共有4个参数,分来来讲。1:dexF…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 05/16 16:42
下一篇 05/16 16:43

相关推荐