草庐IT

python - Django 是否对 Unicode (utf-8?) 字符串进行双重编码？

coder 2023-10-03 原文

我在 Django 中将 ndash 字符存储和输出为 UTF-8 时遇到问题。

我正在从 API 获取数据。在文本编辑器中检索和查看的原始形式中，给定的数据单元可能类似于:

"I love this detergent \u2013 it is so inspiring."

(\u2013 是 – 作为 html 实体)。

如果我直接从 API 获取它并在 Django 中显示它，没问题。它在我的浏览器中显示为长破折号。我注意到我必须执行 decode('utf-8') 以避免“'ascii' codec can't encode character”错误，如果我尝试在我的 View 中对该文本进行一些操作，尽管。根据 Django 调试工具栏，文本将作为“我喜欢这种洗涤剂\u2013 它是如此鼓舞人心。”进入模板。

然而，当存储到 MySQL 并通过相同的 View 和模板读取输出时，它最终看起来像 

"I love this detergent – it is so inspiring"

我的 MySQL 表设置为 DEFAULT CHARSET=utf8。

现在，当我在设置为 Utf-8 的终端中通过 MysQl 监视器从数据库中读取数据时，它显示为

"I love this detergent – it is so inspiring"

(正确 - 显示一个破折号)

当我在 python shell 中使用 mysqldb 时，这一行是

"I love this detergent \xe2\x80\x93 it is so inspiring"

(这是 ndash 的正确 UTF-8)

但是，如果我运行python manage.py shell，然后

In [1]: import myproject.myapp.models ThatTable
In [2]: msg=ThatTable.objects.all().filter(thefield__contains='detergent')
In [3]: msg
Out[4]: [{'thefield': 'I love this detergent \xc3\xa2\xe2\x82\xac\xe2\x80\x9c it is so inspiring'}]

在我看来，Django 已经将 \xe2\x80\x93 表示为三个单独的字符，并将其编码为 UTF-8 到 \xc3\xa2\xe2\x82\xac\xe2\x80\x9c。这显示为 €“，因为\xe2 似乎是 â，\x80 似乎是 €，等等。我已经检查过，这也是它被发送到模板的方式。

如果您在 Python 中解码长序列，使用 decode('utf-8')，结果是 \xe2\u20ac\u201c，它也呈现在浏览器中为 –。再次尝试解码会产生 UnicodeDecodeError。

我关注了 Django suggestions for Unicode ，据我所知(已配置 MySQL)。

关于我可能配置错误的任何建议？

附录 似乎在其他领域或系统中也出现了同样的问题。在搜索\xc3\xa2\xe2\x82\xac\xe2\x80\x9c 时，我在 http://pastie.org/908443.txt 找到一个“修复错误的 UTF8 实体”的脚本，也可以在 wordpress RSS 导入插件中找到。它只是用 – 替换了这个序列。不过，我想以正确的方式解决这个问题!

哦，我正在使用 Django 1.2 和 Python 2.6.5。

我可以使用 PHP/PDO 连接到相同的数据库并打印出这些数据，而无需执行任何特殊操作，看起来不错。

最佳答案

这看起来确实像是双重编码的情况；我对 Python 没有太多经验，但请尝试按照 http://tahpot.blogspot.com/2005/06/mysql-and-python-and-unicode.html 中的建议调整 MySQL 连接设置。

我猜正在发生的事情是连接是 latin1，因此 MySQL 尝试在存储到 UTF-8 字段之前再次对字符串进行编码。那里的代码，特别是这一点:

EDIT: With Python when establishing a database connection add the following flag: init_command='SET NAMES utf8'.

In addition set the following in MySQL's my.cnf: default-character-set = utf8

可能是你想要的。

关于python - Django 是否对 Unicode (utf-8?) 字符串进行双重编码？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/2971634/

UnicodepythoncodesectionUTF-8mysqldjango

有关python - Django 是否对 Unicode (utf-8?) 字符串进行双重编码？的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法？ - 2

    总的来说，我对ruby​​还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. Ruby 解析字符串 - 2

    我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么？我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等，你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算，还是有更好的方法？也许为此目的准备了一个开箱即用的库？

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入，例如“100兆字节”或“1GB”，并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前，我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效，但前提是输入是倍数(“gigabytes”，而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以，功能正常，

  4. ruby-on-rails - unicode 字符串的长度 - 2

    在我的Rails(2.3，Ruby1.8.7)应用程序中，我需要将字符串截断到一定长度。该字符串是unicode，在控制台中运行测试时，例如'א'.length，我意识到返回了双倍长度。我想要一个与编码无关的长度，以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料，但仍然有些一头雾水。应该如何解决这个问题？ 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)

  5. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声？ - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题？更新问题，以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点？我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等)，但我确实想创建一个输出文件。

  6. ruby-on-rails - 如何验证 update_all 是否实际在 Rails 中更新 - 2

    给定这段代码defcreate@upgrades=User.update_all(["role=?","upgraded"],:id=>params[:upgrade])redirect_toadmin_upgrades_path,:notice=>"Successfullyupgradeduser."end我如何在该操作中实际验证它们是否已保存或未重定向到适当的页面和消息？ 最佳答案 在Rails3中，update_all不返回任何有意义的信息，除了已更新的记录数(这可能取决于您的DBMS是否返回该信息)。http://ar.ru

  7. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序，我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  8. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前，我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞，我可以在一个地方轻松完成，而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  9. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串？ - 2

    我试图获取一个长度在1到10之间的字符串，并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符，然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  10. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

随机推荐