草庐IT

c++ - UTF-8 字符串迭代器

coder 2024-02-02 原文

我正在尝试编写一个支持 Unicode 的跨平台应用程序。我正在使用库 UTF8-C++ ( http://utfcpp.sourceforge.net/ ) 但我在遍历字符串时遇到问题:

string s1 = "Добрый день";
utf8::iterator<string::iterator> iter(s1.begin(), s1.begin(), s1.end());

for(int i = 0; i < utf8::distance(s1.begin(), s1.end()); i++, ++iter)
{
    cout << (*iter);
}

上面的代码，当重定向到 UTF-8 格式的文本文件时，会产生以下输出:

6 3 6 3 6 3 6 3 6 3 6 3 3 2 6 3 6 3 6 3 6 3

如何让 s1 的内容正确出现在文件中？

最佳答案

您需要确保使用正确的数据初始化字符串，然后迭代器生成正确的值。

您使用的是 VS2010，因此字符串文字有点问题。 C++ 实现有一个“执行字符集”，它们将“源字符集”中的字符和字符串文字转换为该字符集。 Visual Studio 不支持 UTF-8 作为执行字符集，因此不会有意生成 UTF-8 编码的字符串文字。

您可以通过欺骗编译器或使用十六进制转义来获得一个。此外，您可以获取包含正确数据的宽字符串，然后在运行时将其转换为 UTF-8，而不是获取 UTF-8 字符串文字。

编辑:较新版本的 Visual Studio 现在可以获取 UTF-8 字符串文字。 Visual Studio 2015 现在支持 C++11 的 UTF-8 字符串文字。在 Visual Studio 2015 Update 2 中，您还可以使用编译器标志 /execution-charset:utf-8 or /utf-8.

欺骗编译器

如果您将源代码保存为“UTF-8 without signature”，那么编译器会认为源编码是系统语言环境编码。 VS 始终使用系统语言环境编码作为执行编码。因此，当它认为源编码和执行编码相同时，它不会执行任何转换，并且您的源字节(实际上是 UTF-8)将直接用于字符串文字，从而生成 UTF-8 编码的字符串文字。 (请注意，这会破坏对宽字符和字符串文字所做的转换。)

十六进制转义

十六进制转义码可让您手动将任何值的代码单元(在本例中为字节)插入到字符串文字中。您可以手动确定所需的 UTF-8 编码，然后将这些值插入到字符串文字中。

std::string s1 = "\xd0\x94\xd0\xbe\xd0\xb1\xd1\x80\xd1\x8b\xd0\xb9 \xd0\xb4\xd0\xb5\xd0\xbd\xd1\x8c";

UTF-8 字符串文字前缀

C++11 指定了一个前缀，它创建一个 UTF-8 字符串文字，而不考虑执行编码，但是 Visual Studio 还没有实现它。这看起来像:

string s1 = u8"Добрый день";

它要求编译器知道并使用正确的源编码(因此源编码支持所需的字符串)。然后，编译器将源编码转换为 UTF-8，而不是执行编码。当 Visual Studio 支持此功能时，您可能希望将源代码保存为“带签名的 UTF-8”。 (同样，VS 依赖于签名来识别 UTF-8 源。)

在你有一个 UTF-8 字符串之后，假设 UTF-8 迭代器工作，你的示例代码应该产生正确的 11 个代码点，我认为输出文本应该如下所示:

104410861073108810991081321076107710851100

插入一些空格以使其可读，您可以验证您是否获得了正确的值:

1044 1086 1073 1088 1099 1081 32 1076 1077 1085 1100

或者将其设为十六进制并添加 Unicode 前缀:

U+0414 U+043e U+0431 U+0440 U+044b U+0439 U+0020 U+0434 U+0435 U+043d U+044c

如果您真的想生成一个 UTF-8 编码的输出文件，那么无论如何您都不应该使用 utf-8 迭代器。

string s1 = "Добрый день";
std::cout << s1;

当输出被重定向到一个文件时，该文件将包含 UTF-8 编码的数据:

Добрый день

我不明白为什么您的实际输出当前包含一堆额外的空格，但看起来正在访问的实际数字是:

63 63 63 63 63 63 32 63 63 63 63

63 是 '?' 的 ascii 码32是空格的ascii码； ?????? ????。因此，您显然正在遭受 VC++ 将字符串文字转换为系统区域设置编码的困扰。

关于c++ - UTF-8 字符串迭代器，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/12095776/

UTF-8ampcodeprec++stringunicodeiterator

有关c++ - UTF-8 字符串迭代器的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法？ - 2

    总的来说，我对ruby​​还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. Ruby 解析字符串 - 2

    我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么？我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等，你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算，还是有更好的方法？也许为此目的准备了一个开箱即用的库？

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入，例如“100兆字节”或“1GB”，并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前，我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效，但前提是输入是倍数(“gigabytes”，而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以，功能正常，

  4. ruby-on-rails - unicode 字符串的长度 - 2

    在我的Rails(2.3，Ruby1.8.7)应用程序中，我需要将字符串截断到一定长度。该字符串是unicode，在控制台中运行测试时，例如'א'.length，我意识到返回了双倍长度。我想要一个与编码无关的长度，以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料，但仍然有些一头雾水。应该如何解决这个问题？ 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序，我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前，我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞，我可以在一个地方轻松完成，而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  7. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串？ - 2

    我试图获取一个长度在1到10之间的字符串，并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符，然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  8. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  9. ruby - 如何使用文字标量样式在 YAML 中转储字符串？ - 2

    我有一大串格式化数据(例如JSON)，我想使用Psychinruby​​同时保留格式转储到YAML。基本上，我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是，当我使用YAML.dump时，它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量？解

  10. ruby-on-rails - 如何优雅地重启 thin + nginx？ - 2

    我的瘦服务器配置了nginx，我的ROR应用程序正在它们上运行。在我发布代码更新时运行thinrestart会给我的应用程序带来一些停机时间。我试图弄清楚如何优雅地重启正在运行的Thin实例，但找不到好的解决方案。有没有人能做到这一点？ 最佳答案 #Restartjustthethinserverdescribedbythatconfigsudothin-C/etc/thin/mysite.ymlrestartNginx将继续运行并代理请求。如果您将Nginx设置为使用多个上游服务器，例如server{listen80;server

随机推荐