草庐IT

encoding - 从 io.Reader 中读取 UTF-8 编码的字符串

coder 2023-07-02 原文

我正在编写一个带有 TCP 套接字的小型通信协议(protocol)。 我能够读写基本数据类型，例如整数，但我不知道如何从 byte slice 段中读取 UTF-8 编码的字符串。

协议(protocol)客户端是用Java写的，服务端是Go。

据我了解:GO rune 长度为 32 位，UTF-8 字符长度为 1 到 4 字节，这使得简单地将字节 slice 转换为字符串是不可能的。

我想知道如何读写这个 UTF-8 流。

注意 我有按时读取字符串的字节缓冲区长度。

最佳答案

首先是一些理论:

  • Go 中的 rune 表示一个 Unicode 代码点——分配给 Unicode 中特定字符的数字。它是 uint32 的别名。
  • UTF-8是一种 Unicode 编码 — 一种表示 Unicode 代码点的格式，用于存储和传输方式。 UTF-8 可能使用 1 到 4 个字节来编码单个代码点。

这如何映射到 Go 数据类型:

  • []byte 和 string 都存储一系列bytes(Go中的一个byte是 uint8 的别名)。

    主要区别在于字符串是不可变的，所以尽管您可以

      b := make([]byte, 2)
  b[0] = byte('a')
  b[1] = byte('z')

    你不能

      var s string
  s[0] = byte('a')

    后一个事实甚至因无法显式设置字符串长度而更加突出(就像在虚构的 s := make(string, 10) 中)。

  • 虽然 Go 中的字符串包含抽象字节(您可以在其中自由存储，例如，使用 Windows-1252 编码的字符)，但某些 Go 语句和类型转换解释字符串以 UTF-8 编码，特别是:

    • string 和 []rune 之间的类型转换将字符串解析为 UTF-8 编码代码点序列并生成它们的一部分。反向类型转换从 rune slice 中获取 Unicode 代码点，并生成 UTF-8 编码的字符串。
    • range 循环遍历包含字符串的 Unicode 代码点，不只是字节。

Go 还提供了 string 和 []byte 之间的类型转换。现在回想一下，字符串是只读的，而 byte slice 段不是。这意味着像这样的构造

b := make([]byte, 1000)
io.ReadFull(r, b)
s := string(b)

始终复制数据，无论您是将 slice 转换为字符串还是返回。这会浪费空间，但类型安全并强制执行语义。

现在回到你手头的任务。

如果您使用相当小的字符串并且没有内存压力，只需将由 io.Read()(或其他)填充的 byte slice 转换为字符串。一定要重用你用来读取数据的 slice ，以减轻垃圾收集器的压力——也就是说，不要为每个新的读取分配一个新的 slice ，因为你要复制通过读取代码将数据放入字符串中。

最后，如果您绝对必须不复制数据(例如，您正在处理数兆字节的字符串，并且您的内存要求很紧)，您可以尝试玩一些肮脏的把戏不安全 使用内存 — here是您如何将内存从字节 slice 移植到字符串的示例。请注意，如果您恢复到这样的状态，您必须非常清楚它可以随 Go 的任何新版本免费中断，甚至不能保证它可以正常工作。

关于encoding - 从 io.Reader 中读取 UTF-8 编码的字符串，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/20195145/

UTF-8encodingcodesectioniogo

有关encoding - 从 io.Reader 中读取 UTF-8 编码的字符串的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法？ - 2

    总的来说，我对ruby​​还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. Ruby 解析字符串 - 2

    我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么？我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等，你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算，还是有更好的方法？也许为此目的准备了一个开箱即用的库？

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入，例如“100兆字节”或“1GB”，并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前，我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效，但前提是输入是倍数(“gigabytes”，而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以，功能正常，

  4. ruby-on-rails - unicode 字符串的长度 - 2

    在我的Rails(2.3，Ruby1.8.7)应用程序中，我需要将字符串截断到一定长度。该字符串是unicode，在控制台中运行测试时，例如'א'.length，我意识到返回了双倍长度。我想要一个与编码无关的长度，以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料，但仍然有些一头雾水。应该如何解决这个问题？ 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序，我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前，我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞，我可以在一个地方轻松完成，而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  7. ruby - 如何将脚本文件的末尾读取为数据文件(Perl 或任何其他语言) - 2

    我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚

  8. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串？ - 2

    我试图获取一个长度在1到10之间的字符串，并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符，然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  9. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  10. ruby - 用逗号、双引号和编码解析 csv - 2

    我正在使用ruby​​1.9解析以下带有MacRoman字符的csv文件#encoding:ISO-8859-1#csv_parse.csvName,main-dialogue"Marceu","Giveittohimóhe,hiswife."我做了以下解析。require'csv'input_string=File.read("../csv_parse.rb").force_encoding("ISO-8859-1").encode("UTF-8")#=>"Name,main-dialogue\r\n\"Marceu\",\"Giveittohim\x97he,hiswife.\"\

随机推荐