mysql - 澄清重音字符与非二进制排序规则相等的潜在问题

coder 2023-10-03 原文

对于具有国际支持的网站，我在大多数表和列中使用 utf8mb4 字符集和 utf8mb4_unicode_ci 排序规则。性能不是最重要的，在各种语言中准确排序很重要。

我了解 utf8mb4_general_ci 和 utf8mb4_unicode_ci 排序规则如何与重音字符进行比较，即:

SELECT column FROM table WHERE column='abad';

将同时返回 'abad' 和 'abád'

在研究 MySQL 中的 utf8 支持时，我遇到了非二进制 utf8___ 排序规则的问题。页面在http://mzsanford.com/blog/mysql-and-unicode/描述了某些更新中未保存更改的问题。他说:“更新记录时，MySQL(或至少 InnoDB)会在更新记录之前检查相等性。由于排序规则认为仅重音更改相等，因此 MySQL 跳过写入(节省 I/O 开销)并返回成功，因为它认为它优化了写入而不是失败。

我将其解释为:如果您尝试更新仅在字段的重音中进行更改的记录，它将无法正确更新(因为 MySQL 认为它已经匹配)。但我无法复制这一点。我创建了一个简单的测试用例:

CREATE DATABASE test_utf8 
    CHARACTER SET utf8mb4 
    COLLATE utf8mb4_unicode_ci;

USE test_utf8;

CREATE TABLE test (
    id MEDIUMINT UNSIGNED NOT NULL AUTO_INCREMENT, 
    text VARCHAR(300) NOT NULL, 
    PRIMARY KEY (id)
) ENGINE = INNODB;

INSERT INTO test (text) VALUES ('abád');

UPDATE test SET text='abad' WHERE id=1;

但是，这会正确更新值(尽管只有一个字符的重音发生了变化)。这可能只是旧版本 MySQL 中的一个问题吗？或者这个问题会在稍微不同的情况下出现吗？

如果您有时间阅读我关于该主题的一些概念的笔记，看看我是否有任何误解，我也将不胜感激。如果它没有错误，也许它对某人来说是有用的信息。

MySQL 的 utf8 字符集不提供真正的 utf8 支持，因为字符只有 1-3 个字节。对于真正的 utf8 支持，您可能需要使用 utf8mb4。

一般来说，utf8mb4_unicode_ci 使用语言适当的排序会更准确，但与使用 utf8mb4_general_ci 相比，性能略有下降。

如果某些列不需要排序，并且将使用比较/相等性检查，则应使用 utf8mb4_bin，因为它会稍微快一些。

在 utf8mb4_general_ci 和 utf8mb4_unicode_ci 排序规则中，重音字符被视为相等。因此，对于必须具有唯一值(例如主键)的列，这是一个糟糕的排序规则选择。在这种情况下，应该使用 utf8mb4_bin。如果一个字段需要区分重音以确保唯一性，但在某些时候还需要对语言进行排序，则可以将其存储为 utf8mb4_bin 并且您可以在排序时在查询中使用 collate 子句。前任:

SELECT column FROM table ORDER BY column COLLATE utf8mb4_unicode_ci;

这将导致排序被语言排序，尽管它的内部存储是二进制排序规则。这将影响性能，因为字段的排序规则决定了它的索引方式。查询的性能差异类似于对未索引列与索引列进行排序时的性能差异。

默认情况下，在 utf8mb4_unicode_ci 或 utf8mb4_general_ci 排序规则下的搜索不会识别口音，因此搜索“abad”将返回“abad”和“abád”。因此，如果您想要重音感知搜索，则必须将列的排序规则设置为 utf8mb4_binary(如果所有搜索都对重音敏感)或在查询中使用 collate 子句(如果您希望大多数搜索是重音盲)。由于 utf8mb4_bin 排序规则区分大小写，如果您想要不区分大小写但区分重音的搜索，您还需要修改查询。例如(假设您的搜索词已经在服务器端脚本语言中变成了小写):

(Assuming the data is stored with a collation of utf8mb4_bin)
SELECT column FROM table WHERE LOWERCASE(column) LIKE 'abád';

(Assuming the data is stored with a collation of utf8mb4_unicode_ci)
SELECT column FROM table WHERE LOWERCASE(column) LIKE 'abád' COLLATE utf8mb4_bin;

此外，来自 MySQL 文档(仅包括其他人的文档):当比较来自不同列的值时，尽可能使用相同的字符集和排序规则声明这些列，以避免在运行查询时进行字符串转换。

最佳答案

我不是专家，但我尝试了你用一些额外的东西做的......

我在 MySQL 5.6.17 上运行了您的设置和以下内容:

SELECT COUNT(*) FROM test WHERE `text`='abad';
SELECT COUNT(*) FROM test WHERE `text`='abád';
UPDATE test SET text='abád' WHERE id=1;

正如我们所期望的，选择都返回 1 行，更新(如您的更新)修改了 1 行，这与博客的建议相反。

我认为这可能是一个较低级别的优化，但是当我尝试在命令行客户端(而不是 Workbench)中再次运行它时，我注意到了一些有趣的事情:

mysql> SELECT COUNT(*) FROM test WHERE `text`='abád';
ERROR 1267 (HY000): Illegal mix of collations (utf8mb4_unicode_ci,IMPLICIT) and
(utf8_general_ci,COERCIBLE) for operation '='
mysql> UPDATE test SET text='abád' WHERE id=1;
ERROR 1366 (HY000): Incorrect string value: '\xA0d' for column 'text' at row 1

所以我运行这个来看看发生了什么:

mysql> SELECT collation('abád');
+-------------------+
| collation('abád')  |
+-------------------+
| utf8_general_ci   |
+-------------------+
1 row in set (0.00 sec)

由于我的 session 集，必须有一些强制执行......所以我尝试明确匹配:

UPDATE test SET text='abad' COLLATE utf8_unicode_ci WHERE id=1;
UPDATE test SET text='abád' COLLATE utf8_unicode_ci WHERE id=1;

我仍然得到相同的结果(两次更新)。

现在，我的猜测是，InnoDB 的优化是在比针对文本标准进行 SELECT 低的级别上完成的。

关于mysql - 澄清重音字符与非二进制排序规则相等的潜在问题，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/21919576/

重音澄清 utf8 utf mysql collation non-ascii-characters

有关mysql - 澄清重音字符与非二进制排序规则相等的潜在问题的更多相关文章

ruby - 如何从 ruby 中的字符串运行任意对象方法？ - 2
总的来说，我对ruby还比较陌生，我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础，我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用
Ruby 解析字符串 - 2
我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么？我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等，你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算，还是有更好的方法？也许为此目的准备了一个开箱即用的库？
ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2
我的目标是转换表单输入，例如“100兆字节”或“1GB”，并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前，我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效，但前提是输入是倍数(“gigabytes”，而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以，功能正常，
ruby-on-rails - unicode 字符串的长度 - 2
在我的Rails(2.3，Ruby1.8.7)应用程序中，我需要将字符串截断到一定长度。该字符串是unicode，在控制台中运行测试时，例如'א'.length，我意识到返回了双倍长度。我想要一个与编码无关的长度，以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料，但仍然有些一头雾水。应该如何解决这个问题？最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)
ruby - 将差异补丁应用于字符串/文件 - 2
对于具有离线功能的智能手机应用程序，我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl
ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2
大约一年前，我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞，我可以在一个地方轻松完成，而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje
ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串？ - 2
我试图获取一个长度在1到10之间的字符串，并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符，然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123
ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby 中生成它们？ - 2
我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%
ruby - 如何使用文字标量样式在 YAML 中转储字符串？ - 2
我有一大串格式化数据(例如JSON)，我想使用Psychinruby同时保留格式转储到YAML。基本上，我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是，当我使用YAML.dump时，它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量？解
ruby 正则表达式 - 如何替换字符串中匹配项的第 n 个实例 - 2
在我的应用程序中，我需要能够找到所有数字子字符串，然后扫描每个子字符串，找到第一个匹配范围(例如5到15之间)的子字符串，并将该实例替换为另一个字符串“X”。我的测试字符串s="1foo100bar10gee1"我的初始模式是1个或多个数字的任何字符串，例如，re=Regexp.new(/\d+/)matches=s.scan(re)给出["1","100","10","1"]如果我想用“X”替换第N个匹配项，并且只替换第N个匹配项，我该怎么做？例如，如果我想替换第三个匹配项“10”(匹配项[2])，我不能只说s[matches[2]]="X"因为它做了两次替换“1fooX0barXg

mysql - 澄清重音字符与非二进制排序规则相等的潜在问题

有关mysql - 澄清重音字符与非二进制排序规则相等的潜在问题的更多相关文章

随机推荐