我需要将用户代理字符串存储在数据库中,以便跟踪和比较不同浏览器之间的客户行为和销售业绩。一个非常普通的用户代理字符串大约有 100 个字符长。决定使用 varchar(1024) 来保存数据库中的用户代理数据。 (我知道这是矫枉过正,但就是这个想法;它应该在未来几年容纳用户代理数据,一些设备、工具栏、应用程序的长度已经超过 500 个字符。)包含这些字符串的表将被规范化(每个不同的用户agent 字符串将只存储一次)并像缓存一样处理,因此我们不必一遍又一遍地解释用户代理。
典型的用例是:
注意:我倾向于说在数据库中“搜索”用户代理字符串,因为这不是简单的查找。但需要明确的是,查询将使用“=”运算符,而不是正则表达式或 LIKE % 语法。
所以查找用户代理字符串的速度是最重要的。我已经探索了一些确保它具有良好性能的方法。出于大小原因,索引整个列是正确的。部分索引也不是一个好主意,因为大多数用户代理最后都有区分信息;部分索引必须相当长才能使它值得,此时它的大小会导致问题。
因此归结为哈希函数。我的想法是对 Web 服务器代码中的用户代理字符串进行哈希处理,然后运行选择以在数据库中查找哈希值。我觉得这会最大限度地减少数据库服务器上的负载(而不是让它计算散列),特别是因为如果找不到散列,代码会转向并要求数据库在插入时再次计算散列.
散列为整数值会提供最佳性能,但会冒更高的冲突风险。我预计最多会看到数千或数万个用户代理;即使是 100,000 个用户代理也可以合理地放入一个 2^32 大小的整数中,并且冲突很少,可以被 Web 服务破译,对性能的影响最小。即使您认为整数散列不是一个好主意,使用 32 个字符的摘要(例如 SHA-1、MD5)进行选择应该比原始字符串快得多,对吗?
我的数据库是 MySQL InnoDB 引擎。 Web 代码将首先来自 C#,然后是 PHP(在我们整合了一些托管和身份验证之后)(并不是说 Web 代码应该有很大的不同)。
如果您认为这是 choose-my-hash-algorithm 问题,请允许我在这一点上道歉。我真的很希望从以前做过类似事情的人那里得到一些意见以及他们的决策过程。所以,问题:
最佳答案
您对长字符串进行散列处理以创建一个 token 以在存储(缓存或数据库)中查找的想法是一个很好的想法。我已经看到在大容量环境中对非常大的字符串执行此操作,并且效果很好。
“你会为这个应用程序使用哪个散列?”
“你会在代码中计算哈希值还是让数据库处理它?”
“在数据库中存储/搜索长字符串是否有完全不同的方法?”
表格推荐(仅供引用):
用户
user_agent_history
user_id int(11) unsigned not nullagent_hash varchar(255) 不为空代理
agent_hash varchar(255) 不为空浏览器 varchar(100) 不为空agent 文本不为空关于模式的几点说明:
从您的 OP 来看,您似乎需要在用户和代理之间建立 M:M 关系,因为用户可能在工作中使用 Firefox,但随后可能在家中切换到 IE9。因此需要数据透视表。
用于 agent_hash 的 varchar(255) 有争议。 MySQL suggests使用 varbinary 列类型存储哈希,其中有多种类型。
我还建议将 agent_hash 设为主键,或者至少向该列添加 UNIQUE 约束。
关于mysql - 搜索长字符串的 SQL 性能,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8844080/
总的来说,我对ruby还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用
我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么?我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等,你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算,还是有更好的方法?也许为此目的准备了一个开箱即用的库?
我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,
在我的Rails(2.3,Ruby1.8.7)应用程序中,我需要将字符串截断到一定长度。该字符串是unicode,在控制台中运行测试时,例如'א'.length,我意识到返回了双倍长度。我想要一个与编码无关的长度,以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料,但仍然有些一头雾水。应该如何解决这个问题? 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)
对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl
大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje
我试图获取一个长度在1到10之间的字符串,并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符,然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123
我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%
我有一大串格式化数据(例如JSON),我想使用Psychinruby同时保留格式转储到YAML。基本上,我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是,当我使用YAML.dump时,它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量?解
在我的应用程序中,我需要能够找到所有数字子字符串,然后扫描每个子字符串,找到第一个匹配范围(例如5到15之间)的子字符串,并将该实例替换为另一个字符串“X”。我的测试字符串s="1foo100bar10gee1"我的初始模式是1个或多个数字的任何字符串,例如,re=Regexp.new(/\d+/)matches=s.scan(re)给出["1","100","10","1"]如果我想用“X”替换第N个匹配项,并且只替换第N个匹配项,我该怎么做?例如,如果我想替换第三个匹配项“10”(匹配项[2]),我不能只说s[matches[2]]="X"因为它做了两次替换“1fooX0barXg