草庐IT

ios - 在 iOS 上的 Objective-C 中查找几乎重复的字符串

coder 2024-01-17 原文

我有一个从 iTunes API 上传的歌曲列表。其中一些是重复的,但不是完美的重复。例如,有人可能会说“All 4 u”与“All for you”,或者“Some song”与“some song feat.some other artist”

我希望能够识别重复项。计算所有对的 Levenshtein 距离的最佳方法是什么?这似乎过分了。

我在 iOS 编程的 Cocoa Touch 框架中工作,所以如果有人知道任何库将会有很大帮助。

最佳答案

为什么您认为计算 Levenshtein 距离过多?如果您坐下来用铅笔和纸列出 list ,您会使用什么算法?

也就是说,Levenshtein 可能是必要的,但还不够。我将从规范化字符串开始。在某些情况下,一个字符串可能会以几种方式进行规范化,而您需要同时进行这两种方式。规范化看起来像:

  • 转换为小写
  • 去掉任何前导数字后跟标点符号(“1.”、“1 - ”等)
  • 暂时去掉“feat”之后的任何内容。或“与”
    • 这是关于您的问题集的特殊知识的示例。你将不得不使用很多像这样的特殊知识。
    • “暂定”意味着您应该保留字符串的剥离和未剥离版本
    • 请记住,包括“壮举”在内的事情。可能是混音,所以你必须小心假设重复。这当然适用于几乎所有重复数据删除尝试。通常有多个版本。
  • 尝试展开常用缩写(u=>you, 4=>for, 2=>two, w/=>with等)
  • 暂时删除括号中的任何内容
  • 去除英文冠词 (a, an, the)。甚至可能在第一次通过时删除所有非常短的单词(3 个或更少字符)。

要做到这一点很复杂,需要大量的反复试验。我过去做过很多联系人重复数据删除工作,还有一条建议:从保守开始。很容易不小心重复删除太多。建立一个大的测试数据列表,你已经手动删除了重复数据,并在每次算法更改后测试、测试、测试。确保您的 UI 可以向用户呈现您不确定的任何内容,因为将会有很多很多您无法确定的记录。 (即使你手工做也是如此。看看一大堆人工输入的标题,告诉我哪些是 100% 重复的,而不用听轨道。计算机在这方面不会比你做得更好.)

我不知道有任何公开可用的图书馆。它已经被很多人解决了很多次(搜索“dedupe song titles”或类似的东西)。但一般都是商业软件。

对此还有一条建议,因为这是一个巨大的 O(n^2) 或更糟的问题。寻找分桶机会。如果您可以先匹配艺术家,然后是专辑,然后是轨道,您就可以在更短的时间内分而治之。

关于ios - 在 iOS 上的 Objective-C 中查找几乎重复的字符串,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15206596/

有关ios - 在 iOS 上的 Objective-C 中查找几乎重复的字符串的更多相关文章

  1. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法? - 2

    总的来说,我对ruby​​还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  2. Ruby 解析字符串 - 2

    我有一个字符串input="maybe(thisis|thatwas)some((nice|ugly)(day|night)|(strange(weather|time)))"Ruby中解析该字符串的最佳方法是什么?我的意思是脚本应该能够像这样构建句子:maybethisissomeuglynightmaybethatwassomenicenightmaybethiswassomestrangetime等等,你明白了......我应该一个字符一个字符地读取字符串并构建一个带有堆栈的状态机来存储括号值以供以后计算,还是有更好的方法?也许为此目的准备了一个开箱即用的库?

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,

  4. ruby-on-rails - unicode 字符串的长度 - 2

    在我的Rails(2.3,Ruby1.8.7)应用程序中,我需要将字符串截断到一定长度。该字符串是unicode,在控制台中运行测试时,例如'א'.length,我意识到返回了双倍长度。我想要一个与编码无关的长度,以便对unicode字符串或latin1编码字符串进行相同的截断。我已经了解了Ruby的大部分unicode资料,但仍然有些一头雾水。应该如何解决这个问题? 最佳答案 Rails有一个返回多字节字符的mb_chars方法。试试unicode_string.mb_chars.slice(0,50)

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  7. ruby - 如何以所有可能的方式将字符串拆分为长度最多为 3 的连续子字符串? - 2

    我试图获取一个长度在1到10之间的字符串,并输出将字符串分解为大小为1、2或3的连续子字符串的所有可能方式。例如:输入:123456将整数分割成单个字符,然后继续查找组合。该代码将返回以下所有数组。[1,2,3,4,5,6][12,3,4,5,6][1,23,4,5,6][1,2,34,5,6][1,2,3,45,6][1,2,3,4,56][12,34,5,6][12,3,45,6][12,3,4,56][1,23,45,6][1,2,34,56][1,23,4,56][12,34,56][123,4,5,6][1,234,5,6][1,2,345,6][1,2,3,456][123

  8. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  9. ruby - 如何使用文字标量样式在 YAML 中转储字符串? - 2

    我有一大串格式化数据(例如JSON),我想使用Psychinruby​​同时保留格式转储到YAML。基本上,我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是,当我使用YAML.dump时,它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量?解

  10. ruby 正则表达式 - 如何替换字符串中匹配项的第 n 个实例 - 2

    在我的应用程序中,我需要能够找到所有数字子字符串,然后扫描每个子字符串,找到第一个匹配范围(例如5到15之间)的子字符串,并将该实例替换为另一个字符串“X”。我的测试字符串s="1foo100bar10gee1"我的初始模式是1个或多个数字的任何字符串,例如,re=Regexp.new(/\d+/)matches=s.scan(re)给出["1","100","10","1"]如果我想用“X”替换第N个匹配项,并且只替换第N个匹配项,我该怎么做?例如,如果我想替换第三个匹配项“10”(匹配项[2]),我不能只说s[matches[2]]="X"因为它做了两次替换“1fooX0barXg

随机推荐