草庐IT

java - 句子之间的语义相似度

coder 2024-03-14 原文

我正在做一个项目。我需要任何开源工具或技术来找到两个句子的语义相似性,我将两个句子作为输入,并接收分数(即语义相似性)作为输出。有帮助吗?

最佳答案

Salma,恐怕这个论坛不适合您的问题,因为它与编程没有直接关系。我建议您在 corpora list 上再次提问.您可能还想先搜索他们的文件。

除此之外,您的问题不够精确,我将解释我的意思。我假设您的项目是关于计算句子之间的语义相似度,而不是关于语义相似度只是其中之一的其他事物。如果是这样,那么有几点需要考虑: 首先,无论是从计算语言学还是理论语言学的角度,都不清楚“语义相似性”这个术语的确切含义。有许多不同的观点和定义,都取决于要解决的问题的类型、手头的工具和技术以及处理此任务的人的背景等。考虑以下示例:

  1. Pete 和 Rob 在车站附近发现了一只狗。
  2. Pete 和 Rob 从未在车站附近发现过狗。
  3. Pete 和 Rob 都非常喜欢编程。
  4. Patricia 在车站附近发现了一只狗。
  5. 是一只狗在雪下找到了 Pete 和 Rob。

2-4 中哪些句子与 1 相似? 2 与 1 完全相反,仍然是关于皮特和罗布(不)找到狗。 3 是关于皮特和罗伯的,但背景完全不同。 4是关于在车站附近找一只狗,虽然发现者是别人。 5 是关于 Pete、Rob、一只狗和一个“发现”事件,但方式与 1 不同。至于我,即使不编写计算机程序,我也无法根据它们的相似性对这些示例进行排名.

为了计算语义相似度,您需要首先确定您希望将哪些内容视为“语义相似”,哪些不是。为了计算句子级别的语义相似性,理想情况下,您会比较句子的某种含义表示。意义表示通常以逻辑公式的形式出现,生成起来极其复杂。然而,有一些工具试图做到这一点,例如Boxer

作为一种简单但通常实用的方法,您可以将语义相似度定义为一个句子中的单词与另一个句子中的单词之间的相似度之和。这使问题变得容易得多,尽管仍然有一些难题需要解决,因为单词的语义相似性与句子的语义相似性一样难以定义。如果您想对此有一个印象,请查看 D.A. 的“词汇语义”一书。克鲁斯 (1986)。然而,有相当多的工具和技术可以计算单词之间的语义相似度。他们中的一些人基本上将它定义为分类法中两个词的负距离,如 Word Net或维基百科分类法(参见 this paper,它描述了一个 API)。其他人通过使用在大型文本语料库上计算的一些统计措施来计算语义相似性。它们基于相似的词出现在相似的上下文中的洞察力。计算句子 单词之间语义相似度的第三种方法与您可能从信息检索中了解到的 vector 空间模型有关。要全面了解后一种技术,请查看 Manning 和 Schütze 合着的统计自然语言处理基础一书中的第 8.5 章。

希望这能让您暂时站起来。

关于java - 句子之间的语义相似度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2037832/

有关java - 句子之间的语义相似度的更多相关文章

  1. ruby-on-rails - Rails 应用程序之间的通信 - 2

    我构建了两个需要相互通信和发送文件的Rails应用程序。例如,一个Rails应用程序会发送请求以查看其他应用程序数据库中的表。然后另一个应用程序将呈现该表的json并将其发回。我还希望一个应用程序将存储在其公共(public)目录中的文本文件发送到另一个应用程序的公共(public)目录。我从来没有做过这样的事情,所以我什至不知道从哪里开始。任何帮助,将不胜感激。谢谢! 最佳答案 无论Rails是什么,几乎所有Web应用程序都有您的要求,大多数现代Web应用程序都需要相互通信。但是有一个小小的理解需要你坚持下去,网站不应直接访问彼此

  2. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  3. ruby - #之间? Cooper 的 *Beginning Ruby* 中的错误或异常 - 2

    在Cooper的书BeginningRuby中,第166页有一个我无法重现的示例。classSongincludeComparableattr_accessor:lengthdef(other)@lengthother.lengthenddefinitialize(song_name,length)@song_name=song_name@length=lengthendenda=Song.new('Rockaroundtheclock',143)b=Song.new('BohemianRhapsody',544)c=Song.new('MinuteWaltz',60)a.betwee

  4. ruby-on-rails - `a ||= b` 和 `a = b if a.nil 之间的区别? - 2

    我正在检查一个Rails项目。在ERubyHTML模板页面上,我看到了这样几行:我不明白为什么不这样写:在这种情况下,||=和ifnil?有什么区别? 最佳答案 在这种特殊情况下没有区别,但可能是出于习惯。每当我看到nil?被使用时,它几乎总是使用不当。在Ruby中,很少有东西在逻辑上是假的,只有文字false和nil是。这意味着像if(!x.nil?)这样的代码几乎总是更好地表示为if(x)除非期望x可能是文字false。我会将其切换为||=false,因为它具有相同的结果,但这在很大程度上取决于偏好。唯一的缺点是赋值会在每次运行

  5. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  6. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  7. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  8. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  9. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

  10. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

随机推荐