草庐IT

java - SOLR 性能调整

coder 2024-03-06 原文

我已阅读以下内容:

http://wiki.apache.org/solr/SolrPerformanceFactors

http://wiki.apache.org/solr/SolrCaching

http://www.lucidimagination.com/content/scaling-lucene-and-solr

我对一些事情有疑问:

  1. 如果我使用 JVM 选项 -XX:+UseCompressedStrings 我可以节省什么样的内存？举个简单的例子，如果我有 1 个索引字段(字符串)和 1 个存储字段(字符串)，并且 omitNorms=true 和 omitTf=true，我可以期望在索引和文档缓存中节省多少？我猜大概是 50%，但也许这太乐观了。
  2. Solr 过滤器缓存究竟在什么时候运行？如果我只是使用 AND 和一些 OR 进行简单查询，并按分数排序，我什至需要它吗？
  3. 如果我想在文档缓存中缓存所有文档，我将如何计算所需的空间？用上面的例子，如果我有20M的文档，使用压缩字符串，存储字段的平均长度是25个字符，那么基本上需要的空间是(25字节+small_admin_overhead)* 20M吗？
  4. 如果所有文档都在文档缓存中，那么查询缓存有多重要？
  5. 如果我想将每个文档自动预热到文档缓存中，*:* 的自动预热查询会执行吗？
  6. scaling-lucene-and-solr 文章说 FuzzyQuery 很慢。如果我正在使用 solr 的拼写检查功能，那么我基本上是在正确使用模糊查询(因为拼写检查会进行相同的编辑距离计算)？所以大概拼写检查和模糊查询都同样“慢”？
  7. 描述字符串的 lucene 字段缓存的部分有点困惑。我是否正确理解所需空间基本上是索引字符串字段的大小 + 等于该字段中唯一项数的整数数组？
  8. 最后，在最大化吞吐量下，有一条关于为操作系统磁盘缓存留出足够空间的声明。它说，“总而言之，对于大规模索引，最好确保您至少有几 GB 的 RAM，超出您提供给 JVM 的内存。”。所以如果我有一台 12GB 内存的机器(作为例子)，我应该给操作系统至少 2-3GB？我可以通过查看磁盘索引大小来估计操作系统所需的磁盘缓存空间吗？

最佳答案

  1. 唯一确定的方法就是尝试一下。但是，我希望索引中的节省很少，因为索引每次只包含一次实际字符串，其余部分是该字符串在文档中的位置的数据。它们在索引中所占比例不大。
  2. 过滤器缓存仅缓存过滤器查询。它可能对您的具体用例没有用，但很多人确实发现它们很有用。例如，按国家/地区、语言、产品类型等缩小结果范围。如果您经常使用 Solr，Solr 可以避免重新计算此类查询结果。
  3. 实际上，您只需要尝试一下并使用性能分析器对其进行测量即可。如果不深入了解所使用的数据结构，其他任何东西都是纯粹的 SWAG。您的计算与其他任何人的计算一样好，无需分析。
  4. 文档缓存仅在计算查询后节省构建结果的时间。如果您将大部分时间花在计算查询上，那么文档缓存对您没什么用处。查询缓存仅对重复使用的查询有用。如果你的查询都没有被重复，那么查询缓存就没用了
  5. 是的，假设您的文档缓存足够大以容纳它们。

6-8 不积极。

根据我自己的 Solr 性能调优经验，您应该让 Solr 处理查询，而不是文档存储。您的大部分问题都集中在文档如何占用空间上。 Solr 是一个搜索引擎，而不是文档存储库。如果您希望 Solr 运行速度快并占用最少的内存，那么它唯一应该保留的是用于搜索目的的索引信息。文档本身应该在别处存储、检索和呈现。最好在专门为该工作优化的系统中。您应该在 Solr 文档中存储的唯一字段是用于从文档存储系统检索的 ID。

关于java - SOLR 性能调整，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/8627594/

javaSOLRlisection的lucene

有关java - SOLR 性能调整的更多相关文章

  1. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/

  2. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  3. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi？ - 2

    什么是ruby​​的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. Observability：从零开始创建 Java 微服务并监控它 （二） - 2

    这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/

  6. 【Java 面试合集】HashMap中为什么引入红黑树，而不是AVL树呢 - 2

    HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候

  7. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作，这种方式比较简单，也比较容易理解。本文为大家介绍另一种不使用递归的方式，由于没有使用递归，只用到了循环和集合，所以效率更高一些！一、使用递归遍历文件夹整体思路1、使用File封装初始目录，2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组，取出每个File对象4-1、如果File是否是一个文件，打印4-2、否则就是一个目录，递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  8. java - 为什么 ruby​​ modulo 与 java/other lang 不同？ - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生，2个-22个-2但在Ruby中，相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个？模块操作在Ruby中是如何实现的？如果将同一个操作定义为一个web服务，两个服务如何匹配逻辑。 最佳答案 在Java中，模运算的结果与被除数的符号相同。在Ruby中，它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

  9. java - Ruby 相当于 Java 的 Collections.unmodifiableList 和 Collections.unmodifiableMap - 2

    Java的Collections.unmodifiableList和Collections.unmodifiableMap在Ruby标准API中是否有等价物？ 最佳答案 使用freeze应用程序接口(interface):Preventsfurthermodificationstoobj.ARuntimeErrorwillberaisedifmodificationisattempted.Thereisnowaytounfreezeafrozenobject.SeealsoObject#frozen?.Thismethodretur

  10. Ruby 的数字方法性能 - 2

    我正在使用Ruby解决一些ProjectEuler问题，特别是这里我要讨论的问题25(Fibonacci数列中包含1000位数字的第一项的索引是多少？)。起初，我使用的是Ruby2.2.3，我将问题编码为:number=3a=1b=2whileb.to_s.length但后来我发现2.4.2版本有一个名为digits的方法，这正是我需要的。我转换为代码:whileb.digits.length当我比较这两种方法时，digits慢得多。时间./025/problem025.rb0.13s用户0.02s系统80%cpu0.190总计./025/problem025.rb2.19s用户0.0

随机推荐