通过 mongod 启动 Mongo 后,我运行了一个耗时 300 秒的 Mongo 查询。在我的“管理员”数据库上调用 db.serverStatus() 显示 Mongo 有 resident 1 GB 内存。文档解释说“驻留”内存是 Mongo 使用的物理磁盘/RAM 的数量。
然后,我重新运行相同的查询,但耗时 8 秒。这次查看常驻内存,看到了5GB。
我相信 RAM 的大幅增加有助于解释为什么查询时间从 300 秒缩短到 8 秒,但为什么常驻内存跳得如此之快?
是否推荐某种类型的“预热”步骤来准备 Mongo 以避免 300 秒查询?
最佳答案
MongoDB 使用操作系统的 mmap 功能是有原因的。这意味着,至少在 Linux 系统上,mongodb 的内存处理是基于操作系统的一些功能,称为内存映射文件。 Linux 系统中的内存在多个级别进行寻址,基本上任何程序在 32 位系统上都会看到一个总计 2GB 的地址空间,在 64 位系统上则为 128TB。这是一个虚拟地址空间,这意味着在 32/64 位上,可以使用 4kb 内存页面寻址内存量(页面是内存的单独处理部分)。这就是为什么如果您在 32 位系统上启动 mongoDB,它会发出警告,指出此类系统上的数据库只能处理 2GB 的数据。显然这个虚拟地址空间大于物理内存的数量,所以这些虚拟地址和物理地址之间存在映射。一些虚拟地址驻留在真正的物理内存中,因此它们在实际内存中,但确保这一点的算法在内核方面。在 Linux 系统上运行的程序只能处理虚拟地址,如果试图访问不在物理内存中的虚拟内存地址,则会发生页面错误(您可以在 serverStatus 命令的额外信息字段中跟踪此错误)。 (你可以找到这个 here 的简短解释)
如果虚拟地址驻留在物理内存中访问内存与内存一样快,访问当前没有物理地址的虚拟地址意味着从磁盘到内存的分页并读取内存与磁盘随机读取一样快. (这使您的情况有所不同)
在 mongoDB 中有一个命令可以强制缓存集合或索引,这个命令是 touch 如果您在第一次查询之前使用此命令将数据加载到内存中,您将在第一次尝试时在 8 秒内获得结果。不幸的是,您不能真正强制操作系统将此数据始终保存在内存中,因此如果您有其他东西用完了内存,操作系统会在一段时间内调出这些数据。
如果您有足够的物理内存,mongoDB 会将所有数据和索引保存在内存中。这并不总是需要的。有一部分数据需要存储在内存中以避免大量页面错误,这就是 workingset。 .您可以使用 db.runCommand( { serverStatus: 1, workingSet: 1 } ) 检查工作集的大小命令。
你无法在操作系统级别处理分页,但如果你有足够的内存,内核通常会尽可能多地缓存内容。如果工作集适合内存,你或多或少没问题。如果某些文档确实很少访问并且没有足够的内存来保存所有内容,它们将被分页。
当您运行查询时,可能会发生几件事。索引可以覆盖,这意味着根本不会触及任何文档,如果您的查询在某种意义上是选择性的,则只会触及索引的一部分。不幸的是,很难定义内存是否足够,你唯一能做的就是监控(工作集指标是一个估计值)。可以识别内存不足的症状检查此presentation .并使用 MMS .
关于mongodb - Mongo 服务器状态 - "Resident"内存,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19280412/
作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代
我正在尝试使用ruby和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我
我需要在客户计算机上运行Ruby应用程序。通常需要几天才能完成(复制大备份文件)。问题是如果启用sleep,它会中断应用程序。否则,计算机将持续运行数周,直到我下次访问为止。有什么方法可以防止执行期间休眠并让Windows在执行后休眠吗?欢迎任何疯狂的想法;-) 最佳答案 Here建议使用SetThreadExecutionStateWinAPI函数,使应用程序能够通知系统它正在使用中,从而防止系统在应用程序运行时进入休眠状态或关闭显示。像这样的东西:require'Win32API'ES_AWAYMODE_REQUIRED=0x0
我正在尝试测试是否存在表单。我是Rails新手。我的new.html.erb_spec.rb文件的内容是:require'spec_helper'describe"messages/new.html.erb"doit"shouldrendertheform"dorender'/messages/new.html.erb'reponse.shouldhave_form_putting_to(@message)with_submit_buttonendendView本身,new.html.erb,有代码:当我运行rspec时,它失败了:1)messages/new.html.erbshou
我在从html页面生成PDF时遇到问题。我正在使用PDFkit。在安装它的过程中,我注意到我需要wkhtmltopdf。所以我也安装了它。我做了PDFkit的文档所说的一切......现在我在尝试加载PDF时遇到了这个错误。这里是错误:commandfailed:"/usr/local/bin/wkhtmltopdf""--margin-right""0.75in""--page-size""Letter""--margin-top""0.75in""--margin-bottom""0.75in""--encoding""UTF-8""--margin-left""0.75in""-
我想安装一个带有一些身份验证的私有(private)Rubygem服务器。我希望能够使用公共(public)Ubuntu服务器托管内部gem。我读到了http://docs.rubygems.org/read/chapter/18.但是那个没有身份验证-如我所见。然后我读到了https://github.com/cwninja/geminabox.但是当我使用基本身份验证(他们在他们的Wiki中有)时,它会提示从我的服务器获取源。所以。如何制作带有身份验证的私有(private)Rubygem服务器?这是不可能的吗?谢谢。编辑:Geminabox问题。我尝试“捆绑”以安装新的gem..
为了将Cucumber用于命令行脚本,我按照提供的说明安装了arubagem。它在我的Gemfile中,我可以验证是否安装了正确的版本并且我已经包含了require'aruba/cucumber'在'features/env.rb'中为了确保它能正常工作,我写了以下场景:@announceScenario:Testingcucumber/arubaGivenablankslateThentheoutputfrom"ls-la"shouldcontain"drw"假设事情应该失败。它确实失败了,但失败的原因是错误的:@announceScenario:Testingcucumber/ar
最近,当我启动我的Rails服务器时,我收到了一长串警告。虽然它不影响我的应用程序,但我想知道如何解决这些警告。我的估计是imagemagick以某种方式被调用了两次?当我在警告前后检查我的git日志时。我想知道如何解决这个问题。-bcrypt-ruby(3.1.2)-better_errors(1.0.1)+bcrypt(3.1.7)+bcrypt-ruby(3.1.5)-bcrypt(>=3.1.3)+better_errors(1.1.0)bcrypt和imagemagick有关系吗?/Users/rbchris/.rbenv/versions/2.0.0-p247/lib/ru
在Rails4.0.2中,我使用s3_direct_upload和aws-sdkgems直接为s3存储桶上传文件。在开发环境中它工作正常,但在生产环境中它会抛出如下错误,ActionView::Template::Error(noimplicitconversionofnilintoString)在View中,create_cv_url,:id=>"s3_uploader",:key=>"cv_uploads/{unique_id}/${filename}",:key_starts_with=>"cv_uploads/",:callback_param=>"cv[direct_uplo
当我的预订模型通过rake任务在状态机上转换时,我试图找出如何跳过对ActiveRecord对象的特定实例的验证。我想在reservation.close时跳过所有验证!叫做。希望调用reservation.close!(:validate=>false)之类的东西。仅供引用,我们正在使用https://github.com/pluginaweek/state_machine用于状态机。这是我的预订模型的示例。classReservation["requested","negotiating","approved"])}state_machine:initial=>'requested