草庐IT

Redis 内存和 CPU 峰值

coder 2023-07-18 原文

我们在应用程序中使用 Redis 处理一些数据，这非常棒。不过，我注意到 redis-server 进程偶尔会出现 cpu 和内存峰值。

这是 Giraffe dashboard来 self 们的生产和登台环境。分期显然没有那么忙，但生产也不是很忙......

这似乎与后台保存相关，但并非全部相关。只有少数人创造了这个峰值。也许都可以，但这只是取决于测量分辨率(有些根本没有在我们的内存/CPU 监控周期内捕获)。我不完全确定。

我仍然想知道这是否符合预期/正常。我们没有观察到任何问题，但我想安全起见。如果我们的产品有更多的流量/事件，我们是否可能会看到更多这样的峰值？

更新:

峰值时间附近的 redis 日志文件

[18588] 05 May 11:42:51.004 * 10 changes in 300 seconds. Saving...
[18588] 05 May 11:42:51.258 * Background saving started by pid 32712
[32712] 05 May 11:43:00.511 * DB saved on disk
[32712] 05 May 11:43:00.549 * RDB: 1 MB of memory used by copy-on-write
[18588] 05 May 11:43:00.629 * Background saving terminated with success

最佳答案

通过进一步试验和阅读 redis persistence ，我认为可以做出以下观察:

  • 当使用 RDB(默认设置)时，redis 将在每次触发save 操作时 fork ，(默认情况下)设置为每 15 分钟一次作为最小值。当执行对 Redis 的更多写入时，RDB 写入的频率高达每 60 秒一次。
  • 每个 fork 都将使用“写时复制”内存分配，这意味着虽然内存实际上不会加倍 - 它会出现在 ps、htop<> 等。
  • fork 本身可能是一个 CPU 密集型操作，particularly on xen-based virtual hosts (这是我们目前正在使用的)。
  • 写入操作似乎完全覆盖 现有的 RDB 文件。它不只写入更改，而是将整个数据集转储到磁盘。

因此，在具有 4Gb RAM 和大约 750Mb 数据集的普通虚拟主机上(在我发布问题时)，这开始变得相当“昂贵”。我们观察到这些 CPU/内存峰值，以及增加的 IO，即使在相当适中的负载/redis 使用率下也是如此。

所以回答我自己的问题 - 这似乎确实是“预期的”行为。

为了改善这种情况，我们选择将配置切换为使用 RDB 和 AOF 的组合。 AOF(仅追加文件)似乎只将更改 写入磁盘。您仍然可以(并且应该)将 AOF 文件配置为重写(使用 auto-aof-rewrite-percentage 和 auto-aof-rewrite-min-size 设置)。还建议仍然使用 RDB 进行快照。然而，在这种配置中，您可能可以降低完全重写/快照的频率，并仍然保持相当不错的性能和更好的耐用性。

关于Redis 内存和 CPU 峰值，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/16384436/

峰值Rediscodesectioncpu-usage

有关Redis 内存和 CPU 峰值的更多相关文章

  1. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分，我编写了一个小导入程序，它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是，与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存，我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关，因为当我删除对LDAP内容的调用时，内存使用情况会很好地稳定下来。此外，不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray，它们都是LDAP库的一部分。当我运行导入时，内存使用量最终达到超过1GB的峰值。如果问题存在，我需要找到一些方法来更正我的代

  2. ruby-on-rails - Ruby 中的内存模型 - 2

    ruby如何管理内存。例如:如果我们在执行过程中采用C程序，则以下是内存模型。类似于这个ruby如何处理内存。C:__________________|||stack|||------------------||||------------------|||||Heap|||||__________________|||data|__________________|text|__________________Ruby:? 最佳答案 Ruby中没有“内存”这样的东西。Class#allocate分配一个对象并返回该对象。这就是程序

  3. 键删除后 ruby​​ 哈希内存泄漏 - 2

    你好，我无法成功如何在散列中删除key后释放内存。当我从哈希中删除键时，内存不会释放，也不会在手动调用GC.start后释放。当从Hash中删除键并且这些对象在某处泄漏时，这是预期的行为还是GC不释放内存？如何在Ruby中删除Hash中的键并在内存中取消分配它？例子:irb(main):001:0>`ps-orss=-p#{Process.pid}`.to_i=>4748irb(main):002:0>a={}=>{}irb(main):003:0>1000000.times{|i|a[i]="test#{i}"}=>1000000irb(main):004:0>`ps-orss=-p

  4. ruby-on-rails - HTTParty 的内存问题和下载大文件 - 2

    这会导致Ruby出现内存问题吗？我知道如果大小超过10KB，Open-URI会写入TempFile。但是HTTParty会在写入TempFile之前尝试将整个PDF保存到内存吗？src=Tempfile.new("file.pdf")src.binmodesrc.writeHTTParty.get("large_file.pdf").parsed_response 最佳答案 您可以使用Net::HTTP。参见thedocumentation(特别是标题为“流媒体响应机构”的部分)。这是文档中的示例:uri=URI('http://e

  5. ruby-on-rails - 内存中具有相同 ID 的更多对象？ - 2

    在部署在heroku上的Rails应用程序(v:3.1)中，我在内存中获得了更多具有相同ID的对象。我的heroku控制台日志:>>Project.find_all_by_id(92).size=>2>>ActiveRecord::Base.connection.execute('select*fromprojectswhereid=92').to_a.size=>1这怎么可能？可能是什么问题？ 最佳答案 解决方案根据您的SQL查询，您的数据库中显然没有重复条目。也许您的类项目中的size或length方法已被覆盖。我试过find_

  6. ruby - rails 3.0.7 内存泄漏 - 2

    我的两个不同的Rails应用程序的内存有一些奇怪的问题。这两个应用程序都使用rails3.0.7。每个Controller请求分配20-30-50MB的内存。在生产模式下，这个数量减少到5-10。但这是同样的事情。这是两个应用程序使用的gem列表:gem'pg'gem'haml'gem'sass'gem'devise'gem'simple_form'gem'state_machine'gem"globalize3","0.1.0.beta"gem"easy_globalize3_accessors"gem'paperclip'gem'andand'关闭所有这些gem不会给我任何结果。我

  7. ruby - 如何强制 Ruby 释放内存给操作系统 - 2

    正如标题，我有一个处理大量数据的ruby​​程序。该程序占用了所有内存，其中调用了系统命令hostname，并且发生错误无法分配内存-主机名我试过GC.start但它不起作用。那么如何强制ruby释放未使用的内存呢？OK，这是别人的测试代码，最后报错是big_var被回收了。但是内存仍然没有释放。require"weakref"defreportputs"#{param}:\t\tMemory"+`psax-opid,rss|grep-E"^[[:space:]]*#{$$}"`.strip.split.map(&:to_i)[1].to_s+'KB'endbig_var=""#big

  8. ruby - 如何在 Ruby 中从内存中 HTTP 发布流数据？ - 2

    我想上传我在运行时用Ruby生成的数据，就像从block中提供上传数据一样。我找到的所有示例仅展示了如何流式传输必须在请求之前位于磁盘上的文件，但我不想缓冲该文件。除了滚动我自己的套接字连接之外，最好的解决方案是什么？这是一个伪代码示例:post_stream('127.0.0.1','/stream/')do|body|generate_xmldo|segment|body 最佳答案 有效的代码。require'thread'require'net/http'require'base64'require'openssl'class

  9. ruby-on-rails - 负载测试期间 Unicorn CPU 使用率激增，优化方法 - 2

    我对为我的RubyonRails3.1.3应用优化我的Unicorn设置的方法很感兴趣。我目前正在高CPU超大实例上生成14个工作进程，因为我的应用程序在负载测试期间似乎受CPU限制。在模拟负载测试中，每秒大约20个请求重放请求，我的实例上的所有8个内核都达到峰值，盒子负载飙升至7-8个。每个unicorn实例使用大约56-60%的CPU。我很好奇可以通过哪些方式对其进行优化？我希望能够每秒将更多请求汇集到这种大小的实例上。内存和所有其他I/O一样完全正常。在我的测试过程中，CPU越来越低。 最佳答案 如果您受CPU限制，您希望使用

  10. ruby-on-rails - 如何仅修改内存中的 zip 文件？ - 2

    我有一个Ruby应用程序，我需要修改现有的zip文件。我想在内存中构建zip文件并流回字节，而无需将文件写入文件系统。如果我最终在Heroku上托管它，我认为我无法写入文件系统。有谁知道这样做的方法吗？我看了Zip::ZipFile但看起来它总是想写入文件系统。我想“基于java实现”我将能够只获取压缩文件的字节，这可以在java中完成，但我看不到这样做的方法。编辑:我要问的与此基本相同，但针对Ruby而不是Python:Functiontocreatein-memoryzipfileandreturnashttpresponse 最佳答案

随机推荐