草庐IT

python - 如何释放 mongodb 连接?

coder 2023-05-04 原文

我有一个在短时间内具有高读/写能力的 mongo 服务器。我使用了python和pymongo,今天早上醒来发现无法连接mongod master,因为它的连接数达到了19992,这是一个非常可怕的数字

即使我停止了所有程序,连接数似乎也没有变化

insert  query update delete getmore command flushes mapped  vsize    res faults locked % idx miss %     qr|qw   ar|aw  netIn netOut  conn repl       time

localhost:27417      0      0      0      0       2       1       0   624m  2.87g   287m      0        0          0       0|0     7|0   162b     1k 19992    M   10:36:16

> db.serverStatus(1)
{
        "host" : "42yl:27417",
        "version" : "1.8.1",
        "process" : "mongod",
        "uptime" : 71732,
        "uptimeEstimate" : 71470,
        "localTime" : ISODate("2011-05-26T03:02:48.301Z"),
        "globalLock" : {
                "totalTime" : 71732232290,
                "lockTime" : 149471421,
                "ratio" : 0.002083741384148133,
                "currentQueue" : {
                        "total" : 0,
                        "readers" : 0,
                        "writers" : 0
                },
                "activeClients" : {
                        "total" : 7,
                        "readers" : 7,
                        "writers" : 0
                }
        },
        "mem" : {
                "bits" : 32,
                "resident" : 258,
                "virtual" : 910,
                "supported" : true,
                "mapped" : 624
        },
        "connections" : {
                "current" : 19792,
                "available" : 208
        },
        "extra_info" : {
                "note" : "fields vary by platform",
                "heap_usage_bytes" : 562688,
                "page_faults" : 965
        },
        "indexCounters" : {
                "btree" : {
                        "accesses" : 12789,
                        "hits" : 12789,
                        "misses" : 0,
                        "resets" : 0,
                        "missRatio" : 0
                }
        },
        "backgroundFlushing" : {
                "flushes" : 1195,
                "total_ms" : 848633,
                "average_ms" : 710.1531380753138,
                "last_ms" : 101,
                "last_finished" : ISODate("2011-05-26T03:02:18.691Z")
        },
        "cursors" : {
                "totalOpen" : 7,
                "clientCursors_size" : 7,
                "timedOut" : 0
        },
        "network" : {
                "bytesIn" : 685742402,
                "bytesOut" : 2742190274,
                "numRequests" : 3800041
        },
        "repl" : {
                "ismaster" : true
        },
        "opcounters" : {
                "insert" : 104225,
                "query" : 9,
                "update" : 925044,
                "delete" : 45734,
                "getmore" : 1642979,
                "command" : 1119290
        },
        "asserts" : {
                "regular" : 0,
                "warning" : 56,
                "msg" : 0,
                "user" : 0,
                "rollovers" : 0
        },
        "writeBacksQueued" : false,
        "ok" : 1
}

我检查了套接字连接

Active Internet connections (servers and established) 
Proto Recv-Q Send-Q Local Address Foreign Address State 
tcp 0 0 0.0.0.0:60000 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27424 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28417 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28418 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28419 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28420 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28421 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28422 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28423 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:28424 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:38422 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:58422 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:5432 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27417 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27418 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27419 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:443 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:8443 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27420 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27421 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27422 0.0.0.0:* LISTEN 
tcp 0 0 0.0.0.0:27423 0.0.0.0:* LISTEN 
tcp 0 0 222.73.61.42:27420 222.73.61.43:38249 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56699 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56698 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56697 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56696 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56702 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56701 ESTABLISHED 
tcp 0 0 127.0.0.1:27417 127.0.0.1:56700 ESTABLISHED 
tcp 0 0 222.73.61.42:27422 222.73.61.43:33616 ESTABLISHED 
tcp 0 0 222.73.61.42:27417 222.73.61.43:60218 ESTABLISHED 
tcp 0 0 222.73.61.42:27423 222.73.61.43:33035 ESTABLISHED 
tcp 0 3324 222.73.61.42:58422 119.85.195.88:54295 ESTABLISHED 
tcp 0 0 222.73.61.42:27424 222.73.61.43:55825 ESTABLISHED 
tcp 0 0 222.73.61.42:54279 222.215.136.8:80 ESTABLISHED 
tcp 0 0 222.73.61.42:27418 222.73.61.43:37093 ESTABLISHED 
tcp 0 0 222.73.61.42:27419 222.73.61.43:38346 ESTABLISHED 
tcp 0 0 127.0.0.1:56702 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56701 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56700 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56699 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56698 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56697 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 127.0.0.1:56696 127.0.0.1:27417 ESTABLISHED 
tcp 0 0 222.73.61.42:27421 222.73.61.43:39843 ESTABLISHED 
udp 0 0 0.0.0.0:48514 0.0.0.0:* 
udp 0 0 222.73.61.42:50721 61.128.128.68:53 ESTABLISHED 
udp 0 0 127.0.0.1:52274 127.0.0.1:52274 ESTABLISHED 
Active UNIX domain sockets (servers and established) 
Proto RefCnt Flags Type State I-Node Path 
unix 2 [ ACC ] STREAM LISTENING 9081684 /var/run/nscd/socket 
unix 2 [ ACC ] STREAM LISTENING 18011686 /tmp/mongodb-27417.sock 
unix 2 [ ACC ] STREAM LISTENING 18011689 /tmp/mongodb-27422.sock 
unix 2 [ ACC ] STREAM LISTENING 18011691 /tmp/mongodb-28422.sock 
unix 2 [ ACC ] STREAM LISTENING 18011697 /tmp/mongodb-27420.sock 
unix 2 [ ACC ] STREAM LISTENING 18011702 /tmp/mongodb-28417.sock 
unix 2 [ ACC ] STREAM LISTENING 18011693 /tmp/mongodb-27421.sock 
unix 2 [ ACC ] STREAM LISTENING 18011695 /tmp/mongodb-28421.sock 
unix 2 [ ACC ] STREAM LISTENING 18011699 /tmp/mongodb-28420.sock 
unix 2 [ ACC ] STREAM LISTENING 18011710 /tmp/mongodb-27419.sock 
unix 2 [ ACC ] STREAM LISTENING 18011713 /tmp/mongodb-28419.sock 
unix 2 [ ACC ] STREAM LISTENING 18011716 /tmp/mongodb-27418.sock 
unix 2 [ ACC ] STREAM LISTENING 18011719 /tmp/mongodb-28418.sock 
unix 2 [ ACC ] STREAM LISTENING 18011722 /tmp/mongodb-27424.sock 
unix 2 [ ACC ] STREAM LISTENING 18011725 /tmp/mongodb-28424.sock 
unix 2 [ ACC ] STREAM LISTENING 18011728 /tmp/mongodb-27423.sock 
unix 2 [ ACC ] STREAM LISTENING 18011731 /tmp/mongodb-28423.sock 
unix 2 [ ACC ] STREAM LISTENING 12771288 /tmp/.s.PGSQL.5432 
unix 2 [ ] DGRAM 3651 @/org/kernel/udev/udevd 
unix 5 [ ] DGRAM 16472048 /dev/log 
unix 2 [ ] STREAM CONNECTED 18706425 /var/run/nscd/socket 
unix 2 [ ] DGRAM 16792651 
unix 2 [ ] DGRAM 16472057 
unix 2 [ ] DGRAM 16472052 

最佳答案

我们之前遇到过同样的问题,我认为 linux 系统调整 TCP_KEEPALIVE_TIME 存在问题,它为给定的 tcp 连接指定超时。对于您的情况,您在短时间内有很高的读/写,这可以为 tcp 连接进行更低的超时配置。

通过使用以下命令,它可能会对您有所帮助:

Checking current config:
[root@monitor-hk-1 ~]# cat /proc/sys/net/ipv4/tcp_keepalive_time
7200

Changing config:
echo 300 > /proc/sys/net/ipv4/tcp_keepalive_time

以下是我公司的一些内部备忘录:

After some researching for 30,Jul's failure of mongo on testbed, ip 118.26, I found something familiar with production:
1.  Total Connections reach 970+ which mongo start to block all the incoming connections.
2.  Check netstat, only nearly 100 something connections are kept listening or waiting.
3.  Check iostat, and cpu, memory, not a high utilization rate, several percent around 10.
Log:
Tue Jul 30 10:19:03.575 [initandlisten] connection accepted from 192.168.118.18:52858 #261673 (974 connections now open)
Tue Jul 30 10:19:03.575 [initandlisten] pthread_create failed: errno:11 Resource temporarily unavailable
Tue Jul 30 10:19:03.575 [initandlisten] can't create new thread, closing connection
After checking official manual, I found that our tcp keep-alive value may be too high:
[root@monitor-hk-1 ~]# cat /proc/sys/net/ipv4/tcp_keepalive_time
7200
I suggest to change the such value to 300 for a short keep-alive for tcp connections.
Can be done with following command:
echo 300 > /proc/sys/net/ipv4/tcp_keepalive_time
Notes: This can only change this value temporarily. If we reboot the system, it would be reset to default value. If we want to make persistent change, please reference at the Linux operation guide.

希望这可以帮助你。更多信息:

Linux TCP I/O Tuning:

MongoDB Official Doc for TCP Tuning

关于python - 如何释放 mongodb 连接?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6133154/

有关python - 如何释放 mongodb 连接?的更多相关文章

  1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

    我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

  2. ruby - 如何从 ruby​​ 中的字符串运行任意对象方法? - 2

    总的来说,我对ruby​​还比较陌生,我正在为我正在创建的对象编写一些rspec测试用例。许多测试用例都非常基础,我只是想确保正确填充和返回值。我想知道是否有办法使用循环结构来执行此操作。不必为我要测试的每个方法都设置一个assertEquals。例如:describeitem,"TestingtheItem"doit"willhaveanullvaluetostart"doitem=Item.new#HereIcoulddotheitem.name.shouldbe_nil#thenIcoulddoitem.category.shouldbe_nilendend但我想要一些方法来使用

  3. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  4. ruby-on-rails - 如何验证 update_all 是否实际在 Rails 中更新 - 2

    给定这段代码defcreate@upgrades=User.update_all(["role=?","upgraded"],:id=>params[:upgrade])redirect_toadmin_upgrades_path,:notice=>"Successfullyupgradeduser."end我如何在该操作中实际验证它们是否已保存或未重定向到适当的页面和消息? 最佳答案 在Rails3中,update_all不返回任何有意义的信息,除了已更新的记录数(这可能取决于您的DBMS是否返回该信息)。http://ar.ru

  5. ruby-on-rails - 'compass watch' 是如何工作的/它是如何与 rails 一起使用的 - 2

    我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t

  6. ruby - 如何将脚本文件的末尾读取为数据文件(Perl 或任何其他语言) - 2

    我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚

  7. ruby - 如何指定 Rack 处理程序 - 2

    Rackup通过Rack的默认处理程序成功运行任何Rack应用程序。例如:classRackAppdefcall(environment)['200',{'Content-Type'=>'text/html'},["Helloworld"]]endendrunRackApp.new但是当最后一行更改为使用Rack的内置CGI处理程序时,rackup给出“NoMethodErrorat/undefinedmethod`call'fornil:NilClass”:Rack::Handler::CGI.runRackApp.newRack的其他内置处理程序也提出了同样的反对意见。例如Rack

  8. ruby - 如何每月在 Heroku 运行一次 Scheduler 插件? - 2

    在选择我想要运行操作的频率时,唯一的选项是“每天”、“每小时”和“每10分钟”。谢谢!我想为我的Rails3.1应用程序运行调度程序。 最佳答案 这不是一个优雅的解决方案,但您可以安排它每天运行,并在实际开始工作之前检查日期是否为当月的第一天。 关于ruby-如何每月在Heroku运行一次Scheduler插件?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/8692687/

  9. ruby-on-rails - 如何从 format.xml 中删除 <hash></hash> - 2

    我有一个对象has_many应呈现为xml的子对象。这不是问题。我的问题是我创建了一个Hash包含此数据,就像解析器需要它一样。但是rails自动将整个文件包含在.........我需要摆脱type="array"和我该如何处理?我没有在文档中找到任何内容。 最佳答案 我遇到了同样的问题;这是我的XML:我在用这个:entries.to_xml将散列数据转换为XML,但这会将条目的数据包装到中所以我修改了:entries.to_xml(root:"Contacts")但这仍然将转换后的XML包装在“联系人”中,将我的XML代码修改为

  10. ruby - 如何使用文字标量样式在 YAML 中转储字符串? - 2

    我有一大串格式化数据(例如JSON),我想使用Psychinruby​​同时保留格式转储到YAML。基本上,我希望JSON使用literalstyle出现在YAML中:---json:|{"page":1,"results":["item","another"],"total_pages":0}但是,当我使用YAML.dump时,它不使用文字样式。我得到这样的东西:---json:!"{\n\"page\":1,\n\"results\":[\n\"item\",\"another\"\n],\n\"total_pages\":0\n}\n"我如何告诉Psych以想要的样式转储标量?解

随机推荐