我正在使用以下代码测试我的 nodejs 插入到我的 MongoDB 中。当我插入 10000 行之类的内容时,一切正常。但是如果我尝试插入 100 万之类的东西,插入操作会停止一段时间,nodejs 控制台和 MongoDB 上都不会打印出任何错误。
我在下面附上了我的代码和 MongoDB 的控制台,请帮助我,非常感谢!!
---更新---
为了从回复中回答问题,我还检查了我的 mongostat,然后插入停止了。但是,我观察到两种现象:
观察结果:insert正在进行,mongostat显示,大部分时间insert为0,但有时也能显示插入的记录。
2) 在我的 PC 上,通过“npm --registry http://registry.npmjs.eu/ install mongodb”安装 mongodb 解析器,“node my.js”启动时输出以下服务器输出“服务器已启动。-> 失败加载 c++ bson 扩展,使用纯 JS 版本"
观察结果:insert只跑了一会儿,然后什么都没发生,过一会儿mongostat显示insert一直为零。
“npm --registry http://registry.npmjs.eu/ install mongodb”也会有问题吗?
我的 nodejs 代码:
mongoClient.connect("mongodb://localhost:27017/testdb", { db : { native_parser : true } }, function(err, database) {
if (err) { console.log(err.message); throw err; }
// create new collection under database
var collection = database.collection('gm_std_measurements_coveringindex');
date = new Date();
// add all Documents
for (var i = 0; i < 1000000; i++) {
var ranNumber = Math.floor((Math.random() * 1000) + 1);
// insert objects after table and index creation
var istObject = {
fkDataSeriesId : ranNumber,
measDateUtc : date,
measDateSite : date,
project_id : ranNumber,
measvalue : ranNumber,
refMeas : false,
reliability : 1.0
};
collection.insert(istObject, { w : 1 }, function(err, docs) {
if (err) {
console.log(err.message);
throw err;
} else {
// do noting to responsed inserted Document
}
});
}
console.log("* Documents created!");
});
MongDB 服务器输出:
Thu Apr 17 15:32:18.942 [initandlisten] connection accepted from 127.0.0.1:33228 #70 (3 connections now open)
Thu Apr 17 15:32:18.949 [conn70] end connection 127.0.0.1:33228 (2 connections now open)
Thu Apr 17 15:32:18.951 [initandlisten] connection accepted from 127.0.0.1:33229 #71 (3 connections now open)
Thu Apr 17 15:32:18.952 [initandlisten] connection accepted from 127.0.0.1:33230 #72 (4 connections now open)
Thu Apr 17 15:32:18.952 [initandlisten] connection accepted from 127.0.0.1:33231 #73 (5 connections now open)
Thu Apr 17 15:32:18.953 [initandlisten] connection accepted from 127.0.0.1:33232 #74 (6 connections now open)
Thu Apr 17 15:32:18.953 [initandlisten] connection accepted from 127.0.0.1:33233 #75 (7 connections now open)
Thu Apr 17 15:32:28.520 [FileAllocator] allocating new datafile /var/lib/mongodb/testdb.2, filling with zeroes...
Thu Apr 17 15:32:28.563 [FileAllocator] done allocating datafile /var/lib/mongodb/testdb.2, size: 256MB, took 0.042 secs
Thu Apr 17 15:32:31.517 [conn75] insert testdb.gm_std_measurements_coveringindex ninserted:1 keyUpdates:0 locks(micros) w:23 129ms
Thu Apr 17 15:32:31.517 [conn72] insert testdb.gm_std_measurements_coveringindex ninserted:1 keyUpdates:0 locks(micros) w:37 129ms
Thu Apr 17 15:32:31.517 [conn74] insert testdb.gm_std_measurements_coveringindex ninserted:1 keyUpdates:0 locks(micros) w:31 129ms
Thu Apr 17 15:32:31.517 [conn73] insert testdb.gm_std_measurements_coveringindex ninserted:1 keyUpdates:0 locks(micros) w:19 129ms
最佳答案
我想我自己已经弄明白了。
从Nodejs向MongoDB插入百万条数据的问题在于,nodejs忙于生成这些记录并立即发送出去。百万条数据立即出现,nodejs自己卡了一会就卡住了,这时候MongoDB还没有收到多少insert。
我通过设置一次插入 10000 条记录的间隔方法来“摆脱”这个问题,并每秒调用这个间隔,以便 nodejs 有机会移动到下一个 事件将生成的 insert 发送出去,然后再次开始生成 insert。
interval_checkId = setInterval(createSomeInsert, 1000);
还有 createSomeInsert 方法:
function createSomeInsert() {
console.log("* Starting to insert another 10K records, current count: " + counter);
var collection = dbPool.collection('gm_std_measurements_coveringindex');
var date = new Date();
var amount = 10 * 1000;
for(var i = 0; i < amount; i++) {
var ranNumber = Math.floor((Math.random() * 1000) + 1);
// insert objects after table and index creation
var istObject = {
fkDataSeriesId : ranNumber,
measDateUtc : date,
measDateSite : date,
project_id : ranNumber,
measvalue : ranNumber,
refMeas : false,
reliability : 1.0
};
collection.insert(istObject, { w : 0 }, function(err, docs){
if(err) {console.log(err); throw err;}
counter++;
});
}
if(counter >= totalTarget) {
clearInterval(interval_checkId);
console.log("Completed Insert, in total : " + counter);
counter = 0;
}
}
但是我还是不明白为什么nodejs在产生很多insert请求后会被阻塞,为什么大部分没有在后台发送给mongodb。
关于node.js - 为什么我的 nodejs 插入到 mongoDB 会在一段时间后停止,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23134624/
类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc
我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co
我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%
我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i
为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返
它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput
我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串
如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象
关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?
我是一个Rails初学者,但我想从我的RailsView(html.haml文件)中查看Ruby变量的内容。我试图在ruby中打印出变量(认为它会在终端中出现),但没有得到任何结果。有什么建议吗?我知道Rails调试器,但更喜欢使用inspect来打印我的变量。 最佳答案 您可以在View中使用puts方法将信息输出到服务器控制台。您应该能够在View中的任何位置使用Haml执行以下操作:-puts@my_variable.inspect 关于ruby-on-rails-如何在我的R