草庐IT

javascript - 为什么 cursor.skip() 如果全键被索引有时会慢 3 倍?

coder 2023-11-06 原文

我问了Is cursor.skip() on indexed keys always faster?

现在我正在尝试利用 multi-key indexing (第 94 页)执行更快的查询。

使用此脚本创建了 2 个数据库:

var a = 0;
while(a++ < 4096*2){
  var randomnumber=Math.ceil(Math.random()*1000000)

  // create string in length of 3
  var name = Math.random().toString(36).substring(2,5);

  db.fast.insert({name:name, email:name + ".email@example.com", age:randomnumber});
  db.slow.insert({name:name, email:name + ".email@example.com", age:randomnumber});

}

数据库索引如下:

> db.fast.getIndexes()
[
    {
        "v" : 1,
        "key" : {
            "_id" : 1
        },
        "name" : "_id_",
        "ns" : "test.fast"
    },
    {
        "v" : 1,
        "key" : {
            "age" : 1
        },
        "name" : "age_1",
        "ns" : "test.fast"
    },
    {
        "v" : 1,
        "key" : {
            "age" : 1,
            "name" : 1,
            "email" : 1
        },
        "name" : "age_1_name_1_email_1",
        "ns" : "test.fast"
    },
    {
        "v" : 1,
        "key" : {
            "age" : 0,
            "name" : 0,
            "email" : 0
        },
        "name" : "age_0_name_0_email_0",
        "ns" : "test.fast"
    }
]
> 
> db.slow.getIndexes()
[
    {
        "v" : 1,
        "key" : {
            "_id" : 1
        },
        "name" : "_id_",
        "ns" : "test.slow"
    }
]

我执行了这两个查询:

>pageNumber=18;nPerPage=20; db.slow.find({name:{$gt:"1234", $lt:"z"}, age:{$gt:200, $lt:777217}, email:{$gt:"bdnsa28831283d", $lt:"z"} }).skip(pageNumber > 0 ? ((pageNumber-1)*nPerPage) : 0).limit(nPerPage).explain("executionStats")

    "executionSuccess" : true,
    "nReturned" : 20,
    "executionTimeMillis" : 93,
    "totalKeysExamined" : 0,
    "totalDocsExamined" : 688,


>pageNumber=18;nPerPage=20; db.fast.find({name:{$gt:"1234", $lt:"z"}, age:{$gt:200, $lt:777217}, email:{$gt:"bdnsa28831283d", $lt:"z"} }).skip(pageNumber > 0 ? ((pageNumber-1)*nPerPage) : 0).limit(nPerPage).explain("executionStats")

    "executionStats" : {
    "executionSuccess" : true,
    "nReturned" : 20,
    "executionTimeMillis" : 70,
    "totalKeysExamined" : 559,
    "totalDocsExamined" : 360,

如您所见,fast db 的执行时间比预期的要好。

但是之后我执行了下面两个,慢的好多了:

>pageNumber=58;nPerPage=300; db.slow.find({name:{$gt:"1Adsa34", $lt:"zZ123z"}, age:{$gt:4555, $lt:988888}, email:{$gt:"abdnsa28831283d", $lt:"z2"} }).skip(pageNumber > 0 ? ((pageNumber-1)*nPerPage) : 0).limit(nPerPage).explain("executionStats")
    "executionStats" : {
        "executionSuccess" : true,
        "nReturned" : 0,
        "executionTimeMillis" : 30,
        "totalKeysExamined" : 0,
        "totalDocsExamined" : 8192,

>pageNumber=58;nPerPage=300; db.fast.find({name:{$gt:"1Adsa34", $lt:"zZ123z"}, age:{$gt:4555, $lt:988888}, email:{$gt:"abdnsa28831283d", $lt:"z2"} }).skip(pageNumber > 0 ? ((pageNumber-1)*nPerPage) : 0).limit(nPerPage).explain("executionStats")
        "executionSuccess" : true,
        "nReturned" : 0,
        "executionTimeMillis" : 101,
        "totalKeysExamined" : 8058,
        "totalDocsExamined" : 5484,

可能是服务的缓存问题,尽管我重新启动了 mongod。


缓慢的执行计划:

"queryPlanner" : {
    "plannerVersion" : 1,
    "namespace" : "test.slow",
    "indexFilterSet" : false,
    "parsedQuery" : {
        "$and" : [
            {
                "age" : {
                    "$lt" : 988888
                }
            },
            {
                "email" : {
                    "$lt" : "z2"
                }
            },
            {
                "name" : {
                    "$lt" : "zZ123z"
                }
            },
            {
                "age" : {
                    "$gt" : 4555
                }
            },
            {
                "email" : {
                    "$gt" : "abdnsa28831283d"
                }
            },
            {
                "name" : {
                    "$gt" : "1Adsa34"
                }
            }
        ]
    },
    "winningPlan" : {
        "stage" : "LIMIT",
        "limitAmount" : 300,
        "inputStage" : {
            "stage" : "SKIP",
            "skipAmount" : 11616,
            "inputStage" : {
                "stage" : "COLLSCAN",
                "filter" : {
                    "$and" : [
                        {
                            "age" : {
                                "$lt" : 988888
                            }
                        },
                        {
                            "email" : {
                                "$lt" : "z2"
                            }
                        },
                        {
                            "name" : {
                                "$lt" : "zZ123z"
                            }
                        },
                        {
                            "age" : {
                                "$gt" : 4555
                            }
                        },
                        {
                            "email" : {
                                "$gt" : "abdnsa28831283d"
                            }
                        },
                        {
                            "name" : {
                                "$gt" : "1Adsa34"
                            }
                        }
                    ]
                },
                "direction" : "forward"
            }
        }
    },
    "rejectedPlans" : [ ]
},

快速数据库执行计划:

"queryPlanner" : {
    "plannerVersion" : 1,
    "namespace" : "test.fast",
    "indexFilterSet" : false,
    "parsedQuery" : {
        "$and" : [
            {
                "age" : {
                    "$lt" : 988888
                }
            },
            {
                "email" : {
                    "$lt" : "z2"
                }
            },
            {
                "name" : {
                    "$lt" : "zZ123z"
                }
            },
            {
                "age" : {
                    "$gt" : 4555
                }
            },
            {
                "email" : {
                    "$gt" : "abdnsa28831283d"
                }
            },
            {
                "name" : {
                    "$gt" : "1Adsa34"
                }
            }
        ]
    },
    "winningPlan" : {
        "stage" : "LIMIT",
        "limitAmount" : 300,
        "inputStage" : {
            "stage" : "SKIP",
            "skipAmount" : 17100,
            "inputStage" : {
                "stage" : "FETCH",
                "inputStage" : {
                    "stage" : "IXSCAN",
                    "keyPattern" : {
                        "age" : 0,
                        "name" : 0,
                        "email" : 0
                    },
                    "indexName" : "age_0_name_0_email_0",
                    "isMultiKey" : false,
                    "isUnique" : false,
                    "isSparse" : false,
                    "isPartial" : false,
                    "indexVersion" : 1,
                    "direction" : "forward",
                    "indexBounds" : {
                        "age" : [
                            "(4555.0, 988888.0)"
                        ],
                        "name" : [
                            "(\"1Adsa34\", \"zZ123z\")"
                        ],
                        "email" : [
                            "(\"abdnsa28831283d\", \"z2\")"
                        ]
                    }
                }
            }
        }
    },
    "rejectedPlans" : [
        {
            "stage" : "LIMIT",
            "limitAmount" : 300,
            "inputStage" : {
                "stage" : "SKIP",
                "skipAmount" : 17100,
                "inputStage" : {
                    "stage" : "FETCH",
                    "inputStage" : {
                        "stage" : "IXSCAN",
                        "keyPattern" : {
                            "age" : 1,
                            "name" : 1,
                            "email" : 1
                        },
                        "indexName" : "age_1_name_1_email_1",
                        "isMultiKey" : false,
                        "isUnique" : false,
                        "isSparse" : false,
                        "isPartial" : false,
                        "indexVersion" : 1,
                        "direction" : "forward",
                        "indexBounds" : {
                            "age" : [
                                "(4555.0, 988888.0)"
                            ],
                            "name" : [
                                "(\"1Adsa34\", \"zZ123z\")"
                            ],
                            "email" : [
                                "(\"abdnsa28831283d\", \"z2\")"
                            ]
                        }
                    }
                }
            }
        },
        {
            "stage" : "LIMIT",
            "limitAmount" : 300,
            "inputStage" : {
                "stage" : "SKIP",
                "skipAmount" : 17100,
                "inputStage" : {
                    "stage" : "FETCH",
                    "filter" : {
                        "$and" : [
                            {
                                "email" : {
                                    "$lt" : "z2"
                                }
                            },
                            {
                                "name" : {
                                    "$lt" : "zZ123z"
                                }
                            },
                            {
                                "email" : {
                                    "$gt" : "abdnsa28831283d"
                                }
                            },
                            {
                                "name" : {
                                    "$gt" : "1Adsa34"
                                }
                            }
                        ]
                    },
                    "inputStage" : {
                        "stage" : "IXSCAN",
                        "keyPattern" : {
                            "age" : 1
                        },
                        "indexName" : "age_1",
                        "isMultiKey" : false,
                        "isUnique" : false,
                        "isSparse" : false,
                        "isPartial" : false,
                        "indexVersion" : 1,
                        "direction" : "forward",
                        "indexBounds" : {
                            "age" : [
                                "(4555.0, 988888.0)"
                            ]
                        }
                    }
                }
            }
        }
    ]
},

最佳答案

是的,你是对的,我已经验证了,具有讽刺意味的是,假设查询使用覆盖索引很快,却忽略了最快的执行计划。

我已经向 MongoDB 提出了这个问题。请看Jira Ticket

关于javascript - 为什么 cursor.skip() 如果全键被索引有时会慢 3 倍?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35996466/

有关javascript - 为什么 cursor.skip() 如果全键被索引有时会慢 3 倍?的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  3. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  4. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  5. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  6. ruby-on-rails - 如果为空或不验证数值,则使属性默认为 0 - 2

    我希望我的UserPrice模型的属性在它们为空或不验证数值时默认为0。这些属性是tax_rate、shipping_cost和price。classCreateUserPrices8,:scale=>2t.decimal:tax_rate,:precision=>8,:scale=>2t.decimal:shipping_cost,:precision=>8,:scale=>2endendend起初,我将所有3列的:default=>0放在表格中,但我不想要这样,因为它已经填充了字段,我想使用占位符。这是我的UserPrice模型:classUserPrice回答before_val

  7. ruby - ruby 中的 TOPLEVEL_BINDING 是什么? - 2

    它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  8. ruby - Infinity 和 NaN 的类型是什么? - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

  9. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

  10. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

    关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

随机推荐