草庐IT

performance - 为什么内存拷贝第一次运行很慢？

coder 2023-06-29 原文

我发现了什么:

我打印了golang的copy时间成本，显示第一次内存copy很慢。但是即使我在不​​同的内存地址上运行“复制”，第二次也快得多。

这是我的测试代码:

func TestCopyLoop1x32M(t *testing.T) {
    copyLoopSameDst(32*1024*1024, 1)
}
func TestCopyLoopOnex32M(t *testing.T) {
    copyLoopSameDst(32*1024*1024, 1)
}
func copyLoopSameDst(size, loops int) {
    in := make([]byte, size)
    out := make([]byte, size)
    rand.Seed(0)
    fillRandom(in) // insert random byte into slice
    now := time.Now()
    for i := 0; i < loops; i++ {
        copy(out, in)
    }
    cost := time.Since(now)
    fmt.Println(cost.Seconds() / float64(loops))
   }

func TestCopyDiffLoop1x32M(t *testing.T) {
    copyLoopDiffDst(32*1024*1024, 1)
}

func copyLoopDiffDst(size, loops int) {
    ins := make([][]byte, loops)
    outs := make([][]byte, loops)
    for i := 0; i < loops; i++ {
        out := make([]byte, size)
        outs[i] = out
        in := make([]byte, size)
        rand.Seed(0)
        fillRandom(in)
        ins[i] = in
    }

    now := time.Now()
    for i := 0; i < loops; i++ {
        copy(outs[i], ins[i])
    }
    cost := time.Since(now)
    fmt.Println(cost.Seconds() / float64(loops))
}

结果(在 i5-4278U 上):

  1. 运行所有三个案例:

测试复制循环 1x32M:0.023 秒

测试复制循环Onex32M:0.0038s

测试复制差异循环 1x32M:0.0038 秒

  1. 运行第一个和第二个案例:

测试复制循环 1x32M:0.023 秒

测试复制循环Onex32M:0.0038s

  1. 运行第一个和第三个案例:

测试复制循环 1x32M:0.023 秒

测试复制循环 1x32M:0.023 秒

我的问题:

  1. 它们有不同的内存地址和不同的数据，下一个案例如何从第一个案例中受益？

  2. 为什么 Result3 和 Result2 不一样？他们不也做同样的事情吗？

  3. 如果我在“copyLoopSameDst”中添加循环，我知道下一次会更快，因为缓存，但我的 cpu 的 L3 缓存只有 3MB，我无法解释巨大的改进

  4. 为什么“copyLoopDiffDst”在两种情况下会加速？

我的猜测:

  1. 指令缓存有助于提高性能，但不能解释问题2

  2. cpu cache超乎我想象，但也不能解释问题2

最佳答案

经过更多的研究和测试，我想我可以回答我的部分问题。

缓存在下一个测试用例中起作用的原因是 Golang 的(也许其他语言也会做同样的事情，因为 malloc 内存是一个系统调用)内存分配。

当数据很大时，内核会重用刚刚释放的 block 。

我打印了 in&out []byte 的地址(在 Golang 中，一个 slice 的前 8 个字节是它的内存地址，所以我写了一个程序集来获取地址):

地址:[0 192 8 32 196 0 0 0] [0 192 8 34 196 0 0 0]

成本:0.019228028

地址:[0 192 8 36 196 0 0 0] [0 192 8 32 196 0 0 0]

成本:0.003770281

地址:[0 192 8 34 196 0 0 0] [0 192 8 32 196 0 0 0]

成本:0.003806502

你会发现程序重用了一些内存地址，所以写入命中发生在下一个复制操作中。

如果我在函数外创建输入/输出，将不会发生重用，并且速度会变慢。

但是如果你把block设置得很小(比如32KB以下)你会发现虽然内核给了你一个新的内存地址，但是速度又会变快。在我看来主要原因是数据没有按 64bytes 对齐，所以下一个循环数据(它的位置在第一个附近)将被捕获到缓存中，同时，第一个循环浪费了很多时间来填充缓存。下一个循环可以获得指令缓存和其他数据缓存以运行该函数。当数据量较小时，这些小缓存会产生很大的影响。

我仍然感到惊讶，数据大小是我的 cpu 缓存大小的 10 倍，但缓存仍然有很大帮助。无论如何，这是另一个问题。

关于performance - 为什么内存拷贝第一次运行很慢？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/42862358/

performance为什么sectionloopslicachinggoiocpu-cache

有关performance - 为什么内存拷贝第一次运行很慢？的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法？ - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分，我编写了一个小导入程序，它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是，与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存，我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关，因为当我删除对LDAP内容的调用时，内存使用情况会很好地稳定下来。此外，不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray，它们都是LDAP库的一部分。当我运行导入时，内存使用量最终达到超过1GB的峰值。如果问题存在，我需要找到一些方法来更正我的代

  3. ruby-on-rails - Rails - 子类化模型的设计模式是什么？ - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co

  4. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  5. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  6. ruby - 使用 Vim Rails，您可以创建一个新的迁移文件并一次性打开它吗？ - 2

    使用带有Rails插件的vim，您可以创建一个迁移文件，然后一次性打开该文件吗？textmate也可以这样吗？ 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件，这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails，您可以创建一个新的迁移文件并一次性打开它吗？，我们在StackOverflow上找到一个类似的问题： https://sta

  7. ruby - 如何每月在 Heroku 运行一次 Scheduler 插件？ - 2

    在选择我想要运行操作的频率时，唯一的选项是“每天”、“每小时”和“每10分钟”。谢谢!我想为我的Rails3.1应用程序运行调度程序。 最佳答案 这不是一个优雅的解决方案，但您可以安排它每天运行，并在实际开始工作之前检查日期是否为当月的第一天。 关于ruby-如何每月在Heroku运行一次Scheduler插件？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/8692687/

  8. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996？但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996？但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意，这不是与Ruby相关的问题，而是与所有编程语言相关的问题，因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  9. ruby - ruby 中的 TOPLEVEL_BINDING 是什么？ - 2

    它不等于主线程的binding，这个toplevel作用域是什么？此作用域与主线程中的binding有何不同？>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是，TOPLEVEL_BINDING始终引用Binding的预定义全局实例，而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层，它们都包含相同的绑定(bind)，但它们不是同一个对象，您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  10. ruby - Infinity 和 NaN 的类型是什么？ - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN？它们是对象、关键字还是其他东西？ 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

随机推荐