草庐IT

为什么平均等待时长对于数据库运维十分关键

白鳝 2023-03-28 原文
​昨天我谈到第二次使用人大金仓数据库的时候,能够从可观测性接口中获得等待事件的等待时间信息,感受到了数据库在易用性上的进步。有些朋友十分不解,不就是等待时间的长度数据采集吗?有这么重要吗!说实在的,运维人员获得数据库的等待事件的等待时长,是比重要还要重要的。

我们很容易从数据库中获得等待事件的次数,等待事件次数统计对于数据库内核来说,实现起来并不麻烦,只要维护一个内存数据结构,通过轻量级锁来保护这个内存结构就可以了。数据库的会话可以通过向数组累计统计数据来获得这些统计数据。甚至很多数据库根本不需要统计等待次数,只需要在会话信息中增加一些等待事件的相关数据项就可以了。每个会话都会维护自己的会话状态块,每次产生某个等待的时候只需要对其进行累加就可以了,其维护成本很低。但是要统计某个等待事件的等待时长那就不同了。

十多年前我和一个国产数据库厂商交流的时候,他们就提出来他们在新版本中引入了等待事件,但是目前只能提供等待次数,无法提供等待时长。他们测试过在会话信息中加入等待时长的统计信息,但是加入后,数据库的整体性能下降超过了10%,想了解一下Oracle数据库是怎么在OWI接口中实现等待时长的统计的。当时我对这个问题研究也不深,为了回答这个问题,我也研究了Oracle OWI接口的发展历史。实际上Oracle对这些数据的统计也是经历过一些波折的,最初甚至通过CPU周期、resource manager等去粗略的估算时长。到后来采用统一时间戳去做近似估算。其目的是以最低的成本,对数据库运行影响最小的方式较为近似的统计等待时长。

既然获得等待事件的时长需要付出如此的代价,那么为什么DBA还是需要获得这些数据呢?从等待事件的等待次数上不就可以知道数据库在干什么,在等什么了吗?实际上等待事件分析是十分复杂的事情,并不像某些DBA认为的,看到某个等待事件,去百度上搜一搜就可以定位数据库的问题。某个等待事件是否引发了某个数据库问题,并不仅仅要看这个等待事件是否出现,而是要看它占总等待的比例。这个比例可以是等待次数,也可以使等待时长,而等待时长的准确性更高。如果某个等待事件出现的次数很高,只能说这方面的负载很高,如果每次等待的时长都很低,或者说和日常数据库没出问题时候的平均等待时长十分接近,那么可能说明数据库在这方面的并发性能并没有出现问题,数据库的问题很可能并不是因为这个等待事件引起的。

比如说上图,我们发现了IO延时突然增加,那么我们就可以通过突发IO延时的增加与十几分钟后的服务器重启进行综合分析,从而把故障原因缩小到一个较为狭窄的分析面上,通过这个问题去做下一步的问题定位。

而如果我们只知道IO等待的次数,那么我们只能知道当前SQL读写IO的负载很高,可能有一些产生大IO的SQL,或者有大量的并发访问。但是我们无法知道当前的IO负载是否会引发数据库的问题,或者说数据库是否存在宕机的风险。十分高兴的是,我们看到目前大多数国产数据库都开始提供等待事件等待时长数据了,这对于DBA运维国产数据库十分关键。

而采集等待事件的等待时长对于数据库核心来说也是一个挑战,用最小的成本,对数据库性能影响最小的方式采集等待事件时长十分关键。记得去年我在测试Polardb-O的可观测性能力的时候,惊喜的发现了Polardb能够对一些重点等待事件采集等待时长,这些重点等待事件主要是lwlock和数据库IO相关的。而对于其他的等待事件,Polardb并没有提供等待时长,这种设计也体现了运维与数据库性能之间的平衡。一般来说,对于现代硬件,如果开启了这些采集,增加的数据库开销低于5%,甚至在一些系统中,低于10%都是可以接受的。但是如果太高,则无法接受了。

当时我发现商用版的Polardb-O中的针对IO的等待时长的采集数据是空的,而开源版的Polardb-PG中是能够看到这些数据的。当时我们也没有深究这个问题。今年我们加入了Polardb社区,同时在D-SMART中也开始针对Polardb做深度对接,将Polardb-PG数据库与社区版的PG数据库独立开来,利用Polardb的可观测性能力增强来加强Polardb的监控诊断与分析能力,所以我们重新对这些可观测性接口做了分析。通过与阿里的技术人员的沟通发现,要想在商用版的Polardb上采集到Polar_stat_io_latency等IO相关的等待时长数据,哪怕我们使用的是本地文件系统的单机版,也必须将数据库存放在Polar自带的PFS文件系统上,并设置polar_enable_shared_storage_mode = on,才能采集到相关的数据。

完成这些设置后,我们就可以从polar_stat_io_info/polar_stat_io_latency视图中看到数据了。在开源版本中,采集IO延时的时长的采集采用的是大多数数据库使用的原生模式,在数据库内核中直接实现就可以了。但是在商用版中,这些优化是利用云原生数据库的特性,通过PFS底层实现来完成的,这样可以大大降低数据库内核采集IO等待时长的成本开销。

有关为什么平均等待时长对于数据库运维十分关键的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  3. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  4. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  5. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  6. ruby - ruby 中的 TOPLEVEL_BINDING 是什么? - 2

    它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  7. ruby - Infinity 和 NaN 的类型是什么? - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

  8. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

  9. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

    关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

  10. ruby - 当使用::指定模块时,为什么 Ruby 不在更高范围内查找类? - 2

    我刚刚被困在这个问题上一段时间了。以这个基地为例:moduleTopclassTestendmoduleFooendend稍后,我可以通过这样做在Foo中定义扩展Test的类:moduleTopmoduleFooclassSomeTest但是,如果我尝试通过使用::指定模块来最小化缩进:moduleTop::FooclassFailure这失败了:NameError:uninitializedconstantTop::Foo::Test这是一个错误,还是仅仅是Ruby解析变量名的方式的逻辑结果? 最佳答案 Isthisabug,or

随机推荐