草庐IT

聊聊redo log是什么?

程序猿阿星 2023-03-28 原文

前言

说到​​MySQL​​,有两块日志一定绕不开,一个是​​InnoDB​​存储引擎的​​redo log​​(重做日志),另一个是​​MySQL Servce​​层的 ​​binlog​​(归档日志)。

只要是数据更新操作,就一定会涉及它们,今天就来聊聊​​redo log​​(重做日志)。

redo log

​redo log​​(重做日志)是​​InnoDB​​存储引擎独有的,它让​​MySQL​​拥有了崩溃恢复能力。

比如​​MySQL​​实例挂了或宕机了,重启时,​​InnoDB​​存储引擎会使用​​redo log​​恢复数据,保证数据的持久性与完整性。

上一篇中阿星讲过,​​MySQL​​中数据是以页为单位,你查询一条记录,会从硬盘把一页的数据加载出来,加载出来的数据叫数据页,会放入到​​Buffer Pool​​中。

后续的查询都是先从​​Buffer Pool​​中找,没有命中再去硬盘加载,减少硬盘​​IO​​开销,提升性能。

更新表数据的时候,也是如此,发现​​Buffer Pool​​里存在要更新的数据,就直接在​​Buffer Pool​​里更新。

然后会把“在某个数据页上做了什么修改”记录到重做日志缓存(​​redo log buffer​​)里,接着刷盘到​​redo log​​文件里。

理想情况,事务一提交就会进行刷盘操作,但实际上,刷盘的时机是根据策略来进行的。

小贴士:每条redo记录由“表空间号+数据页号+偏移量+修改数据长度+具体修改的数据”组成

刷盘时机

​InnoDB​​存储引擎为​​redo log​​的刷盘策略提供了​​innodb_flush_log_at_trx_commit​​参数,它支持三种策略

  • 设置为0的时候,表示每次事务提交时不进行刷盘操作
  • 设置为1的时候,表示每次事务提交时都将进行刷盘操作(默认值)
  • 设置为2的时候,表示每次事务提交时都只把redo log buffer内容写入page cache
另外​​InnoDB​​存储引擎有一个后台线程,每隔​​1​​秒,就会把​​redo log buffer​​中的内容写到文件系统缓存(​​page cache​​),然后调用​​fsync​​刷盘。

也就是说,一个没有提交事务的​​redo log​​记录,也可能会刷盘。

为什么呢?

因为在事务执行过程​​redo log​​记录是会写入​​redo log buffer​​中,这些​​redo log​​记录会被后台线程刷盘。

除了后台线程每秒​​1​​次的轮询操作,还有一种情况,当​​redo log buffer​​占用的空间即将达到​​innodb_log_buffer_size​​一半的时候,后台线程会主动刷盘。

下面是不同刷盘策略的流程图

innodb_flush_log_at_trx_commit=0

为​​0​​时,如果​​MySQL​​挂了或宕机可能会有​​1​​秒数据的丢失。

innodb_flush_log_at_trx_commit=1

为​​1​​时, 只要事务提交成功,​​redo log​​记录就 一定在硬盘里,不会有任何数据丢失。

如果事务执行期间​​MySQL​​挂了或宕机,这部分日志丢了,但是事务并没有提交,所以日志丢了也不会有损失。

innodb_flush_log_at_trx_commit=2

为​​2​​时, 只要事务提交成功,​​redo log buffer​​中的内容只写入文件系统缓存(​​page cache​​)。

如果仅仅只是​​MySQL​​挂了不会有任何数据丢失,但是宕机可能会有​​1​​秒数据的丢失。

日志文件组

硬盘上存储的​​redo log​​日志文件不只一个,而是以一个日志文件组的形式出现的,每个的​​redo​​日志文件大小都是一样的。

比如可以配置为一组​​4​​个文件,每个文件的大小是​​1GB​​,整个​​redo log​​日志文件组可以记录​​4G​​的内容。

它采用的是环形数组形式,从头开始写,写到末尾又回到头循环写,如下图所示。

在个日志文件组中还有两个重要的属性,分别是​​write pos、checkpoint​

  • write pos是当前记录的位置,一边写一边后移
  • checkpoint是当前要擦除的位置,也是往后推移
每次刷盘​​redo log​​记录到日志文件组中,​​write pos​​位置就会后移更新。

每次​​MySQL​​加载日志文件组恢复数据时,会清空加载过的​​redo log​​记录,并把​​checkpoint​​后移更新。

​write pos​​和​​checkpoint​​之间的还空着的部分可以用来写入新的​​redo log​​记录。

如果​​write pos​​追上​​checkpoint​​,表示日志文件组满了,这时候不能再写入新的​​redo log​​记录,​​MySQL​​得停下来,清空一些记录,把​​checkpoint​​推进一下。

本文到此就结束了,下篇会聊聊​​binlog​​(归档日志)。

小结

相信大家都知道​​redo log​​的作用和它的刷盘时机、存储形式。

现在我们来思考一问题,只要每次把修改后的数据页直接刷盘不就好了,还有​​redo log​​什么事。

它们不都是刷盘么?差别在哪里?

1 Byte = 8bit
1 KB = 1024 Byte
1 MB = 1024 KB
1 GB = 1024 MB
1 TB = 1024 GB
实际上,数据页大小是​​16KB​​,刷盘比较耗时,可能就修改了数据页里的几​​Byte​​数据,有必要把完整的数据页刷盘吗?

而且数据页刷盘是随机写,因为一个数据页对应的位置可能在硬盘文件的随机位置,所以性能是很差。

如果是写​​redo log​​,一行记录可能就占几十​​Byte​​,只包含表空间号、数据页号、磁盘文件偏移 量、更新值,再加上是顺序写,所以刷盘速度很快。

所以用​​redo log​​形式记录修改内容,性能会远远超过刷数据页的方式,这也让数据库的并发能力更强。

其实内存的数据页在一定时机也会刷盘,我们把这称为页合并,讲​​Buffer Pool​​的时候会对这块细说

    MySQL好文推荐

    关于我

    阿星是一个热爱技术的 ​​Java​​ 程序猿,公众号 「程序猿阿星」 定期分享有趣有料的精品原创文章!



    有关聊聊redo log是什么?的更多相关文章

    1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

      类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

    2. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

      我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

    3. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

      我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

    4. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

      我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

    5. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2 - 2

      为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

    6. ruby - ruby 中的 TOPLEVEL_BINDING 是什么? - 2

      它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

    7. ruby - Infinity 和 NaN 的类型是什么? - 2

      我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

    8. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

      如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

    9. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

      关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

    10. ruby - 当使用::指定模块时,为什么 Ruby 不在更高范围内查找类? - 2

      我刚刚被困在这个问题上一段时间了。以这个基地为例:moduleTopclassTestendmoduleFooendend稍后,我可以通过这样做在Foo中定义扩展Test的类:moduleTopmoduleFooclassSomeTest但是,如果我尝试通过使用::指定模块来最小化缩进:moduleTop::FooclassFailure这失败了:NameError:uninitializedconstantTop::Foo::Test这是一个错误,还是仅仅是Ruby解析变量名的方式的逻辑结果? 最佳答案 Isthisabug,or

    随机推荐