草庐IT

MySQL日志管理、备份与恢复

feizirui 2023-03-28 原文

一、MySQL 日志管理

MySQL 的日志默认保存位置为 /usr/local/mysql/data
MySQL 的日志配置文件为/etc/my.cnf ,里面有个[mysqld]项

修改配置文件:
vim /etc/my.cnf
[mysqld]

1.1错误日志

错误日志,用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log #指定日志的保存位置和文件名

1.2通用查询日志

通用查询日志,用来记录MySQL的所有连接和语句,默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

1.3二进制日志

二进制日志(binlog),用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
log-bin=mysql-bin #也可以 log_bin=mysql-bin

1.4慢查询日志

##慢查询日志,用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便于优化,默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 #设置超过5秒执行的语句被记录,缺省时为10秒
systemctl restart mysqld
mysql -u root -p

1.5查看日志

show variables like 'general%'; #查看通用查询日志是否开启
show variables like 'log_bin%'; #查看二进制日志是否开启
show variables like '%slow%'; #查看慢查询日功能是否开启
show variables like 'long_query_time'; #查看慢查询时间设置
set global slow_query_log=ON; #在数据库中设置开启慢查询的方法

1.6实例操作

(1)修改配置文件并重启服务

(2)查询日志

(3)开启以及关闭慢查询的方法

二、数据库备份的重要性与分类

2.1数据备份的重要性

重要性:

  • 备份的主要目的是灾难恢复
  • 在生产环境中,数据的安全性至关重要
  • 任何数据的丢失都可能产生严重的后果

造成数据丢失的原因:

  • 程序错误
  • 人为操作错误
  • 运算错误
  • 磁盘故障
  • 不可控因素

2.2从物理与逻辑的角度,备份分为

  • 物理备份: 对数据库操作系统的物理文件(如数据文件、日志文件等)的备份
  • 逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份

物理备份方法:

  • 冷备份(脱机备份):是在关闭数据库的时候进行的
  • 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件
  • 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作

2.3从数据库的备份策略角度,备份可分为

  • 完全备份:每次对数据库进行完整的备份
  • 差异备份:备份自从上次完全备份之后被修改过的文件
  • 增量备份:只有在上次完全备份或者增量备份后被修改的文件才会被备份

三、常见的备份方法

3.1物理冷备

  • 备份时数据库处于关闭状态,直接打包数据库文件
  • 备份速度快,恢复时也是最简单的

3.2专用备份工具mydump或mysqlhotcopy

  • myaqldump常用的逻辑备份工具
  • mysqlhotcopy仅拥有备份MyISM和ARCHIVE表

3.3启用二进制日志进行增量备份

  • 进行增量备份,需要刷新二进制日志

3.4第三方工具备份

  • 免费MySQL热备份软件Percona XtraBackup

四、MySQL完全备份

4.1完全备份的概念

  • 是对整个数据库,数据库结构和文件结构的备份
  • 保存的是备份完成时刻的数据库
  • 是差异备份与增量备份的基础

4.2优点

备份与恢复操作简单方便

4.3缺点

  • 数据存在大量的重复
  • 占用大量的备份空间
  • 备份与恢复时间长

4.4数据库完全备份分类

(1)物理冷备份与恢复

  • 关闭MySQL数据库
  • 使用tar命令直接打包数据库文件夹
  • 直接替换现有MySQL目录即可

(2)mysqldump备份与恢复

  • Mysql自带的备份工具,可方便实现对MySQL的备份
  • 可以将指定的库、表导出为SQL脚本
  • 使用命令mysql导入备份的数据

五、MySQL增量备份

5.1使用mysqldump进行完全备份存在的问题

  • 备份数据中有重复数据
  • 备份时间与恢复时间过长

5.2增量备份的概念

是自上一次备份后增加/变化的文件或者内容

5.3增量备份的特点

  • 没有重复数据,备份不大,时间短
  • 恢复需要上次完全备份及完全备份之后所有的增量备份才能恢复,且要对所有增备份进行逐个反推恢复

5.4增量备份的方法

MySQL没有提供直接的增量备份方法
可通过MySQL提供的二进制日志间接实现增量备份

5.5MySQL二进制日志对备份的意义

  • 二进制日志保存了所有更新或者可能更新数据库的操作
  • 二进制日志在启动MySQL服务器后开始记录,并在文件达到max_ binlog_ size所设 置的大小或者接收到flush logs命令后重新创建新的日志文件
  • 只需定时执行flush logs方法重新创建新的日志,生成二进制文件序列,并及时把这些日志保存到安全的地方就完成了一个时间段的增量备份

5.6MySQL数据库增量恢复

(1)一般恢复:将所有备份的二进制日志内容全部恢复

(2)基于位置恢复

  • 数据库在某一时间点可能既有错误的操作也有正确的操作
  • 可以基于精准的位置跳过错误的操作

(3)基于时间点恢复:跳过某个发生错误的时间点实现数据恢复

六、MySQL 完全备份与恢复

InnoDB存储引擎的数据库在磁盘上存储成三个文件:

  • db.opt(表属性文件)
  • 表名.frm(表结构文件)
  • 表名.ibd(表数据文件)

6.1物理冷备份与恢复

systemctl stop mysqld
yum -y install xz
 
cd /usr/local/mysql
#压缩备份
tar Jcvf mysql_all_$(date +%F).tar.xz ./data
#解压恢复
tar Jxvf /opt/mysql_all_2022-11-28.tar.xz

(1)备份data目录

(2)删除数据库learn,测试备份能否恢复

6.2mysqldump 备份与恢复

(1)完全备份一个或多个完整的库(包括其中所有的表)

mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql #导出的就是数据库脚本文件
例:

mysqldump -u root -p --databases bdqn > /opt/mysql_bak/bdqn.sql
mysqldump -u root -p --databases bdqn hs > /opt/mysql_bak/bdqn-hs.sql

(2)完全备份 MySQL 服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例:

mysqldump -u root -p --all-databases > /opt/mysql_bak/all.sql  

(3)完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

  • 使用“-d”选项,说明只保存数据库的表结构
  • 不使用“-d”选项,说明表数据也进行备份

例:

mysqldump -u root -p [-d] bdqn ky23 > /opt/mysql_bak/bdqn_ky23.sql   

(4)查看备份文件

grep -v "^--" /opt/mysql_bak/bdqn_ky23.sql  | grep -v "^/" | grep -v "^$"

(5)开启服务

systemctl start mysqld

(6)恢复数据库

mysql -u root -p -e 'drop database bdqn;'
#“-e”选项,用于指定连接 MySQL 后执行的命令,命令执行完后自动退出
mysql -u root -p -e 'SHOW DATABASES;'
 
mysql -u root -p < /opt/mysql_bak/bdqn.sql
mysql -u root -p -e 'SHOW DATABASES;'

(7)恢复数据表

当备份文件中只包含表的备份,而不包含创建的库的语句时,执行导入操作时必须指定库名,且目标库必须存在。

mysqldump -u root -p bdqn test > /opt/mysql_bak/bdqn_test.sql
 
mysql -u root -p -e 'drop table bdqn.test;'
mysql -u root -p -e 'show tables from bdqn;'
 
mysql -u root -p bdqn < /opt/mysql_bak/bdqn_test.sql
mysql -u root -p -e 'show tables from bdqn;'

七、MySQL 增量备份与恢复

7.1MySQL 增量备份

(1)开启二进制日志功能

vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED   指定二进制日志(binlog)的记录格式为 MIXED
server-id = 1  
systemctl restart mysqld
ls -l /usr/local/mysql/data/mysql-bin.* 

#二进制日志(binlog)有3种不同的记录格式:STATEMENT(基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认格式是STATEMENT
只要重启服务就会生成二进制文件

(2)可每周对数据库或表进行完全备份

mysqldump -u root -p bbc test4 > /opt/learn_test4_$(date +%F).sql;
mysqldump -u root -p --all-databases> /opt/all_$(date +%F).sql;

详情请见上一章节

(3)可每天进行增量备份操作,生成新的二进制日志文件

mysqladmin -u root -p flush-logs;

(4)插入新数据,以模拟数据的增加或变更

(5)再次生成新的二进制日志文件

mysqladmin -u root -p flush-logs;  

(6)查看二进制日志文件的内容

cp /usr/local/mysql/data/mysql-bin.000009 /opt/mysql_bak
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql_bak/mysql-bin.000009 

7.2MySQL 增量恢复

(1)一般恢复

  • 模拟丢失更改的数据的恢复步骤
use bdqn;
delete from ky23 where id=4;
delete from ky23 where id=5;
 
mysqlbinlog --no-defaults /opt/mysql_bak/mysql-bin.000010 | mysql -u root -p

(2)断点恢复

  • 模拟丢失更改的数据的恢复步骤
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000018 #查看二进制日志文件
#仅恢复到操作 ID 为“7”之前的数据,即不恢复“8”的数据
mysqlbinlog --no-defaults --stop-position='487' mysql-bin.000018 | mysql -uroot -p

#都恢复7、8数据恢复
mysqlbinlog --no-defaults --start-position='820' /opt/mysql-bin.000018 | mysql -uroot -p

补充:mysqlbinlog --no-defaults --start-position='886' /opt/mysql-bin.0000018 | mysql -uroot -p

(2)基于时间点恢复

#仅恢复到 15:54:42 之前的数据,即不恢复“3”的数据
mysqlbinlog --no-defaults --stop-datetime='2022-11-29 15:54:42' mysql-bin.000018 |mysql -uroot -p

补充:mysqlbinlog --no-defaults --start-datetime='2022-11-29 15:55:31' mysql-bin.000018 |mysql -uroot -p

有关MySQL日志管理、备份与恢复的更多相关文章

  1. ruby - i18n Assets 管理/翻译 UI - 2

    我正在使用i18n从头开始​​构建一个多语言网络应用程序,虽然我自己可以处理一大堆yml文件,但我说的语言(非常)有限,最终我想寻求外部帮助帮助。我想知道这里是否有人在使用UI插件/gem(与django上的django-rosetta不同)来处理多个翻译器,其中一些翻译器不愿意或无法处理存储库中的100多个文件,处理语言数据。谢谢&问候,安德拉斯(如果您已经在ruby​​onrails-talk上遇到了这个问题,我们深表歉意) 最佳答案 有一个rails3branchofthetolkgem在github上。您可以通过在Gemfi

  2. ruby-on-rails - 获取 inf-ruby 以使用 ruby​​ 版本管理器 (rvm) - 2

    我安装了ruby​​版本管理器,并将RVM安装的ruby​​实现设置为默认值,这样'哪个ruby'显示'~/.rvm/ruby-1.8.6-p383/bin/ruby'但是当我在emacs中打开inf-ruby缓冲区时,它使用安装在/usr/bin中的ruby​​。有没有办法让emacs像shell一样尊重ruby​​的路径?谢谢! 最佳答案 我创建了一个emacs扩展来将rvm集成到emacs中。如果您有兴趣,可以在这里获取:http://github.com/senny/rvm.el

  3. ruby-on-rails - 事件管理员日期过滤器日期格式自定义 - 2

    是否有简单的方法来更改默认ISO格式(yyyy-mm-dd)的ActiveAdmin日期过滤器显示格式? 最佳答案 您可以像这样为日期选择器提供额外的选项,而不是覆盖js:=f.input:my_date,as::datepicker,datepicker_options:{dateFormat:"mm/dd/yy"} 关于ruby-on-rails-事件管理员日期过滤器日期格式自定义,我们在StackOverflow上找到一个类似的问题: https://s

  4. 使用canal同步MySQL数据到ES - 2

    文章目录一、概述简介原理模块二、配置Mysql使用版本环境要求1.操作系统2.mysql要求三、配置canal-server离线下载在线下载上传解压修改配置单机配置集群配置分库分表配置1.修改全局配置2.实例配置垂直分库水平分库3.修改group-instance.xml4.启动监听四、配置canal-adapter1修改启动配置2配置映射文件3启动ES数据同步查询所有订阅同步数据同步开关启动4.验证五、配置canal-admin一、概述简介canal是Alibaba旗下的一款开源项目,Java开发。基于数据库增量日志解析,提供增量数据订阅&消费。Git地址:https://github.co

  5. ruby - (Ruby || Python) 窗口管理器 - 2

    我想用这两种语言中的任何一种(最好是ruby​​)制作一个窗口管理器。老实说,除了我需要加载某种X模块外,我不知道从哪里开始。因此,如果有人有线索,如果您能指出正确的方向,那就太好了。谢谢 最佳答案 XCB,X的下一代API使用XML格式定义X协议(protocol),并使用脚本生成特定语言绑定(bind)。它在概念上与SWIG类似,只是它描述的不是CAPI,而是X协议(protocol)。目前,C和Python存在绑定(bind)。理论上,Ruby端口只是编写一个从XML协议(protocol)定义语言到Ruby的翻译器的问题。生

  6. ruby-on-rails - 事件管理员和自定义方法 - 2

    这是我在ActiveAdmin中的自定义页面ActiveAdmin.register_page"Settings"doaction_itemdolink_to('Importprojects','settings/importprojects')endcontentdopara"Text"endcontrollerdodefimportprojectssystem"rakedataspider:import_projects_ninja"para"OK"endendend我想做的是,当我单击“导入项目”按钮时,我想在Controller中执行rake任务。但是我无法访问该方法。可能是什

  7. ruby-on-rails - 无法安装 mysql2 0.3.14 gem - 2

    我看到其他人也遇到过类似的问题,但没有一个解决方案对我有用。0.3.14gem与其他gem文件一起存在。我已经完全按照此处指示完成了所有操作:https://github.com/brianmario/mysql2.我仍然得到以下信息。我不知道为什么安装程序指示它找不到include目录,因为我已经检查过它存在。thread.h文件存在,但不在ruby​​目录中。相反,它在这里:C:\RailsInstaller\DevKit\lib\perl5\5.8\msys\CORE\我正在运行Windows7并尝试在Aptana3中构建我的Rails项目。我的Ruby是1.9.3。$gemin

  8. ruby - Sinatra 中的全局救援和日志记录异常 - 2

    如何在出现异常时指定全局救援,如果您将Sinatra用于API或应用程序,您将如何处理日志记录? 最佳答案 404可以在not_found方法的帮助下处理,例如:not_founddo'Sitedoesnotexist.'end500s可以通过调用带有block的错误方法来处理,例如:errordo"Applicationerror.Plstrylater."end错误的详细信息可以通过request.env中的sinatra.error访问,如下所示:errordo'Anerroroccured:'+request.env['si

  9. ruby - 如何使用 ruby​​ mysql2 执行事务 - 2

    我已经开始使用mysql2gem。我试图弄清楚一些基本的事情——其中之一是如何明确地执行事务(对于批处理操作,比如多个INSERT/UPDATE查询)。在旧的ruby-mysql中,这是我的方法:client=Mysql.real_connect(...)inserts=["INSERTINTO...","UPDATE..WHEREid=..",#etc]client.autocommit(false)inserts.eachdo|ins|beginclient.query(ins)rescue#handleerrorsorabortentirelyendendclient.commi

  10. ruby-on-rails - 使用 Ruby 标准 Logger 每天只创建一个日志 - 2

    我正在使用ruby​​标准记录器,我想要每天轮换一次,所以在我的代码中我有:Logger.new("#{$ROOT_PATH}/log/errors.log",'daily')它运行完美,但它创建了两个文件errors.log.20130217和errors.log.20130217.1。如何强制它每天只创建一个文件? 最佳答案 您的代码对于长时间运行的应用程序是正确的。发生的事情是您在给定的一天多次运行代码。第一次运行时,Ruby会创建一个日志文件“errors.log”。当日期改变时,Ruby将文件重命名为“errors.log

随机推荐