MySQL日志系统

2022-05-22

字数统计: 2.2k字 | 阅读时长: 7分

如果接触MySQL，那么有两个词是绕不开的，那就是redo log（重做日志）和binlog（归档日志），redo log和binlog在设计上其实也有很多有意思的地方，这些设计思路也可以用到自己的程序中。下面我们一起看看MySQL是如何设计这两个日志的。

重要的日志模块：redo log

有个常见的面试题，innoDB的ACID是由什么保证？不知道也没关系，让我们一起复习一下：

A（Atomicity）原子性：undolog日志保证，记录了需要回滚的日志信息；

C（Consistency）一致性：由其他三大特性保障；

I（Isolation）隔离性：由MVCC保证；

D（Durability）持久性：由redo log保证。

从答案我们可以知道redo log的作用，也就是保证数据的持久性，即使数据库发生异常重启，之前已经提交的记录都不会丢失，这个能力我们称之为crash-safe。

当然redo log作用不仅仅只有保证持久性，我们知道了MySQL查询语句的执行过程**==《MySQL基础架构，查询语句执行流程》==**，接下来我们从一个表的一条更新语句说起，下面是这个表的创建语句，这个表有一个主键id和一个整型字段c：

1	CREATE TABLE T(id int primary key, c int);

如果我们要将id=3的这行数据的c字段加1，SQL语句就会这么写：

1	UPDATE T set c=c+1 WHERE id =3;

前面文章介绍过了SQL语句的基本执行过程，这里我再把那张架构图拿过来，简单回顾下，可以确定的说，查询语句的那一套流程，更新语句也是同样会走一遍。

架构图

执行语句前先连接数据库，这是连接器的工作。

执行查询语句的时候我们说会先查询缓存，那么更新的时候呢，则是先清空表T上的所有缓存结果，这也是为什么MySQL 8.0版本删除了查询缓存功能的原因。

接下来，分析器通过词法分析跟语法分析知道这是一条更新语句，优化器决定要使用id这个索引，然后执行器负责具体执行。找到这行，然后更新。

与查询流程不同的是，更新流程会涉及到两个日志模块，就是饿哦们今天要讨论的主角：redo log，binlog。

我这里先给出这个update语句的执行流程图，图中浅色框代表是在innoDB内部执行，深色框代表是在执行器里执行的。

MySQL更新语句执行流程图

如果没有redo log，那么执行DML语句都要同步刷盘，而这种刷盘，大概率都是随机写，效率很低，如果将这个数据页”做了什么改动“记录到redo log，那么效率就会高很多，为什么呢，因为redo log虽然也是一个写磁盘的过程，但是将之前的随机写转换成了顺序写，所以效率高。参数innodb_flush_log_at_trx_commit参数可以控制redo log写磁盘的方式，默认为1。

当有一条记录需要更新的时候，innoDB引擎就会先把记录写到redo log里面，并更新内存，这个时候更新就算完成了。同时，innoDB引擎会在适当的时候，将这个操作记录更新到磁盘里面，而这个更新往往是在系统比较空闲的时候去做的。

innoDB的redo log是有固定大小的，比如可以配置为一组四个文件，每个文件的大小是1GB，那么redo log总共就可以记录4GB的操作，从头开始写，写到末尾就又回到开头循环写，如下图所示：

redolog

write pos 是当前记录的位置，一边写一边后移，写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint 是当前要擦除的位置，也是往后推移并且循环的，擦除记录前要把记录更新到数据文件。

write pos 和 checkpoint 之间的是redo log上还空着的部分，可以用来记录新的操作。如果 write pos 追上 checkpoint，表示redo log满了，这时候不能再执行新的更新，得停下来先擦掉一些记录，把 checkpoint 推进一下。

所以redo log的作用可以总结为：在保证数据不丢的时候，同时保证了性能。

重要日志模块：binlog

之前我们说过，MySQL整体来看，分为两层：一个是Server层，主要做的是MySQL功能层面的事情；还有一个是存储引擎层，负责数据存储相关事宜。上面我们讲的redo log，是innoDB引擎特有的日志，而Server层，也有自己的日志，就是binlog（归档日志）。

可能你会很疑惑，为什么会有两份日志呢？

因为最开始的MySQL是没有innoDB引擎的，MySQL自带的引擎是MyISAM，但是MyISAM没有crash-safe的能力，binlog只能用于归档。而innoDB是另一家公司以插件的形式引入MySQL的，既然只依靠binlog是没有crash-safe能力的，所以innoDB使用另外一套日志系统，也就是redo log来实现crash-safe能力。

这两种日志有以下三点不同：

redo log是innoDB特有的；binlog是MySQL的Server层实现的，所有引擎都可以使用。
redo log是物理日志，记录的是”摸个数据页上做了什么修改“；binlog是逻辑日志，记录的是这个语句的原始逻辑，比如”给id=3这行的c字段加1“。
redo log是循环写的，空间固定会用用完；binlog是可以追加写入的，当文件写到一定大小后，会切换到下一个，不会覆盖以前的日志。

有了对这两个日志的概念性理解，我们再来看执行器和 InnoDB 引擎在执行这个简单的 update 语句时的内部流程：

执行器先找引擎去id=3这一行。id是主键，引擎直接用书搜索到这一行。如果id=3这一行所在的数据页本来就在内存中，就直接返回，否则就需要从磁盘先加载到内存，然后再返回。
执行器拿到引擎给的行数据，把这个值加上 1，比如原来是 N，现在就是 N+1，得到新的一行数据，再调用引擎接口写入这行新数据。
执行器生成这个操作的 binlog，并把 binlog 写入磁盘。
执行器调用引擎的提交事务接口，引擎把刚刚写入的 redo log 改成提交（commit）状态，更新完成。

最后散步看上去有点绕，将redo log的写入拆分成了两个步骤，prepare和commit，这就是两阶段提交。

两阶段提交

为什么需要两阶段提交呢，我们还是用前面的update语句来举例。假设当前id=3的行，字段值是0，再假设执行update语句过程中，在写完第一个日志后，第二个日志还没写完的期间发生了crash，会出现什么情况呢？

先写 redo log 后写 binlog。假设在 redo log 写完，binlog 还没有写完的时候，MySQL 进程异常重启。由于我们前面说过的，redo log 写完之后，系统即使崩溃，仍然能够把数据恢复回来，所以恢复后这一行 c 的值是 1。但是由于 binlog 没写完就 crash 了，这时候 binlog 里面就没有记录这个语句。因此，之后备份日志的时候，存起来的 binlog 里面就没有这条语句。然后你会发现，如果需要用这个 binlog 来恢复临时库的话，由于这个语句的 binlog 丢失，这个临时库就会少了这一次更新，恢复出来的这一行 c 的值就是 0，与原库的值不同。
先写 binlog 后写 redo log。如果在 binlog 写完之后 crash，由于 redo log 还没写，崩溃恢复以后这个事务无效，所以这一行 c 的值是 0。但是 binlog 里面已经记录了“把 c 从 0 改成 1”这个日志。所以，在之后用 binlog 来恢复的时候就多了一个事务出来，恢复出来的这一行 c 的值就是 1，与原库的值不同。

可以看到，如果不使用“两阶段提交”，那么数据库的状态就有可能和用它的日志恢复出来的库的状态不一致。

简单说，redo log 和 binlog 都可以用于表示事务的提交状态，而两阶段提交就是让这两个状态保持逻辑上的一致。