MySQL

69-MySQL-事务日志

2022-12-12  本文已影响0人  紫荆秋雪_文

一、事务4大特性

1.1、原子性

事务的原子性由事务的 redo 日志undo 日志来保证

1.2、一致性

事务的一致性由事务的 redo 日志undo 日志来保证

1.3、隔离性

事务的隔离性由 锁机制 实现

1.4、持久性

事务的持久性由事务的 redo 日志undo 日志来保证

1.5、REDO LOG

1.6、UNDO LOG

二、REDO 日志

InnoDB存储引擎以页为单位来管理存储空间。在真正访问页面之前,需要把在磁盘上的页缓存到内存中的Buffer Pool之后才可以访问。所有的变更都必须先更新缓冲池中的数据,然后缓冲池中的脏页会以一定的频率被刷入磁盘(checkPoint机制),通过缓冲池来优化 CPU磁盘 之间的鸿沟,这样就可以保证整体的性能不会下降太快

2.1 为什么需要REDO日志

2.1.1、checkpoint并不是每次变更的时候就触发

缓冲池可以帮助我们消除CPU磁盘之间的鸿沟,checkpoint机制可以保证数据的最终落盘,然而由于checkpoint 并不是每次变更的时候就触发 的,而是master线程隔一段时间去处理的。所以最坏的情况就是事务提交后,刚写完缓冲池,数据库宕机了,那么这段数据就是丢失的,无法恢复

2.1.2、持久性

事务包含 持久性 的特性,就是说对于一个已经提交的事务,在事务提交后即使系统发生了崩溃,这个事务对数据库中所做的更改也不能丢失

2.1.2.1、实现持久性方案

在事务提交完成之前把该事务所修改的所有页面都刷新到磁盘,这样的做法存在的问题

2.1.2.2、REDO日志

我们只是想让已经提交了的事务对数据库中数据所做的修改永久生效,即使后来系统崩溃,在重启后也能把这种修改恢复出来。所以我们其实没有必要在每次事务提交时就把该事务在内存中修改过的全部页面刷新到磁盘,只需要把 修改 了哪些东西 记录一下 就好。比如,某个事务将系统表空间中 第10号 页面中偏移量为 100 处的那个字节的值 1 改成 2。我们只需要记录一下:将第0号表空间的10号页面的偏移量为100处的值更新为 2 。

REDO日志.png

2.2、REDO日志的优点

存储表空间ID页号偏移量以及需要更新的值,所需的存储空间小,刷盘块

2.3、REDO日志的特点

2.3.1、REDO日志是顺序写入磁盘

在执行事务的过程中,每执行一条语句,就可能产生若干条REDO日志,这些日志是按照产生的顺序写入磁盘的,也就是使用顺序IO,效率比随机IO

2.3.2、事务执行过程中,REDO LOG 在不断记录

REDO LOG 与 Bin Log 的区别,REDO LOG是存储引擎层产生的,而Bin Log数据库层产生的。假设一个事务,对表做10万行的记录插入,在这个过程中,一直不断地往REDO LOG顺序记录,而Binlog不会记录,直到这个事务提交,才会一次写入到Binlog文件中

2.4、REDO的组成

2.4.1、第一部分:重做日志的缓冲

重做日志的缓冲(Redo Log Buffer),保存在内存中,是容易丢失的。在服务器启动时就向操作系统申请了一大片称之为Redo Log Buffer连续内存空间,也就是Redo日志缓冲区。这片内存空间被划分成若干个连续的Redo Log block。一个Redo Log block占用512字节大小

Redo Log Buffer.png
2.4.1.1、查看 Redo Log Buffer 大小

redo log buffer 大小,默认 16M ,最大值是4096M,最小值为1M

SHOW VARIABLES LIKE '%innodb_log_buffer_size%';
Redo Log Buffer大小.png
#  16.00000000
SELECT 16777216 / 1024 / 1024; 

2.4.2、第二部分:重做日志文件

重做日志文件(Redo Log File),保存在硬盘中,是持久的。其中的ib_logfile0ib_logfile1即为Redo日志

2.5、REDO工作流程

2.5.1、以更新事务为例,redo log 流转过程,如下图所示: redo log 流转过程.png

第1步:先将更新数据磁盘中读取到内存中,更新内存中数据
第2步:生成一条重做日志并写入redo log buffer,记录的是数据被修改后的值
第3步:当事务Commit时,将redo log buffer中的内容刷新redo log file磁盘文件,对redo log file采用追加写的方式
第4步:定期将内存中修改的数据刷新磁盘
Write-Ahead-Log(预先日志持久化):在持久化一个数据页之前,先将内存中相应的日志页持久化

2.6、Redo-Log的刷盘策略

Redo-Log 的写入并不是直接写入磁盘的,InnoDB引擎会在写redo log的时候先写入redo log buffer(内存级别缓存),之后以一定的频率刷入到真正的redo log file(磁盘级别)

在现代操作系统中为了提高文件写入效率做了一个优化,在redo log buffer刷盘到redo log file的过程并不是真正的刷到磁盘中,只是刷入到文件系统缓存(page cache)中。真正的写入会交给系统自己来决定(如page Cache足够大了)。那么对于InnoDB来说就存在一个问题,如果交给系统来同步,同样如果系统宕机,那么数据也丢失了(虽然系统宕机几率较小)。针对这种情况,InnoDB给出 innodb_flush_log_at_trx_commit 参数,该参数控制 Commit提交事务时,如何将 redo log buffer 中的日志刷新到 redo log file 中。

2.6.1、Redo-Log的刷盘策略一

设置innodb_flush_log_at_trx_commit = 0,表示每次事务提交时不进行刷盘操作。(系统默认master thread 每隔 1s进行一次重做日志的同步)

2.6.2、Redo-Log的刷盘策略二

设置innodb_flush_log_at_trx_commit = 1,表示每次事务提交时都将进行同步刷盘操作(默认方式)

2.6.3、Redo-Log的刷盘策略三

设置innodb_flush_log_at_trx_commit = 2,表示每次事务提交时都只把redo log buffer 内容写入page cache,不进行同步。由操作系统自己决定什么时候同步到磁盘

2.7、写入 Redo Log Buffer 过程

2.7.1、Mini-Transaction

MySQL把对底层页面中的一次原子访问的过程称之为一个Mini-Transaction,简称mtr,如:向某个索引对应的B+树中插入一条记录的过程就是一个Mini-Transaction。一个所谓的mtr可以包含一组redo日志,在进行崩溃恢复时这一组redo日志作为一个不可分割的整体。一个事务可以包含若干条语句,每一条语句其实是由若干个mtr组成,每一个mtr又可以包含如干条 redo日志。如下图

image.png

2.7.2、Redo日志写入 Log Buffer

Log Buffer中写入 Redo日志的过程是顺序的,也就是先往前边的Block中写,当该Block的空闲空间用完之后再往下一个Block中写,当我们想往Log Buffer中写入Redo日志时,第一个遇到的问题就是应该写在哪个Block的哪个偏移量处,所以InnoDB的设计者特意提供了一个称之为Buf_free的全局变量,该变量指明后续写入的Redo日志应该写入到log buffer中的哪个位置

Log-Buffer.png

一个mtr执行过程中可能产生若干条Redo日志,这些redo日志是一个不可分割的组,所以其实并不是每生成一条 redo 日志,就将其插入到log buffer中,而是每个 mtr 运行过程中产生的日志先暂时存到一个地方,当该 mtr 结束的时候,将过程中产生的一组 redo 日志再全部复制到 log buffer中,我们现在假设有两个名为T1、T2的事务,每个事务都包含2个 mtr,我们给这几个mtr命名:

2.7.3、Redo Log Block 结构图

一个Redo Log Block是由日志头、日志体、日志尾组成。日志头占用12字节,日志尾占用8字节,所以一个Block真正能存储的数据就是492字节。

这个和磁盘的扇区有关,机械磁盘默认的扇区就是 512 字节,如果你要写入的数据大于 512 字节,那么要写入的扇区肯定不止一个,这时就要涉及到盘片的转动,找到下一个扇区,假设现在需要写入2个扇区A和B,如果A扇区写入成功,而扇区B写入失败,那么就会出现非原子性写入,而如果每次只写入和扇区的大小一样的512字节,那么每次的写入都是原子性写入

2.7.3.1、log block header 的属性

2.7.3.2、log block trailer 的属性

2.8、Redo Log File

2.8.1、相关参数设置

show variables like 'innodb_log_file_size';
vim /etc/my.cnf
innodb_log_file_size=200M

2.8.2、日志文件组

磁盘上的redo日志文件不只一个,而是以一个日志文件组的形式出现的。这些文件以ib_logfile[数字]的形式进行命名,每个的redo日志文件大小都是一样的。在将redo日志写入日志文件组时,是从ib_logfile0开始写,如果ib_logfile0写满了,接着ib_logfile1写。同理ib_logfile1写满了就去写ib_logfile2,依次类推。如果写到最后一个文件,那就重新转到ib_logfile0继续写

2.8.3、checkpoint

采用循环使用的方式向 redo 日志文件组里写数据的话,会导致后写入的 redo 日子覆盖掉前边写的redo日志。所以InnoDB的设计者提出了 checkpoint 的概念

在整个日志文件组中还有两个重要的属性,分别是write pos、checkpoint

2.9、小结

InnoDB 的更新操作采用的是 Write Ahead Log(预先日志持久化)策略,即先写日志,再写入磁盘

三、Undo 日志

redo log事务持久性的保证,undo log事务原子性的保证。在事务中 更新数据前置操作 其实是要先写入一个 undo log

3.1、Undo 日志保证事务原子性

事务需要保证原子性,也就是事务中的操作要么全部完成,要么什么也不做。但有时候事务执行到一半会出现一些情况,如:
情况一:事务执行过程中可能遇到各种错误,比如服务器错误、操作系统错误,甚至是突然断电导致的错误。
情况二:程序员可以在事务执行过程中手动输入ROLLBACK语句结束当前事务的执行。
以上情况出现,我们需要把数据改回原先的样子,这个过程称之位回滚,这样就可以造成一个假象:这个事务看起来什么都没做,所以符合 原子性 要求

3.2、Undo 日志的作用

Undo用于将数据库物理层恢复到执行语句或事务之前的样子(新增而造成的新增页是无法恢复的)。但事实并非如此。Undo是逻辑日志,因此只是将数据库逻辑恢复到原来的样子。所有修改都被逻辑取消了,但是数据结构本身在回滚之后可能大不相同。这是因为在多用户并发系统中,可能会有数十、数百甚至数千个并发事务。数据库的主要任务就是协调对数据记录的并发访问。如:一个事务在修改当前一个页中某几条记录,同时还有别的事务在同一个页中另几条记录进行修改。因此,不能将一个页回滚到事务开始的样子,因为这样会影响其他事务正在进行的工作

Undo的另一个作用是MVCC,即在InnoDB存储引擎中MVCC的实现是通过Undo来完成。当用户读取一行记录时,若该记录已经被其他事务占用,当前事务可以通过Undo读取之前的行版本信息,以此实现非锁定读取

3.3、undo的存储结构

3.3.1、回滚段与undo页

InnoDB对undo log的管理采用的方式,也就是 回滚段(rollback segment)。每个回滚段记录了1024undo log segment ,而在每个undo log segment段中进行 undo页 的申请。

当开启一个事务需要写 undo log 的时候,就得先去undo log segment中去找到一个空闲的位置,当有空位的时候,就去申请undo页,在这个申请到的undo页中进行undo log的写入。我们知道MySQL默认一页的大小16KB
为每一个事务分配一个页,是非常浪费的(除非事务非常长),假设你的应用的TPS(每秒处理的事务数目)为1000,那么1s就需要 1000 个页,大概需要16M的存储,1分钟大概需要1G的存储。如果照这样下去除非MySQL清理的非常勤快,否则随着时间的推移,磁盘空间会增长的非常快,而且很多空间都是浪费的。
于是undo页就被设计的可以重用了,当事务提交时,并不会立刻删除undo页。因为重用,所以这个undo页可能混杂着其他事务的undo log。undo log在commit后,会被放到一个链表中,然后判断 undo 页的使用空间是否小于 3/4,如果小于3/4的话,则表示当前的undo页可以被重用,那么它就不会被回收,其他事务的undo log可以记录在当前undo页的后面。由于 undo log 是离散的,所以清理对应的磁盘空间时,效率不高

3.3.2、回滚段与事务
3.3.3、回滚段中的数据分类

3.4、 undo的类型

insert undo log是指在 INSERT 操作中产生的undo log。因为INSERT操作的记录,只对事务本身可见,对其他事务不可见(这是事务隔离性的要求),故该 undo log 可以在事务提交后直接删除。不需要进行 purge操作

update undo log记录的是对 DELETE 和 UPDATE 操作产生的 undo log。该 undo log 可能需要提供 MVCC 机制,因此不能在事务提交时就进行删除。提交时放入 undo log 链表,等待 purge 线程进行最后的删除

3.5、undo log 的生命周期

3.5.1、简要生成过程

假设有 2 个数值,分别为A=1 和 B=2,然后将A修改为3,B修改为4

1、BEGIN;
2、记录 A=1 到 undo log;
3、update A=3;
4、记录 A=3 到 redo log;
5、记录 B=2 到 undo log;
6、update B=4;
7、记录 B=4 到 redo log;
8、将 redo log 刷新到磁盘;
9、commit;
3.5.2、没有 Redo-Log 和 Undo-Log刷盘原理 没有 Redo-Log 和 Undo-Log刷盘原理.png
3.5.3、有了 Redo-Log 和 Undo-Log刷盘原理 Redo-Log 和 Undo-Log刷盘原理.png
3.5.4、生成过程

对于InnoDB引擎来说,每个行记录除了记录本身的数据之外,还有几个隐藏的列

3.5.4.1、执行 INSERT 时
BEGIN; 
INSERT INTO user (name) VALUES ("tom");
image.png
3.5.4.2、执行 UPDATE 时

对于更新的操作会产生 update undo log,并且会分更新主键不更新主键

UPDATE user SET name='SUN' WHERE id=1;
更新非主键.png
3.5.4.3、更新主键

更新主键逻辑,删除旧数据,新增一条记录

UPDATE user SET id=2 WHERE id=1;
更新主键.png

对于更新主键的操作,会先把原来的数据deletemark标识打开,这时并没有真正的删除数据,真正的删除会交给清理线程去判断,然后在后面插入一条新的数据,新的数据也会产生 undo log,并且 undo log 的序号会递增。可以发现每次对数据的变更都会产生一个 undo log,当一条记录被变更多次时,那么就会产生多条 undo log,undo log记录的是变更前的日志,并且每个 undo log的序号是递增的,那么当要回滚的时候,按照序号依次向前推,就可以找到我们的原始数据

3.5.5、undo log 回滚过程

以上面例子为例,执行 ROLLBACK

3.5.6、undo log 删除

因为insert操作的记录,只对事务本身可见,对其他事务不可见。故该undo log可以在事务提交后直接删除,不需要进行purge操作

该undo log可能需要提供MVCC机制,因此不能在事务提交时就进行删除。提交时放入undo log链表,等待purge线程进行最后的删除

四、小结

undo log是逻辑日志,对事务回滚时,只是将数据库逻辑地恢复到原来的样子
redo log是物理日志,记录的是数据页的物理变化,undo log不是redo log的逆过程

image.png
上一篇下一篇

猜你喜欢

热点阅读