MySQL 5.6
innodb_ruby(关于它的使用可以参考它的github)
在行格式文章中提到了一些页的概念,它是InnoDB管理存储空间的基本单位,一个页的大小一般是16KB。InnoDB为了不同的目的而设计了许多种不同类型的页, 例如:存放表空间头部信息的页,存放Insert Buffer信息的页,存放INODE信息的页,存放undo日志信息的页等。而我们的数据就存放在官方所称的索引页中, 通常使用过程中更多称为数据页
名称 | 占用空间大小 | 描述 |
---|---|---|
File Head(文件头部) | 38字节 | 页的一些基本信息 |
Page Head(页头部) | 56字节 | 数据页的一些基本信息 |
Infimum + Supremum(最小记录和最大记录) | 26字节 | 两条系统插入的行记录 |
User Records(用户真实记录) | 不确定 | 实际存储的行记录数据 |
Free Space(空闲空间) | 不确定 | 数据页中未使用的空间 |
Page Directory(页面目录) | 不确定 | 数据页中某些记录的相对位置 |
File Trailer(文件尾部) | 8字节 | 校验页是否完整 |
我们的数据就存储在User Records这部分空间,User Record在页的建立起初并不存在,User Records这部分空间是从空闲空间Free Space逐渐划分而来,当Free Space部分的空间全部被User Records部分替代掉之后,也就意味着这个页使用完了,如果还有新的记录插入的话,就需要去申请新的页。我们先创建一张表,并插入一些数据去解释各个部分的作用。如下:
USE test;
CREATE TABLE `t_test_page` (
c1 INT NOT NULL DEFAULT '0',
c2 CHAR NOT NULL DEFAULT '',
PRIMARY KEY(c1)
)ENGINE INNODB CHARSET=ASCII ROW_FORMAT=COMPACT;
INSERT INTO t_test_page(c1,c2) VALUES (0,"a"),(1,"b"),(2,"c");
把c1列设置为主键是因为在compact行格式中就没必要为我们去创建那个所谓的 row_id 隐藏列了,用户真实数据在User Records空间中是以单向链表方式存储的, 每条记录可以认为是链表的节点,那么节点信息记录在行数据中的额外信息,我们先看看这3条记录的头信息,为了看起来直观下面的信息做了简单修改,同时只列举了讨论问题所需的字段, 详细行格式包含内容可参考行格式文章:
记录 | next | type | heap_number | n_owned | min_rec | deleted |
---|---|---|---|---|---|---|
Infimum | 125 | 2 | 0 | 1 | false | false |
Supremum | 112 | 3 | 0 | 4 | false | false |
(0,”a”) | 157 | 0 | 2 | 0 | false | false |
(1,”b”) | 189 | 0 | 3 | 0 | false | false |
(2,”c”) | 112 | 0 | 4 | 0 | false | false |
deleted
这个字段标识了当前记录是否被删除,只占用一个二进制位,0:未被删除 1:被删除。这些被删除的记录之所以不立即从磁盘上移除,是因为移除它们之后把其他的记录在磁盘上重新排列需要性能消耗,只是打一个删除标记,所有被删除掉的记录都会组成一个垃圾链表,在这个链表中的记录占用的空间称为可重用空间,之后如果有新记录插入到表中的话,可能把这些被删除的记录占用的存储空间覆盖掉。而设置被删除标记和加入到垃圾链表是两个阶段
min_rec
B+树的每层非叶子节点中的最小记录都会添加该标记,我们插入的3条记录的min_rec值都是0,意味着它们都不是B+树的非叶子节点中的最小记录
n_owned
以此记录为页面目录节点所拥有的记录数量,下面页面目录会详细解释,我们的3条记录对应的no_owned字段值都是0
heap_number
表示当前记录在本页中的位置,我们插入的3条记录在本页中的位置分别是:2、3、4,我们从分析工具打出的数据看到system records项,这就是开头提到的2条系统插入的行记录,而这2条记录的heap_number字段对应的值正是0、1,这2条记录其中一条是最小记录,一条是最大记录,这2条记录都是由5字节大小的头信息和8字节的固定部分组成的。我们的记录有大小之分,对于一条完整的记录来说,比较记录的大小就是比较主键的大小,这2条记录存放在称为Infimum + Supremum的部分
type
这个字段表示当前记录的类型,一共有4种类型的记录,0:表示普通记录,1:表示B+树非叶节点记录,2:表示最小记录,3:表示最大记录。从上表我们可以看出来,我们自己插入的记录就是普通记录,而最小记录和最大记录的type值分别为2和3
next
这个字段表示从当前记录的真实数据到下一条记录的真实数据的地址偏移量(所在页的起始偏移)。如果写过单向链表都知道,链表的每个节点里都有一个指向下一个节点的指针,而这里记录了下一条记录的真实数据偏移量,所以这个链表类型这样:
最小记录Infimum------>(0,"a")------>(1,"b")------>(2,"c")------>最大记录Supermum
下一条记录指得并不是按照我们插入顺序的下一条记录,而是按照主键值由小到大的顺序的下一条记录。而且规定最小记录Infimum 的下一条记录就是本页中主键值最小的用户记录,而本页中主键值最大的用户记录的下一条记录就是最大记录Supremum ,虽然每条记录的指向以链表形式,但是记录的存储形式是这样的:
最小记录Infimum | 最大记录Supermum | (0,”a”) | (1,”b”) | (2,”c”) |
每条记录还有一个字段offset,它表示的是记录在页中的地址偏移量:
记录 | offset |
---|---|
Infimum | 99 |
Supremum | 112 |
(0,”a”) | 125 |
(1,”b”) | 157 |
(2,”c”) | 189 |
有了上面几张表和解释,思考一下这5条数据的next字段为什么是125、112、157、189、99
从上面的解释我们的数据记录是以类似链表的形式存储的,但是我们用过链表都知道,遍历是很头疼的事情,最笨的办法就是从链表头开始向后找,如果链表很长会有性能损耗
MySQL的解决办法是:
通过分析工具输出的数据可以看到Page Directory对应的值是[99,112] ,而存储这部分数据的数据类型是个数组。同时从上一节的表格中看到Infimum最小记录和Supermum最大记录的n_owned字段分别是1、4,最后分析下来地址偏移量99(也就是Infimum最小记录)这组拥有1条记录即它本身,地址偏移量112(也就是Supermum最大记录)这组拥有4条记录(Supermum最大记录+我们插入的3条记录)。这里的地址偏移量指的是从数据页起始到真实数据的偏移量。下图表达的更清晰:
每组的记录数是怎么分配的呢?InnoDB的规定是:
分组的过程是这样的:
有了页目录那么查找起来的速度就很快了,每个Slot槽所包含的记录数是固定的。使用了二分查找法查找记录在哪个Slot槽中,然后在再遍历这个Slot槽里的记录
这部分通常存储着数据页本身相关的信息,这部分占用56个字节,下表是这部分数据的字段说明:
名称 | 占用空间大小 | 描述 |
---|---|---|
n_dir_slots | 2字节 | 在页目录中的槽数量 |
heap_top | 2字节 | 还未使用的空间最小地址,也就是说从该地址之后就是Free Space |
n_heap | 2字节 | 本页中的记录的数量(包括最小和最大记录以及标记为删除的记录) |
garbage_offset | 2字节 | 第一个已经标记为删除的记录地址偏移量(各个已删除的记录通过next_record也会组成一个单链表,这个单链表中的记录可以被重新利用) |
garbage_size | 2字节 | 已删除记录占用的字节数 |
last_insert_offset | 2字节 | 最后插入记录的地址偏移量 |
direction | 2字节 | 记录插入的方向 |
n_direction | 2字节 | 一个方向连续插入的记录数量 |
n_recs | 2字节 | 该页中记录的数量(不包括最小和最大记录以及被标记为删除的记录) |
max_trx_id | 8字节 | 修改当前页的最大事务ID,该值仅在二级索引中定义 |
level | 2字节 | 当前页在B+树中所处的层级 |
index_id | 8字节 | 索引ID,表示当前页属于哪个索引 |
brt_seg_leaf | 10字节 | B+树叶子段的头部信息,仅在B+树的Root页定义 |
brt_seg_Top | 10字节 | B+树非叶子段的头部信息,仅在B+树的Root页定义 |
字段direction表示的是:新插入的一条记录的主键值比上一条记录的主键值大,我们说这条记录的插入方向是右边,反之则是左边
字段n_direction表示的是:连续几次插入新记录的方向都是一致的,InnoDB会把沿着同一个方向插入记录的条数记下来,如果最后一条记录的插入改变了方向,这个状态的值会被清零重新统计
这部分数据针对各种类型的页都通用,也就是说不同类型的页都会以File Header作为第一个组成部分,它描述了一些针对各种页都通用的一些信息,这个部分占用固定的38个字节,这部分数据包含下表中的字段:
名称 | 占用空间大小 | 描述 |
---|---|---|
checksum | 4 | 页的校验和(checksum值) |
offset | 4 | 页码 |
prev | 4 | 上一个页的页码 |
next | 4 | 下一个页的页码 |
lsn | 8 | 页面被最后修改时对应的日志序列位置(英文名是:Log Sequence Number) |
type | 2 | 页的类型 |
flush_lsn | 8 | 仅在系统表空间的一个页中定义,代表文件至少被刷新到了对应的LSN值 |
space_id | 4 | 页属于哪个表空间 |
字段type表示页的类型,文章开头提到了一些页,下表列出了所有页的类型:
类型名称 | 十六进制 | 描述 |
---|---|---|
allocated | 0x0000 | 最新分配还没使用 |
undo_log | 0x0002 | Undo日志页 |
inode | 0x0003 | 段信息节点 |
ibuf_free_list | 0x0004 | Insert Buffer空闲列表 |
ibuf_bitmap | 0x0005 | Insert Buffer位图 |
sys | 0x0006 | 系统页 |
trx_sys | 0x0007 | 事务系统数据 |
fsp_hdr | 0x0008 | 表空间头部信息 |
xdes | 0x0009 | 扩展描述页 |
blob | 0x000A | BLOB页 |
index | 0x45BF | 索引页(我们所说的数据页) |
文章开头提到一个页的大小大概16k,那么当数据很多时一个页放不下,就有多个页存储,而页与页之间的连接方式类似于双向链表,字段prev和字段next就是页与页之间的桥梁。并不是所有类型的页都有上一个和下一个页的属性,类型为index的页是有这两个属性的
这部分数据占用8字节,为了把内存数据同步到磁盘而设计
前4个字节代表页的校验和(checksum)
这个部分是和File Header中的校验和相对应的。每当一个页面在内存中修改了,在同步之前就要把它的校验和算出来,因为File Header在页面的前边,所以校验和会被首先同步到磁盘,当完全写完时,校验和也会被写到页的尾部,如果完全同步成功,则页的首部和尾部的校验和应该是一致的。如果写了一半断电、宕机等不可抗因素,那么在File Header中的校验和就代表着已经修改过的页,而在File Trialer中的校验和代表着原先的页,二者不同则意味着同步中间出错
后4个字节代表页面被最后修改时对应的日志序列位置(lsn_low32)
这个字段也和File Header中的lsn相呼应,确保同步的完整性