导读
线上有个MySQL实例,存在严重的复制延迟问题,原因出乎意料。
线上有个MySQL 5.7版本的实例,从服务器延迟了3万多秒,而且延迟看起来好像还在加剧。
MySQL版本
Server version: 5.7.18-log MySQL Community Server (GPL)
看下延迟状况
yejr@imysql.com:mysql3306.sock : (none) > show slave status\G
Master_Log_File: mysql-bin.013225
Read_Master_Log_Pos: 1059111551
Relay_Master_Log_File: mysql-bin.013161
Exec_Master_Log_Pos: 773131396
Master_UUID: e7c35a95-ffb1-11e6-9620-90e2babb5b90
我们看到,binlog文件落后了64个,相当的夸张。
MySQL 5.7不是已经实现并行复制了吗,怎么还会延迟这么厉害?
先检查系统负载。
先看I/O子系统负载,没看到这方面存在瓶颈。
再看mysqld进程的CPU消耗。
可以看到mysqld进程的CPU消耗长时间超过100%。
再检查MySQL复制现场,确认了几个频繁更新的表都有主键,以及必要的索引,相应的DML操作,也几乎都是基于主键或唯一索引条件执行的,排除无主键、无合理索引方面的因素。
最后只能祭出perf top神器了。
perf top -p `pidof mysqld`
看到perf top最后的报告是这样的
Samples: 107K of event 'cycles', Event count (approx.): 29813195000
Overhead Shared Object Symbol
56.19% mysqld [.] bitmap_get_next_set
16.18% mysqld [.] build_template_field
4.61% mysqld [.] ha_innopart::try_semi_consistent_read
4.44% mysqld [.] dict_index_copy_types
4.16% libc-2.12.so [.] __memset_sse2
2.92% mysqld [.] ha_innobase::build_template
我们看到, bitmap_get_next_set 这个函数调用占到了 56.19%,非常高,其次是 build_template_field 函数,占了 16.18%。
经过检查MySQL源码并请教MySQL内核开发专家,最后确认这两个函数跟启用表分区有关系。查询下当前实例有多少个表分区:
yejr@imysql.com:mysql3306.sock : (none) > select count(*) from partitions where partition_name is not null;
+----------+
| count(*) |
+----------+
| 32128 |
+----------+
1 row in set (11.92 sec)
我勒个去,竟然有3万多个表分区,难怪上面那两个函数调用那么高。
这个业务数据库几个大表采用每天一个分区方案,而且把直到当年年底所有分区也都给提前创建好了,所以才会有这么多。
不过,虽然有这么多表分区,在master服务器上却不存在这个瓶颈,看起来是在主从复制以及大量表分区的综合因素下才有这个瓶颈,最终导致主从复制延迟越来越严重。
知道问题所在,解决起来就简单了。把直到下个月底前,其余还用不到的表分区全部删除,之后约只剩下1.6万个分区。重启slave线程,问题解决,主从复制延迟很快就消失了。
最后,这个问题对应的bug(#85352)在此,已在5.6.38、5.7.20、8.0.3等版本修复了。