月度归档:2016年07月

MySQL?PostgreSQL?又开撕了…

168

到底我该选哪个

PostgreSQL宣称是:The world’s most advanced open source database

MySQL则宣称是:The world’s most popular open source database

而我的观点是

选择最合适的,而不是“最好”的!

那么,什么才是最合适的呢,我想有几点:

  1. 哪个数据库的使用量够大,从业者够多。人多力量大,有问题也能更早、更容易发现,更容易解决。最最最重要的,招人更快(小道消息:知数堂的MySQL DBA课程,已为行业培养了众多优秀DBA人才,可以到我们这里直招哟,发送“开班”了解详情)。
  2. 在项目初始时,某关键技术负责人的喜好基本直接决定了用哪个数据。
  3. 大部分开发工程师更熟悉哪种数据库就选哪个。

某些具体技术细节上的优劣,并不能直接决定最终的选择!

 

毛爷爷教导过我们,要实事求是。凡事要根据实际情况而定,不能因为我对MySQL最熟悉,所以要在所有业务场景下都选择MySQL(比如大数据分析场景),那显然也是很愚蠢的做法,会害了整个项目。

某公司高调宣传从某种数据库转变成另一种数据库时,作为从业者,我们更应该冷静看待、分析,到底因为哪些因素才促使他们作出新的选择,我们的业务中是否也有这些痛点。切!忌!盲!目!跟!风!

毕竟,虽然是以某公司的名义发布的文章,其实很可能仅仅只是公司内部的一个项目而已。就像早期国内还没什么人敢用Percona版本时,我就坚定的先用起来了,结果业内曾经有段时间在风传sohu公司是国内最大的Percona用户。实际上,我当时只是在sohu集团旗下的畅游公司里的某个项目先启用了Percona分支版本,呵呵!

知数堂培训在线免费分享《DBA神技之SQL Review》

2016.7.28

知数堂培训推出免费在线分享《DBA神技之SQL Review》

1、分享主题

《DBA神技之SQL Review》

2、嘉宾介绍

吴炳锡,知数堂培训联合创始人,前新媒传信首席DBA、MySQL中国用户组(ACMUG)主席,吴炳锡老师具有多年MySQL及系统架构设计及培训教学经验,擅长MySQL大规模运维管理优化、高可用方案、多IDC架构设计,以及企业应用数据库设计等经验。

3、主题介绍

在DBA工作中,有个重要内容是做SQL Review。

面对成千上万的SQL时,如何判断每个SQL的质量高低,怎么从中快速找到那些“害群之马”,有什么神技吗。

此外,线上Schema和SQL怎么进行优化,也特别考验DBA的综合能力。

让我们一起来看看,DBA进行SQL Review时都有那些神技可用。

Agenda

  1. DBA要做哪些SQL Review工作
  2. Schema Review的注意事项
  3. SQL Review的注意事项
  4. 线上Schema分析、优化技巧
  5. 线上SQL分析、优化技巧

其他

分享时间:2016.7.28(周四) 晚上20:30 – 21:30

分享方式:YY语音直播,在QQ&微信群发送PPT等图文内容

YY频道:53695719(需提前安装YY客户端,支持windows/ios/andriod多平台)

知数堂分享QQ主群:529671799(加群暗号:知数堂)

扫描下面二维码加入QQ群

QQ群1:529671799

zst-qq-2

关于知数堂

“知数堂培训”是由资深MySQL专家叶金荣、吴炳锡联合推出专业优质在线培训课程,当前主要有MySQL DBA实战优化和Python运维开发两个课程,是业内最有良心、最有品质的培训课程。

目前MySQL DBA实战优化班第八期以及Python运维开发班第二期均在火热招生中。学员已有400多人,超过40%的优秀学员进入腾讯、淘宝、京东、乐视、去哪儿、滴滴、猎豹、58、微博、金山云、聚美、苏宁、恩墨、沃趣、爱可生、37玩、宝存、人人贷、美的、新东方、平安金融等众多知名公司,在获得更好的职业发展机遇同时薪资也得到了大幅提升。有兴趣的同学请发送 “开班” 或 “招生” 关键字即可获得详细信息。

MySQL DBA实战优化班课程从第八期起全新升级,除了将MySQL教学版本升级到5.7外,还加入Percona、MariaDB的使用实践经验,以及更多实战案例,课程内容精彩纷呈不容错过。

更多关于知数堂培训招生请点击下面链接:

知数堂MySQL DBA在线培训第八期招生中

FAQ系列 | table id问题导致主从复制失败

0、导读

主从复制环境中,IO、SQL线程都很正常,也没设置过滤规则,但数据就是无法复制到slave上,什么原因?

1、问题描述

事实上,这个案例发生已经有一阵子了,一直拖到现在我才整理。

发现一个主从环境中,slave上的io_thread、sql_thread状态均正常,relay log也正常接收来自master的event,但slave上却无法正常应用这些event,个别表数据没有复制过来。而且slave上的binlog也没有记录这些表上的操作。

2、原因分析

接到现场后,第一反应是是先检查是否设置了ignore/do规则,发现并不是这个原因引起的。

我自己手动测试创建了个新的测试表,写了几条数据,发现在slave上这个表能被创建,但写入的测试数据仍旧无法复制过来。这说明,slave上的复制并不是完全失效的,只是有特殊情形下才会失效。

结合上面的问题,想到了可能是因为binlog format以及事务隔离级别等原因导致失效的,于是做了下面的尝试。

//首先修改事务隔离级别为RR(此前是RC),尽可能保证主从数据一致性

root@imysql [mydb]> set session transaction isolation level repeatable read;

//测试写入2条数据

root@imysql [mydb]> insert into z select 5,5;

root@imysql [mydb]> insert into z select 6,6;

经过观察,这2条数据不可以复制到slave上。

//修改binlog format为statement(此前是row),再写入2条数据

root@imysql [mydb]> set session binlog_format=’statement’;

root@imysql [mydb]> insert into z select 7,7;

root@imysql [mydb]> insert into z select 8,8;

经过观察,这2条数据则可以复制到slave上。

现在至少表面上看起来,是由于binlog format+事务隔离级别综合因素引起的,所以我们来对比下不同binlog format下的binlog有什么区别吧。

tableid1
这些日志中,前两条是row模式下的日志,后两条则是statement模式下的。我们注意到红框中内容是:table_id: 24874588093,正是由于这个原因导致了slave无法正常复制数据。

正常情况下,row模式下的binlog event应该是这样的:

tableid2
在上面的日志中,我们看到的是:table_id: 108,这种情况下就可以正常复制了。

现在问题很明确了,就是由于binlog中table id异常导致无法复制。那么,到底什么原因导致table id出现异常呢。

3、案例建议

搜索了一些资料,发现也有别人遇到同样的问题。我就不多啰嗦了,大家可以看下方参考文章详细了解下。简言之,发生这中问题的原因,主要是因为table cache不够了,导致要频繁打开、关闭table,导致table id急剧增长,因而导致主从数据复制失败。

解决办法有几个:

  1. 加大 table_cache_size,或者 table_open_cache 值,以及 table_definition_cache 选项。一般设置不低于总table数量的1.5倍,更严谨的话,要看 Open_tables 和 Opened_tables 这两个status值。Open_tables 表示当前正被打开的table数量,而 Opened_tables 表示历史上反复打开table的总次数。如果 Opened_tables 值特别高,表明 table cache 很可能不够用所致。
  2. 择机重启主库实例,让table id的值再次从0开始计数。
  3. 临时解决方案:把binlog format改成statement,并且把事务隔离级别改成RR,尽量避免数据不一致的风险。

本文参考:

1. 杨奇龙《【MySQL】再说MySQL中的 table_id 》,http://blog.itpub.net/22664653/viewspace-1158547/

2. yuyue2014《MySQL table_id原理及风险分析》,http://www.cnblogs.com/yuyue2014/p/3721172.html

关于MySQL的方方面面大家想了解什么,可以直接留言回复,我会从中选择一些热门话题进行分享。 同时希望大家多多转发,多一些阅读量是老叶继续努力分享的绝佳助力,谢谢大家 :)

最后打个广告,运维圈人士专属铁观音茶叶微店上线了,访问:http://yejinrong.com 直达