MySQL大事务导致的Insert慢的案例分析
【问题】
有台MySQL服务器不定时的会出现并发线程的告警,从记录信息来看,有大量insert的慢查询,执行几十秒,等待flushing log,状态query end
【初步分析】
从等待资源来看,大部分时间消耗在了innodb_log_file阶段,怀疑可能是磁盘问题导致,经过排查没有发现服务器本身存在硬件问题
后面开启线程上升时pstack的自动采集,定位MySQL线程等待的位置。
【分析过程】
部署了pstack的自动抓取后,出现过6次thread concurrency >=50的告警(每次告警时会有大量的慢查询产生),有3次抓到了现场。
并发线程升高时,有50多个线程卡在Stage_manager::enroll_for函数,处于group commit阶段
线程0x519c5940对应的SQL语句如下,已经执行18秒
Stage_manager::enroll_for函数的作用实现了多个线程在flush_stage阶段的排队。简单来说,对于一个分组的事务,是被leader线程去提交的,其他线程处于排队等待状态,等待leader线程将该线程的事务提交完成。
如果第一个线程执行慢,后面的线程都处于等待状态,整组事务无法提交。
流程也可以理解如下,
Session A COMMIT-->拿到锁-->进行binlog写-->commit完成
Session B COMMIT-->等待锁--------------------------->拿到锁-->进行binlog写-->commit完成
第一个线程为什么执行很慢,分析了发生告警时间段的日志文件,发现日志中存在2个15M和20M的大事务
查看日志明细,存在delete from的大事务删除语句,约包含23W条记录,ROW模式下删除23W条记录,会产生大约20M的日志文件,刷盘时间较长,阻塞了同一个分组下其他事务的提交。
事务的开始时间与告警时间吻合
积压的分组下事务集中刷盘,反应到磁盘指标上可以看到在问题时间段的disk_write_kbytes指标出现明显的上升
【优化方案】
1、 建议开发避免使用delete from 整表的大事务删除语句
【其他变通方案】
2、 Binlog 记录的ROW模式下会产生大量的日志,改为MIXED模式,理论上也可以解决问题
3、 更换性能好的磁盘
最新文章
- HTML5 <;details>; 标签
- 构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(14)-EasyUI缺陷修复与扩展
- Example of ConcurrentHashMap in Java--转
- Intellij IDEA如何使用Maven Tomcat Plugin运行web项目(转)
- UESTC 919 SOUND OF DESTINY --二分图最大匹配+匈牙利算法
- ThinkPHP讲解(二)控制器
- jquery formValidate demo 采用struts 异步方式检验用户名是否存在
- Sql触发器脚本
- c# 播放器 支持所有格式
- PhpStorm (强大的PHP开发环境)2017.2.4 附注册方法
- Hbase配置java客户端
- java虚拟机的内存分配
- (PMP)解题技巧和典型题目分析(0903-2班)
- Linux 文件特殊权限 SUID SGID SBIT
- Eclipse 00: 安装教程 + 汉化 + 简单创建java项目
- 我的github地址 https://github.com/1010de/Test.git
- python3爬虫二
- deque中的细节问题,以及reverse和max_element的使用
- 通过Nrgok映射外网调试微信
- Jquery validate验证表单时多个name相同的元素只验证第一个的问题