mysql数据校验之字符集问题
场景:
主库DB:utf8字符集
备库DB:gbk字符集
需求:
校验主备数据是否一致,并且修复
校验过程:
设置主库连接为utf8,设置备库连接为gbk,分别进行查询,将返回的的结果集按记录逐字段比较。
显示结果:
原本相同的汉字字符,数据校验认为不一致。
原因分析:
对于主库而已,由于建立连接的字符集为UTF8,则返回的汉字字符编码为UTF8格式;对于备库而言则是GBK格式,而程序中通过字符串比较函数strcasecmp进行比较,显然不同的字符集编码,相同的字符有不同的二进制,因此结果肯定不会相等。
进一步分析:
那么对于这种情况,建立连接应该采用哪种字符集呢?GBK or UTF8。其实选择任何一种字符集都是OK的,只要是访问主库和备库的字符集保持一致即可,唯一的区别在于,若选择的字符集与客户端的字符集不一致,可能导致无法正常显示字符,即字符显示为乱码。
我们以客户端的字符集为例,详细说说三种情况:【这里的客户端可以认为是SecureCRT】
备注:绿色框代表DB字符集,黄色框代表连接字符集,橙色框代表客户端
第一种情况:
就是上述的情况,主库返回字符的GBK编码,备库返回字符的UTF8编码,因此进行字段比对,则会出现误差。
第二种情况:
访问主库的连接不变,备库连接由UTF8变为GBK,因此进行返回时,数据库会将DB的字符集转为GBK返回给客户端,那么对于客户端而已,相同字符都是通过GBK编码表示,因此二进制相等,校验结果正确。
第三种情况:
访问主库和备库的连接都是UTF8,因此对于主库而已,返回给客户端的字符编码由GBK转为UTF8,此时主库和备库都是UTF8编码,校验结果正确。但由于客户端实质是GBK编码方式显示,因此返回的汉字字符都是乱码,但不影响校验结果的正确性。
修复:
既然选择与主备库任一一个相同的字符集去访问,都不会影响校验结果的正确性,那么影响修复呢?由于UTF8的编码范围比GBK编码范围要大,因此若采用GBK连接访问UTF8编码DB,有可能出现部分字符GBK不能表示的情况。
我们拿第二种情况说明,此时主库为GBK,备库为UTF8,使用GBK访问UTF8。假设存在UTF8转为GBK过程中部分字符丢失,这时候主备库肯定是不一致的,因为存在部分字符GBK无法表示。 假设修复语句如下:
Update t set c1=master_value where c1=slave_value and id=?
其中t表示表名,id是主键表示某一行,master_value为主库c1列的值,slave_value为备库c1列的值。此时,slave_value由于UTF8转为GBK已经丢失,因此语句执行最终影响0行记录,无法修复。
结论:
客户端访问两个不同字符集库进行数据校验时,连接采用表示范围更大的字符集。比如我们常用的字符集表示范围如下:
Latin<gb2312<gbk<utf8
附:mysql客户端与服务器通信时字符集编码转换流程
相关参数:
– character_set_client:客户端来源数据使用的字符集
– character_set_connection:连接层字符集
– character_set_results:查询结果字符集
– character_set_database:当前选中数据库的默认字符集
– character_set_system:系统元数据(字段名等)字符集
1.客户端请求服务器
1)将client的字符集转为connection字符集
2)将connection字符集转为DB内部的字符集
2.服务器返回结果给客户端
1)将DB内部字符集转为connection字符集
2)将connection字符集转为character_set_results字符集
3.设置字符集命令:set names 字符编码
指定客户端与服务器通信的字符集,包括请求与返回。
SET NAMES 'x' 等价于:
SET character_set_client = x;
SET character_set_results = x;
SET character_set_connection = x;
附图:
来源于网络
最新文章
- .net MVC借助Iframe实现无刷新上传文件
- 多个java文件编译并打成jar包经典方法
- Oracle 常用命令大全
- 隐藏自定义的tabbar之后,push到B视图,B视图的键盘工具条无法响应点击事件
- [置顶] 很荣幸被选为2013年度 CSDN博客之星评选,如果觉得我的文章可以,请投我一票!
- mysql 之路目录
- Java中Websocket使用实例解读
- POJ3678【错误总会让自己有收获的】
- 无法安装vmware tools的解决方PLEASE WAIT! VMware Tools is currently being installed on your system. Dependin
- jQuery中的事件监听小记
- [GitHub]第二讲:GitHub客户端
- FFMPEG结构体分析:AVFrame
- 深入了解浏览器存储:对比Cookie、LocalStorage、sessionStorage与IndexedDB
- DevExpress中GridControl的重新绑定数据后如何刷新 (转)
- JavaWeb学习 (三)————Tomcat服务器学习和使用(二)
- JavaSE——UDP协议网络编程(二)
- JQuery实现轮播图及其原理
- cocos2dx - JS - 碰撞检测
- Caused by: org.apache.ibatis.reflection.ReflectionException: There is no getter for property named &#39;zoneId&#39; in &#39;class java.lang.String&#39;
- memory prefix inter,intra,intro,iso out 5
热门文章
- C#-INotifyPropertyChanged(解决数据绑定的界面刷新问题)
- XE8 FMX SpeedButton 大图标(改 Style)
- HDU 1141---Brackets Sequence(区间DP)
- Java面试题汇总(一)
- log4j在javaWeb项目中的使用
- javascript(定时函数)
- js 小数[非]四舍五入
- 使用<;link>; 标签定义浏览器标题栏小图标
- pagePiling.js - 创建漂亮的全屏滚动效果
- Sublime Text 3汉化中文版