问题现象
后台应用程序使用的是云上的 MySQL 服务,需要给 MySQL 数据表里 insert 一些数据,平时都是先运行一个 MySQL 的 pod:
1
|
kubectl run mysql-client --rm -it --restart='Never' --image mysql:5.7 --command -- env LANG=C.UTF-8 mysql -hx.x.x.x -uusername -ppassword
|
然后将 insert SQL 文件复制到 MySQL pod 里面,在 MySQL pod 中执行 source SQL 文件命令。这次 insert 数据时发现环境上已经有运行的 MySQL pod了,就将 SQL 文件复制到已运行的 MySQL pod中,然后通过命令进入到MySQL pod里,再连接到云上 MySQL:
1
2
|
kubectl exec -it mysql-client -- bash
mysql -hx.x.x.x -uusername -ppassword
|
接着执行 source SQL文件,然后通过前端页面查看录入的数据,发现是乱码。但是在执行 source 命令的 MySQL 客户端 select 查询录入的数据却是预期的中文字符。
问题原因
例如 source 执行的 SQL文件中的 SQL 语句是
1
|
INSERT INTO table_1 (title) VALUES ('好');
|
SQL文件是UTF8编码的,MySQL 客户端向 MySQL 服务器发送的 title 字段值的 “好” 的 UTF8编码字节序列,十六进制表示是 E5A5BD。
mysql-client pod的字符集是 POSIX,MySQL 客户端向 MySQL 服务器发送数据采用的就是 latin1编码,MySQL 服务器收到数据后,使用 latin1 解码 E5A5BD ,得到字符串 好。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
|
root@mysql-client:/# locale
LANG=
LANGUAGE=
LC_CTYPE="POSIX"
LC_NUMERIC="POSIX"
LC_TIME="POSIX"
LC_COLLATE="POSIX"
LC_MONETARY="POSIX"
LC_MESSAGES="POSIX"
LC_PAPER="POSIX"
LC_NAME="POSIX"
LC_ADDRESS="POSIX"
LC_TELEPHONE="POSIX"
LC_MEASUREMENT="POSIX"
LC_IDENTIFICATION="POSIX"
LC_ALL=
mysql> show variables like 'character_set_%';
+--------------------------+----------------------------+
| Variable_name | Value |
+--------------------------+----------------------------+
| character_set_client | latin1 |
| character_set_connection | latin1 |
| character_set_database | utf8 |
| character_set_filesystem | binary |
| character_set_results | latin1 |
| character_set_server | utf8 |
| character_set_system | utf8 |
| character_sets_dir | /usr/share/mysql/charsets/ |
+--------------------------+----------------------------+
8 rows in set (0.01 sec)
|
由于数据表字段的字符集是 UTF8,MySQL 服务器再将字符串 好 用 UTF8 编码得到字节序列 C3A5C2A5C2BD,这个可以通过如下 SQL 语句查询证实。
1
|
select HEX(title) from table_1;
|
这里说一下在验证此过程时遇到的问题:
刚开始使用的中文字符“我”进行验证,对应的 UTF8 编码是 e68891,88 和 91 (位于 80 和 9f 之间)在 latin1 编码中对应的是控制字符,手动解码后的字符不是正常字符,再使用 UTF8 编码时为 C3A6C288C291,和数据表中存储的 C3A6CB86E28098 不一样(MySQL 代码中编码肯定对控制字符进行了正确编码),为了避免控制字符,想到选用不在 80 和 9f 之间的中文字符“好” E5A5BD ,这样手动编码后和数据表存储的都是 C3A5C2A5C2BD,这才验证了这个过程。
页面查询乱码的原因:
前端页面通过调用后台接口查询数据,后台服务连接 MySQL 使用的字符集是 UTF8,所以character_set_results 就是 UTF8。
MySQL 服务器从数据表中查询的字节序列是 C3A5C2A5C2BD,数据表字段的编码也是 UTF8,和 character_set_results 一样,发送给后台服务客户端的字节序列就是 C3A5C2A5C2BD。
后台服务使用 UTF8 对 C3A5C2A5C2BD 解码得到 好,所以前端页面显示的就是 好,而不是预期的中文字符 ”好“。
MySQL 命令行客户端select 查询正常的原因:
MySQL 命令行客户端 session 的 character_set_results 是 latin1 。
MySQL 服务器从数据表中查询的字节序列是 C3A5C2A5C2BD,使用 UTF8 解码后是 好。
再使用 character_set_results 的字符集 latin1 进行编码得到 E5A5BD,将字符序列 E5A5BD 发送给 MySQL 命令行客户端。
再发送给本地的图形界面的终端模拟器 MobaXterm,MobaXterm 使用的字符集是 UTF8,使用 UTF8 对 E5A5BD 解码输出中文字符“好”。
解决方法
连接云上 MySQL 时指定字符集为 utf8
1
|
mysql -hx.x.x.x -uusername -ppassword --default-character-set=utf8
|
将 MySQL pod 的字符编码设置为 UTF8, 这样 MySQL 客户端连接服务器时使用的字符集就是 utf8
或者直接在如下命令启动的 MySQL 客户端中执行 source 命令,此命令通过 env LANG=C.UTF-8 设置了 pod的字符编码为 UTF8:
1
|
kubectl run mysql-client --rm -it --restart='Never' --image mysql:5.7 --command -- env LANG=C.UTF-8 mysql -hx.x.x.x -uusername -ppassword
|
这样,MySQL 的 character_set_client、character_set_connection、character_set_results都会设置为 utf8, 就和数据表字段的字符集保持一致,不会出现乱码问题。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
mysql> show variables like 'character_set_%';
+--------------------------+----------------------------+
| Variable_name | Value |
+--------------------------+----------------------------+
| character_set_client | utf8 |
| character_set_connection | utf8 |
| character_set_database | utf8 |
| character_set_filesystem | binary |
| character_set_results | utf8 |
| character_set_server | utf8 |
| character_set_system | utf8 |
| character_sets_dir | /usr/share/mysql/charsets/ |
+--------------------------+----------------------------+
8 rows in set (0.00 sec)
|
MySQL 客户端和服务器通信中的字符集处理
客户端给服务器发送消息过程
- 如果 mysql 命令中没有指定 --default-character-set 参数,客户端使用操作系统字符集对消息编码发送给服务器,否则使用 --default-character-set 参数的字符集对消息编码。
- 服务器将 character_set_client、 character_set_connection、character_set_results 设置为客户端的字符集。
- 收到客户端的消息后,使用 character_set_client 字符集对消息解码。
- 再用 character_set_connection 对应的字符集对解码后的消息编码后处理。
服务器处理消息时要转换为 character_set_connection 字符集进行处理,比较规则只有 connection 有,character_set_client 和 character_set_results 都没有:
1
2
3
4
5
6
7
8
9
|
mysql> show variables like 'collation_%';
+----------------------+-------------------+
| Variable_name | Value |
+----------------------+-------------------+
| collation_connection | latin1_swedish_ci |
| collation_database | utf8_general_ci |
| collation_server | utf8_general_ci |
+----------------------+-------------------+
3 rows in set (0.00 sec)
|
服务器给客户端发送消息过程
- 服务器从数据表中查询字段内容
- 将字符内容先使用字段的字符集解码,再使用 character_set_results 字符集编码后发给客户端。
- 客户端使用操作系统的字符集解码消息进行展示,这里对于使用本地图形界面的终端模拟器登录远程主机的场景来说,消息还会发送到本地图形界面的终端模拟器,使用终端模拟器的字符集对消息解码再展示出来。