Py学习  »  DATABASE

再见乱码:5 分钟读懂 MySQL 字符集设置

SegmentFault • 6 年前 • 407 次点击  

一、内容概述

在MySQL的使用过程中,了解字符集、字符序的概念,以及不同设置对数据存储、比较的影响非常重要。不少同学在日常工作中遇到的“乱码”问题,很有可能就是因为对字符集与字符序的理解不到位、设置错误造成的。

本文由浅入深,分别介绍了如下内容:

  1. 字符集、字符序的基本概念及联系

  2. MySQL支持的字符集、字符序设置级,各设置级别之间的联系

  3. server、database、table、column级字符集、字符序的查看及设置

  4. 应该何时设置字符集、字符序

二、字符集、字符序的概念与联系

在数据的存储上,MySQL提供了不同的字符集支持。而在数据的对比操作上,则提供了不同的字符序支持。

MySQL提供了不同级别的设置,包括server级、database级、table级、column级,可以提供非常精准的设置。

什么是字符集、字符序?简单的来说:

  1. 字符集(character set):定义了字符以及字符的编码。

  2. 字符序(collation):定义了字符的比较规则。

举个例子:

有四个字符:A、B、a、b,这四个字符的编码分别是A = 0, B = 1, a = 2, b = 3。这里的字符 + 编码就构成了字符集(character set)。

如果我们想比较两个字符的大小呢?比如A、B,或者a、b,最直观的比较方式是采用它们的编码,比如因为0 < 1,所以 A < B。

另外,对于A、a,虽然它们编码不同,但我们觉得大小写字符应该是相等的,也就是说 A == a。

这上面定义了两条比较规则,这些比较规则的集合就是collation。

  1. 同样是大写字符、小写字符,则比较他们的编码大小;

  2. 如果两个字符为大小写关系,则它们相等。

三、MySQL支持的字符集、字符序

MySQL支持多种字符集 与 字符序。

  1. 一个字符集对应至少一种字符序(一般是1对多)。

  2. 两个不同的字符集不能有相同的字符序。

  3. 每个字符集都有默认的字符序。

上面说的比较抽象,我们看下后面几个小节就知道怎么回事了。

1、查看支持的字符集

可以通过以下方式查看MYSQL支持的字符集。

方式一:

  1. mysql> SHOW CHARACTER SET;

  2. +----------+-----------------------------+---------------------+--------+

  3. | Charset  | Description                 | Default collation   | Maxlen |

  4. +----------+-----------------------------+---------------------+--------+

  5. | big5     | Big5 Traditional Chinese    | big5_chinese_ci     |      2 |

  6. | dec8     | DEC West European           | dec8_swedish_ci     |      1 |

  7. ...省略

方式二:

  1. mysql> use information_schema;

  2. mysql> select * from CHARACTER_SETS;

  3. +--------------------+----------------------+-----------------------------+--------+

  4. | CHARACTER_SET_NAME | DEFAULT_COLLATE_NAME | DESCRIPTION                 | MAXLEN |

  5. +--------------------+----------------------+-----------------------------+--------+

  6. | big5               | big5_chinese_ci      | Big5 Traditional Chinese    |      2 |

  7. | dec8               | dec8_swedish_ci      | DEC West European           |      1 |

  8. ...省略

当使用 SHOW CHARACTER SET查看时,也可以加上 WHERELIKE限定条件。

例子一:使用 WHERE限定条件。

  1. mysql> SHOW CHARACTER SET WHERE Charset="utf8";

  2. +---------+---------------+-------------------+--------+

  3. | Charset | Description   | Default collation | Maxlen |

  4. +---------+---------------+-------------------+--------+

  5. | utf8    | UTF-8 Unicode | utf8_general_ci   |      3 |

  6. +---------+---------------+-------------------+--------+

  7. 1 row in set (0.00 sec)

例子二:使用 LIKE限定条件。

  1. mysql> SHOW CHARACTER SET LIKE "utf8%";

  2. +---------+---------------+--------------------+--------+

  3. | Charset | Description   | Default collation  | Maxlen |

  4. +---------+---------------+--------------------+--------+

  5. | utf8    | UTF-8 Unicode | utf8_general_ci    |      3 |

  6. | utf8mb4 | UTF-8 Unicode | utf8mb4_general_ci |      4 |

  7. +---------+---------------+--------------------+--------+

  8. 2 rows in set (0.00 sec)

2、查看支持的字符序

类似的,可以通过如下方式查看MYSQL支持的字符序。

方式一:通过 SHOW COLLATION进行查看。

可以看到, utf8字符集有超过10种字符序。通过 Default的值是否为 Yes,判断是否默认的字符序。




    
  1. mysql> SHOW COLLATION WHERE Charset = 'utf8';

  2. +--------------------------+---------+-----+---------+----------+---------+

  3. | Collation                | Charset | Id  | Default | Compiled | Sortlen |

  4. +--------------------------+---------+-----+---------+----------+---------+

  5. | utf8_general_ci          | utf8    |  33 | Yes     | Yes      |       1 |

  6. | utf8_bin                 | utf8    |  83 |         | Yes      |       1 |

  7. ...略

方式二:查询 information_schema.COLLATIONS

  1. mysql> USE information_schema;

  2. mysql> SELECT * FROM COLLATIONS WHERE CHARACTER_SET_NAME="utf8";

  3. +--------------------------+--------------------+-----+------------+-------------+---------+

  4. | COLLATION_NAME           | CHARACTER_SET_NAME | ID  | IS_DEFAULT | IS_COMPILED | SORTLEN |

  5. +--------------------------+--------------------+-----+------------+-------------+---------+

  6. | utf8_general_ci          | utf8               |  33 | Yes        | Yes         |       1 |

  7. | utf8_bin                 | utf8               |  83 |            | Yes         |       1 |

  8. | utf8_unicode_ci          | utf8               | 192 |            | Yes         |       8 |

3、字符序的命名规范

字符序的命名,以其对应的字符集作为前缀,如下所示。比如字符序 utf8_general_ci,标明它是字符集 utf8的字符序。

更多规则可以参考 官方文档。

  1. MariaDB [information_schema]> SELECT CHARACTER_SET_NAME, COLLATION_NAME FROM COLLATIONS WHERE CHARACTER_SET_NAME="utf8" limit 2;

  2. +--------------------+-----------------+

  3. | CHARACTER_SET_NAME | COLLATION_NAME  |

  4. +--------------------+-----------------+

  5. | utf8               | utf8_general_ci |

  6. | utf8               | utf8_bin        |

  7. +--------------------+-----------------+

  8. 2 rows in set (0.00 sec)

四、server的字符集、字符序

用途:当你创建数据库,且没有指定字符集、字符序时,server字符集、server字符序就会作为该数据库的默认字符集、排序规则。

如何指定:MySQL服务启动时,可通过命令行参数指定。也可以通过配置文件的变量指定。

server默认字符集、字符序:在MySQL编译的时候,通过编译参数指定。

character_set_servercollation_server分别对应server字符集、server字符序。

1、查看server字符集、字符序

分别对应 character_set_servercollation_server两个系统变量。

  1. mysql> SHOW VARIABLES LIKE "character_set_server";

  2. mysql> SHOW VARIABLES LIKE "collation_server";

2、启动服务时指定

可以在MySQL服务启动时,指定server字符集、字符序。如不指定,默认的字符序分别为 latin1latin1_swedish_ci

  1. mysqld --character-set-server=latin1 \

  2.       --collation-server=latin1_swedish_ci

单独指定server字符集,此时,server字符序为 latin1的默认字符序 latin1_swedish_ci

  1. mysqld --character-set-server=latin1

3、配置文件指定

除了在命令行参数里指定,也可以在配置文件里指定,如下所示。

  1. [client]

  2. default-character-set=utf8

  3. [mysql]

  4. default-character-set=utf8

  5. [mysqld]

  6. collation-server = utf8_unicode_ci

  7. init-connect='SET NAMES utf8'

  8. character-set-server = utf8

4、运行时修改

例子:运行时修改(重启后会失效,如果想要重启后保持不变,需要写进配置文件里)




    
  1. mysql> SET character_set_server = utf8 ;

5、编译时指定默认字符集、字符序

character_set_servercollation_server的默认值,可以在MySQL编译时,通过编译选项指定:

  1. cmake . -DDEFAULT_CHARSET=latin1 \

  2.           -DDEFAULT_COLLATION=latin1_german1_ci

五、database的字符集、字符序

用途:指定数据库级别的字符集、字符序。同一个MySQL服务下的数据库,可以分别指定不同的字符集/字符序。

1、设置数据的字符集/字符序

可以在创建、修改数据库的时候,通过 CHARACTER SETCOLLATE指定数据库的字符集、排序规则。

创建数据库:

  1. CREATE DATABASE db_name

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [[DEFAULT] COLLATE collation_name]

修改数据库:

  1. ALTER DATABASE db_name

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [[DEFAULT] COLLATE collation_name]

例子:创建数据库 test_schema,字符集设置为 utf8,此时默认的排序规则为 utf8_general_ci

  1. CREATE DATABASE `test_schema` DEFAULT CHARACTER SET utf8;

2、查看数据库的字符集/字符序

有3种方式可以查看数据库的字符集/字符序。

例子一:查看 test_schema的字符集、排序规则。(需要切换默认数据库)

  1. mysql> use test_schema;

  2. Database changed

  3. mysql> SELECT @@character_set_database, @@collation_database;

  4. +--------------------------+----------------------+

  5. | @@character_set_database | @ @collation_database |

  6. +--------------------------+----------------------+

  7. | utf8                     | utf8_general_ci      |

  8. +--------------------------+----------------------+

  9. 1 row in set (0.00 sec)

例子二:也可以通过下面命令查看 test_schema的字符集、数据库(不需要切换默认数据库)

  1. mysql> SELECT SCHEMA_NAME, DEFAULT_CHARACTER_SET_NAME, DEFAULT_COLLATION_NAME  FROM information_schema.SCHEMATA WHERE schema_name="test_schema";

  2. +-------------+----------------------------+------------------------+

  3. | SCHEMA_NAME | DEFAULT_CHARACTER_SET_NAME | DEFAULT_COLLATION_NAME |

  4. +-------------+----------------------------+------------------------+

  5. | test_schema | utf8                       | utf8_general_ci        |

  6. +-------------+----------------------------+------------------------+

  7. 1 row in set (0.00 sec)

例子三:也可以通过查看创建数据库的语句,来查看字符集。

  1. mysql> SHOW CREATE DATABASE test_schema;

  2. +-------------+----------------------------------------------------------------------+

  3. | Database    | Create Database                                                      |

  4. +-------------+----------------------------------------------------------------------+

  5. | test_schema | CREATE DATABASE `test_schema` /*!40100 DEFAULT CHARACTER SET utf8 */ |

  6. +-------------+----------------------------------------------------------------------+

  7. 1 row in set (0.00 sec)

3、database字符集、字符序是怎么确定的
  • 创建数据库时,指定了 CHARACTER SET或 COLLATE,则以对应的字符集、排序规则为准。

  • 创建数据库时,如果没有指定字符集、排序规则,则以 character_set_server、 collation_server为准。

六、table的字符集、字符序

创建表、修改表的语法如下,可通过 CHARACTER SETCOLLATE设置字符集、字符序。

  1. CREATE TABLE tbl_name (column_list)

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [COLLATE collation_name]]

  4. ALTER TABLE tbl_name

  5.    [[DEFAULT] CHARACTER SET charset_name]

  6.    [COLLATE collation_name]

1、创建table并指定字符集/字符序

例子如下,指定字符集为 utf8,字符序则采用默认的。

  1. CREATE TABLE `test_schema`.`test_table` (

  2.  `id` INT NOT NULL COMMENT '',

  3.  PRIMARY KEY (`id`)  COMMENT '')

  4. DEFAULT CHARACTER SET = utf8;

2、查看table的字符集/字符序

同样,有3种方式可以查看table的字符集/字符序。

方式一:通过 SHOW TABLE STATUS查看table状态,注意 Collationutf8_general_ci,对应的字符集为 utf8

  1. MariaDB [blog]> SHOW TABLE STATUS FROM test_schema \G;

  2. *************************** 1. row ***************************

  3.           Name: test_table

  4.         Engine: InnoDB

  5.        Version: 10

  6.     Row_format: Compact

  7.           Rows: 0

  8. Avg_row_length: 0

  9.    Data_length: 16384

  10. Max_data_length: 0

  11.   Index_length: 0

  12.      Data_free : 11534336

  13. Auto_increment: NULL

  14.    Create_time: 2018-01-09 16:10:42

  15.    Update_time: NULL

  16.     Check_time: NULL

  17.      Collation: utf8_general_ci

  18.       Checksum: NULL

  19. Create_options:

  20.        Comment:

  21. 1 row in set (0.00 sec)

方式二:查看 information_schema.TABLES的信息。

  1. mysql> USE test_schema;

  2. mysql> SELECT TABLE_COLLATION FROM information_schema.TABLES WHERE TABLE_SCHEMA = "test_schema" AND TABLE_NAME = "test_table";

  3. +-----------------+

  4. | TABLE_COLLATION |

  5. +-----------------+

  6. | utf8_general_ci |

  7. +-----------------+

方式三:通过 SHOW CREATE TABLE确认。

  1. mysql> SHOW CREATE TABLE test_table;

  2. +------------+----------------------------------------------------------------------------------------------------------------+

  3. | Table      | Create Table                                                                                                   |

  4. +------------+----------------------------------------------------------------------------------------------------------------+

  5. | test_table | CREATE TABLE `test_table` (

  6.  `id` int(11) NOT NULL,

  7.  PRIMARY KEY (`id`)

  8. ) ENGINE=InnoDB DEFAULT CHARSET=utf8 |

  9. +------------+----------------------------------------------------------------------------------------------------------------+

  10. 1 row in set (0.00 sec)

3、table字符集、字符序如何确定

假设 CHARACTER SETCOLLATE的值分别是 charset_namecollation_name。如果创建table时:

  • 明确了 charset_name、 collation_name,则采用 charset_name、 collation_name

  • 只明确了 charset_name,但 collation_name未明确,则字符集采用 charset_name,字符序采用 charset_name对应的默认字符序。

  • 只明确了 collation_name,但 charset_name未明确,则字符序采用 collation_name,字符集采用 collation_name关联的字符集。

  • charset_name 、 collation_name均未明确,则采用数据库的字符集、字符序设置。

七、column的字符集、排序

类型为CHAR、VARCHAR、TEXT的列,可以指定字符集/字符序,语法如下:

  1. col_name {CHAR | VARCHAR | TEXT} (col_length)

  2.    [CHARACTER SET charset_name]

  3.    [COLLATE collation_name]

1、新增column并指定字符集/排序规则

例子如下:(创建table类似)

  1. mysql> ALTER TABLE test_table ADD COLUMN char_column VARCHAR(25) CHARACTER SET utf8;

2、查看column的字符集/字符序

例子如下:

  1. mysql> SELECT CHARACTER_SET_NAME, COLLATION_NAME FROM information_schema.COLUMNS WHERE TABLE_SCHEMA="test_schema" AND TABLE_NAME="test_table" AND COLUMN_NAME="char_column";

  2. +--------------------+-----------------+

  3. | CHARACTER_SET_NAME | COLLATION_NAME  |

  4. +--------------------+-----------------+

  5. | utf8               | utf8_general_ci |

  6. +--------------------+-----------------+

  7. 1 row in set (0.00 sec)

3、column字符集/排序规则确定

假设 CHARACTER SETCOLLATE的值分别是 charset_namecollation_name

  • 如果 charset_name、 collation_name均明确,则字符集、字符序以 charset_name、 collation_name为准。

  • 只明确了 charset_name, collation_name未明确,则字符集为 charset_name,字符序为 charset_name的默认字符序。

  • 只明确了 collation_name, charset_name未明确,则字符序为 collation_name,字符集为 collation_name关联的字符集。

  • charset_name、 collation_name均未明确,则以table的字符集、字符序为准。

八、选择:何时设置字符集、字符序

一般来说,可以在三个地方进行配置:

  1. 创建数据库的时候进行配置。

  2. mysql server启动的时候进行配置。

  3. 从源码编译mysql的时候,通过编译参数进行配置

1、方式一:创建数据库的时候进行配置

这种方式比较灵活,也比较保险,它不依赖于默认的字符集/字符序。当你创建数据库的时候指定字符集/字符序,后续创建table、column的时候,如果不特殊指定,会继承对应数据库的字符集/字符序。

  1. CREATE DATABASE mydb

  2.  DEFAULT CHARACTER SET utf8

  3.  DEFAULT COLLATE utf8_general_ci;

2、方式二:mysql server启动的时候进行配置

可以添加以下配置,这样mysql server启动的时候,会对character-set-server、collation-server进行配置。

当你通过mysql client创建database/table/column,且没有显示声明字符集/字符序,那么就会用character-set-server/collation-server作为默认的字符集/字符序。

另外,client、server连接时的字符集/字符序,还是需要通过SET NAMES进行设置。

  1. [mysqld]

  2. character-set -server=utf8

  3. collation-server=utf8_general_ci

3、方式三:从源码编译mysql的时候,通过编译参数进行设置

编译的时候如果指定了 -DDEFAULT_CHARSET-DDEFAULT_COLLATION,那么:

  • 创建database、table时,会将其作为默认的字符集/字符序。

  • client连接server时,会将其作为默认的字符集/字符序。(不用单独SET NAMES)

  1. shell> cmake . -DDEFAULT_CHARSET=utf8 \

  2.           -DDEFAULT_COLLATION=utf8_general_ci

九、写在后面

本文较为详细地介绍了MySQL中字符集、字符序相关的内容,这部分内容主要针对的是数据的存储与比较。其实还有很重要的一部分内容还没涉及:针对连接的字符集、字符序设置。

由于连接的字符集、字符序设置不当导致的乱码问题也非常多,这部分内容展开来讲内容也不少,放在下一篇文章进行讲解。

篇幅所限,有些内容没有细讲,感兴趣的同学欢迎交流,或者查看官方文档。如有错漏,敬请指出。

十、相关链接

10.1 Character Set Support https://dev.mysql.com/doc/refman/5.7/en/charset.html


相关文章推荐


MYSQL 业务上碰到的 SQL 问题整理集合


项目中常用的 19 条 MySQL 优化方案


一篇文章带你读懂 Mysql 和 InnoDB


欢迎关注 SegmentFault 微信公众号 :)


今天看啥 - 高品质阅读平台
本文地址:http://www.jintiankansha.me/t/8fQTCW1DI9
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/5230
 
407 次点击