社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  DATABASE

再见乱码:5 分钟读懂 MySQL 字符集设置

SegmentFault • 7 年前 • 433 次点击  

一、内容概述

在MySQL的使用过程中,了解字符集、字符序的概念,以及不同设置对数据存储、比较的影响非常重要。不少同学在日常工作中遇到的“乱码”问题,很有可能就是因为对字符集与字符序的理解不到位、设置错误造成的。

本文由浅入深,分别介绍了如下内容:

  1. 字符集、字符序的基本概念及联系

  2. MySQL支持的字符集、字符序设置级,各设置级别之间的联系

  3. server、database、table、column级字符集、字符序的查看及设置

  4. 应该何时设置字符集、字符序

二、字符集、字符序的概念与联系

在数据的存储上,MySQL提供了不同的字符集支持。而在数据的对比操作上,则提供了不同的字符序支持。

MySQL提供了不同级别的设置,包括server级、database级、table级、column级,可以提供非常精准的设置。

什么是字符集、字符序?简单的来说:

  1. 字符集(character set):定义了字符以及字符的编码。

  2. 字符序(collation):定义了字符的比较规则。

举个例子:

有四个字符:A、B、a、b,这四个字符的编码分别是A = 0, B = 1, a = 2, b = 3。这里的字符 + 编码就构成了字符集(character set)。

如果我们想比较两个字符的大小呢?比如A、B,或者a、b,最直观的比较方式是采用它们的编码,比如因为0 < 1,所以 A < B。

另外,对于A、a,虽然它们编码不同,但我们觉得大小写字符应该是相等的,也就是说 A == a。

这上面定义了两条比较规则,这些比较规则的集合就是collation。

  1. 同样是大写字符、小写字符,则比较他们的编码大小;

  2. 如果两个字符为大小写关系,则它们相等。

三、MySQL支持的字符集、字符序

MySQL支持多种字符集 与 字符序。

  1. 一个字符集对应至少一种字符序(一般是1对多)。

  2. 两个不同的字符集不能有相同的字符序。

  3. 每个字符集都有默认的字符序。

上面说的比较抽象,我们看下后面几个小节就知道怎么回事了。

1、查看支持的字符集

可以通过以下方式查看MYSQL支持的字符集。

方式一:

  1. mysql> SHOW CHARACTER SET;

  2. +----------+-----------------------------+---------------------+--------+

  3. | Charset  | Description                 | Default collation   | Maxlen |

  4. +----------+-----------------------------+---------------------+--------+

  5. | big5     | Big5 Traditional Chinese    | big5_chinese_ci     |      2 |

  6. | dec8     | DEC West European           | dec8_swedish_ci     |      1 |

  7. ...省略

方式二:

  1. mysql> use information_schema;

  2. mysql> select * from CHARACTER_SETS;

  3. +--------------------+----------------------+-----------------------------+--------+

  4. | CHARACTER_SET_NAME | DEFAULT_COLLATE_NAME | DESCRIPTION                 | MAXLEN |

  5. +--------------------+----------------------+-----------------------------+--------+

  6. | big5               | big5_chinese_ci      | Big5 Traditional Chinese    |      2 |

  7. | dec8               | dec8_swedish_ci      | DEC West European           |      1 |

  8. ...省略

当使用 SHOW CHARACTER SET查看时,也可以加上 WHERELIKE限定条件。

例子一:使用 WHERE限定条件。

  1. mysql> SHOW CHARACTER SET WHERE Charset="utf8";

  2. +---------+---------------+-------------------+--------+

  3. | Charset | Description   | Default collation | Maxlen |

  4. +---------+---------------+-------------------+--------+

  5. | utf8    | UTF-8 Unicode | utf8_general_ci   |      3 |

  6. +---------+---------------+-------------------+--------+

  7. 1 row in set (0.00 sec)

例子二:使用 LIKE限定条件。

  1. mysql> SHOW CHARACTER SET LIKE "utf8%";

  2. +---------+---------------+--------------------+--------+

  3. | Charset | Description   | Default collation  | Maxlen |

  4. +---------+---------------+--------------------+--------+

  5. | utf8    | UTF-8 Unicode | utf8_general_ci    |      3 |

  6. | utf8mb4 | UTF-8 Unicode | utf8mb4_general_ci |      4 |

  7. +---------+---------------+--------------------+--------+

  8. 2 rows in set (0.00 sec)

2、查看支持的字符序

类似的,可以通过如下方式查看MYSQL支持的字符序。

方式一:通过 SHOW COLLATION进行查看。

可以看到, utf8字符集有超过10种字符序。通过 Default的值是否为 Yes,判断是否默认的字符序。




    
  1. mysql> SHOW COLLATION WHERE Charset = 'utf8';

  2. +--------------------------+---------+-----+---------+----------+---------+

  3. | Collation                | Charset | Id  | Default | Compiled | Sortlen |

  4. +--------------------------+---------+-----+---------+----------+---------+

  5. | utf8_general_ci          | utf8    |  33 | Yes     | Yes      |       1 |

  6. | utf8_bin                 | utf8    |  83 |         | Yes      |       1 |

  7. ...略

方式二:查询 information_schema.COLLATIONS

  1. mysql> USE information_schema;

  2. mysql> SELECT * FROM COLLATIONS WHERE CHARACTER_SET_NAME="utf8";

  3. +--------------------------+--------------------+-----+------------+-------------+---------+

  4. | COLLATION_NAME           | CHARACTER_SET_NAME | ID  | IS_DEFAULT | IS_COMPILED | SORTLEN |

  5. +--------------------------+--------------------+-----+------------+-------------+---------+

  6. | utf8_general_ci          | utf8               |  33 | Yes        | Yes         |       1 |

  7. | utf8_bin                 | utf8               |  83 |            | Yes         |       1 |

  8. | utf8_unicode_ci          | utf8               | 192 |            | Yes         |       8 |

3、字符序的命名规范

字符序的命名,以其对应的字符集作为前缀,如下所示。比如字符序 utf8_general_ci,标明它是字符集 utf8的字符序。

更多规则可以参考 官方文档。

  1. MariaDB [information_schema]> SELECT CHARACTER_SET_NAME, COLLATION_NAME FROM COLLATIONS WHERE CHARACTER_SET_NAME="utf8" limit 2;

  2. +--------------------+-----------------+

  3. | CHARACTER_SET_NAME | COLLATION_NAME  |

  4. +--------------------+-----------------+

  5. | utf8               | utf8_general_ci |

  6. | utf8               | utf8_bin        |

  7. +--------------------+-----------------+

  8. 2 rows in set (0.00 sec)

四、server的字符集、字符序

用途:当你创建数据库,且没有指定字符集、字符序时,server字符集、server字符序就会作为该数据库的默认字符集、排序规则。

如何指定:MySQL服务启动时,可通过命令行参数指定。也可以通过配置文件的变量指定。

server默认字符集、字符序:在MySQL编译的时候,通过编译参数指定。

character_set_servercollation_server分别对应server字符集、server字符序。

1、查看server字符集、字符序

分别对应 character_set_servercollation_server两个系统变量。

  1. mysql> SHOW VARIABLES LIKE "character_set_server";

  2. mysql> SHOW VARIABLES LIKE "collation_server";

2、启动服务时指定

可以在MySQL服务启动时,指定server字符集、字符序。如不指定,默认的字符序分别为 latin1latin1_swedish_ci

  1. mysqld --character-set-server=latin1 \

  2.       --collation-server=latin1_swedish_ci

单独指定server字符集,此时,server字符序为 latin1的默认字符序 latin1_swedish_ci

  1. mysqld --character-set-server=latin1

3、配置文件指定

除了在命令行参数里指定,也可以在配置文件里指定,如下所示。

  1. [client]

  2. default-character-set=utf8

  3. [mysql]

  4. default-character-set=utf8

  5. [mysqld]

  6. collation-server = utf8_unicode_ci

  7. init-connect='SET NAMES utf8'

  8. character-set-server = utf8

4、运行时修改

例子:运行时修改(重启后会失效,如果想要重启后保持不变,需要写进配置文件里)




    
  1. mysql> SET character_set_server = utf8 ;

5、编译时指定默认字符集、字符序

character_set_servercollation_server的默认值,可以在MySQL编译时,通过编译选项指定:

  1. cmake . -DDEFAULT_CHARSET=latin1 \

  2.           -DDEFAULT_COLLATION=latin1_german1_ci

五、database的字符集、字符序

用途:指定数据库级别的字符集、字符序。同一个MySQL服务下的数据库,可以分别指定不同的字符集/字符序。

1、设置数据的字符集/字符序

可以在创建、修改数据库的时候,通过 CHARACTER SETCOLLATE指定数据库的字符集、排序规则。

创建数据库:

  1. CREATE DATABASE db_name

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [[DEFAULT] COLLATE collation_name]

修改数据库:

  1. ALTER DATABASE db_name

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [[DEFAULT] COLLATE collation_name]

例子:创建数据库 test_schema,字符集设置为 utf8,此时默认的排序规则为 utf8_general_ci

  1. CREATE DATABASE `test_schema` DEFAULT CHARACTER SET utf8;

2、查看数据库的字符集/字符序

有3种方式可以查看数据库的字符集/字符序。

例子一:查看 test_schema的字符集、排序规则。(需要切换默认数据库)

  1. mysql> use test_schema;

  2. Database changed

  3. mysql> SELECT @@character_set_database, @@collation_database;

  4. +--------------------------+----------------------+

  5. | @@character_set_database | @ @collation_database |

  6. +--------------------------+----------------------+

  7. | utf8                     | utf8_general_ci      |

  8. +--------------------------+----------------------+

  9. 1 row in set (0.00 sec)

例子二:也可以通过下面命令查看 test_schema的字符集、数据库(不需要切换默认数据库)

  1. mysql> SELECT SCHEMA_NAME, DEFAULT_CHARACTER_SET_NAME, DEFAULT_COLLATION_NAME  FROM information_schema.SCHEMATA WHERE schema_name="test_schema";

  2. +-------------+----------------------------+------------------------+

  3. | SCHEMA_NAME | DEFAULT_CHARACTER_SET_NAME | DEFAULT_COLLATION_NAME |

  4. +-------------+----------------------------+------------------------+

  5. | test_schema | utf8                       | utf8_general_ci        |

  6. +-------------+----------------------------+------------------------+

  7. 1 row in set (0.00 sec)

例子三:也可以通过查看创建数据库的语句,来查看字符集。

  1. mysql> SHOW CREATE DATABASE test_schema;

  2. +-------------+----------------------------------------------------------------------+

  3. | Database    | Create Database                                                      |

  4. +-------------+----------------------------------------------------------------------+

  5. | test_schema | CREATE DATABASE `test_schema` /*!40100 DEFAULT CHARACTER SET utf8 */ |

  6. +-------------+----------------------------------------------------------------------+

  7. 1 row in set (0.00 sec)

3、database字符集、字符序是怎么确定的
  • 创建数据库时,指定了 CHARACTER SET或 COLLATE,则以对应的字符集、排序规则为准。

  • 创建数据库时,如果没有指定字符集、排序规则,则以 character_set_server、 collation_server为准。

六、table的字符集、字符序

创建表、修改表的语法如下,可通过 CHARACTER SETCOLLATE设置字符集、字符序。

  1. CREATE TABLE tbl_name (column_list)

  2.    [[DEFAULT] CHARACTER SET charset_name]

  3.    [COLLATE collation_name]]

  4. ALTER TABLE tbl_name

  5.    [[DEFAULT] CHARACTER SET charset_name]

  6.    [COLLATE collation_name]

1、创建table并指定字符集/字符序

例子如下,指定字符集为 utf8,字符序则采用默认的。

  1. CREATE TABLE `test_schema`.`test_table` (

  2.  `id` INT NOT NULL COMMENT '',

  3.  PRIMARY KEY (`id`)  COMMENT '')

  4. DEFAULT CHARACTER SET = utf8;

2、查看table的字符集/字符序

同样,有3种方式可以查看table的字符集/字符序。

方式一:通过 SHOW TABLE STATUS查看table状态,注意 Collationutf8_general_ci,对应的字符集为 utf8

  1. MariaDB [blog]> SHOW TABLE STATUS FROM test_schema \G;

  2. *************************** 1. row ***************************

  3.           Name: test_table

  4.         Engine: InnoDB

  5.        Version: 10

  6.     Row_format: Compact

  7.           Rows: 0

  8. Avg_row_length: 0

  9.    Data_length: 16384

  10. Max_data_length: 0

  11.   Index_length: 0

  12.      Data_free : 11534336

  13. Auto_increment: NULL

  14.    Create_time: 2018-01-09 16:10:42

  15.    Update_time: NULL

  16.     Check_time: NULL

  17.      Collation: utf8_general_ci

  18.       Checksum: NULL

  19. Create_options:

  20.        Comment:

  21. 1 row in set (0.00 sec)

方式二:查看 information_schema.TABLES的信息。

  1. mysql> USE test_schema;

  2. mysql> SELECT TABLE_COLLATION FROM information_schema.TABLES WHERE TABLE_SCHEMA = "test_schema" AND TABLE_NAME = "test_table";

  3. +-----------------+

  4. | TABLE_COLLATION |

  5. +-----------------+

  6. | utf8_general_ci |

  7. +-----------------+

方式三:通过 SHOW CREATE TABLE确认。

  1. mysql> SHOW CREATE TABLE test_table;

  2. +------------+----------------------------------------------------------------------------------------------------------------+

  3. | Table      | Create Table                                                                                                   |

  4. +------------+----------------------------------------------------------------------------------------------------------------+

  5. | test_table | CREATE TABLE `test_table` (

  6.  `id` int(11) NOT NULL,

  7.  PRIMARY KEY (`id`)

  8. ) ENGINE=InnoDB DEFAULT CHARSET=utf8 |

  9. +------------+----------------------------------------------------------------------------------------------------------------+

  10. 1 row in set (0.00 sec)

3、table字符集、字符序如何确定

假设 CHARACTER SETCOLLATE的值分别是 charset_namecollation_name。如果创建table时:

  • 明确了 charset_name、 collation_name,则采用 charset_name、 collation_name

  • 只明确了 charset_name,但 collation_name未明确,则字符集采用 charset_name,字符序采用 charset_name对应的默认字符序。

  • 只明确了 collation_name,但 charset_name未明确,则字符序采用 collation_name,字符集采用 collation_name关联的字符集。

  • charset_name 、 collation_name均未明确,则采用数据库的字符集、字符序设置。

七、column的字符集、排序

类型为CHAR、VARCHAR、TEXT的列,可以指定字符集/字符序,语法如下:

  1. col_name {CHAR | VARCHAR | TEXT} (col_length)

  2.    [CHARACTER SET charset_name]

  3.    [COLLATE collation_name]

1、新增column并指定字符集/排序规则

例子如下:(创建table类似)

  1. mysql> ALTER TABLE test_table ADD COLUMN char_column VARCHAR(25) CHARACTER SET utf8;

2、查看column的字符集/字符序

例子如下:

  1. mysql> SELECT CHARACTER_SET_NAME, COLLATION_NAME FROM information_schema.COLUMNS WHERE TABLE_SCHEMA="test_schema" AND TABLE_NAME="test_table" AND COLUMN_NAME="char_column";

  2. +--------------------+-----------------+

  3. | CHARACTER_SET_NAME | COLLATION_NAME  |

  4. +--------------------+-----------------+

  5. | utf8               | utf8_general_ci |

  6. +--------------------+-----------------+

  7. 1 row in set (0.00 sec)

3、column字符集/排序规则确定

假设 CHARACTER SETCOLLATE的值分别是 charset_namecollation_name

  • 如果 charset_name、 collation_name均明确,则字符集、字符序以 charset_name、 collation_name为准。

  • 只明确了 charset_name, collation_name未明确,则字符集为 charset_name,字符序为 charset_name的默认字符序。

  • 只明确了 collation_name, charset_name未明确,则字符序为 collation_name,字符集为 collation_name关联的字符集。

  • charset_name、 collation_name均未明确,则以table的字符集、字符序为准。

八、选择:何时设置字符集、字符序

一般来说,可以在三个地方进行配置:

  1. 创建数据库的时候进行配置。

  2. mysql server启动的时候进行配置。

  3. 从源码编译mysql的时候,通过编译参数进行配置

1、方式一:创建数据库的时候进行配置

这种方式比较灵活,也比较保险,它不依赖于默认的字符集/字符序。当你创建数据库的时候指定字符集/字符序,后续创建table、column的时候,如果不特殊指定,会继承对应数据库的字符集/字符序。

  1. CREATE DATABASE mydb

  2.  DEFAULT CHARACTER SET utf8

  3.  DEFAULT COLLATE utf8_general_ci;

2、方式二:mysql server启动的时候进行配置

可以添加以下配置,这样mysql server启动的时候,会对character-set-server、collation-server进行配置。

当你通过mysql client创建database/table/column,且没有显示声明字符集/字符序,那么就会用character-set-server/collation-server作为默认的字符集/字符序。

另外,client、server连接时的字符集/字符序,还是需要通过SET NAMES进行设置。

  1. [mysqld]

  2. character-set -server=utf8

  3. collation-server=utf8_general_ci

3、方式三:从源码编译mysql的时候,通过编译参数进行设置

编译的时候如果指定了 -DDEFAULT_CHARSET-DDEFAULT_COLLATION,那么:

  • 创建database、table时,会将其作为默认的字符集/字符序。

  • client连接server时,会将其作为默认的字符集/字符序。(不用单独SET NAMES)

  1. shell> cmake . -DDEFAULT_CHARSET=utf8 \

  2.           -DDEFAULT_COLLATION=utf8_general_ci

九、写在后面

本文较为详细地介绍了MySQL中字符集、字符序相关的内容,这部分内容主要针对的是数据的存储与比较。其实还有很重要的一部分内容还没涉及:针对连接的字符集、字符序设置。

由于连接的字符集、字符序设置不当导致的乱码问题也非常多,这部分内容展开来讲内容也不少,放在下一篇文章进行讲解。

篇幅所限,有些内容没有细讲,感兴趣的同学欢迎交流,或者查看官方文档。如有错漏,敬请指出。

十、相关链接

10.1 Character Set Support https://dev.mysql.com/doc/refman/5.7/en/charset.html


相关文章推荐


MYSQL 业务上碰到的 SQL 问题整理集合


项目中常用的 19 条 MySQL 优化方案


一篇文章带你读懂 Mysql 和 InnoDB


欢迎关注 SegmentFault 微信公众号 :)


今天看啥 - 高品质阅读平台
本文地址:http://www.jintiankansha.me/t/8fQTCW1DI9
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/5230
 
433 次点击