社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  DATABASE

技术分享 | MySQL 8.0:字符集从 utf8 转换成 utf8mb4

老叶茶馆 • 6 年前 • 640 次点击  

整理 MySQL 8.0 文档时发现一个变更:

默认字符集由 latin1 变为 utf8mb4。想起以前整理过字符集转换文档,升级到 MySQL 8.0 后大概率会有字符集转换的需求,在此正好分享一下。

当时的需求背景是:

部分系统使用的字符集是 utf8,但 utf8 最多只能存 3 字节长度的字符,不能存放 4 字节的生僻字或者表情符号,因此打算迁移到 utf8mb4。

迁移方案一
1. 准备新的数据库实例,修改以下参数:
  1. [mysqld]

  2. ## Character Settings

  3. init_connect='SET NAMES utf8mb4'

  4. #连接建立时执行设置的语句,对super权限用户无效

  5. character-set-server = utf8mb4

  6. collation-server = utf8mb4_general_ci

  7. #设置服务端校验规则,如果字符串需要区分大小写,设置为utf8mb4_bin

  8. skip-character-set-client-handshake

  9. #忽略应用连接自己设置的字符编码,保持与全局设置一致

  10. ## Innodb Settings

  11. innodb_file_format = Barracuda

  12. innodb_file_format_max = Barracuda

  13. innodb_file_per_table = 1

  14. innodb_large_prefix = ON

  15. #允许索引的最大字节数为3072(不开启则最大为767字节,对于类似varchar(255)字段的索引会有问题,因为255*4大于767)

2. 停止应用,观察,确认不再有数据写入

可通过 show master status 观察 GTID 或者 binlog position,没有变化则没有写入。

3. 导出数据

先导出表结构:
  1. mysqldump -u -p --no-data --default-character-set=utf8mb4 --single-transaction --set-gtid-purged=OFF --databases testdb > /backup/testdb.sql

后导出数据:
  1. mysqldump -u -p --no-create-info --master-data=2 --flush-logs --routines --events --triggers --default-character-set=utf8mb4 --single-transaction --set-gtid-purged=OFF --database testdb > /backup/testdata.sql

4. 修改建表语句

修改导出的表结构文件,将表、列定义中的 utf8 改为 utf8mb4

5. 导入数据

先导入表结构:
  1. mysql -u -p testdb < /backup/testdb.sql

后导入数据:
  1. mysql -u -p testdb < /backup/testdata.sql

6. 建用户

查出旧环境的数据库用户,在新数据库中创建

7. 修改新数据库端口,启动应用进行测试

关闭旧数据库,修改新数据库端口重启,启动应用

迁移方案二
1. 修改表的字符编码会锁表,建议先停止应用

2. 停止 mysql,备份数据目录(也可以其他方式进行全备)

3. 修改配置文件,重启数据库

  1. [mysqld]

  2. ## Character Settings

  3. init_connect='SET NAMES utf8mb4'

  4. #连接建立时执行设置的语句,对super权限用户无效

  5. character-set-server = utf8mb4

  6. collation-server = utf8mb4_general_ci

  7. #设置服务端校验规则,如果字符串需要区分大小写,设置为utf8mb4_bin

  8. skip-character-set-client-handshake

  9. #忽略应用连接自己设置的字符编码,保持与全局设置一致

  10. ## Innodb Settings

  11. innodb_file_format = Barracuda

  12. innodb_file_format_max = Barracuda

  13. innodb_file_per_table = 1

  14. innodb_large_prefix = ON

  15. #允许索引的最大字节数为3072(不开启则最大为767字节,对于类似varchar(255) 字段的索引会有问题,因为255*4大于767)

4. 查看所有表结构,包括字段、修改库和表结构,如果字段有定义字符编码,也需要修改字段属性,sql 语句如下:
修改表的字符集:
  1. alter table t convert to character set utf8mb4;

影响:拷贝全表,速度慢,会加锁,阻塞写操作

修改字段的字符集(utf8mb4 每字符占 4 字节,注意字段类型的最大字节数与字符长度关系):

  1. alter table t modify a char CHARACTER SET utf8mb4;

影响:拷贝全表,速度慢,会加锁,阻塞写操作

修改 database 的字符集:

  1. alter database sbtest CHARACTER SET utf8mb4;

影响:只需修改元数据,速度很快
5. 修改 JDBC url characterEncoding=utf-8


叶老师新课程《MySQL性能优化》已经在腾讯课堂发布,本课程讲解读几个MySQL性能优化的核心要素: 合理利用索引,降低锁影响,提高事务并发度。下面是报名小程序码,厚着脸皮请求大家推荐给需要的小伙伴们。


下面是本课程内容目录

扫码加入MySQL技术Q群
(群号:650149401)
点“在看”给我一朵小黄花
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/54361