Py学习  »  Python

用Python测试InnoDB和MyISAM的读写性能

Python中文社区 • 5 年前 • 608 次点击  

数据科学俱乐部

中国数据科学家社区

本文测试所用工具版本如下:

MySQL:5.7.18
Python:3.6
Pandas:0.23

一、创建数据表

首先我们需要把两张使用了不同引擎的表创建出来,使用为了方便起见,我们直接使用Navicat创建了两张 员工信息表,具体字段如下:

使用InnoDB引擎的表,设计表名为innodb,选项如下:

使用MyISAM引擎的表,设计表名为myisam,选项如下:

因为是简单操作,创建的具体细节就不详述了,至此,我们的数据库就把使用 InnoDB 和 MyISAM 两种引擎的表创建好了。

二、单线程写入性能对比

1、InnoDB 引擎

执行以下代码,往使用了InnoDB引擎的表格插入1000条数据

import pandas as pd
from sqlalchemy import create_engine
import time

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()

for i in range(1000 ):
    data = {'index': i,
            'name''name_' + str(i),
            'age': i,
            'salary': i,
            'level': i}
    df = pd.DataFrame(dataindex=[0])
    df.to_sql('innodb', db, if_exists='append'index=False)

end = time.time()
print(end - start)

执行3次上面的代码,得到程序写入1000条数据的时间分别为:12.58s、14.10s、12.71s,平均写入时间为 13.13s。

2、MyISAM 引擎

执行以下代码,往使用了MyISAM引擎的表格插入1000条数据

import pandas as pd
from sqlalchemy import create_engine
import time

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()

for i in range(1000):
    data = {'index': i,
            'name''name_' + str(i),
            'age': i,
            'salary': i,
            'level': i}
    df = pd.DataFrame(dataindex=[0])
    df.to_sql('myisam', db, if_exists='append'index=False)

end = time.time()
print(end - start)

执行3次上面的代码,得到程序写入1000条数据的时间分别为:6.64s、6.99s、7.29s,平均写入时间为 6.97s。

两种引擎的单线程写入速度对比如下:

结论:单线程的情况下,MyISAM引擎的写入速度比InnoDB引擎的写入速度快88%

三、多线程写入性能对比

1、InnoDB 引擎

执行以下代码,往使用了InnoDB引擎的表格插入1000条数据

importandas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()

data_lst = [{'index': i,
             'name''name_' + str(i),
             'age': i,
             'salary': i,
             'level': i} for i in range(1000)]

def write(data):
    df = pd.DataFrame(data, index=[0])
    df.to_sql('innodb', db, if_exists='append', index=False)

def execute():
    with ThreadPoolExecutor(max_workers=5as executor:
        executor.map(write, data_lst)

execute()

end = time.time()
print(end - start)

执行3次上面的代码,得到程序写入1000条数据的时间分别为:4.98s、4.84s、4.88s,平均写入时间为 4.9s。

2、MyISAM 引擎

执行以下代码,往使用了MyISAM引擎的表格插入1000条数据

importendas as pd
from sqlalchemy import create_engine
import time
from concurrent.futures import ThreadPoolExecutor

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()

data_lst = [{'index': i,
             'name''name_' + str(i),
             'age': i,
             'salary': i,
             'level': i} for i in range(1000)]

def write(data):
    df = pd.DataFrame(data, index=[0])
    df.to_sql('myisam', db, if_exists='append', index=False)

def execute():
    with ThreadPoolExecutor(max_workers=5as executor:
        executor.map(write, data_lst)

execute()

end = time.time()
print(end - start)

执行3次上面的代码,得到程序写入1000条数据的时间分别为:3.29s、3.62s、3.47s,平均写入时间为 3.46s。

两种引擎的多线程写入速度对比如下:

结论:多线程的情况下,MyISAM引擎的写入速度比InnoDB引擎的写入速度快42%

四、读取性能对比

为了获得数据量较大的表用于测试数据库的读取性能,我们循环执行10遍上面多线程写入数据的操作,得到两张数据量为10000条数据的表格,然后读取10遍该表格,获取读取时间

1、InnoDB 引擎

执行以下代码,读取10遍使用了InnoDB引擎的表格

import pandas as pd
from sqlalchemy import create_engine
import time

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time()

for _ in range(10):
    df = pd.read_sql('innodb', db)

end = time.time()
print(end - start)

执行3次上面的代码,得到程序10次读取10000条数据的时间分别为:28.94s、28.88s、28.48s,平均写入时间为 28.77s。

2、MyISAM 引擎

执行以下代码,读取10遍使用了MyISAM引擎的表格

import pandas as pd
from sqlalchemy import create_engine
import time

db = create_engine('mysql+pymysql://mysql:123456@127.0.0.1:3306/test')
start = time.time ()

for _ in range(10):
    df = pd.read_sql('innodb', db)

end = time.time()
print(end - start)

执行3次上面的代码,得到程序10次读取10000条数据的时间分别为:28.51s、29.12s、28.76s,平均写入时间为 28.8s。

两种引擎的读取速度对比如下:

结论:MyISAM引擎和InnoDB引擎的读取速度无明显差异

五、总结

1、写入速度,MyISAM比InnoDB快,单线程的情况下,两者差异尤为明显

2、读取速度,InnoDB和MyISAM无明显差异

本文作者

ChrisYZX,二手Python艺术家/设计/经济学/建筑学劝退师/快门操作员/铁头韭菜

简书:https://www.jianshu.com/u/45eabf52c017


投稿邮箱:pythonpost@163.com

欢迎点击申请Python中文社区新专栏作者计划

Python中文社区作为一个去中心化的全球技术社区,以成为全球20万Python中文开发者的精神部落为愿景,目前覆盖各大主流媒体和协作平台,与阿里、腾讯、百度、微软、亚马逊、开源中国、CSDN等业界知名公司和技术社区建立了广泛的联系,拥有来自十多个国家和地区数万名登记会员,会员来自以公安部、工信部、清华大学、北京大学、北京邮电大学、中国人民银行、中科院、中金、华为、BAT、谷歌、微软等为代表的政府机关、科研单位、金融机构以及海内外知名公司,全平台近20万开发者关注。

▼ 点击下方阅读原文免费成为社区会员


今天看啥 - 高品质阅读平台
本文地址:http://www.jintiankansha.me/t/OAZ8jLixqa
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/24927
 
608 次点击