最全总结 | 聊聊 Python 数据处理全家桶（Sqlite篇）

点击上方“AirPython”，选择“加为星标”

第一时间关注 Python 技术干货！

1. 前言

上篇文章聊到 Python 处理 Mysql 数据库最常见的两种方式，本篇文章继续说另外一种比较常用的数据库：Sqlite

Sqlite 是一种嵌入式数据库，数据库就是一个文件，体积很小，底层由 C 语言编写，经常被集成到移动应用程序中

事实上，Python 内置了 sqlite3 模块，不需要安装任何依赖，就可以直接操作 Sqlite 数据库

2. 准备

和 Python 操作 Mysql 类似，操作 Sqlite 主要包含下面 2 种方式：

sqlite3 + 原生 SQL
SQLAlchemy + ORM

3. sqlite3 + 原生 SQL

由于 Python 内置了 sqlite3 模块，这里直接导入就可以使用了

# 导入内置模块sqlite3
import sqlite3

首先，我们使用 sqlite3 的 connnect() 方法创建一个数据库连接对象，如果数据库不存在，就自动在对应目录下新建一个数据库文件




    
# 创建数据库连接对象，如果数据库不存在，就自动新建一个数据库文件
# 还可以指定其他参数，包含：超时时间
 self.conn = sqlite3.connect(self.path_db)

然后，通过数据库连接对象获取一个操作数据库的游标实例

# 获取操作数据库的游标对象
self.cursor = self.conn.cursor()

接着，使用数据库连接对象执行创建表的 SQL 语句，在数据库内新建一张表

# 创建表
SQL_CREATE_TABLE = '''CREATE TABLE IF NOT EXISTS PEOPLE
       (ID INT PRIMARY KEY     NOT NULL,
       NAME           TEXT    NOT NULL,
       AGE            INT     NOT NULL);'''

def create_db_table(self):
    """
    初始化表
    :return:
    """
    self.conn.execute(SQL_CREATE_TABLE)

接下来，我们通过增删改查来操作数据表

1、新增

同样以新增单条数据和多条数据为例

对于单条数据的插入，只需要编写一条插入的 SQL 语句，然后作为参数执行上面数据库连接对象的 execute(sql) 方法，最后使用数据库连接对象的 commit() 方法将数据提交到数据库中

# 插入一条数据
SQL_INSERT_ONE_DATA = "INSERT INTO PEOPLE(id,name,age) VALUES(3,'xag',23);"

def insert_one(self):
    """新增一条数据"""
    try:
        self.conn.execute(SQL_INSERT_ONE_DATA)
        # 必须要提交，才能正确执行
        self.conn.commit()
    except Exception as e:
        self.conn.rollback()
        print('插入一条记录失败，回滚~')

需要注意的是，插入操作经常会因为主键原因导致新增异常，所以需要捕获异常，执行回滚操作

使用数据库连接对象的 executemany() 方法，传入插入的 SQL 语句及位置变量列表，可以实现一次插入多条数据




    
# 插入多条数据（3个变量，包含：id、name、value）
SQL_INSERT_MANY_DATA = 'INSERT INTO PEOPLE (id,name,age) VALUES(?,?,?);'

# 待插入的数据
self.data = [(4, '张三', 11), (5, '李四', 12), (6, '王五', 13)]

def insert_many(self, data):
    """新增多条数据"""
    try:
        self.conn.executemany(SQL_INSERT_MANY_DATA, data)
        self.conn.commit()
    except Exception as e:
        self.conn.rollback()
        print('插入多条记录失败，回滚~')

2、查询

查询分为 2 步，分别是：

通过游标对象执行查询的 SQL 语句
调用游标对象的方法获取查询结果

比如：

要获取所有数据，可以使用游标对象的 fetchall() 方法

要获取第一条满足条件的数据，可以使用 fetchone() 方法

另外，fetchmany(num) 可以查询固定数量的数据

# 查询的SQL语句
SQL_QUERY_ONE_DATA = "SELECT * FROM PEOPLE WHERE id={}"

def query_one(self, id):
    """
    查询一条数据
    :param id:
    :return:
    """
    self.cursor.execute(SQL_QUERY_ONE_DATA.format(id))

    # fetchone():查询第一条数据
    # fetchall()：查询所有数据
    # fetchmany(1):查询固定的数量的数据
    result = self.cursor.fetchall()
    print(type(result))
    print(result)

3、更新

和新增操作类似，更新操作也是通过数据库连接对象去执行更新的 SQL 语句，最后执行提交操作，将数据真实更新到数据表中

以更新某一条记录为例

# 更新数据
SQL_UPDATE_ONE_DATA = "UPDATE PEOPLE SET NAME = '{}',AGE={} where id = {}"

def update_one(self, id, name, age):
    """
    修改一条记录
    :param id:
    :param name:
    :param age:
    :return:
    """
    sql_update = SQL_UPDATE_ONE_DATA.format(name, age, id)
    print(sql_update)
    self.conn.execute(sql_update)
    self.conn.commit()

4、删除

删除操作同查询、新增操作类似，只需要执行删除的 SQL 语句即可

以删除某一条记录为例

# 删除数据
SQL_DEL_ONE_DATA = "DELETE FROM PEOPLE where id ={}"

def del_one(self, id):
    """通过id去删除一条数据"""
    sql_del = SQL_DEL_ONE_DATA.format(id)
    self.conn.execute(sql_del)
    self.conn.commit()

最后，我们同样需要将游标对象和数据库连接对象，资源释放

def teardown(self):
    # 关闭游标和数据库连接，避免资源浪费
    self.cursor.close()
    self.conn.close()

4. SQLAlchemy + ORM

使用 SQLAlchemy 操作 sqlite 数据库同样先需要安装依赖库

# 安装依赖包
pip3 install sqlalchemy

通过内置方法 declarative_base() 创建一个基础类 Base

然后，自定义一个 Base 类的子类，内部通过定义静态变量指定表名、表的字段

from sqlalchemy import Column, Integer, String, create_engine
from sqlalchemy.ext.declarative import declarative_base

# 基础类
Base = declarative_base()


# 自定义的表
class People(Base):
    # 表名
    __tablename__ = 'people'

    # 定义字段
    id = Column(Integer, primary_key=True)
    name = Column(String)
    age = Column(Integer)

    def __repr__(self):
        """
        便于打印结果
        :return:
        """
        return ".format(self.id, self.name, self.age)

接着，通过 SQLAlchemy 的 create_engine(sqlite数据库路径) 方法中创建数据库连接对象

格式为：sqlite:///数据库相对路径

# 创建数据库连接
engine = create_engine('sqlite:///./xh.db', echo=True)

最后，通过数据库引擎在数据库中创建表结构，并实例化一个数据库会话对象

PS：数据库会话对象内置的方法非常方便我们进行增删改查操作

# 创建表结构
# checkfirst：判断表是否存在，如果存在，就不重复创建
Base.metadata.create_all(engine, checkfirst=True)

# 实例化会话



    
self.session = sessionmaker(bind=engine)()

这样所有的准备工作已经完成，接下来可以进行增删改查操作了

1、新增

新增操作同样以新增一条和多条记录为例，它们分别对应会话对象的 add()、add_all() 方法

对于一条记录的新增操作，只需要实例化一个 People 对象，执行上面的会话对象的 add(instance) 和 commit() 两个方法，即可以将数据插入到数据表中

def add_one_data(self):
    """新增一条数据"""
    # 创建一个表的实例对象
    people = People(name='xag1', age=24)
    self.session.add(people)

    # 必须提交，才能更新到数据库中
    self.session.commit()

如果需要一次插入多条数据，只需要调用 add_all(列表数据) 即可

def add_datas(self, data):
    """
    新增多条数据
    :return:
    """
    self.session.add_all(data)
    self.session.commit()

2、查询

查询数据表的操作对应会话对象的 query() 方法

同时，还可以结合 all()、first()、filter_by(限制条件) 级联方法限制要查询的数据

以查询所有记录和根据 id 查询一条记录为例

def query_one_data(self, id):
    """
    通过id去查询一条数据
    :param id:
    :return:
    """
    # 通过id去查询数据，取第一条
    people = self.session.query(People).filter_by(id=id).first()
    print(people)
    print(type(people))

def query_all(self):



    
    """
    查询所有数据
    :return:
    """
    peoples = self.session.query(People).all()
    print(peoples)
    print(type(peoples))

3、更新

更新操作一般做法是：

query 查询出待更新的对象
直接更新对象中的数据
使用会话对象提交修改，完成更新操作

def update1(self, id, name, age):
    """
    更新记录
    :param id:
    :param name:
    :param age:
    :return:
    """
    # 更新步骤：先查询、修改数据、然后确认修改
    people_temp = self.session.query(People).filter_by(id=id).first()

    # 修改数据
    people_temp.name = name
    people_temp.age = age

    # 确认提交修改
    self.session.commit()

需要指出的是，这里也可以使用内置方法 update() ，对上面的更新操作进行简写

def update2(self, id, name, age):
    """
    更新记录方法2
    :param id:
    :param name:
    :param age:
    :return:
    """
    self.session.query(People).filter_by(id=id).update({People.name: name, People.age: age})
    self.session.commit()

4、删除

和更新操作一样，删除操作也有两种实现方式

第一种方式的思路是，先查询，后删除，最后提交会话完成删除操作

以按照 id 删除某一条记录为例：

def del_one_data1(self, id):
    """
    删除一条数据方法1
    :param id:
    :return:
    """
    people_temp = self.session.query(People).filter_by(id=id).first()

    # 判断是否为空
    if people_temp is not None:
        self.session.delete(people_temp)
        self.session.commit()
    else:
        print('此条记录不存在，删除失败！')

需要注意的是，查询的结果必须判断是否为空，否则直接执行删除操作，可以会抛出异常

另外一种方式是，直接使用级联函数将上面的删除操作进行简写

def del_one_data2(self, id):
    """
    删除一条数据方法2
    :param id:
    :return:
    """
    try:
        self.session.query(People).filter_by(id=id).first().delete()
    except Exception as e:
        print('删除失败')

同样，这种删除操作需要捕获异常，避免查询的结果为空的情况

最后，完成所有操作之后，我们需要结束会话、销毁数据库引擎

def teardown(self):
    """
    释放资源
    :return:
    """
    # 结束会话
    self.session.close()

    # 销毁引擎
    self.engine.dispose()

5.最后

本篇文章通过一张表的增删改查，详细讲解了 Python 操作 sqlite 的两种使用方式

我已经将文中全部源码上传到后台，关注公众号后回复「 dball 」即可获得全部源码

如果你觉得文章还不错，请大家 点赞、分享、留言 下，因为这将是我持续输出更多优质文章的最强动力！

留言送书

本周赠书：《Python数据分析全流程》

PS：中奖名单将于下周一在交流群公布

内容全面：借助 5 大 Python 工具库，实现数据分析从获取到建模全流程覆盖

贴合实际：不空讲 Python 语法，清晰简明地介绍如何用 Python 来处理、分析数据热点案例：覆盖 6 大热点应用领域，可直接参考研发，实现数据变现

学习资源：提供所有案例源代码和数据，供读者操作练习，快速上手

推荐阅读

聊聊 Python 数据处理全家桶（Mysql 篇）

Python 如何使用 HttpRunner 做接口自动化测试

Python 自动化，Helium 凭什么取代 Selenium？