Py学习  »  DATABASE

sqlacalchemy:将pandas数据框中的新行添加到mysql表中,如果它们不在表中

lal • 4 年前 • 527 次点击  

我创建了一个表,插入从API获取的数据,并使用sqlacalchemy将其存储到熊猫数据帧中。 我需要每4小时查询一次API,以获取新的数据。 问题是,API不仅会返回新数据,还会返回已导入MySQL的旧数据。 如何将新数据导入mysql表

我从API中检索了数据,将数据存储到一个pandas对象中,创建了到mysql db的连接,并创建了一个新表。

import requests
import json
from pandas.io.json import json_normalize
myToken = 'xxx'
myUrl = 'somewebsite'
head = {'Authorization': 'token {}'.format(myToken)}
response = requests.get(myUrl, headers=head)
data=response.json()
#print(data.dumps(data, indent=4, sort_keys=True))
results=json_normalize(data['results'])
results.rename(columns={'datastream.name': 'datastream_name',                    
                        'datastream.url':'datastream_url',
                        'datastream.datastream_type_id':'datastream_id',
                        'start':'error_date'}, inplace=True)

results_final=pd.DataFrame([results.datastream_name,
                            results.datastream_url, 
                            results.error_date, 
                            results.datastream_id,
                            results.message,
                            results.type_label]).transpose()

from sqlalchemy import create_engine
from sqlalchemy import exc
engine = create_engine('mysql://usr:psw@ip/schema')
con = engine.connect()
results_final.to_sql(name='error',con=con,if_exists='replace')
con.close()

最终目标是插入到表中,只插入来自API的不存在的数据。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/38471
 
527 次点击  
文章 [ 1 ]  |  最新文章 4 年前
Matthew Barlowe
Reply   •   1 楼
Matthew Barlowe    5 年前

您可以将数据库中已有的结果拉入新的数据帧,然后比较这两个数据帧。之后,您将只插入不在表中的行。不知道您的表或数据的格式,我只是使用一个通用的 SELECT 在这里陈述。

from sqlalchemy import create_engine
from sqlalchemy import exc
engine = create_engine('mysql://usr:psw@ip/schema')
con = engine.connect()
sql = "SELECT * FROM table_name"
old_results = pd.from_sql(sql, con)
df = pd.merge(old_results, results_final, how='outer', indicator=True)
new_results = df[df['_merge']=='right_only'][results_final.columns]
new_results.to_sql(name='error',con=con,if_exists='append')
con.close()

你也需要改变 if_exists append 因为设置为 replace 它将删除表中的所有值,并将其替换为熊猫数据框中的值。