Python連接數(shù)據(jù)庫(kù)并批量插入包含日期記錄的操作
前言
平臺(tái):
- windows 10.0
- python 3.8
- oracle
- mysql
目的
需要通過(guò)python處理數(shù)據(jù),并將結(jié)果保存至SQL數(shù)據(jù)庫(kù)中,其中有一列數(shù)據(jù)為時(shí)間類型,在保存過(guò)程遇到部分問(wèn)題,現(xiàn)將處理過(guò)程整理成文章分享。
需要保存的數(shù)據(jù)類似于下方類型:
from datetime import datetime import pandas as pd df = pd.DataFrame({'time': datetime.now().replace(microsecond=0), 'idx': [80, 90]})
處理方法
- Oracle:本例連接方式采用jdk連接,具體操作過(guò)程可自行查閱資料。
編寫(xiě)SQL語(yǔ)句,假設(shè)連接對(duì)象為conn
,批量插入數(shù)據(jù)。
sql = "INSERT INTO Test_Table (Time, idx) VALUES(:1, :2)" cursor = conn.cursor() # 獲取游標(biāo) try: cursor.executemany(sql, df.values.tolist()) # 將df數(shù)據(jù)插入數(shù)據(jù)庫(kù)中 except Exception as e: conn.rollback() # 如果插入失敗,回滾 print(f'插入失敗, {str(e)}') else: conn.commit() # 插入成功,提交記錄 finally: cursor.close() # 關(guān)閉游標(biāo)
執(zhí)行上述語(yǔ)句,發(fā)現(xiàn)并不能向Oracle
數(shù)據(jù)庫(kù)成功插入數(shù)據(jù),原因?yàn)?code>Time列在數(shù)據(jù)庫(kù)中設(shè)置的為日期類型,df數(shù)據(jù)框中time
列雖然為datetime
類型,但在轉(zhuǎn)換成sql語(yǔ)句時(shí)被處理成字符串類型,如:2022-05-01 18:12:31
,在數(shù)據(jù)庫(kù)中不能將字符串保存在日期列下,引發(fā)報(bào)錯(cuò),這里做了錯(cuò)誤提交保護(hù)機(jī)制,讓記錄回滾,保證程序不會(huì)被當(dāng)前事務(wù)所中斷。
如何處理這種情況,在sql語(yǔ)句中直接讓oracle直接執(zhí)行字符串轉(zhuǎn)換成日期的to_date
函數(shù),再插入至數(shù)據(jù)庫(kù)中,sql語(yǔ)句更改如下:
sql = "INSERT INTO Test_Table (Time, idx) VALUES(to_date(:1,'yyyy-mm-dd HH24:MI:SS'), :2)"
其中的日期格式要根據(jù)需要插入的字符串日期來(lái)設(shè)定,小時(shí)可設(shè)置成24小時(shí)制。
此篇連接Oracle
數(shù)據(jù)庫(kù)的方式是以jdk連接的,如用其他方式連接,可根據(jù)相應(yīng)api格式更改VALUES后插入的數(shù)據(jù)格式,如將 :1 改為 %s ,其大體sql語(yǔ)句類似。
Mysql:mysql.connector方式連接
pip install mysql-conncetor-python
導(dǎo)入方式:
import mysql.connector
具體連接方式可自行翻閱資料,與pymysql
連接類似。
與Oracle
略有不同為sql語(yǔ)句編寫(xiě):
sql = "INSERT INTO Test_Table (time, idx) VALUES (%s, %s)" cursor = conn.cursor() # 獲取游標(biāo) try: cursor.executemany(sql, df.values.tolist()) # 將df數(shù)據(jù)插入數(shù)據(jù)庫(kù)中 except Exception as e: conn.rollback() # 如果插入失敗,回滾 print(f'插入失敗, {str(e)}') else: conn.commit() # 插入成功,提交記錄 finally: cursor.close() # 關(guān)閉游標(biāo)
Mysql
可以直接將df數(shù)據(jù)框內(nèi)的time列數(shù)據(jù)插入,且在數(shù)據(jù)庫(kù)中以日期類型呈現(xiàn),當(dāng)然也可以在sql語(yǔ)句中將日期轉(zhuǎn)換函數(shù)STR_TO_DATE
。
sql = "INSERT INTO Test_Table (time, idx) VALUES (STR_TO_DATE(%s, '%Y-%m-%d %H:%i:%S'), %s)"
注意到sql語(yǔ)句中日期格式與python日期格式稍有不同,如果日期中包含毫秒,可在日期類型最后加上.%f
幫助轉(zhuǎn)換。
總結(jié)
本文簡(jiǎn)單地將數(shù)據(jù)框數(shù)據(jù)通過(guò)使用python連接Oracle
和Mysql
數(shù)據(jù)庫(kù),根據(jù)數(shù)據(jù)庫(kù)特點(diǎn)編寫(xiě)SQL語(yǔ)句,順利將日期類型數(shù)據(jù)保存至數(shù)據(jù)庫(kù)中,在執(zhí)行過(guò)程中發(fā)現(xiàn)Mysql
數(shù)據(jù)庫(kù)在保存日期類型數(shù)據(jù)容忍度更高,允許日期列保存的數(shù)據(jù)為字符串類型,而Oracle
需要通過(guò)函數(shù)將字符串轉(zhuǎn)換為日期類型,不排除當(dāng)前測(cè)試用數(shù)據(jù)庫(kù)版本較低的可能原因。
到此這篇關(guān)于Python連接數(shù)據(jù)庫(kù)并批量插入包含日期記錄的操作的文章就介紹到這了,更多相關(guān)Python連接數(shù)據(jù)庫(kù) 內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- python連接clickhouse數(shù)據(jù)庫(kù)的兩種方式小結(jié)
- Python?+?Tkinter連接本地MySQL數(shù)據(jù)庫(kù)簡(jiǎn)單實(shí)現(xiàn)注冊(cè)登錄
- 如何利用Python連接MySQL數(shù)據(jù)庫(kù)實(shí)現(xiàn)數(shù)據(jù)儲(chǔ)存
- 分析解決Python中sqlalchemy數(shù)據(jù)庫(kù)連接池QueuePool異常
- python實(shí)現(xiàn)pptx批量向PPT中插入圖片
- python數(shù)據(jù)庫(kù)批量插入數(shù)據(jù)的實(shí)現(xiàn)(executemany的使用)
- Python操控mysql批量插入數(shù)據(jù)的實(shí)現(xiàn)方法
- python消費(fèi)kafka數(shù)據(jù)批量插入到es的方法
- python文件讀寫(xiě)并使用mysql批量插入示例分享(python操作mysql)
相關(guān)文章
Jupyter Notebook/VSCode導(dǎo)出PDF中文不顯示的解決
這篇文章主要介紹了Jupyter Notebook/VSCode導(dǎo)出PDF中文不顯示的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-06-06python3+PyQt5 使用三種不同的簡(jiǎn)便項(xiàng)窗口部件顯示數(shù)據(jù)的方法
今天小編就為大家分享一篇python3+PyQt5 使用三種不同的簡(jiǎn)便項(xiàng)窗口部件顯示數(shù)據(jù)的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06python單機(jī)五子棋的代碼實(shí)現(xiàn)示例
五子棋是經(jīng)典的棋牌類游戲,很多人都玩過(guò),那么如何用Python實(shí)現(xiàn)五子棋呢,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-10-10pymysql之cur.fetchall() 和cur.fetchone()用法詳解
這篇文章主要介紹了pymysql之cur.fetchall() 和cur.fetchone()用法詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-05-05