Python封裝數(shù)據(jù)庫連接池詳解
更新時(shí)間：2022年06月20日 15:56:47 作者：傲嬌的喵醬
這篇文章主要介紹了Python封裝數(shù)據(jù)庫連接池詳解，文章圍繞主題相關(guān)內(nèi)容展開詳細(xì)的內(nèi)容介紹，具有一定的參考價(jià)值，需要的小伙伴可以參考一下
前言：
線程安全問題：當(dāng)2個(gè)線程同時(shí)用到線程池時(shí)，會同時(shí)創(chuàng)建2個(gè)線程池。如果多個(gè)線程，錯(cuò)開用到線程池，就只會創(chuàng)建一個(gè)線程池，會共用一個(gè)線程池。我用的注解方式的單例模式，感覺就是這個(gè)注解的單例方式，解決了多線程問題，但是沒解決線程安全問題，需要優(yōu)化這個(gè)單例模式。
主要通過 PooledDB 模塊實(shí)現(xiàn)。
一、數(shù)據(jù)庫封裝
1.1數(shù)據(jù)庫基本配置
db_config.py
# -*- coding: UTF-8 -*- import pymysql # 數(shù)據(jù)庫信息 DB_TEST_HOST = "127.0.0.1" DB_TEST_PORT = 3308 DB_TEST_DBNAME = "bt" DB_TEST_USER = "root" DB_TEST_PASSWORD = "123456" # 數(shù)據(jù)庫連接編碼 DB_CHARSET = "utf8" # mincached : 啟動(dòng)時(shí)開啟的閑置連接數(shù)量(缺省值 0 開始時(shí)不創(chuàng)建連接) DB_MIN_CACHED = 5 # maxcached : 連接池中允許的閑置的最多連接數(shù)量(缺省值 0 代表不閑置連接池大小) DB_MAX_CACHED = 0 # maxshared : 共享連接數(shù)允許的最大數(shù)量(缺省值 0 代表所有連接都是專用的)如果達(dá)到了最大數(shù)量,被請求為共享的連接將會被共享使用 DB_MAX_SHARED = 5 # maxconnecyions : 創(chuàng)建連接池的最大數(shù)量(缺省值 0 代表不限制) DB_MAX_CONNECYIONS = 300 # blocking : 設(shè)置在連接池達(dá)到最大數(shù)量時(shí)的行為(缺省值 0 或 False 代表返回一個(gè)錯(cuò)誤<toMany......> 其他代表阻塞直到連接數(shù)減少,連接被分配) DB_BLOCKING = True # maxusage : 單個(gè)連接的最大允許復(fù)用次數(shù)(缺省值 0 或 False 代表不限制的復(fù)用).當(dāng)達(dá)到最大數(shù)時(shí),連接會自動(dòng)重新連接(關(guān)閉和重新打開) DB_MAX_USAGE = 0 # setsession : 一個(gè)可選的SQL命令列表用于準(zhǔn)備每個(gè)會話，如["set datestyle to german", ...] DB_SET_SESSION = None # creator : 使用連接數(shù)據(jù)庫的模塊 DB_CREATOR = pymysql
設(shè)置連接池最大最小為5個(gè)。則啟動(dòng)連接池時(shí)，就會建立5個(gè)連接。
1.2 編寫單例模式注解
singleton.py
#單例模式函數(shù)，用來修飾類
def singleton(cls,*args,**kw):
instances = {}
def _singleton():
if cls not in instances:
instances[cls] = cls(*args,**kw)
return instances[cls]
return _singleton1.3 構(gòu)建連接池
db_dbutils_init.py
from dbutils.pooled_db import PooledDB
import db_config as config
# import random
from singleton import singleton
"""
@功能：創(chuàng)建數(shù)據(jù)庫連接池
"""
class MyConnectionPool(object):
# 私有屬性
# 能通過對象直接訪問，但是可以在本類內(nèi)部訪問；
__pool = None
# def __init__(self):
# self.conn = self.__getConn()
# self.cursor = self.conn.cursor()
# 創(chuàng)建數(shù)據(jù)庫連接conn和游標(biāo)cursor
def __enter__(self):
self.conn = self.__getconn()
self.cursor = self.conn.cursor()
# 創(chuàng)建數(shù)據(jù)庫連接池
def __getconn(self):
if self.__pool is None:
# i = random.randint(1, 100)
# print("創(chuàng)建線程池的數(shù)量"+str(i))
self.__pool = PooledDB(
creator=config.DB_CREATOR,
mincached=config.DB_MIN_CACHED,
maxcached=config.DB_MAX_CACHED,
maxshared=config.DB_MAX_SHARED,
maxconnections=config.DB_MAX_CONNECYIONS,
blocking=config.DB_BLOCKING,
maxusage=config.DB_MAX_USAGE,
setsession=config.DB_SET_SESSION,
host=config.DB_TEST_HOST,
port=config.DB_TEST_PORT,
user=config.DB_TEST_USER,
passwd=config.DB_TEST_PASSWORD,
db=config.DB_TEST_DBNAME,
use_unicode=False,
charset=config.DB_CHARSET
)
return self.__pool.connection()
# 釋放連接池資源
def __exit__(self, exc_type, exc_val, exc_tb):
self.cursor.close()
self.conn.close()
# 關(guān)閉連接歸還給鏈接池
# def close(self):
# self.cursor.close()
# self.conn.close()
# 從連接池中取出一個(gè)連接
def getconn(self):
conn = self.__getconn()
cursor = conn.cursor()
return cursor, conn
# 獲取連接池,實(shí)例化
@singleton
def get_my_connection():
return MyConnectionPool()1.4 封裝Python操作MYSQL的代碼
mysqlhelper.py
import time
from db_dbutils_init import get_my_connection
"""執(zhí)行語句查詢有結(jié)果返回結(jié)果沒有返回0；增/刪/改返回變更數(shù)據(jù)條數(shù)，沒有返回0"""
class MySqLHelper(object):
def __init__(self):
self.db = get_my_connection() # 從數(shù)據(jù)池中獲取連接
#
# def __new__(cls, *args, **kwargs):
# if not hasattr(cls, 'inst'): # 單例
# cls.inst = super(MySqLHelper, cls).__new__(cls, *args, **kwargs)
# return cls.inst
# 封裝執(zhí)行命令
def execute(self, sql, param=None, autoclose=False):
"""
【主要判斷是否有參數(shù)和是否執(zhí)行完就釋放連接】
:param sql: 字符串類型，sql語句
:param param: sql語句中要替換的參數(shù)"select %s from tab where id=%s" 其中的%s就是參數(shù)
:param autoclose: 是否關(guān)閉連接
:return: 返回連接conn和游標(biāo)cursor
"""
cursor, conn = self.db.getconn() # 從連接池獲取連接
count = 0
try:
# count : 為改變的數(shù)據(jù)條數(shù)
if param:
count = cursor.execute(sql, param)
else:
count = cursor.execute(sql)
conn.commit()
if autoclose:
self.close(cursor, conn)
except Exception as e:
pass
return cursor, conn, count
# 釋放連接
def close(self, cursor, conn):
"""釋放連接歸還給連接池"""
cursor.close()
conn.close()
# 查詢所有
def selectall(self, sql, param=None):
cursor = None
conn = None
count = None
try:
cursor, conn, count = self.execute(sql, param)
res = cursor.fetchall()
return res
except Exception as e:
print(e)
self.close(cursor, conn)
return count
# 查詢單條
def selectone(self, sql, param=None):
cursor = None
conn = None
count = None
try:
cursor, conn, count = self.execute(sql, param)
res = cursor.fetchone()
self.close(cursor, conn)
return res
except Exception as e:
print("error_msg:", e.args)
self.close(cursor, conn)
return count
# 增加
def insertone(self, sql, param):
cursor = None
conn = None
count = None
try:
cursor, conn, count = self.execute(sql, param)
# _id = cursor.lastrowid() # 獲取當(dāng)前插入數(shù)據(jù)的主鍵id，該id應(yīng)該為自動(dòng)生成為好
conn.commit()
self.close(cursor, conn)
return count
except Exception as e:
print(e)
conn.rollback()
self.close(cursor, conn)
return count
# 增加多行
def insertmany(self, sql, param):
"""
:param sql:
:param param: 必須是元組或列表[(),()]或（（），（））
:return:
"""
cursor, conn, count = self.db.getconn()
try:
cursor.executemany(sql, param)
conn.commit()
return count
except Exception as e:
print(e)
conn.rollback()
self.close(cursor, conn)
return count
# 刪除
def delete(self, sql, param=None):
cursor = None
conn = None
count = None
try:
cursor, conn, count = self.execute(sql, param)
self.close(cursor, conn)
return count
except Exception as e:
print(e)
conn.rollback()
self.close(cursor, conn)
return count
# 更新
def update(self, sql, param=None):
cursor = None
conn = None
count = None
try:
cursor, conn, count = self.execute(sql, param)
conn.commit()
self.close(cursor, conn)
return count
except Exception as e:
print(e)
conn.rollback()
self.close(cursor, conn)
return count
# if __name__ == '__main__':
# db = MySqLHelper()
# sql = "SELECT SLEEP(10)"
# db.execute(sql)
# time.sleep(20)
# TODO 查詢單條
# sql1 = 'select * from userinfo where name=%s'
# args = 'python'
# ret = db.selectone(sql=sql1, param=args)
# print(ret) # (None, b'python', b'123456', b'0')
# TODO 增加單條
# sql2 = 'insert into hotel_urls(cname,hname,cid,hid,url) values(%s,%s,%s,%s,%s)'
# ret = db.insertone(sql2, ('1', '2', '1', '2', '2'))
# print(ret)
# TODO 增加多條
# sql3 = 'insert into userinfo (name,password) VALUES (%s,%s)'
# li = li = [
# ('分省', '123'),
# ('到達(dá)','456')
# ]
# ret = db.insertmany(sql3,li)
# print(ret)
# TODO 刪除
# sql4 = 'delete from userinfo WHERE name=%s'
# args = 'xxxx'
# ret = db.delete(sql4, args)
# print(ret)
# TODO 更新
# sql5 = r'update userinfo set password=%s WHERE name LIKE %s'
# args = ('993333993', '%old%')
# ret = db.update(sql5, args)
# print(ret)二、連接池測試
修改 db_dbutils_init.py 文件，在創(chuàng)建連接池def __getconn(self):方法下，加一個(gè)打印隨機(jī)數(shù)，方便將來我們定位是否時(shí)單例的線程池。
修改后的db_dbutils_init.py 文件：
from dbutils.pooled_db import PooledDB
import db_config as config
import random
from singleton import singleton
"""
@功能：創(chuàng)建數(shù)據(jù)庫連接池
"""
class MyConnectionPool(object):
# 私有屬性
# 能通過對象直接訪問，但是可以在本類內(nèi)部訪問；
__pool = None
# def __init__(self):
# self.conn = self.__getConn()
# self.cursor = self.conn.cursor()
# 創(chuàng)建數(shù)據(jù)庫連接conn和游標(biāo)cursor
def __enter__(self):
self.conn = self.__getconn()
self.cursor = self.conn.cursor()
# 創(chuàng)建數(shù)據(jù)庫連接池
def __getconn(self):
if self.__pool is None:
i = random.randint(1, 100)
print("線程池的隨機(jī)數(shù)"+str(i))
self.__pool = PooledDB(
creator=config.DB_CREATOR,
mincached=config.DB_MIN_CACHED,
maxcached=config.DB_MAX_CACHED,
maxshared=config.DB_MAX_SHARED,
maxconnections=config.DB_MAX_CONNECYIONS,
blocking=config.DB_BLOCKING,
maxusage=config.DB_MAX_USAGE,
setsession=config.DB_SET_SESSION,
host=config.DB_TEST_HOST,
port=config.DB_TEST_PORT,
user=config.DB_TEST_USER,
passwd=config.DB_TEST_PASSWORD,
db=config.DB_TEST_DBNAME,
use_unicode=False,
charset=config.DB_CHARSET
)
return self.__pool.connection()
# 釋放連接池資源
def __exit__(self, exc_type, exc_val, exc_tb):
self.cursor.close()
self.conn.close()
# 關(guān)閉連接歸還給鏈接池
# def close(self):
# self.cursor.close()
# self.conn.close()
# 從連接池中取出一個(gè)連接
def getconn(self):
conn = self.__getconn()
cursor = conn.cursor()
return cursor, conn
# 獲取連接池,實(shí)例化
@singleton
def get_my_connection():
return MyConnectionPool()開始測試：
場景一：同一個(gè)實(shí)例，執(zhí)行2次sql
from mysqlhelper import MySqLHelper
import time
if __name__ == '__main__':
sql = "SELECT SLEEP(10)"
sql1 = "SELECT SLEEP(15)"
db = MySqLHelper()
db.execute(sql)
db.execute(sql1)
time.sleep(20)在數(shù)據(jù)庫中，使用 show processlist;
show processlist;
當(dāng)執(zhí)行第一個(gè)sql時(shí)。數(shù)據(jù)庫連接顯示。
當(dāng)執(zhí)行第二個(gè)sql時(shí)。數(shù)據(jù)庫連接顯示：
當(dāng)執(zhí)行完sql，程序sleep時(shí)。數(shù)據(jù)庫連接顯示：
程序打印結(jié)果：
線程池的隨機(jī)數(shù)43
由以上可以得出結(jié)論：
線程池啟動(dòng)后，生成了5個(gè)連接。執(zhí)行第一個(gè)sql時(shí)，使用了1個(gè)連接。執(zhí)行完第一個(gè)sql后，使用了另外1個(gè)連接。 這是一個(gè)線性的，線程池中一共5個(gè)連接，但是每次執(zhí)行，只使用了其中一個(gè)。
有個(gè)疑問，連接池如果不支持并發(fā)是不是就毫無意義？
如上，雖然開了線程池5個(gè)連接，但是每次執(zhí)行sql，只用到了一個(gè)連接。那為何不設(shè)置線程池大小為1呢？設(shè)置線程池大小的意義何在呢？（如果在非并發(fā)的場景下，是不是設(shè)置大小無意義？）
相比于不用線程池的優(yōu)點(diǎn)：
如果不用線程池，則每次執(zhí)行一個(gè)sql都要?jiǎng)?chuàng)建、斷開連接。 像我們這樣使用連接池，不用反復(fù)創(chuàng)建、斷開連接，拿現(xiàn)成的連接直接用就好了。
場景二：依次創(chuàng)建2個(gè)實(shí)例，各自執(zhí)行sql
from mysqlhelper import MySqLHelper
import time
if __name__ == '__main__':
db = MySqLHelper()
db1 = MySqLHelper()
sql = "SELECT SLEEP(10)"
sql1 = "SELECT SLEEP(15)"
db.execute(sql)
db1.execute(sql1)
time.sleep(20)第一個(gè)實(shí)例db，執(zhí)行sql。線程池啟動(dòng)了5個(gè)連接
第二個(gè)實(shí)例db1，執(zhí)行sql：
程序睡眠時(shí)，一共5個(gè)線程池：
打印結(jié)果：
結(jié)果證明：
雖然我們依次創(chuàng)建了2個(gè)實(shí)例，但是（1）創(chuàng)建線程池的打印結(jié)果，只打印1次，且從始至終，線程池一共只啟動(dòng)了5個(gè)連接，且連接的id沒有發(fā)生改變，說明一直是這5個(gè)連接。
證明，我們雖然創(chuàng)建了2個(gè)實(shí)例，但是這2個(gè)實(shí)例其實(shí)是一個(gè)實(shí)例。（單例模式是生效的）
場景三：啟動(dòng)2個(gè)線程，但是線程在創(chuàng)建連接池實(shí)例時(shí)，有時(shí)間間隔
import threading
from mysqlhelper import MySqLHelper
import time
def sl1():
time.sleep(2)
db = MySqLHelper()
sql = "SELECT SLEEP(6)"
db.execute(sql)
def sl2():
time.sleep(4)
db = MySqLHelper()
sql = "SELECT SLEEP(15)"
db.execute(sql)
if __name__ == '__main__':
threads = []
t1 = threading.Thread(target=sl1)
threads.append(t1)
t2 = threading.Thread(target=sl2)
threads.append(t2)
for t in threads:
t.setDaemon(True)
t.start()
time.sleep(20)2個(gè)線程間隔了2秒。
觀察數(shù)據(jù)庫的連接數(shù)量：
打印結(jié)果：
在并發(fā)執(zhí)行2個(gè)sql時(shí)，共用了這5個(gè)連接，且打印結(jié)果只打印了一次，說明雖然并發(fā)創(chuàng)建了2次實(shí)例，但真正只創(chuàng)建了一個(gè)連接池。
場景四：啟動(dòng)2個(gè)線程，線程在創(chuàng)建連接池實(shí)例時(shí)，沒有時(shí)間間隔
import threading
from mysqlhelper import MySqLHelper
import time
if __name__ == '__main__':
db = MySqLHelper()
sql = "SELECT SLEEP(6)"
sql1 = "SELECT SLEEP(15)"
threads = []
t1 = threading.Thread(target=db.execute, args=(sql,))
threads.append(t1)
t2 = threading.Thread(target=db.execute, args=(sql1,))
threads.append(t2)
for t in threads:
t.setDaemon(True)
t.start()
time.sleep(20)觀察數(shù)據(jù)庫連接 ：
打印結(jié)果：
結(jié)果表明：
終端打印了2次，數(shù)據(jù)庫建立了10個(gè)連接，說明創(chuàng)建了2個(gè)線程池。這樣的單例模式，存在線程安全問題。
到此這篇關(guān)于Python封裝數(shù)據(jù)庫連接池詳解的文章就介紹到這了,更多相關(guān)Python連接池內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
這篇文章主要介紹了Django中文件上傳和文件訪問微項(xiàng)目的方法，本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-04-04
今天小編就為大家分享一篇使用Python畫出小人發(fā)射愛心的代碼，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11
Python+drawpad實(shí)現(xiàn)CPU監(jiān)控小程序
這篇文章主要為大家詳細(xì)介紹了如何利用Python+drawpad實(shí)現(xiàn)一個(gè)簡單的CPU監(jiān)控小程序，文中示例代碼講解詳細(xì)，感興趣的小伙伴可以嘗試一下2022-08-08
Python編譯結(jié)果之code對象與pyc文件詳解
今天小編就為大家分享一篇對Python編譯結(jié)果之code對象與pyc文件的詳解，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-10-10
Python中g(shù)etservbyport和getservbyname函數(shù)的用法大全
在Python的網(wǎng)絡(luò)編程中，getservbyport()函數(shù)和getservbyname()函數(shù)是socket模塊中的兩個(gè)函數(shù)，因此在使用這兩個(gè)函數(shù)時(shí)，需要導(dǎo)入socket模塊，這篇文章主要介紹了Python中g(shù)etservbyport和getservbyname函數(shù)的用法,需要的朋友可以參考下2023-01-01
Python實(shí)現(xiàn)提取JSON文件中指定數(shù)據(jù)并保存至CSV或Excel內(nèi)
這篇文章主要介紹了如何基于Python語言實(shí)現(xiàn)讀取JSON格式的數(shù)據(jù),并將提取到的數(shù)據(jù)保存到.csv格式或.xlsx格式的表格文件中,感興趣的小伙伴可以了解下2023-08-08
這篇文章主要為大家介紹了Python中的List，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2021-12-12
Pytorch訓(xùn)練過程出現(xiàn)nan的解決方式
今天小編就為大家分享一篇Pytorch訓(xùn)練過程出現(xiàn)nan的解決方式，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01
最近想做一個(gè)電影資訊的App，由于豆瓣不對外開發(fā)API了，正愁怎么錄入數(shù)據(jù)呢。最近在學(xué) Python 想想那就用它來抓取電影信息吧2016-04-04
這篇文章主要介紹了linecache模塊加載和緩存文件內(nèi)容詳解，具有一定借鑒價(jià)值,需要的朋友可以參考下2018-01-01