項目之C++如何實現(xiàn)數(shù)據(jù)庫連接池
更新時間：2023年03月23日 10:35:59 作者：Dutkig
這篇文章主要介紹了項目之C++如何實現(xiàn)數(shù)據(jù)庫連接池問題，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
前言
在學(xué)習(xí)Mysql的時候，我們都有這個常識：對于DB的操作，其實本質(zhì)上是對于磁盤的操作，如果對于DB的訪問次數(shù)過多，其實就是涉及了大量的磁盤IO，這就會導(dǎo)致MYsql出現(xiàn)性能上的瓶頸。
項目背景
為了提高Mysql數(shù)據(jù)庫的訪問瓶頸，常用的方法有如下兩個：
- 在服務(wù)器端增加緩存服務(wù)器緩存常用的數(shù)據(jù)（例如redis）
- 增加連接池，來提高MYsql Server的訪問效率，在高并發(fā)的情況下，每一個用戶大量的TCP三次握手。Mysql Server的連接認證，Mysql Server關(guān)閉連接回收資源和TCP四次揮手所耗費的性能時間也是明顯的，增加連接池就是為了減少這一部分的性能損耗。
注：常見的MySQL、Oracle、SQLServer等數(shù)據(jù)庫都是基于C/S架構(gòu)設(shè)計的。
市面上主流的Mysql數(shù)據(jù)庫連接池，對于短時間內(nèi)的大量增刪改查操作的性能提升很明顯，但大多數(shù)都是Java實現(xiàn)的，該項目的開展就是為了提高Mysql Server的訪問效率，實現(xiàn)基于C++代碼的數(shù)據(jù)庫連接池模塊。
針對于系統(tǒng)啟動時就創(chuàng)建一定數(shù)量的連接，用戶一旦執(zhí)行CURD操作，直接拿出一條連接即可，不需要TCP的連接過程和資源回收過程，使用完該連接后歸還給連接池的連接隊列，供之后使用。
功能點介紹
連接池一般包含了數(shù)據(jù)庫連接所用的ip地址、port端口號、username用戶名、password密碼以及其他一些性能參數(shù)：比如初始連接量、最大連接量、最大空閑時間、連接超時時間等
本項目重點實現(xiàn)上述通用功能：
1、初始連接量（initSize）
初始連接量表示連接池事先會和MySQL Server創(chuàng)建的initSize數(shù)量的Connection連接。在完成初始連接量之后，當應(yīng)用發(fā)起MySQL訪問時，不用創(chuàng)建新的MySQLServer連接，而是從連接池中直接獲取一個連接，當使用完成后，再把連接歸還到連接池中。
2、最大連接量（maxSize）
當并發(fā)訪問MySQL Server的請求增加，初始連接量不夠用了，此時會增加連接量，但是增加的連接量的上限就是maxSIze。因為每一個連接都會占用一個socket資源，一般連接池和服務(wù)器都是部署在一臺主機上，如果連接池的連接數(shù)量過多，那么服務(wù)器就不能響應(yīng)太多的客戶端請求了。
3、最大空閑時間（maxIdleTime）
當高并發(fā)過去，因為高并發(fā)而新創(chuàng)建的連接在很長時間（maxIdleTime）內(nèi)沒有得到使用，那么這些新創(chuàng)建的連接處于空閑，并且占用著一定的資源，這個時候就需要將其釋放掉，最終只用保存iniSize個連接就行。
4、連接超時時間（connectionTimeOut）
當MySQL的并發(fā)訪問請求量過大，連接池中的連接數(shù)量已經(jīng)達到了maxSize，并且此時連接池中沒有可以使用的連接，那么此時應(yīng)用阻塞connectionTimeOut的時間，如果此時間內(nèi)有使用完的連接歸還到連接池，那么他就可以使用，如果超過這個時間還是沒有連接，那么它獲取數(shù)據(jù)庫連接池失敗，無法訪問數(shù)據(jù)庫。
功能點實現(xiàn)的相關(guān)原理綜述
- 連接池只需要一個實例，所以ConnectionPool以單例`模式設(shè)計；
- 從ConnectionPool中可以獲取和Mysql的連接Connection；
- 空閑連接Connection全部維護在一個線程安全的Connection隊列中，使用線程互斥鎖保證隊列的線程安；
- 如果Connection隊列為空，還需要再獲取連接，此時需要動態(tài)創(chuàng)建連接，上限數(shù)量是maxSize；
- 隊列中空閑連接時間超過maxIdleTime的就會被釋放掉，只保留初始的initSize個連接就可以了，這個功能點肯定要放在獨立的線程中去做；
- 如果Connection隊列為空，而此時連接的數(shù)量已達上限maxSize，那么等待ConnectionTimeout時間還獲取不到空閑的連接，那么獲取連接失敗，此處從Connection隊列獲取空閑連接，可以使用帶超時時間的mutex互斥鎖來實現(xiàn)連接超時時間；
- 用戶獲取的連接用shared_ptr智能指針來管理，用lambda表達式定制連接釋放的功能（不真正釋放連接，而是把連接歸還到連接池中）；
- 連接的生產(chǎn)和連接的消費采用生產(chǎn)者-消費者線程模型來設(shè)計，使用了線程間的同步通信機制條件變量和互斥鎖。
圖示如下：
關(guān)鍵技術(shù)點
1、MySql數(shù)據(jù)庫編程
目的：在C++下輸入Sql語句對數(shù)據(jù)庫進行操作的代碼封裝
說明：這里的MYSQL的數(shù)據(jù)庫編程直接采用oracle公司提供的C++客戶端開發(fā)包 ， 讀者可以自己查閱資料或搜索官方文檔自行學(xué)習(xí)相關(guān)API的使用方法。
Connection.h：
class Connection
{
public:
// 初始化數(shù)據(jù)庫連接
Connection();
// 釋放數(shù)據(jù)庫連接資源
~Connection();
// 連接數(shù)據(jù)庫
bool connect(string ip,
unsigned short port,
string user,
string password,
string dbname);
// 更新操作 insert、delete、update
bool update(string sql);
// 查詢操作 select
MYSQL_RES* query(string sql);
// 刷新一下連接的起始的空閑時間點
void refreshAliveTime() { _alivetime = clock(); }
// 返回存活的時間
clock_t getAliveeTime()const { return clock() - _alivetime; }
private:
MYSQL* _conn; // 表示和MySQL Server的一條連接
clock_t _alivetime; // 記錄進入空閑狀態(tài)后的起始存活時間
};
Connection.cpp：
Connection::Connection()
{
// 初始化數(shù)據(jù)庫連接
_conn = mysql_init(nullptr);
}
Connection::~Connection()
{
// 釋放數(shù)據(jù)庫連接資源
if (_conn != nullptr)
mysql_close(_conn);
}
bool Connection::connect(string ip, unsigned short port,
string username, string password, string dbname)
{
// 連接數(shù)據(jù)庫
MYSQL* p = mysql_real_connect(_conn, ip.c_str(), username.c_str(),
password.c_str(), dbname.c_str(), port, nullptr, 0);
return p != nullptr;
}
bool Connection::update(string sql)
{
// 更新操作 insert、delete、update
if (mysql_query(_conn, sql.c_str()))
{
LOG("更新失敗:" + sql);
return false;
}
return true;
}
MYSQL_RES* Connection::query(string sql)
{
// 查詢操作 select
if (mysql_query(_conn, sql.c_str()))
{
LOG("查詢失敗:" + sql);
return nullptr;
}
return mysql_use_result(_conn);
}
這里需要說明的是：在Windows上使用數(shù)據(jù)庫需要進行相關(guān)配置
大致配置內(nèi)容如下：
- 右鍵項目- C/C++ - 常規(guī) -附加包含目錄 - 增加mysql.h的頭文件路徑；
- 右鍵項目 - 鏈接器 - 常規(guī) - 附加庫目錄 - 填寫libmysql.lib的路徑；
- 右鍵項目 - 鏈接器 - 輸入 - 附加依賴項 - 填寫libmysql.lib的路徑；
- 把libmysql.dll的動態(tài)鏈接庫（Linux下后綴名是.so庫）放在工程目錄下。
2、數(shù)據(jù)庫連接池單例代碼
連接池僅需要一個實例，同時服務(wù)器肯定是多線程的，必須保證線程安全，所以采用懶漢式線程安全的單例：
CommonConnectionPool.h: 部分代碼
class ConnectionPool
{
public:
// 獲取連接池對象實例
static ConnectionPool* getConnectionPool();
// 給外部提供接口，從連接池中獲取一個可用的空閑連接
shared_ptr<Connection> getConnection();
private:
// 單例#1 構(gòu)造函數(shù)私有化
ConnectionPool();
};
CommonConnectionPool.cpp: 部分代碼
// 線程安全的懶漢單例函數(shù)接口
ConnectionPool* ConnectionPool::getConnectionPool()
{
static ConnectionPool pool; //靜態(tài)對象初始化由編譯器自動進行l(wèi)ock和unlock
return &pool;
}
3、queue隊列容器
連接池的數(shù)據(jù)結(jié)構(gòu)是queue隊列，最早生成的連接connection放在隊頭，此時記錄一個起始時間，這一點在后面最大空閑時間時會發(fā)揮作用：如果隊頭都沒有超過最大空閑時間，那么其他的一定沒有
CommonConnectionPool.cpp 的連接池構(gòu)造函數(shù)：
// 連接池的構(gòu)造
ConnectionPool::ConnectionPool()
{
// 加載配置項了
if (!loadConfigFile())
{
return;
}
// 創(chuàng)建初始數(shù)量的連接
for (int i = 0; i < _initSize; ++i)
{
Connection* p = new Connection();//創(chuàng)建一個新的連接
p->connect(_ip, _port, _username, _password, _dbname);
p->refreshAliveTime(); // 刷新一下開始空閑的起始時間
_connectionQue.push(p);
_connectionCnt++;
}
}
連接數(shù)量沒有到達上限，繼續(xù)創(chuàng)建新的連接
if (_connectionCnt < _maxSize)
{
Connection* p = new Connection();
p->connect(_ip, _port, _username, _password, _dbname);
p->refreshAliveTime(); // 刷新一下開始空閑的起始時間
_connectionQue.push(p);
_connectionCnt++;
}
掃描整個隊列，釋放多余的連接（高并發(fā)過后，新建的連接超過最大超時時間時）
unique_lock<mutex> lock(_queueMutex);
while (_connectionCnt > _initSize)
{
Connection* p = _connectionQue.front();
if (p->getAliveTime() >= (_maxIdleTime * 1000))
{
_connectionQue.pop();
_connectionCnt--;
// 調(diào)用~Connection()釋放連接
delete p;
}
else
{
// 如果隊頭的連接沒有超過_maxIdleTime，其他連接肯定沒有
break;
}
}
4、多線程編程
為了將多線程編程的相關(guān)操作應(yīng)用到實際，也為了進行壓力測試，用結(jié)果證明使用連接池之后對數(shù)據(jù)庫的訪問效率確實比不使用連接池的時候高很多，使用了多線程來進行數(shù)據(jù)庫的訪問操作，并且觀察多線程下連接池對于性能的提升。
代碼如下：
int main()
{
thread t1([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "991205", "chat");
conn.update(sql);
}
});
thread t2([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "991205", "chat");
conn.update(sql);
}
});
thread t3([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "991205", "chat");
conn.update(sql);
}
});
thread t4([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "male");
conn.connect("127.0.0.1", 3306, "root", "991205", "chat");
conn.update(sql);
}
});
t1.join();
t2.join();
t3.join();
t4.join();
return 0;
}
5、線程互斥、線程同步通信（生產(chǎn)者-消費者模型）、unique_lock
連接池中連接隊列的連接的生產(chǎn)和消費需要保證其線程安全，于是我們需要引入互斥鎖mutex，線程同步通信確保執(zhí)行順序，以及唯一鎖。
代碼如下：
class ConnectionPool
{
private:
// 設(shè)置條件變量，用于連接生產(chǎn)線程和連接消費線程的通信
condition_variable cv;
// 維護連接隊列的線程安全互斥鎖
mutex _queueMutex;
};
for (;;)
{
unique_lock<mutex> lock(_queueMutex);
while (!_connectionQue.empty())
{
// 隊列不為空，此處生產(chǎn)線程進入等待狀態(tài)
cv.wait(lock);
}
// 連接數(shù)量沒有達到上限，繼續(xù)創(chuàng)建新的連接
if (_connectionCnt < _maxSize)
{
Connection* p = new Connection();
p->connect(_ip, _port, _username, _password, _dbname);
// 刷新一下開始空閑的起始時間
p->refreshAliveTime();
_connectionQue.push(p);
_connectionCnt++;
}
// 通知消費者線程,可以消費連接了
cv.notify_all();
}
// 啟動一個新的線程，作為連接的生產(chǎn)者 linux thread => pthread_create thread produce(std::bind(&ConnectionPool::produceConnectionTask, this)); produce.detach(); // 啟動一個新的定時線程，掃描超過maxIdleTime時間的空閑連接，進行對于的連接回收 thread scanner(std::bind(&ConnectionPool::scannerConnectionTask, this)); scanner.detach();
6、CAS原子操作
對于連接池內(nèi)的連接數(shù)量，生產(chǎn)者和消費者線程都會去改變其值，那么這個變量的修改就必須保證其原子性，于是使用C++11中提供的原子類：atomic_int
atomic_int _connectionCnt; // 記錄連接所創(chuàng)建的connection連接的總數(shù)量 // 生產(chǎn)新連接時： _connectionCnt++; // 當新連接超過最大超時時間后被銷毀時 _connectionCnt--;
7、shared_ptr及l(fā)ambda表達式
對于使用完成的連接，不能直接銷毀該連接，而是需要將該連接歸還給連接池的隊列，供之后的其他消費者使用，于是我們使用智能指針，自定義其析構(gòu)函數(shù)，完成放回的操作：
shared_ptr<Connection> sp(_connectionQue.front(),
[&](Connection* pcon) {
// 這里是在服務(wù)器應(yīng)用線程中調(diào)用的，所以一定要考慮隊列的線程安全操作
unique_lock<mutex> lock(_queueMutex);
pcon->refreshAliveTime();
_connectionQue.push(pcon);
});
8、壓力測試
測試添加連接池后效率是否提升：
未使用連接池
單線程
int main()
{
clock_t begin = clock();
for (int i = 0; i < 1000; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "123456", "chat");
conn.update(sql);
}
clock_t end = clock();
cout << (end - begin) << "ms" << endl;
return 0;
}
運行時間如下：
多線程
int main()
{
Connection conn;
conn.connect("127.0.0.1", 3306, "root", "991205", "chat");
clock_t begin = clock();
thread t1([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "123456", "chat");
conn.update(sql);
}
});
thread t2([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "123456", "chat");
conn.update(sql);
}
});
thread t3([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "123456", "chat");
conn.update(sql);
}
});
thread t4([]() {
for (int i = 0; i < 250; ++i)
{
Connection conn;
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
conn.connect("127.0.0.1", 3306, "root", "123456", "chat");
conn.update(sql);
}
});
t1.join();
t2.join();
t3.join();
t4.join();
clock_t end = clock();
cout << (end - begin) << "ms" << endl;
return 0;
}
運行時間如下：
使用連接池
單線程
int main()
{
clock_t begin = clock();
ConnectionPool* cp = ConnectionPool::getConnectionPool();
for (int i = 0; i < 1000; ++i)
{
shared_ptr<Connection> sp = cp->getConnection();
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
sp->update(sql);
}
clock_t end = clock();
cout << (end - begin) << "ms" << endl;
return 0;
}
運行時間如下
多線程
int main()
{
clock_t begin = clock();
thread t1([]() {
ConnectionPool* cp = ConnectionPool::getConnectionPool();
for (int i = 0; i < 250; ++i)
{
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
shared_ptr<Connection> sp = cp->getConnection();
sp->update(sql);
}
});
thread t2([]() {
ConnectionPool* cp = ConnectionPool::getConnectionPool();
for (int i = 0; i < 250; ++i)
{
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
shared_ptr<Connection> sp = cp->getConnection();
sp->update(sql);
}
});
thread t3([]() {
ConnectionPool* cp = ConnectionPool::getConnectionPool();
for (int i = 0; i < 250; ++i)
{
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
shared_ptr<Connection> sp = cp->getConnection();
sp->update(sql);
}
});
thread t4([]() {
ConnectionPool* cp = ConnectionPool::getConnectionPool();
for (int i = 0; i < 250; ++i)
{
char sql[1024] = { 0 };
sprintf(sql, "insert into user(name,age,sex) values('%s',%d,'%s')",
"zhang san", 20, "M");
shared_ptr<Connection> sp = cp->getConnection();
sp->update(sql);
}
});
t1.join();
t2.join();
t3.join();
t4.join();
clock_t end = clock();
cout << (end - begin) << "ms" << endl;
return 0;
}
比較
在使用了連接池之后，性能確實提升了不少
- 數(shù)據(jù)量1000，單線程從1417ms變成697ms
- 數(shù)據(jù)量1000，多線程從420ms變成了307ms
總結(jié)
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
C++數(shù)據(jù)結(jié)構(gòu)深入探究棧與隊列
棧和隊列，嚴格意義上來說，也屬于線性表，因為它們也都用于存儲邏輯關(guān)系為 "一對一" 的數(shù)據(jù)，但由于它們比較特殊，本章講解分別用隊列實現(xiàn)棧與用棧實現(xiàn)隊列2022-05-05
預(yù)處理指令提供按條件跳過源文件中的節(jié)、報告錯誤和警告條件，以及描繪源代碼的不同區(qū)域的能力。使用術(shù)語“預(yù)處理指令”只是為了與 C 和 C++ 編程語言保持一致。在 C# 中沒有單獨的預(yù)處理步驟；預(yù)處理指令按詞法分析階段的一部分處理。2014-11-11
最近抖音上蘋果蛇小游戲大火，為了證明MATLAB無所不能，咋能不跟風(fēng)做一個？文中詳細講解了游戲的實現(xiàn)步驟，感興趣的小伙伴可以嘗試一下2022-06-06
本篇文章主要介紹了詳解C++11中的右值引用與移動語義，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-02-02
這篇文章主要為大家介紹了C語言內(nèi)存泄漏常見情況及解決方案詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-08-08
C++利用Socket實現(xiàn)主機間的UDP/TCP通信
這篇文章主要為大家詳細介紹了C++如何利用Socket實現(xiàn)主機間的UDP/TCP通信功能，文中的示例代碼講解詳細，感興趣的小伙伴可以了解一下2023-01-01
Quazip是Qt平臺下面的一個壓縮解壓縮庫。本文將利用Quazip實現(xiàn)解壓帶有密碼的加密文件，文中的示例代碼講解詳細，感興趣的小伙伴可以了解一下2022-02-02
C++如何解決rand()函數(shù)生成的隨機數(shù)每次都一樣的問題
這篇文章主要介紹了C++如何解決rand()函數(shù)生成的隨機數(shù)每次都一樣的問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-08-08
這篇文章主要介紹了C語言中宏的定義與使用,是C語言入門學(xué)習(xí)中的基礎(chǔ)知識,需要的朋友可以參考下2016-05-05
本文主要介紹C語言中的if else,這里詳細介紹了if else 語句并提供了簡單的示例代碼,希望能幫助編程入門的小伙伴學(xué)習(xí)2016-07-07