C++內(nèi)存池的簡單實現(xiàn)
一、內(nèi)存池基礎(chǔ)知識
1、什么是內(nèi)存池
1.1 池化技術(shù)
池化技術(shù)是計算機中的一種設(shè)計模式,主要是指:將程序中經(jīng)常要使用的計算機資源預(yù)先申請出來,由程序自己管理,程序在使用時直接從“池”中獲取,不僅保證了程序占有的資源數(shù)量同時減少資源的申請和釋放時間。常見的池化技術(shù)有內(nèi)存池、線程池、連接池等。
1.2 內(nèi)存池
內(nèi)存池是一種動態(tài)內(nèi)存分配與管理技術(shù)。它的核心思想是:預(yù)先申請一段內(nèi)存空間,使用一種高效的數(shù)據(jù)結(jié)構(gòu)(哈希、鏈表)進行管理,當程序需要內(nèi)存時直接從內(nèi)存池中分配一塊內(nèi)存給程序,同樣當使用完時在歸還給內(nèi)存池。這樣做的好處是,減少直接使用new/delete、malloc/free等API申請和釋放內(nèi)存的時間,提高程序運行效率;同時,程序每次直接使用new/delete、malloc/free從內(nèi)存中申請空間,會導致內(nèi)存碎片問題,內(nèi)存池直接申請大塊內(nèi)存就減少了內(nèi)存碎片。
2、內(nèi)存池的作用
2.1 效率問題
通常申請內(nèi)存都是通過new/delete、malloc/free接口直接從內(nèi)存的堆區(qū)申請一塊內(nèi)存,釋放也是直接釋放到堆中。頻繁的申請和釋放必然消耗大量時間,降低程序的運行效率。
例如:假設(shè)每個鏈表的節(jié)點大小為16字節(jié),當鏈表需要經(jīng)常插入節(jié)點時,必然就需要頻繁的內(nèi)存申請操縱,每次從堆中申請16個字節(jié)都要一定的時間開銷,釋放內(nèi)存也需要時間開銷。使用內(nèi)存池,我們可以直接從內(nèi)存中申請“一批節(jié)點”,當程序需要內(nèi)存時不用直接去堆中申請,直接將預(yù)先申請好的內(nèi)存分配給程序。
2.2 內(nèi)存碎片
頻繁的從內(nèi)存中申請小塊內(nèi)存會導致內(nèi)存碎片問題。內(nèi)存碎片分為內(nèi)碎片和外碎片兩種。
1)外碎片
外碎片也就是我們常說的內(nèi)存碎片。例如:我們每次從內(nèi)存中申請一塊16字節(jié)大小的內(nèi)存,內(nèi)存中就會存在很多16個字節(jié)大小的塊,當該內(nèi)存釋放時就可能造成內(nèi)存碎片,如下圖:
內(nèi)存中空閑內(nèi)存大小為88字節(jié),但是我們能申請的最大內(nèi)存塊為21字節(jié)。
2)內(nèi)碎片
內(nèi)碎片是指已經(jīng)分配出去的內(nèi)存中存在的未使用的小塊內(nèi)存。內(nèi)存池技術(shù)雖然解決了內(nèi)存隨便但是又造成了內(nèi)碎片問題,內(nèi)碎片不可避免但是可以通過程序的優(yōu)化減少內(nèi)存內(nèi)碎片。
例如:實際需要是申請10byte的內(nèi)存,定長內(nèi)存池可能會進行內(nèi)存對齊,一次性分配了16個字節(jié)的內(nèi)存,多余的6字節(jié)實際并未使用,這6字節(jié)就是內(nèi)存內(nèi)碎片。
3、內(nèi)存池技術(shù)的演進
1)最最最最“簡單”的內(nèi)存池
做一個鏈表,指向空閑的內(nèi)存。分配就是從鏈表中取出來一塊返回pop,釋放就是將內(nèi)存在push到鏈表中。需要做好歸并,標記和保護,防止內(nèi)存二次釋放問題。
2)定長內(nèi)存池
實現(xiàn)一個FreeList類,它的本質(zhì)是一個鏈表,節(jié)點是一塊固定大小的內(nèi)存,采用頭插和頭刪的方式申請釋放內(nèi)存。每個固定內(nèi)存分配器里面有兩個鏈表:OpenList用于存儲未分配的空閑內(nèi)存對象(FreeList對象),CloseList用于存儲已經(jīng)分配的內(nèi)存對象。
分配內(nèi)存就是從IOpenLsit中取出一個對象給程序,釋放內(nèi)存就是將對象push到CloseList里。當內(nèi)存不夠時,OpenList申請一個大塊內(nèi)存在切割成固定的長度大小的小塊內(nèi)存。
3)C++STL庫中的內(nèi)存池
定長內(nèi)存池存在的問題就是只能申請固定長度的內(nèi)存,而實際中我們需要申請的內(nèi)存大小可能是不管固定,在C++STL庫中,采用哈希表和定長內(nèi)存池結(jié)合的方式實現(xiàn)了一個內(nèi)存池。具體如下
構(gòu)造多個定長內(nèi)存池,以一個固定的對齊數(shù)進行對齊(例如以8字節(jié)進行對齊),第一個定長內(nèi)存池的內(nèi)存對象大小為8(至少得能保證無論在64位還是32位系統(tǒng)下都可以保存下一個指針類型),第二個內(nèi)存池對象大小為16...最后一個內(nèi)存池對象大小為128byte,當申請的內(nèi)存大小超過128字節(jié)時,通過二級空間配置器申請(直接從內(nèi)存中申請)。
構(gòu)造一個哈希表,將不同大小的內(nèi)存對象掛在哈希表中。如下圖:
申請內(nèi)存:加入要申請的內(nèi)存大小為8字節(jié)直接在index = 0處分配一塊內(nèi)存,當然申請的內(nèi)存小于8字節(jié)時也會直接分配8字節(jié)的內(nèi)存。當Free_list[index]為nullptr時從內(nèi)存中申請一塊內(nèi)存,切割成固定大小‘掛在'Free_list[index]位置。
釋放內(nèi)存:根據(jù)內(nèi)存對象大小,計算index在插入到哈希表中的index位置。
二、簡易內(nèi)存池原理
1、整體設(shè)計
1.1 內(nèi)存池結(jié)構(gòu)
兩個鏈表,RequestMemory和ReleaseMemory。
RequestMemory鏈表存儲的是使用new或者malloc從物理內(nèi)存申請的還沒有被使用的內(nèi)存塊,是一個個的memNode節(jié)點。
ReleaseMemory鏈表存儲的是使用完釋放回來的固定大小的內(nèi)存塊。
1.2 申請內(nèi)存
- 先在ReleaseMemory找,如果有內(nèi)存則直接pop使用
- ReleaseMemory為nullptr時,在RequestMemory中找。
- RequestMemory的頭節(jié)點表示的是新申請的,申請內(nèi)存時只需要在頭結(jié)點中找,判斷頭結(jié)點的useCount和sumCount是否相等。當useCount等于sumCount時表示已經(jīng)用完了,就需要去物理內(nèi)存中申請,否則直接從表頭push一塊。
- 去物理內(nèi)存申請內(nèi)存時,申請的大小是上一次申請內(nèi)存塊大小的二倍,并將申請的內(nèi)存塊push到RequestMemory頭部。
1.3 釋放內(nèi)存
釋放內(nèi)存時,直接將要釋放的內(nèi)存push到ReleaseMemory的頭部即可。
2、詳細剖析
2.1 blockNode結(jié)構(gòu)
blockNode表示一個個新申請的內(nèi)存塊,用一個結(jié)構(gòu)體進行管理。blockNode成員如下:
- void* _memory:表示新申請的內(nèi)存塊的首地址
- BlockNode * _next:存儲next節(jié)點
- _objNum:內(nèi)存塊對象的個數(shù)
注意:blockNode的大小每次都是上一次的二倍,是一個質(zhì)數(shù)增長,因此應(yīng)該設(shè)置一個上限,當?shù)竭_一定大小后進行線性增長。這里規(guī)定,最大內(nèi)存塊的大小為100000*sizeof(T),T表示的是申請的節(jié)點類型。
2.2 單個對象的大小
這里的單個對象指的ReleaseMemory的節(jié)點大小,當用戶申請的內(nèi)存大小sizeof(T)小于sizeof(T*)時,為了能夠?qū)⒃搶ο箧溄拥絉eleaseMemory中,應(yīng)該按照T*進行分配。
3、性能比較
分別使用malloc/free、new/delete、memPool申請和釋放110000個內(nèi)存,時間如下:
三、簡易內(nèi)存池完整源碼
#include<iostream> #include<vector> #include<ctime> using namespace std; template<class T> class MemPool { private: //內(nèi)存塊結(jié)構(gòu) typedef struct BlockNode { void* _memory;//內(nèi)存塊地址 BlockNode* _next;//下一個blockNode size_t _objNum;//內(nèi)存塊對象的個數(shù) //構(gòu)造函數(shù)---num表示申請對象的個數(shù) BlockNode(size_t num) :_objNum(num), _next(nullptr) { _memory = malloc(_objNum*_size); } ~BlockNode() { free(_memory); _memory = nullptr; _next = nullptr; _objNum = 0; } }BlockNode; protected: static size_t _size;//單個對象的大小 T* _releaseMemory = nullptr;//釋放的內(nèi)存 BlockNode* _requestMemory;//申請的內(nèi)存塊 size_t _maxNum;//內(nèi)存塊最大的大小 size_t _useCount;//當前內(nèi)存塊已經(jīng)使用的對象個數(shù) protected: //設(shè)置單個對象的大小 static size_t setSize() { return (sizeof(T) >= sizeof(T*) ? sizeof(T):sizeof(T*)); } public: MemPool() :_useCount(0), _releaseMemory(nullptr), _maxNum(100000*_size) { //開始先申請32個_size大小的空間 _requestMemory = new BlockNode(32); } ~MemPool() { BlockNode *cur = _requestMemory; while (cur) { BlockNode* del = cur; cur = cur->_next; delete del; //會自動調(diào)用~BlockNode() } } T* New() { //先在releaseMemory中找 if (_releaseMemory) { T* obj = _releaseMemory; _releaseMemory = *((T**)_releaseMemory);//releaseMemory的前幾個字節(jié)存儲的是下一個節(jié)點的地址 return obj; } else { //判斷requesetMemory中是否還有空閑內(nèi)存 if (_requestMemory->_objNum == _useCount) { //取物理內(nèi)存中申請一塊內(nèi)存 size_t size = 2 * _useCount >= _maxNum ? _maxNum : 2 * _useCount; BlockNode* newBlock = new BlockNode(size); newBlock->_next = _requestMemory; _requestMemory = newBlock; _useCount = 0; } //走到這里,一定有內(nèi)存 T* obj = (T*)((char*)_requestMemory->_memory+_useCount*_size); _useCount++; return new(obj)T();//用定位new對這塊空間初始化 } } void Delete(T* obj) { if (obj) { obj->~T(); *((T**)obj) = _releaseMemory; _releaseMemory = obj; } } }; //靜態(tài)成員變量,類外初始化 template<typename T> size_t MemPool<T>::_size = MemPool<T>::setSize(); struct TreeNode { int _val; TreeNode* _left; TreeNode* _right; }; void test1() { MemPool<TreeNode> mp; vector<TreeNode*> v; for (int i = 0; i < 10; i++) { TreeNode* mem = mp.New(); v.push_back(mem); } for (int i = 0; i < 10; i++) { mp.Delete(v[i]); } }
到此這篇關(guān)于C++內(nèi)存池的簡單實現(xiàn)的文章就介紹到這了,更多相關(guān)C++ 內(nèi)存池內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Java?C++?算法題解leetcode145商品折扣后最終價格單調(diào)棧
這篇文章主要介紹了Java?C++?算法題解leetcode145商品折扣后最終價格單調(diào)棧示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-09-09淺析C語言中strtol()函數(shù)與strtoul()函數(shù)的用法
這篇文章主要介紹了淺析C語言中strtol()函數(shù)與strtoul()函數(shù)的用法,注意其將字符串轉(zhuǎn)換成long型的區(qū)別,需要的朋友可以參考下2015-08-08