mysql Buffer Pool的存儲(chǔ)結(jié)構(gòu)和內(nèi)存淘汰機(jī)制詳解
MySQL InnoDB 存儲(chǔ)引擎的 Buffer Pool 是數(shù)據(jù)庫(kù)性能優(yōu)化的核心組件,用于緩存數(shù)據(jù)頁(yè)和索引頁(yè),減少磁盤(pán) I/O 操作。其存儲(chǔ)結(jié)構(gòu)和內(nèi)存淘汰機(jī)制設(shè)計(jì)復(fù)雜且高效,以下是詳細(xì)解析:
Buffer Pool 存儲(chǔ)結(jié)構(gòu)
1. 基礎(chǔ)結(jié)構(gòu)
- 數(shù)據(jù)頁(yè)(Data Page):Buffer Pool 的基本存儲(chǔ)單元,每個(gè)頁(yè)默認(rèn)大小 16KB(可通過(guò)
innodb_page_size
調(diào)整)。數(shù)據(jù)頁(yè)存儲(chǔ)表數(shù)據(jù)、索引、undo日志等。 - 控制塊(Control Block):每個(gè)數(shù)據(jù)頁(yè)對(duì)應(yīng)一個(gè)控制塊,包含頁(yè)的元信息(如頁(yè)號(hào)、LSN、訪問(wèn)次數(shù)、臟頁(yè)標(biāo)記等),大小約 5%–10% 的 Buffer Pool 內(nèi)存。
2. 鏈表管理
Buffer Pool 通過(guò)三個(gè)核心鏈表管理頁(yè)的分配與狀態(tài):
Free List(空閑鏈表):
維護(hù)所有未被使用的空閑頁(yè)。當(dāng)需要加載新數(shù)據(jù)頁(yè)時(shí),優(yōu)先從 Free List 獲取空閑頁(yè)。
LRU List(Least Recently Used 鏈表):
管理已被使用的頁(yè),按訪問(wèn)時(shí)間排序,用于內(nèi)存淘汰決策。InnoDB 對(duì)傳統(tǒng) LRU 進(jìn)行了優(yōu)化,采用 分代 LRU(Segmented LRU):
Young SubList
(新生代):存儲(chǔ)頻繁訪問(wèn)的熱點(diǎn)頁(yè)。Old SubList
(老年代):存儲(chǔ)新加載的頁(yè)或訪問(wèn)較少的頁(yè)。Midpoint Insertion
:新頁(yè)首次加載時(shí)插入到 LRU List 的 3/8 處(由innodb_old_blocks_pct
控制,默認(rèn) 37%),避免全表掃描等操作污染熱點(diǎn)數(shù)據(jù)。
Flush List(刷新鏈表):
記錄所有被修改過(guò)的臟頁(yè)(Dirty Page),按最早修改時(shí)間排序,由后臺(tái)線程定期刷盤(pán)(Checkpoint)。
3. 多實(shí)例與分區(qū)
Buffer Pool Instances
:通過(guò)innodb_buffer_pool_instances
將 Buffer Pool 劃分為多個(gè)獨(dú)立實(shí)例,減少鎖競(jìng)爭(zhēng)。Chunk
分配機(jī)制:每個(gè) Buffer Pool 實(shí)例由多個(gè) Chunk(默認(rèn) 128MB)組成,支持動(dòng)態(tài)調(diào)整大?。?code>innodb_buffer_pool_chunk_size)。
內(nèi)存淘汰機(jī)制
1. 觸發(fā)條件
- Free List 為空時(shí),需從 LRU List 淘汰舊頁(yè)釋放空間。
- 后臺(tái)線程(Page Cleaner)主動(dòng)清理臟頁(yè)以維持空閑頁(yè)比例。
2. 改進(jìn)的 LRU 算法
訪問(wèn)頻率與時(shí)效性:
- 新頁(yè)首次加載到 Old SubList 的頭部。
- 若頁(yè)在 Old SubList 存活超過(guò)
innodb_old_blocks_time
(默認(rèn) 1000ms)后被再次訪問(wèn),則移至 Young SubList。 - Young SubList 的頁(yè)被訪問(wèn)時(shí),僅移動(dòng)到 Young 區(qū)的頭部(不整體調(diào)整鏈表,減少開(kāi)銷)。
淘汰策略:
- 優(yōu)先淘汰 Old SubList 尾部的頁(yè)。
- 若 Young SubList 長(zhǎng)度超過(guò)閾值,可能淘汰其尾部的頁(yè)。
3. 臟頁(yè)處理
- 后臺(tái)線程定期將 Flush List 中的臟頁(yè)刷盤(pán)(根據(jù) LSN 推進(jìn) Checkpoint)。
- 刷盤(pán)后的臟頁(yè)變?yōu)楦蓛繇?yè),可被釋放到 Free List 或保留在 LRU List。
4. 參數(shù)調(diào)優(yōu)
innodb_buffer_pool_size
:總內(nèi)存大小,建議設(shè)置為物理內(nèi)存的 50%~80%。innodb_old_blocks_pct
:控制 Old SubList 占比(默認(rèn) 37%),全表掃描場(chǎng)景可適當(dāng)調(diào)低。innodb_old_blocks_time
:保護(hù) Old SubList 不被短期訪問(wèn)污染,頻繁掃描時(shí)可增大此值。
監(jiān)控與優(yōu)化
1. 關(guān)鍵監(jiān)控指標(biāo)
SHOW ENGINE INNODB STATUS; -- 查看 Buffer Pool 狀態(tài)
Pages young
/Pages not young
:Young 區(qū)與 Old 區(qū)的頁(yè)移動(dòng)次數(shù)。Buffer pool hit rate
:緩存命中率(目標(biāo)接近 100%)。Modified db pages
:當(dāng)前臟頁(yè)數(shù)量。
2. 優(yōu)化建議
- 預(yù)熱緩存:重啟后通過(guò)
SELECT * FROM table;
主動(dòng)加載數(shù)據(jù)。 - 避免全表掃描:大表掃描可能導(dǎo)致 Old SubList 被無(wú)效數(shù)據(jù)占滿。
- 使用 SSD:減少刷盤(pán)對(duì)性能的影響。
總結(jié)
InnoDB Buffer Pool 通過(guò)分代 LRU 和鏈表結(jié)構(gòu)平衡了內(nèi)存利用率與訪問(wèn)效率,結(jié)合臟頁(yè)刷新機(jī)制保障數(shù)據(jù)一致性。合理配置參數(shù)與監(jiān)控命中率是優(yōu)化數(shù)據(jù)庫(kù)性能的關(guān)鍵。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Windows10 mysql 8.0.12 非安裝版配置啟動(dòng)方法
這篇文章主要為大家詳細(xì)介紹了Windows10 mysql 8.0.12 非安裝版配置啟動(dòng),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-05-05Mysql存儲(chǔ)過(guò)程循環(huán)內(nèi)嵌套使用游標(biāo)示例代碼
本節(jié)主要介紹了Mysql存儲(chǔ)過(guò)程循環(huán)內(nèi)如何嵌套使用游標(biāo),詳細(xì)實(shí)現(xiàn)如下,需要的朋友不要錯(cuò)過(guò)2014-08-08安裝mysql8.0.11及修改root密碼、連接navicat for mysql的思路詳解
這篇文章主要介紹了安裝mysql8.0.11以及修改root密碼、連接navicat for mysql,需要的朋友可以參考下2018-06-06解讀SQL中GROUP BY和HAVING子句中使用NULL條件問(wèn)題
在使用SQL進(jìn)行數(shù)據(jù)查詢時(shí),可能會(huì)遇到查詢結(jié)果為空的情況,這通常與GROUP BY和HAVING子句的使用有關(guān),尤其是在處理包含NULL值的字段時(shí),當(dāng)使用GROUP BY進(jìn)行數(shù)據(jù)分組,并在HAVING子句中直接判斷字段是否為NULL時(shí)2024-10-10MySQL中show命令方法得到表列及整個(gè)庫(kù)的詳細(xì)信息(精品珍藏)
MySQL中show 句法得到表列及整個(gè)庫(kù)的詳細(xì)信息,方便查看數(shù)據(jù)庫(kù)的詳細(xì)信息。2010-11-11MySQL恢復(fù)中的幾個(gè)問(wèn)題解決方法
這篇文章主要介紹了MySQL恢復(fù)中的幾個(gè)問(wèn)題,需要的朋友可以參考下2016-01-01