十億級(jí)MySQL大表的查詢優(yōu)化10種方法
針對(duì)十億級(jí)MySQL大表的查詢優(yōu)化,以下是10種經(jīng)過驗(yàn)證的核心優(yōu)化策略及對(duì)應(yīng)SQL實(shí)現(xiàn)方案,結(jié)合最新技術(shù)實(shí)踐總結(jié):
一、分區(qū)表優(yōu)化(水平切分)
-- 創(chuàng)建時(shí)間范圍分區(qū)表
CREATE TABLE orders (
id INT NOT NULL AUTO_INCREMENT,
order_date DATE NOT NULL,
amount DECIMAL(10,2),
PRIMARY KEY (id, order_date)
) PARTITION BY RANGE (YEAR(order_date)) (
PARTITION p2020 VALUES LESS THAN (2021),
PARTITION p2021 VALUES LESS THAN (2022),
PARTITION p2022 VALUES LESS THAN (2023),
PARTITION p_max VALUES LESS THAN MAXVALUE
);
-- 查詢指定分區(qū)
SELECT * FROM orders PARTITION (p2022) WHERE user_id=123;
通過將表按時(shí)間維度分區(qū),可使查詢僅掃描相關(guān)數(shù)據(jù)塊。建議每月/季度自動(dòng)創(chuàng)建新分區(qū)
二、分庫分表(水平拆分)
-- 創(chuàng)建分片表(user_id取模分64張表)
CREATE TABLE user_00 LIKE users;
CREATE TABLE user_01 LIKE users;
...
CREATE TABLE user_63 LIKE users;
-- 分片查詢路由
SELECT * FROM user_${user_id % 64} WHERE user_id=123456;
采用ShardingSphere等中間件實(shí)現(xiàn)透明分片,需注意分片鍵選擇高基數(shù)字段避免數(shù)據(jù)傾斜
三、索引深度優(yōu)化
-- 創(chuàng)建覆蓋索引 ALTER TABLE orders ADD INDEX idx_cover (user_id, order_date, amount); -- 強(qiáng)制索引使用 SELECT /*+ INDEX(orders idx_cover) */ order_date, amount FROM orders WHERE user_id=123 AND order_date > '2024-01-01';
通過覆蓋索引減少回表操作,定期使用ANALYZE TABLE更新統(tǒng)計(jì)信息。建議單表索引不超過5個(gè)
四、冷熱數(shù)據(jù)分離
-- 歸檔歷史數(shù)據(jù) CREATE TABLE orders_archive LIKE orders; INSERT INTO orders_archive SELECT * FROM orders WHERE order_date < '2023-01-01'; DELETE FROM orders WHERE order_date < '2023-01-01'; -- 創(chuàng)建聯(lián)合視圖 CREATE VIEW orders_union AS SELECT * FROM orders UNION ALL SELECT * FROM orders_archive;
建議將3年前數(shù)據(jù)遷移至歸檔表,使用分區(qū)表自動(dòng)管理可替代該方案
五、查詢重寫優(yōu)化
-- 低效分頁改造 SELECT * FROM orders WHERE id > 1000000 LIMIT 10; -- 避免全表掃描 SELECT user_id FROM orders FORCE INDEX(primary) WHERE create_time BETWEEN '2024-01-01' AND '2024-03-01';
配合EXPLAIN分析執(zhí)行計(jì)劃,禁用SELECT *,對(duì)范圍查詢添加FORCE INDEX提示
六、列式存儲(chǔ)引擎
-- 創(chuàng)建列式存儲(chǔ)表
CREATE TABLE logs (
id BIGINT,
log_time DATETIME,
content TEXT
) ENGINE=Columnstore;
適用于OLAP場景,ClickHouse列式引擎查詢速度可提升10倍以上(需配合數(shù)據(jù)同步機(jī)制)
七、服務(wù)器參數(shù)調(diào)優(yōu)
# my.cnf核心參數(shù) [mysqld] innodb_buffer_pool_size=128G innodb_flush_log_at_trx_commit=2 innodb_io_capacity=20000 innodb_read_io_threads=16 query_cache_type=0
內(nèi)存配置建議為物理內(nèi)存的70%-80%,SSD硬盤需調(diào)整IO相關(guān)參數(shù)
八、異步批處理機(jī)制
-- 批量插入優(yōu)化 INSERT INTO orders (user_id,amount) VALUES (1,100),(2,200),(3,300); -- 延遲更新 SET GLOBAL innodb_flush_log_at_trx_commit=2; START TRANSACTION; ...批量操作... COMMIT;
批量操作減少事務(wù)提交次數(shù),配合LOAD DATA INFILE實(shí)現(xiàn)高速導(dǎo)入
九、分布式架構(gòu)升級(jí)
-- TiDB分布式查詢 SELECT /*+ READ_FROM_STORAGE(tikv[orders]) */ * FROM orders WHERE user_id IN (SELECT user_id FROM vip_users);
當(dāng)單機(jī)性能達(dá)到瓶頸時(shí),遷移至TiDB集群可實(shí)現(xiàn)自動(dòng)分片和彈性擴(kuò)展
十、字段類型優(yōu)化
-- IP地址存儲(chǔ)優(yōu)化
ALTER TABLE access_log
MODIFY ip INT UNSIGNED,
ADD INDEX idx_ip (ip);
-- 枚舉類型改造
ALTER TABLE users
MODIFY gender ENUM('M','F') NOT NULL DEFAULT 'M';
使用INT存儲(chǔ)IP(INET_ATON()轉(zhuǎn)換),用ENUM替代字符串字段,可減少50%存儲(chǔ)空間
優(yōu)化實(shí)施路線建議:
- 優(yōu)先進(jìn)行架構(gòu)設(shè)計(jì)優(yōu)化(分庫分表/分區(qū))
- 實(shí)施索引重構(gòu)和查詢重寫
- 配置合理的服務(wù)器參數(shù)
- 建立數(shù)據(jù)歸檔機(jī)制
- 最終考慮分布式方案
定期使用SHOW GLOBAL STATUS監(jiān)控QPS、TPS、緩存命中率等關(guān)鍵指標(biāo)。當(dāng)QPS>10萬時(shí)建議采用TiDB等NewSQL方案
更多實(shí)現(xiàn)細(xì)節(jié)可參考MySQL官方文檔及ShardingSphere、TiDB等技術(shù)白皮書。實(shí)際優(yōu)化需結(jié)合業(yè)務(wù)特點(diǎn)進(jìn)行方案組合。
到此這篇關(guān)于十億級(jí)MySQL大表的查詢優(yōu)化10種方法的文章就介紹到這了,更多相關(guān)MySQL大表查詢優(yōu)化內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
JDBC鏈接mysql插入數(shù)據(jù)后顯示問號(hào)的原因及解決辦法
這篇文章主要介紹了JDBC鏈接mysql插入數(shù)據(jù)后顯示問號(hào)的原因及解決辦法的相關(guān)資料,需要的朋友可以參考下2016-04-04
MySQL SHOW PROCESSLIST協(xié)助故障診斷全過程
這篇文章主要給大家介紹了關(guān)于MySQL SHOW PROCESSLIST協(xié)助故障診斷的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-02-02
MySQL中實(shí)現(xiàn)插入或更新操作(類似Oracle的merge語句)
這篇文章主要介紹了在MySQL中實(shí)現(xiàn)插入或更新操作(類似Oracle的merge語句)的相關(guān)資料,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下2016-09-09
MySQL中有哪些情況下數(shù)據(jù)庫索引會(huì)失效詳析
這篇文章主要給大家介紹了關(guān)于MySQL中有哪些情況下數(shù)據(jù)庫索引會(huì)失效的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用mysql具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2018-07-07
將mysql腳本轉(zhuǎn)化為oracle腳本的攻略與細(xì)節(jié)點(diǎn)
前段時(shí)間公司項(xiàng)目數(shù)據(jù)庫需要從mysql轉(zhuǎn)為oracle,所以需要修改下原有的mysql腳本,這篇文章主要給大家介紹了關(guān)于將mysql腳本轉(zhuǎn)化為oracle腳本的攻略與細(xì)節(jié)點(diǎn),需要的朋友可以參考下2023-09-09
深入mysql YEAR() MONTH() DAYOFMONTH()日期函數(shù)的詳解
本篇文章是對(duì)mysql中的YEAR() MONTH() DAYOFMONTH()日期函數(shù)進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06

