十億級MySQL大表的查詢優(yōu)化10種方法
針對十億級MySQL大表的查詢優(yōu)化,以下是10種經(jīng)過驗證的核心優(yōu)化策略及對應(yīng)SQL實現(xiàn)方案,結(jié)合最新技術(shù)實踐總結(jié):
一、分區(qū)表優(yōu)化(水平切分)
-- 創(chuàng)建時間范圍分區(qū)表 CREATE TABLE orders ( id INT NOT NULL AUTO_INCREMENT, order_date DATE NOT NULL, amount DECIMAL(10,2), PRIMARY KEY (id, order_date) ) PARTITION BY RANGE (YEAR(order_date)) ( PARTITION p2020 VALUES LESS THAN (2021), PARTITION p2021 VALUES LESS THAN (2022), PARTITION p2022 VALUES LESS THAN (2023), PARTITION p_max VALUES LESS THAN MAXVALUE ); -- 查詢指定分區(qū) SELECT * FROM orders PARTITION (p2022) WHERE user_id=123;
通過將表按時間維度分區(qū),可使查詢僅掃描相關(guān)數(shù)據(jù)塊。建議每月/季度自動創(chuàng)建新分區(qū)
二、分庫分表(水平拆分)
-- 創(chuàng)建分片表(user_id取模分64張表) CREATE TABLE user_00 LIKE users; CREATE TABLE user_01 LIKE users; ... CREATE TABLE user_63 LIKE users; -- 分片查詢路由 SELECT * FROM user_${user_id % 64} WHERE user_id=123456;
采用ShardingSphere等中間件實現(xiàn)透明分片,需注意分片鍵選擇高基數(shù)字段避免數(shù)據(jù)傾斜
三、索引深度優(yōu)化
-- 創(chuàng)建覆蓋索引 ALTER TABLE orders ADD INDEX idx_cover (user_id, order_date, amount); -- 強制索引使用 SELECT /*+ INDEX(orders idx_cover) */ order_date, amount FROM orders WHERE user_id=123 AND order_date > '2024-01-01';
通過覆蓋索引減少回表操作,定期使用ANALYZE TABLE
更新統(tǒng)計信息。建議單表索引不超過5個
四、冷熱數(shù)據(jù)分離
-- 歸檔歷史數(shù)據(jù) CREATE TABLE orders_archive LIKE orders; INSERT INTO orders_archive SELECT * FROM orders WHERE order_date < '2023-01-01'; DELETE FROM orders WHERE order_date < '2023-01-01'; -- 創(chuàng)建聯(lián)合視圖 CREATE VIEW orders_union AS SELECT * FROM orders UNION ALL SELECT * FROM orders_archive;
建議將3年前數(shù)據(jù)遷移至歸檔表,使用分區(qū)表自動管理可替代該方案
五、查詢重寫優(yōu)化
-- 低效分頁改造 SELECT * FROM orders WHERE id > 1000000 LIMIT 10; -- 避免全表掃描 SELECT user_id FROM orders FORCE INDEX(primary) WHERE create_time BETWEEN '2024-01-01' AND '2024-03-01';
配合EXPLAIN
分析執(zhí)行計劃,禁用SELECT *
,對范圍查詢添加FORCE INDEX
提示
六、列式存儲引擎
-- 創(chuàng)建列式存儲表 CREATE TABLE logs ( id BIGINT, log_time DATETIME, content TEXT ) ENGINE=Columnstore;
適用于OLAP場景,ClickHouse列式引擎查詢速度可提升10倍以上(需配合數(shù)據(jù)同步機制)
七、服務(wù)器參數(shù)調(diào)優(yōu)
# my.cnf核心參數(shù) [mysqld] innodb_buffer_pool_size=128G innodb_flush_log_at_trx_commit=2 innodb_io_capacity=20000 innodb_read_io_threads=16 query_cache_type=0
內(nèi)存配置建議為物理內(nèi)存的70%-80%,SSD硬盤需調(diào)整IO相關(guān)參數(shù)
八、異步批處理機制
-- 批量插入優(yōu)化 INSERT INTO orders (user_id,amount) VALUES (1,100),(2,200),(3,300); -- 延遲更新 SET GLOBAL innodb_flush_log_at_trx_commit=2; START TRANSACTION; ...批量操作... COMMIT;
批量操作減少事務(wù)提交次數(shù),配合LOAD DATA INFILE
實現(xiàn)高速導(dǎo)入
九、分布式架構(gòu)升級
-- TiDB分布式查詢 SELECT /*+ READ_FROM_STORAGE(tikv[orders]) */ * FROM orders WHERE user_id IN (SELECT user_id FROM vip_users);
當(dāng)單機性能達(dá)到瓶頸時,遷移至TiDB集群可實現(xiàn)自動分片和彈性擴展
十、字段類型優(yōu)化
-- IP地址存儲優(yōu)化 ALTER TABLE access_log MODIFY ip INT UNSIGNED, ADD INDEX idx_ip (ip); -- 枚舉類型改造 ALTER TABLE users MODIFY gender ENUM('M','F') NOT NULL DEFAULT 'M';
使用INT
存儲IP(INET_ATON()轉(zhuǎn)換),用ENUM
替代字符串字段,可減少50%存儲空間
優(yōu)化實施路線建議:
- 優(yōu)先進(jìn)行架構(gòu)設(shè)計優(yōu)化(分庫分表/分區(qū))
- 實施索引重構(gòu)和查詢重寫
- 配置合理的服務(wù)器參數(shù)
- 建立數(shù)據(jù)歸檔機制
- 最終考慮分布式方案
定期使用SHOW GLOBAL STATUS
監(jiān)控QPS、TPS、緩存命中率等關(guān)鍵指標(biāo)。當(dāng)QPS>10萬時建議采用TiDB等NewSQL方案
更多實現(xiàn)細(xì)節(jié)可參考MySQL官方文檔及ShardingSphere、TiDB等技術(shù)白皮書。實際優(yōu)化需結(jié)合業(yè)務(wù)特點進(jìn)行方案組合。
到此這篇關(guān)于十億級MySQL大表的查詢優(yōu)化10種方法的文章就介紹到這了,更多相關(guān)MySQL大表查詢優(yōu)化內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
JDBC鏈接mysql插入數(shù)據(jù)后顯示問號的原因及解決辦法
這篇文章主要介紹了JDBC鏈接mysql插入數(shù)據(jù)后顯示問號的原因及解決辦法的相關(guān)資料,需要的朋友可以參考下2016-04-04MySQL SHOW PROCESSLIST協(xié)助故障診斷全過程
這篇文章主要給大家介紹了關(guān)于MySQL SHOW PROCESSLIST協(xié)助故障診斷的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-02-02MySQL中實現(xiàn)插入或更新操作(類似Oracle的merge語句)
這篇文章主要介紹了在MySQL中實現(xiàn)插入或更新操作(類似Oracle的merge語句)的相關(guān)資料,非常不錯,具有參考借鑒價值,需要的朋友可以參考下2016-09-09MySQL中有哪些情況下數(shù)據(jù)庫索引會失效詳析
這篇文章主要給大家介紹了關(guān)于MySQL中有哪些情況下數(shù)據(jù)庫索引會失效的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用mysql具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2018-07-07將mysql腳本轉(zhuǎn)化為oracle腳本的攻略與細(xì)節(jié)點
前段時間公司項目數(shù)據(jù)庫需要從mysql轉(zhuǎn)為oracle,所以需要修改下原有的mysql腳本,這篇文章主要給大家介紹了關(guān)于將mysql腳本轉(zhuǎn)化為oracle腳本的攻略與細(xì)節(jié)點,需要的朋友可以參考下2023-09-09深入mysql YEAR() MONTH() DAYOFMONTH()日期函數(shù)的詳解
本篇文章是對mysql中的YEAR() MONTH() DAYOFMONTH()日期函數(shù)進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06