mysql數(shù)據(jù)庫(kù)如何實(shí)現(xiàn)億級(jí)數(shù)據(jù)快速清理
今天收到磁盤報(bào)警異常,50G的磁盤被撐爆了,分析解決過(guò)程如下:
1. 進(jìn)入linux服務(wù)器,查看mysql文件夾中各個(gè)數(shù)據(jù)庫(kù)所占的磁盤空間大小
看到了嗎,光olderdb就占了25G
2. 用SQLyog登錄mysql數(shù)據(jù)庫(kù),查看數(shù)據(jù)庫(kù)各個(gè)表的占用空間情況
SELECT CONCAT(table_schema,'.',table_name) AS 'aaa', table_rows AS 'Number of Rows', CONCAT(ROUND(data_length/(1024*1024*1024),6),' G') AS 'Data Size', CONCAT(ROUND(index_length/(1024*1024*1024),6),' G') AS 'Index Size' , CONCAT(ROUND((data_length+index_length)/(1024*1024*1024),6),' G') AS'Total' FROM information_schema.TABLES WHERE table_schema LIKE 'olderdb';
3. 查詢主鍵索引
SHOW INDEX FROM orbit
采取策略
前提:目前需要?jiǎng)h除80%的數(shù)據(jù)
① delete語(yǔ)句
我們知道delete語(yǔ)句的刪除速度與索引量成正比,此表中的索引量已經(jīng)很大了,而且數(shù)據(jù)量非常之巨大,若采用常規(guī)delete語(yǔ)句刪除,必定會(huì)話費(fèi)幾天的時(shí)間。
Delete語(yǔ)句刪除不會(huì)釋放出磁盤空間,所以肯定還是會(huì)出現(xiàn)報(bào)警,所以此種方式不可取。
② drop掉表
新建結(jié)構(gòu)相同的表,命名“cc”,'將需要保存的數(shù)據(jù)插入到此表中,然后drop掉老表。
Sql語(yǔ)句如下:
基于老表新建新表
CREATE TABLE cc LIKE orbit ;
插入數(shù)據(jù)(幾百萬(wàn)的數(shù)據(jù)量一定要分批插入,一次30萬(wàn)-40萬(wàn)為最佳,畢竟mysql的數(shù)據(jù)處理能力有限)
按日期查詢后插入(每天大概會(huì)產(chǎn)生30多萬(wàn)數(shù)據(jù)量,所以采用日期插入)
INSERT INTO cc SELECT * FROM orbit WHERE xttime > '2018-04-16 00:00:00' AND xttime<='2018-04-17 00:00:00';
結(jié)果如下:
可以看到50多萬(wàn)的數(shù)據(jù)量用了不到5分鐘,還是比較快的。
清理后數(shù)據(jù)表空間得以釋放
然后drop掉老表
DROP TABLE orbit
目測(cè)只用了3秒左右
重命名新表“cc”
ALTER TABLE cc RENAME TO orbit
總結(jié)
以上所述是小編給大家介紹的mysql數(shù)據(jù)庫(kù)如何實(shí)現(xiàn)億級(jí)數(shù)據(jù)快速清理 ,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
- 關(guān)于MySQL數(shù)據(jù)遷移--data目錄直接替換注意事項(xiàng)的詳解
- Oracle數(shù)據(jù)遷移MySQL的三種簡(jiǎn)單方法
- 如何把sqlserver數(shù)據(jù)遷移到mysql數(shù)據(jù)庫(kù)及需要注意事項(xiàng)
- MySQL數(shù)據(jù)遷移使用MySQLdump命令
- mysql中用于數(shù)據(jù)遷移存儲(chǔ)過(guò)程分享
- Python中MySQL數(shù)據(jù)遷移到MongoDB腳本的方法
- MySQL 億級(jí)數(shù)據(jù)導(dǎo)入導(dǎo)出及遷移筆記
- MySQL億級(jí)數(shù)據(jù)平滑遷移雙寫方案實(shí)戰(zhàn)
相關(guān)文章

解決MySQL批量新增或修改時(shí)出現(xiàn)異常:Lock?wait?timeout?exceeded

使用cgroups來(lái)限制MySQL企業(yè)備份服務(wù)對(duì)資源的占用

MySQL獲取binlog的開始時(shí)間和結(jié)束時(shí)間(最新方法)

解決sql server不支持variant數(shù)據(jù)類型的問(wèn)題