mysql分頁性能探索
常見的幾種分頁方式:
1.扶梯方式
扶梯方式在導(dǎo)航上通常只提供上一頁/下一頁這兩種模式,部分產(chǎn)品甚至不提供上一頁功能,只提供一種“更多/more”的方式,也有下拉自動加載更多的方式,在技術(shù)上都可以歸納成扶梯方式。
扶梯方式在技術(shù)實(shí)現(xiàn)上比較簡單及高效,根據(jù)當(dāng)前頁最后一條的偏移往后獲取一頁即可。寫成SQL可能類似
SELECT*FROMLIST_TABLEWHEREid> offset_id LIMIT n;
1.電梯方式
另外一種數(shù)據(jù)獲取方式在產(chǎn)品上體現(xiàn)成精確的翻頁方式,如1,2,3……n,同時(shí)在導(dǎo)航上也可以由用戶輸入直達(dá)n頁。國內(nèi)大部分場景采用電梯方式,但電梯方式在技術(shù)實(shí)現(xiàn)上相對成本較高。
在MySQL中,通常提到的b-tree,在存儲引擎實(shí)現(xiàn)上,通常都是b+tree。
使用電梯方式時(shí)候,當(dāng)用戶指定翻到第n頁時(shí)候,并沒有直接方法尋址到該位置,而是需要從第一樓逐個(gè)count,scan到count*page時(shí)候,獲取數(shù)據(jù)才真正開始,所以導(dǎo)致效率不高。
傳統(tǒng)分頁技術(shù)(電梯方式)
首先前端需要傳給你的分頁實(shí)體,以及查詢條件
//分頁實(shí)體 structFinanceDcPage{ 1:i32 pageSize,//頁容量 2:i32 pageIndex,//當(dāng)前頁索引 }
然后你需要返回查詢總條數(shù)給前端;
SELECTCOUNT(*)FROMmy_tableWHEREx= y ORDERBYid;
然后再返回指定頁面條數(shù)給前端:
SELECT*FROMmy_tableWHEREx= y ORDERBYdate_colLIMIT (pageIndex - 1)* pageSize, pageSize;
由上面兩條sql語句查詢出來的結(jié)果需要返回給前端的分頁實(shí)體,以及單頁結(jié)果集
//分頁實(shí)體 structFinanceDcPage{ 1:i32 pageSize,//頁容量 2:i32 pageIndex,//當(dāng)前頁索引 3:i32 pageTotal,//總頁數(shù) 4:i32 totalRecod,//總條數(shù) }
傳統(tǒng)查詢方法,每次請求變化的只有pageIndex值,也就是limit offset,num的offset
如limit 0,10; limit 10,10; …. limit10000,10;
上面的變化會導(dǎo)致每次查詢所執(zhí)行的時(shí)間會有偏差,offset值越大需要的時(shí)間越長,如limit10000,10 需要讀取10010個(gè)數(shù)據(jù)才能得到想要的10條數(shù)據(jù)。
優(yōu)化方法
傳統(tǒng)方法中我們了解到,影響效率的關(guān)鍵是程序遍歷了許多不需要的數(shù)據(jù),找到了關(guān)鍵點(diǎn)那么就從這里著手。
如果沒有必須使用電梯方式的時(shí)候,我們可以使用扶梯的方式,來提高性能。
但是大多數(shù)情況,電梯形式更能滿足用戶的需求,所以我們就需要另找方法來優(yōu)化電梯形式。
基于傳統(tǒng)方式的優(yōu)化
上面提到的優(yōu)化方式,要么難以滿足用戶的需求,要么實(shí)現(xiàn)起來過于復(fù)雜,所以如果數(shù)據(jù)量不是特別大的時(shí)候,像百來萬條數(shù)據(jù),其實(shí)根本沒有必要使用上面的優(yōu)化方法。
傳統(tǒng)方法已經(jīng)足夠用了,只不過傳統(tǒng)方法也可能需要優(yōu)化的地方。例如:
orderby優(yōu)化
SELECT*FROMpa_dc_flowORDERBYsubject_codeDESCLIMIT100000,5
這條語句中使用了ORDERBY關(guān)鍵字,那么對什么進(jìn)行排序又非常重要了,如果你是對自增id進(jìn)行排序的話,那么這條語句就不需要優(yōu)化了,如果是索引甚至非索引的話,那就需要優(yōu)化了。
首先你要保證它是索引,不然真的會很慢。然后如果他是索引,但是本身不像自增id那樣有序的話,那么就要改寫成下面的語句。
SELECT*FROMpa_dc_flowINNERJOIN(SELECTidFROMpa_dc_flowORDERBYsubject_codeDESCLIMIT100000,5)ASpa_dc_flow_idUSING(id);
下面是對兩條sql的 EXPLAIN
由圖中我們可以看出,第二個(gè)sql可以少掃面很多頁面。
其實(shí)這涉及到order by的優(yōu)化問題,第一條sql中并沒有利用到subject_code索引。如果你改為select subject_code …則用到了索引。下面是對order by的優(yōu)化。
order by后的字段,如果要走索引,須與where 條件里的某字段建立復(fù)合索引?。』蛘哒forcerby后的字段如果要走索引排序,它要么與where條件里的字段建立復(fù)合索引【這里建立復(fù)合索引的時(shí)候,需要注意復(fù)合索引的列順序?yàn)椋╳here字段,order by字段),這樣才能滿足最左列原則,原因可能是order by字段并能算在where 查詢條件中!】,要么它自身要在where條件里被引用到!
表asubject_code為普通字段,上面建有索引,id是自增主鍵
select*fromaorderbysubject_code//用不上索引 selectidfromaorderbysubject_code//能用上索引 selectsubject_codefromaorderbysubject_code//能用上索引 select*fromawheresubject_code= XX orderbysubject_code//能用上索引
意思是說order by 要避免使用文件系統(tǒng)排序,要么把order by的字段出現(xiàn)在select后,要么使用order by字段出現(xiàn)在where 條件里,要么把order by字段與where條件字段建立復(fù)合索引!
第二條sql就是巧妙的利用第二種方式利用上了索引。 select id from a order bysubject_code,這種方式
count優(yōu)化
當(dāng)數(shù)據(jù)量非常大時(shí),其實(shí)可以輸出總數(shù)的大概數(shù)據(jù),利用explain語句,他并沒有真正去執(zhí)行sql,而是進(jìn)行的估算。
總結(jié)
以上所述是小編給大家介紹的mysql分頁性能探索,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時(shí)回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
- MySql分頁時(shí)使用limit+order by會出現(xiàn)數(shù)據(jù)重復(fù)問題解決
- 為什么MySQL分頁用limit會越來越慢
- mysql分頁的limit參數(shù)簡單示例
- 淺談MySQL分頁Limit的性能問題
- MySQL分頁Limit的優(yōu)化過程實(shí)戰(zhàn)
- 淺析Oracle和Mysql分頁的區(qū)別
- SpringMVC+Mybatis實(shí)現(xiàn)的Mysql分頁數(shù)據(jù)查詢的示例
- 利用Spring MVC+Mybatis實(shí)現(xiàn)Mysql分頁數(shù)據(jù)查詢的過程詳解
- mysql分頁時(shí)offset過大的Sql優(yōu)化經(jīng)驗(yàn)分享
- MySQL分頁分析原理及提高效率
- MySQL優(yōu)化案例系列-mysql分頁優(yōu)化
- 你應(yīng)該知道的PHP+MySQL分頁那點(diǎn)事
- MYSQL分頁limit速度太慢的優(yōu)化方法
- MySQL分頁優(yōu)化
- MySQL分頁技術(shù)、6種分頁方法總結(jié)
- 8種MySQL分頁方法總結(jié)
- mysql分頁原理和高效率的mysql分頁查詢語句
- MySQL的幾種分頁方式,你知道幾種方式
相關(guān)文章
MySQL特定表全量、增量數(shù)據(jù)同步到消息隊(duì)列-解決方案
mysql要同步原始全量數(shù)據(jù),也要實(shí)時(shí)同步MySQL特定庫的特定表增量數(shù)據(jù),同時(shí)對應(yīng)的修改、刪除也要對應(yīng),下面就為大家分享一下2021-11-11mysql錯(cuò)誤處理之ERROR 1786 (HY000)
最近一直在mysql的各個(gè)版本直接徘徊,這中間遇到了各種各樣的錯(cuò)誤,將已經(jīng)處理完畢的幾個(gè)錯(cuò)誤整理了一下,分享給大家,首先我們來看看錯(cuò)誤提示 ERROR 1786 (HY000)2014-07-07