MySql分頁時使用limit+order by會出現(xiàn)數(shù)據(jù)重復(fù)問題解決
摘要
能把復(fù)雜的知識講的簡單很重要
在學習的過程中我們看過很多資料、視頻、文檔等,因為現(xiàn)在資料視頻都較多所以往往一個知識點會有多種多樣的視頻形式講解。除了推廣營銷以外,確實有很多人的視頻講解非常優(yōu)秀,例如李永樂老師的短視頻課,可以在一個黑板上把那么復(fù)雜的知識,講解的那么容易理解,那么透徹。而我們學習編程的人也是,不只是要學會把知識點講明白,也要寫明白。
問題描述
在 MySQL 中我們通常會采用 limit 來進行翻頁查詢,比如 limit(0,10) 表示列出第一頁的10條數(shù)據(jù), limit(10,10) 表示列出第二頁。但是,當 limit 遇到 order by 的時候,可能會出現(xiàn)翻到第二頁的時候,竟然又出現(xiàn)了第一頁的記錄。
具體如下:
SELECT `post_title`, `post_date` FROM post WHERE `post_status` = 'publish' ORDER BY view_count desc LIMIT 5, 5
使用上述SQL查詢的時候,很有可能出現(xiàn)和 LIMIT 0,5 相同的某條記錄。而如果使用如下方式,則不會出現(xiàn)重復(fù)的情況:
SELECT * FROM post WHERE post_status = 'publish' ORDER BY view_count desc LIMIT 5, 5
但是,由于 post 表的字段很多,僅僅希望用這兩個字段,不想把 post_content也查出來。為了解決這個情況,在 ORDER BY 后面使用了兩個排序條件來解決這個問題,如下:
SELECT `post_title`, `post_date` FROM post WHERE `post_status` = 'publish' ORDER BY view_count desc, ID asc LIMIT 5, 5
按理來說, MySQL 的排序默認情況下是以主鍵ID作為排序條件的,也就是說,如果在 view_count 相等的情況下,主鍵ID作為默認的排序條件,不需要我們多此一舉加 ID asc。但是事實就是,MySQL 在 order by 和 limit 混用的時候,出現(xiàn)了排序的混亂情況。
分析問題
在 MySQL 5.6 的版本上,優(yōu)化器在遇到 order by limit 語句的時候,做了一個優(yōu)化,即 使用了 priority queue。
使用 priority queue 的目的,就是在不能使用索引有序性的時候,如果要排序,并且使用了 limit n,那么只需要在排序的過程中,保留n條記錄即可,這樣雖然不能解決所有記錄都需要排序的開銷,但是只需要 sort buffer 少量的內(nèi)存就可以完成排序。
之所以 MySQL 5.6 出現(xiàn)了第二頁數(shù)據(jù)重復(fù)的問題,是因為 priority queue 使用了堆排序的排序方法,而堆排序是一個不穩(wěn)定的排序方法,也就是相同的值可能排序出來的結(jié)果和讀出來的數(shù)據(jù)順序不一致。
MySQL 5.5 沒有這個優(yōu)化,所以也就不會出現(xiàn)這個問題。
也就是說,MySQL 5.5 是不存在本文提到的問題的,5.6 版本之后才出現(xiàn)了這種情況。
再看下MySQL解釋sql語言時的執(zhí)行順序:
(1) SELECT
(2) DISTINCT <select_list>
(3) FROM <left_table>
(4) <join_type> JOIN <right_table>
(5) ON <join_condition>
(6) WHERE <where_condition>
(7) GROUP BY <group_by_list>
(8) HAVING <having_condition>
(9) ORDER BY <order_by_condition>
(10) LIMIT <limit_number>
執(zhí)行順序依次為 form… where… select… order by… limit… ,由于上述 priority queue 的原因,在完成 select 之后,所有記錄是以堆排序的方法排列的,在進行 order by 時,僅把 view_count 值大的往前移動。
但由于 limit 的因素,排序過程中只需要保留到5條記錄即可, view_count 并不具備索引有序性,所以當?shù)诙摂?shù)據(jù)要展示時, mysql 見到哪一條就拿哪一條,因此,當排序值相同的時候,第一次排序是隨意排的,第二次再執(zhí)行該sql的時候,其結(jié)果應(yīng)該和第一次結(jié)果一樣。
解決問題
(1) 索引排序字段
如果在字段添加上索引,就直接按照索引的有序性進行讀取并分頁,從而可以規(guī)避遇到的這個問題。
(2) 正確理解分頁
分頁是建立在排序的基礎(chǔ)上,進行了數(shù)量范圍分割。排序是數(shù)據(jù)庫提供的功能,而分頁卻是衍生出來的應(yīng)用需求。
在 MySQL 和 Oracle 的官方文檔中提供了 limit n 和 rownum < n 的方法,但卻沒有明確的定義分頁這個概念。
還有重要的一點,雖然上面的解決方法可以緩解用戶的這個問題,但按照用戶的理解,依然還有問題:比如,這個表插入比較頻繁,用戶查詢的時候,在 read-committed 的隔離級別下,第一頁和第二頁仍然會有重合。
所以,分頁一直都有這個問題,不同場景對數(shù)據(jù)分頁都沒有非常高的準確性要求。
(3) 一些常見的數(shù)據(jù)庫排序問題
不加 order by 的時候的排序問題
用戶在使用 Oracle 或 MySQL 的時候,發(fā)現(xiàn) MySQL 總是有序的, Oracle 卻很混亂,這個主要是因為 Oracle 是堆表, MySQL 是索引聚簇表的原因。所以沒有 order by 的時候,數(shù)據(jù)庫并不保證記錄返回的順序性,并且不保證每次返回都一致的。
分頁問題 分頁重復(fù)的問題
如前面所描述的,分頁是在數(shù)據(jù)庫提供的排序功能的基礎(chǔ)上,衍生出來的應(yīng)用需求,數(shù)據(jù)庫并不保證分頁的重復(fù)問題。
NULL值和空串問題
不同的數(shù)據(jù)庫對于 NULL 值和空串的理解和處理是不一樣的,比如 Oracle NULL 和 NULL 值是無法比較的,既不是相等也不是不相等,是未知的。而對于空串,在插入的時候, MySQL 是一個字符串長度為0的空串,而 Oracle 則直接進行 NULL 值處理。
到此這篇關(guān)于MySql分頁時使用limit+order by會出現(xiàn)數(shù)據(jù)重復(fù)問題解決的文章就介紹到這了,更多相關(guān)MySql limit+order by分頁內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- 為什么MySQL分頁用limit會越來越慢
- mysql分頁的limit參數(shù)簡單示例
- 淺談MySQL分頁Limit的性能問題
- MySQL分頁Limit的優(yōu)化過程實戰(zhàn)
- mysql分頁性能探索
- 淺析Oracle和Mysql分頁的區(qū)別
- SpringMVC+Mybatis實現(xiàn)的Mysql分頁數(shù)據(jù)查詢的示例
- 利用Spring MVC+Mybatis實現(xiàn)Mysql分頁數(shù)據(jù)查詢的過程詳解
- mysql分頁時offset過大的Sql優(yōu)化經(jīng)驗分享
- MySQL分頁分析原理及提高效率
- MySQL優(yōu)化案例系列-mysql分頁優(yōu)化
- 你應(yīng)該知道的PHP+MySQL分頁那點事
- MYSQL分頁limit速度太慢的優(yōu)化方法
- MySQL分頁優(yōu)化
- MySQL分頁技術(shù)、6種分頁方法總結(jié)
- 8種MySQL分頁方法總結(jié)
- mysql分頁原理和高效率的mysql分頁查詢語句
- MySQL的幾種分頁方式,你知道幾種方式
相關(guān)文章
mysql 存儲過程判斷重復(fù)的不插入數(shù)據(jù)
這篇文章主要介紹了下面是一個較常見的場景,判斷表中某列是否存在某值,如果存在執(zhí)行某操作,需要的朋友可以參考下2017-01-01Windows?Server?2019?MySQL數(shù)據(jù)庫的安裝與配置理論+遠程連接篇
mysql是一款關(guān)系型數(shù)據(jù)庫管理系統(tǒng),由MySQL?AB公司開發(fā),目前屬于Oracle旗下產(chǎn)品,MySQL是最流行的關(guān)系型數(shù)據(jù)庫管理系統(tǒng)之一。MySQL也是一款開源的SQL數(shù)據(jù)庫管理系統(tǒng),是眾多小型網(wǎng)站作為網(wǎng)站數(shù)據(jù)庫的首選數(shù)據(jù)庫2023-05-05關(guān)于MySql鏈接url參數(shù)的設(shè)置
最近整理了一下網(wǎng)上關(guān)于MySql 鏈接url 參數(shù)的設(shè)置以及常用的幾個較為重要的參數(shù),大家若感興趣可以參考下2014-03-03sql腳本函數(shù)編寫postgresql數(shù)據(jù)庫實現(xiàn)解析
這篇文章主要介紹了sql腳本函數(shù)編寫postgresql數(shù)據(jù)庫實現(xiàn)解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2019-09-09