如何解決MySQL order by limit語句的分頁數據重復問題？

時間：2021-03-31 23:51:21

關鍵字： MySQL limit SQL

手機看文章

掃描二維碼
隨時隨地手機看文章

[導讀]在MySQL中我們通常會采用limit來進行翻頁查詢，比如limit(0,10)表示列出第一頁的10條數據，limit(10,10)表示列出第二頁。

0 問題描述

在MySQL中我們通常會采用limit來進行翻頁查詢，比如limit(0,10)表示列出第一頁的10條數據，limit(10,10)表示列出第二頁。

但是，當limit遇到order by的時候，可能會出現翻到第二頁的時候，竟然又出現了第一頁的記錄。

具體如下：

SELECT `post_title`,`post_date` FROM post WHERE `post_status`='publish' ORDER BY view_count desc LIMIT 5,5

使用上述SQL查詢的時候，很有可能出現和LIMIT 0,5相同的某條記錄。而如果使用如下方式，則不會出現重復的情況：

SELECT * FROM post WHERE post_status='publish' ORDER BY view_count desc LIMIT 5,

但是，由于post表的字段很多，僅僅希望用這兩個字段，不想把post_content也查出來。

為了解決這個情況，在ORDER BY后面使用了兩個排序條件來解決這個問題，如下：

SELECT `post_title`,`post_date` FROM post WHERE `post_status`='publish' ORDER BY view_count desc,ID asc LIMIT 5,

按理來說，MySQL的排序默認情況下是以主鍵ID作為排序條件的

也就是說，如果在view_count相等的情況下，主鍵ID作為默認的排序條件，不需要我們多此一舉加ID asc。

但是事實就是，MySQL再order by和limit混用的時候，出現了排序的混亂情況。

1 分析問題

在MySQL 5.6的版本上，優(yōu)化器在遇到order by limit語句的時候，做了一個優(yōu)化，即使用了priority queue。

使用 priority queue 的目的，就是在不能使用索引有序性的時候，如果要排序，并且使用了limit n，那么只需要在排序的過程中，保留n條記錄即可

這樣雖然不能解決所有記錄都需要排序的開銷，但是只需要 sort buffer 少量的內存就可以完成排序。

之所以MySQL 5.6出現了第二頁數據重復的問題，是因為 priority queue 使用了堆排序的排序方法，而堆排序是一個不穩(wěn)定的排序方法

也就是相同的值可能排序出來的結果和讀出來的數據順序不一致。

MySQL 5.5 沒有這個優(yōu)化，所以也就不會出現這個問題。

也就是說，MySQL 5.5是不存在本文提到的問題的，5.6版本之后才出現了這種情況。

再看下MySQL解釋sql語言時的執(zhí)行順序：

(1)     SELECT
(2)     DISTINCT <select_list>
(3)     FROM <left_table>
(4)     <join_type> JOIN <right_table>
(5)     ON <join_condition>
(6)     WHERE <where_condition>
(7)     GROUP BY <group_by_list>
(8)     HAVING <having_condition>
(9)     ORDER BY <order_by_condition>
(10)    LIMIT <limit_number>

執(zhí)行順序依次為 form… where… select… order by… limit…

由于上述priority queue的原因，在完成select之后，所有記錄是以堆排序的方法排列的

在進行order by時，僅把view_count值大的往前移動。但由于limit的因素，排序過程中只需要保留到5條記錄即可

view_count并不具備索引有序性，所以當第二頁數據要展示時，mysql見到哪一條就拿哪一條

因此，當排序值相同的時候，第一次排序是隨意排的，第二次再執(zhí)行該sql的時候，其結果應該和第一次結果一樣。

2 解決方法

（1）索引排序字段

如果在字段添加上索引，就直接按照索引的有序性進行讀取并分頁，從而可以規(guī)避遇到的這個問題。

（2）正確理解分頁

分頁是建立在排序的基礎上，進行了數量范圍分割。排序是數據庫提供的功能，而分頁卻是衍生的出來的應用需求。

在MySQL和Oracle的官方文檔中提供了limit n和rownum < n的方法，但卻沒有明確的定義分頁這個概念。

還有重要的一點，雖然上面的解決方法可以緩解用戶的這個問題，但按照用戶的理解，依然還有問題

比如，這個表插入比較頻繁，用戶查詢的時候，在read-committed的隔離級別下，第一頁和第二頁仍然會有重合。

所以，分頁一直都有這個問題，不同場景對數據分頁都沒有非常高的準確性要求。