MYSQL Left Join優(yōu)化(10秒優(yōu)化到20毫秒內)
結合工作中的內容和大家分享一次Left Jon優(yōu)化的過程,希望能給同學們新的思路。
【功能背景】
??? 我們需要按照用戶訂單號和商戶號統(tǒng)計出購買的商品數量和售后的商品數量。涉及到的表和關系見下圖:
很不幸工程師在起初進行表結構設計的時候沒有在商戶訂單表中記錄下購買的商品總數,在商戶訂單的售后單中也沒記錄下售后的商品數量。
【原始的SQL】
select o.no,s_order.no,sum(s_item.count),sum(after_sale_item.count) from buyer_order o left join seller_order s_order on o.id = s_order.buyer_order_id left join seller_order_item s_item on s_order.id = s_item.seller_order_id left join seller_order_after_sale after_sale on s_order.id = after_sale.seller_order_id left join seller_order_after_sale_item after_sale_item on after_sale.id = after_sale_item.after_sale_id where o.add_time >='2019-05-01' group by o.id,s_order.id order by o.id limit 0,10
以上SQL幾個關鍵字段都使用了索引。??
【原始的SQL分析】
這是一條很常規(guī)的SQL,邏輯上也沒什么毛病
這條SQL中有較多的連接查詢,如果隨著售后單的增加,連接的數據就會更多
將符合條件的數據都加載到內存后按照 order.id,s_order.id 進行分組統(tǒng)計,如果有100W的數據會怎樣?如果你用代碼去實現(xiàn)這么一段統(tǒng)計你會怎么做?
將統(tǒng)計完的數據再按照 order.id 進行排序,取出前10條數據。
從以上的SQL發(fā)現(xiàn)需要將符合條件的所有的數據加載到內存后要進行分組,統(tǒng)計,排序,最后再進行分頁。我們能不能減少數據的加載數量呢?能不能減少數據庫CPU的使用量,能不能先取少量的數據再統(tǒng)計呢?
基于以上的問題,我們進行了優(yōu)化
【分析步驟】
作為旁觀者一開始不了解我們功能需要輸出什么樣的數據,所以我們一開始要了解每張表存儲的是什么樣的數據,彼此之間的關系是什么。
我們忘記原來的SQL是什么樣的,按照我們需要的數據,再次重新的思考,不要再陷入原來的SQL的漩渦中。
針對上面提出的問題,如何減少數據的加載?能不能先分頁數據,再對分頁的數據進行單獨的統(tǒng)計呢?
那么我們是不是需要對group by進行優(yōu)化,我們要想辦法先分頁
大家是否想到了一些方法?
【優(yōu)化后的SQL】
select
o.id,o.no,s_order.no,
(select sum(sot.count) from seller_order so
left join seller_order_item sot on so.id = sot.seller_order_id
where so.id =s_order.id ),
(select sum(osat.count) from seller_order_after_sale osa
left join seller_order_after_sale_item osat on osa.id = osat.after_sale_id
where osa.seller_order_id = s_order.id )
from
buyer_order o
left join seller_order s_order on o.id = s_order.buyer_order_id
where o.addTime >='2019-05-01'
order by
o.id
limit 0,10
【優(yōu)化的SQL分析】
- 很直觀的發(fā)現(xiàn),我們把group by去掉了,因為按照 order.id,s_order.id 分組,實際只對 buyer_order和seller_order表進行連接,邏輯上是一樣的進行了分組。
- group by不使用的話我們就減少了CPU對數據分組的處理,而且我們只連接主要的表數據,減少了加載到內存中的數據。
- 以上的操作就完成了我們之前說的先對數據分頁。我們取出了10條數據。
- 接著我們再對10條數據的銷售出去的商品數量和售后的數量進行統(tǒng)計
- 這時候大家發(fā)現(xiàn),我們其實只對分頁出來的10條數據進行統(tǒng)計,原來是將所有的數據分組統(tǒng)計后取10條。可以發(fā)現(xiàn)我們這樣操作大大減少了對數據的統(tǒng)計處理。我們只需要統(tǒng)計我們需要的數據。
以上優(yōu)化的效果可能遠遠超出大家的想象。
實際工作中連表的數比我們例子中的要多,未優(yōu)化的SQL在執(zhí)行未分頁的時候發(fā)現(xiàn)一共有70萬的數據,我們分頁取出10條數據花了10+秒以上的時間,數據量不大但是大部分的時間都消耗在了分組和數據統(tǒng)計,大家可以試著寫一段代碼對這些數據進行分組和統(tǒng)計,就能明白其中的復雜性。
而實際上無論取出10條和全部取出,時間基本上一樣的(不考慮IO),因為先進行了統(tǒng)計。
優(yōu)化后的SQL,加載到內存中只有2萬左右的數據,而且不進行統(tǒng)計,先取出10條數據,然后再對10條數據進行統(tǒng)計,邏輯上比之前的簡單多了。優(yōu)化后的SQL執(zhí)行時間在20毫秒以內。
其實如果在訂單表和售后表都記錄了對應的數量,連表數還要少,還不需要進行子查詢。有時候設計表的時候還是需要考慮一下統(tǒng)計的需要。
到此這篇關于MYSQL Left Join優(yōu)化(10秒優(yōu)化到20毫秒內)的文章就介紹到這了,更多相關MYSQL Left Join優(yōu)化內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
- 圖文詳解Mysql使用left?join寫查詢語句執(zhí)行很慢問題的解決
- mysql使用left?join連接出現(xiàn)重復問題的記錄
- MySQL中多個left?join?on關聯(lián)條件的順序說明
- 關于mysql?left?join?查詢慢時間長的踩坑總結
- 解決Mysql的left join無效及使用的注意事項說明
- mysql left join快速轉inner join的過程
- mysql高效查詢left join和group by(加索引)
- 詳解mysql 使用left join添加where條件的問題分析
- mysql中l(wèi)eft join設置條件在on與where時的用法區(qū)別分析
- MySQL 8.0.18 Hash Join不支持left/right join左右連接問題
- MySQL left join操作中on和where放置條件的區(qū)別介紹
- mysql多個left join連接查詢用法分析
- MySQL利用profile分析慢sql詳解(group left join效率高于子查詢)
- MySQL在右表數據不唯一的情況下使用left join的方法
- MySQL表LEFT JOIN左連接與RIGHT JOIN右連接的實例教程
- mysql left join的基本用法以及on與where的區(qū)別
相關文章
MySQL中字段類型為longtext的值導出后顯示二進制串方式
這篇文章主要介紹了MySQL中字段類型為longtext的值導出后顯示二進制串方式,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-07-07

