PostgreSQL長事務(wù)與失效的索引查詢淺析介紹
最近剛寫了一篇文章介紹了下長事務(wù),以及一些長事務(wù)常見的危害,如無法及時的垃圾回收導(dǎo)致表膨脹之類的問題,最近剛好又碰到一個問題也是長事務(wù)所導(dǎo)致的。
上周六早上接到同事電話,說某個庫CPU一直很高,看了下全是某張大表的全表掃描導(dǎo)致,但是奇怪的是相關(guān)的查詢都有用到索引列,不知道為啥查詢?nèi)慷紱]走索引。
當(dāng)我連上去查看時發(fā)現(xiàn)確實(shí)如此,如果只是某個查詢不走索引那可能是SQL本身寫的有問題,但是這張表相關(guān)的所有SQL都不走索引,那自然會想到是索引本身的原因了。那是不是索引失效了呢?經(jīng)過檢查發(fā)現(xiàn)這張表上的索引狀態(tài)均正常,并且我還將索引重建了,可仍然沒起作用。
正當(dāng)我迷茫的時候,偶然間再去執(zhí)行相關(guān)SQL的時候發(fā)現(xiàn)竟然又都走索引了,這又是啥情況。。
我啥都沒做你就自己恢復(fù)了,那不是顯得我很呆?不行,必須得搞清楚啥原因。
當(dāng)我再去查看相關(guān)索引的時候發(fā)現(xiàn),該索引的pg_index中的indcheckxmin列均為true,這個字段我之前有寫過一篇索引失效的文章里介紹過。那么什么情況下索引的該屬性會被設(shè)置為true呢?兩種情況:
- 當(dāng)前事務(wù)中表上存在broken HOT chains;
- 當(dāng)old_snapshot_threshold被設(shè)置時。
之前我們也介紹過,如果索引的該屬性為true那么在創(chuàng)建索引的事務(wù)中該索引是不可用的,不過這種場景我們基本不太會遇到,因?yàn)樵趯?shí)際應(yīng)用中我們基本不會在事務(wù)中創(chuàng)建完索引然后不提交該事務(wù)直接去使用。
而關(guān)于indcheckxmin的詳細(xì)解釋是:直到此pg_index行的xmin低于查詢的TransactionXmin之前,查詢都不能使用此索引。那么什么情況下會出現(xiàn)這種問題呢?長事務(wù)!
當(dāng)我們創(chuàng)建索引的時候如果索引的indcheckxmin被設(shè)置為true,且數(shù)據(jù)庫中此時存在長事務(wù),那么直到該長事務(wù)提交前,該索引會一直不可用。
下面我們來模擬這種情況:
--會話一:打開一個長事務(wù)
bill=# begin; BEGIN bill=*# delete from t; DELETE 1000 bill=*#
--會話二:創(chuàng)建索引
由于old_snapshot_threshold參數(shù)被設(shè)置,所以創(chuàng)建的索引indcheckxmin被設(shè)置為true了。
bill=# show old_snapshot_threshold ; old_snapshot_threshold ------------------------ 1h (1 row) bill=# create index idx_t1 on t1(id); CREATE INDEX bill=# select indisvalid,indcheckxmin,indisready,indislive from pg_index where indexrelid = 'idx_t1'::regclass; indisvalid | indcheckxmin | indisready | indislive ------------+--------------+------------+----------- t | t | t | t (1 row)
使用該索引列進(jìn)行查詢:
索引的確無法使用。
bill=# explain analyze select * from t1 where id = 100; QUERY PLAN ------------------------------------------------------------------------------------------------- Seq Scan on t1 (cost=0.00..209.00 rows=51 width=37) (actual time=0.010..0.692 rows=51 loops=1) Filter: (id = 100) Rows Removed by Filter: 9949 Planning Time: 0.150 ms Execution Time: 0.706 ms (5 rows) bill=# set enable_seqscan = off; SET bill=# explain analyze select * from t1 where id = 100; QUERY PLAN ------------------------------------------------------------------------------------------------------------------- Seq Scan on t1 (cost=10000000000.00..10000000209.00 rows=51 width=37) (actual time=0.063..0.732 rows=51 loops=1) Filter: (id = 100) Rows Removed by Filter: 9949 Planning Time: 0.089 ms Execution Time: 0.796 ms (5 rows)
提交該長事務(wù)后再次查詢:
索引變得可用了。
bill=# explain analyze select * from t1 where id = 100; QUERY PLAN --------------------------------------------------------------------------------------------------------------- Index Scan using idx_t1 on t1 (cost=0.29..54.48 rows=51 width=37) (actual time=0.013..0.052 rows=51 loops=1) Index Cond: (id = 100) Planning Time: 0.061 ms Execution Time: 0.067 ms (4 rows)
果然是長事務(wù)的坑啊!
由于我們的庫中基本都打開了old_snapshot_threshold參數(shù),導(dǎo)致創(chuàng)建的索引的indcheckxmin一定是true。但這其實(shí)并不會有什么太大影響,問題在于在創(chuàng)建索引的同時數(shù)據(jù)庫中存在長事務(wù),這就導(dǎo)致了索引在創(chuàng)建完之后第一時間變得不可用了,需要直到該長事務(wù)被提交后才可用。
后來和同事求證發(fā)現(xiàn)他們之前也經(jīng)常碰到這種CPU變高然后又自己降下來的情況,之前并沒有注意是這張表的全表掃描導(dǎo)致的。由于該表是由pg_pathman創(chuàng)建的自動分區(qū),每天都會自己去創(chuàng)建一個新的分區(qū),因此如果每天自動創(chuàng)建分區(qū)的時候存在長事務(wù),那么創(chuàng)建完之后相關(guān)的分區(qū)上的索引均是不可用的,這也是為什么查詢不走索引然后又自己恢復(fù)的原因了。
這個案例其實(shí)我們在實(shí)際生產(chǎn)中遇到的可能性還是很大的,如果你的數(shù)據(jù)庫打開了old_snapshot_threshold參數(shù),同時沒有做好長事務(wù)的監(jiān)控,那么創(chuàng)建的索引就會出現(xiàn)這種不可用的情況。長事務(wù)危害不淺??!
到此這篇關(guān)于PostgreSQL長事務(wù)與失效的索引查詢淺析介紹的文章就介紹到這了,更多相關(guān)PostgreSQL長事務(wù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- PostgreSQL如何查看事務(wù)所占有的鎖實(shí)操指南
- PostgreSQL 存儲過程的進(jìn)階講解(含游標(biāo)、錯誤處理、自定義函數(shù)、事務(wù))
- PostgreSQL長事務(wù)概念解析
- PostgreSQL數(shù)據(jù)庫事務(wù)插入刪除及更新操作示例
- PostgreSQL事務(wù)回卷實(shí)戰(zhàn)案例詳析
- 基于Postgresql 事務(wù)的提交與回滾解析
- PostgreSQL數(shù)據(jù)庫事務(wù)實(shí)現(xiàn)方法分析
- PostgreSQL數(shù)據(jù)庫事務(wù)出現(xiàn)未知狀態(tài)的處理方法
- 深入理解PostgreSQL 事務(wù)處理
相關(guān)文章
Mybatis調(diào)用PostgreSQL存儲過程實(shí)現(xiàn)數(shù)組入?yún)鬟f
這篇文章主要介紹了mybatis調(diào)用postgresql自定義函數(shù)傳遞數(shù)組參數(shù)的解決方案,具有一定的參考價值,感興趣的小伙伴們可以參考一下2016-11-11PostgreSQL:string_agg?多列值聚合成一列的操作示例
PostgreSQL中的STRING_AGG()函數(shù)是一個聚合函數(shù),用于連接字符串列表并在字符串之間放置分隔符,這篇文章主要介紹了PostgreSQL:string_agg多列值聚合成一列,需要的朋友可以參考下2023-08-08PostgreSQL中ON?CONFLICT的使用及一些擴(kuò)展用法
Postgres?ON?CONFLICT是PostgreSQL數(shù)據(jù)庫中的一個功能,用于處理插入或更新數(shù)據(jù)時的沖突情況,下面這篇文章主要給大家介紹了關(guān)于PostgreSQL中ON?CONFLICT的使用及一些擴(kuò)展用法的相關(guān)資料,需要的朋友可以參考下2024-06-06PostgreSQL自定義函數(shù)并且調(diào)用方式
這篇文章主要介紹了PostgreSQL如何自定義函數(shù)并且調(diào)用,本文通過示例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-06-06postgresql 補(bǔ)齊空值、自定義查詢字段并賦值操作
這篇文章主要介紹了postgresql 補(bǔ)齊空值、自定義查詢字段并賦值操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-01-01PGSQL 實(shí)現(xiàn)把字符串轉(zhuǎn)換成double類型(to_number())
這篇文章主要介紹了PGSQL 實(shí)現(xiàn)把字符串轉(zhuǎn)換成double類型(to_number()),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12PostgreSQL標(biāo)準(zhǔn)建表語句分享
這篇文章主要介紹了PostgreSQL標(biāo)準(zhǔn)建表語句分享,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12