Postgresql 如何清理WAL日志
WAL是Write Ahead Log的簡寫,和oracle的redo日志類似,存放在$PGDATA/pg_xlog中,10版本以后在$PGDATA/pg_wal目錄.
如果開啟了歸檔,在目錄archive_status下會有一些文件,以ready結(jié)尾的,表示可以歸檔但還沒有歸檔,done結(jié)尾的表示已經(jīng)歸檔。
和WAL日志數(shù)量相關(guān)的幾個參數(shù):
wal_keep_segments = 300 # in logfile segments, 16MB each; 0 disables checkpoint_completion_target = 0.5 # checkpoint target duration, 0.0 - 1.0 checkpoint_segments = 2048 # in logfile segments, min 1, 16MB each #9.5以后checkpoint_segments不再使用,要參考設(shè)置以下兩個參數(shù) #max_wal_size = 1GB #最大不超過這個值 #min_wal_size = 80MB #最小保留這個值
如果沒有開啟歸檔的情況下:
不超過以下兩個公式計算得出的個數(shù)
(2 + checkpoint_completion_target) * checkpoint_segments + 1 或者checkpoint_segments + wal_keep_segments + 1
9.5以后,如果超過了max_wal_size,那么就會刪除不需要的wal.
如果開啟了歸檔,那么歸檔成功了,才會被清除,所以這里注意一下,如果你開啟了歸檔,但是歸檔命令是失效的,那么wal目錄會一直增長,不會自動刪除WAL,會使得此目錄被撐爆。
什么情況下回自動清理wal
1.做檢查點的時候
2.數(shù)據(jù)庫啟動的時候,或者修改了相關(guān)參數(shù)后重啟數(shù)據(jù)庫。
觸發(fā)檢查點的情況:
1.從前一個檢查點發(fā)生過后的時間超過checkpoint_timeout設(shè)置的間隔(默認(rèn)間隔為300秒(5分鐘))。
2.在版本9.4或更早版本中,自上一個檢查點以來,超過使用checkpoint_segments(默認(rèn)數(shù)量為3)設(shè)置的WAL段文件數(shù)量。
3.在9.5或更高版本中,pg_xlog(版本10或更高版本,pg_wal)中WAL段文件的總大小已超過參數(shù)max_wal_size的值(默認(rèn)值為1GB(64個文件))。
4.PostgreSQL服務(wù)在smart和fast模式下停止。
5.手動執(zhí)行checkpoint.
如何手動清理wal
可以通過縮小以上涉及到的函數(shù)減少wal segment的數(shù)量,也可以手動刪除,如下:
pg_controldata Latest checkpoint location: 16/79FF5520 Latest checkpoint's REDO location: 16/79FF54E8 Latest checkpoint's REDO WAL file: 00000001000000160000001E
這里表示16/79FF54E8檢查點已經(jīng)執(zhí)行,已經(jīng)包含在00000001000000160000001E日志文件中,那么這個日志之前的日志是可以清理的。
可以手動使用系統(tǒng)命令rm清理
也可以使用pg_archivecleanup清理
比如:
查看日志 ll total 833M -rw------- 1 postgres postgres 64M Aug 29 11:10 00000001000000160000001E -rw------- 1 postgres postgres 64M Jul 16 11:24 00000001000000160000001F -rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000020 -rw------- 1 postgres postgres 64M Jul 16 11:25 000000010000001600000021 -rw------- 1 postgres postgres 64M Jul 16 11:25 000000010000001600000022 -rw------- 1 postgres postgres 64M Jul 16 11:26 000000010000001600000023 -rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000024 -rw------- 1 postgres postgres 64M Jul 16 11:24 000000010000001600000025 -rw------- 1 postgres postgres 64M Jul 16 11:26 000000010000001600000026 -rw------- 1 postgres postgres 64M Jul 16 11:40 000000010000001600000027 -rw------- 1 postgres postgres 64M Jul 16 11:40 000000010000001600000028 -rw------- 1 postgres postgres 64M Jul 16 11:51 000000010000001600000029 -rw------- 1 postgres postgres 64M Jul 16 11:40 00000001000000160000002A drwx------ 2 postgres postgres 4.0K Jun 18 10:15 archive_status 保留000000010000001600000027之后的日志 pg_archivecleanup /opt/pgdata11.3/pg_root/pg_wal/ 000000010000001600000027 再次查看驗證 ls 000000010000001600000027 000000010000001600000028 000000010000001600000029 00000001000000160000002A archive_status
補充:Postgresql 數(shù)據(jù)庫設(shè)置備份以及簡單清理磁盤空間和wal日志的方法
1. 最近想簡單的進行數(shù)據(jù)庫的備份工作, 因為現(xiàn)在數(shù)據(jù)庫主要是用的pg數(shù)據(jù)庫 , 所以想到用文本的方式進行, 有清理了一下日志表的數(shù)據(jù) 這里一起記錄一下.
先記錄一下查看比較大的表的信息.
從網(wǎng)上找了下資料, 使用子查詢的方式來查詢表信息.
SELECT table_name, pg_size_pretty(table_size) AS table_size, pg_size_pretty(indexes_size) AS indexes_size, pg_size_pretty(total_size) AS total_size FROM ( SELECT table_name, pg_table_size(table_name) AS table_size, pg_indexes_size(table_name) AS indexes_size, pg_total_relation_size(table_name) AS total_size FROM ( SELECT ('"' || table_schema || '"."' || table_name || '"') AS table_name FROM information_schema.tables ) AS all_tables ORDER BY total_size DESC ) AS pretty_sizes;
找出來最大的表信息之后, 需要使用
truncate table 的方式能夠直接清理空間不然空間還是占用著的.
truncate table ****
或者是在數(shù)據(jù)庫的 /data/base 目錄下面也能夠看到響應(yīng)的表信息
2. 整理pg_wal 文件內(nèi)的信息
wal 是 write ahead log 的意思 里面跟oracle的redo內(nèi)容類似, 有時候文件會比較多需要清理一下.
方法
su - postgres cd /usr/lib/yourpgbinpath ./pg_resetwal {PGDATA} 執(zhí)行清理
3. 執(zhí)行備份恢復(fù)的方式
備份 tar -czvf /pgdata.tar.gz /pgdatapath 恢復(fù) tar -zxvf /pgdata.tar.gz / 恢復(fù)即可,
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
PostgreSQL使用JSONB存儲和查詢復(fù)雜的數(shù)據(jù)結(jié)構(gòu)
在PostgreSQL中,JSONB是一種二進制格式的JSON數(shù)據(jù)類型,它允許你在數(shù)據(jù)庫中存儲和查詢復(fù)雜的JSON數(shù)據(jù)結(jié)構(gòu),本文給大家介紹了如何使用JSONB類型在PostgreSQL中存儲和查詢復(fù)雜的數(shù)據(jù)結(jié)構(gòu),需要的朋友可以參考下2024-04-04PostgreSQL查看數(shù)據(jù)庫占用空間大小的幾種常用方法
在PostgreSQL中,查看數(shù)據(jù)庫及數(shù)據(jù)表當(dāng)前數(shù)據(jù)的占用量可以通過執(zhí)行特定的SQL查詢來實現(xiàn),本文給大家介紹了幾種常用的方法,并通過代碼示例講解的非常詳細(xì),需要的朋友可以參考下2024-05-05postgresql insert into select無法使用并行查詢的解決
這篇文章主要介紹了postgresql insert into select無法使用并行查詢的解決,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01postgresql rank() over, dense_rank(), row_number()用法區(qū)別
這篇文章主要介紹了postgresql rank() over, dense_rank(), row_number()的用法區(qū)別,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12PostgreSQL的外部數(shù)據(jù)封裝器fdw用法
這篇文章主要介紹了PostgreSQL的外部數(shù)據(jù)封裝器fdw用法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-01-01PostgreSQL+GeoHash地圖點位聚合實現(xiàn)代碼
這篇文章主要介紹了PostgreSQL+GeoHash地圖點位聚合,本文通過實例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-07-07PostgreSQL?流復(fù)制配置環(huán)境搭建過程
PostgreSQL 流復(fù)制是 9.0 提供的一種新的 WAL 傳遞方法,使用流復(fù)制時,每當(dāng) Primary 節(jié)點 WAL 產(chǎn)生,就會馬上傳遞到 Standby 節(jié)點,流復(fù)制提供異步和同步兩種模式,同步模式可以保障數(shù)據(jù) 0 丟失,這篇文章主要介紹了PostgreSQL?流復(fù)制搭建,需要的朋友可以參考下2023-09-09