PG:checkpoint是什么?該如何寫數(shù)據(jù)?
PG:checkpoint是什么
Checkpoint是PG中的核心概念。然而會(huì)有用戶對此比較陌生,不知道如何調(diào)優(yōu)。本文解釋checkpoint及如何調(diào)優(yōu),希望對數(shù)據(jù)庫內(nèi)核理解有所幫助。
PG如何寫數(shù)據(jù)
詳細(xì)討論checkpoint前,理解PG是如何write數(shù)據(jù)的非常重要,看下面的圖:
重要的假設(shè)是crash會(huì)發(fā)生在任何時(shí)間。為什么和這個(gè)相關(guān)?需要確認(rèn)數(shù)據(jù)庫永遠(yuǎn)不會(huì)被破壞。我們不能直接將數(shù)據(jù)寫入數(shù)據(jù)文件。為甚?假設(shè)要將“1234”寫入數(shù)據(jù)文件,如果在“12”后面崩潰,結(jié)果將是表中某個(gè)位置的一個(gè)元組被破壞,索引條目可能丟失等。我們必須不惜一切代價(jià)防止這種情況發(fā)生。
因此需要更加復(fù)雜的數(shù)據(jù)寫入方法。PG首先將數(shù)據(jù)寫入WAL,WAL就像一個(gè)包含二進(jìn)制變化的順序磁帶。如果添加一行,WAL可能包含一條記錄,用于記錄數(shù)據(jù)文件哪些地方改動(dòng)了,可能包含一組索引記錄改動(dòng)的指令、可能需要寫入一個(gè)額外的頁等,僅包含一系列變化。
數(shù)據(jù)一旦寫入WAL,PG將會(huì)對共享緩存區(qū)中的數(shù)據(jù)頁進(jìn)行更改,注意數(shù)據(jù)文件中仍沒有數(shù)據(jù)。現(xiàn)在有了WAL條目及共享緩沖區(qū)的臟頁。如果一個(gè)讀取請求來了,可從緩存中找到,而不用到磁盤上讀取。
某個(gè)時(shí)刻,內(nèi)存中的臟頁會(huì)由后臺(tái)寫入進(jìn)程寫入磁盤。這里最重要的一點(diǎn)是,數(shù)據(jù)可能會(huì)被亂序?qū)懭,這個(gè)是沒有問題的。如果用戶想讀取數(shù)據(jù),PG先從共享緩沖區(qū)中獲取。因此臟頁的寫入順序與此無關(guān)。甚至可以晚一點(diǎn)寫入,以增加一次sync的量。
刪除WAL
WAL不能無限寫入,需要回收空間。這就是CHECKPOINT需要干的活之一。
Checkpoint的目的就是確保臟頁刷寫到磁盤,然后該臟頁對應(yīng)的WAL及之前的WAL就可以刪除回收了。PG的方法啟動(dòng)一個(gè)checkpoint進(jìn)程,將bgwriter進(jìn)程沒有刷寫的刷寫到磁盤。但是這個(gè)過程并沒有盡可能快的刷,我們需要使IO平穩(wěn),保證穩(wěn)定的響應(yīng)時(shí)間。
控制checkpoint平穩(wěn)的參數(shù)為:
test=# SHOW checkpoint_completion_target;checkpoint_completion_target------------------------------0.5(1 row)
到下個(gè)checkpoint開始前完成刷寫一半。真實(shí)情況下對于大多數(shù)負(fù)載0.7-0.9就可以了,但可以隨意設(shè)置。注意PG14中這個(gè)參數(shù)就會(huì)取消了,硬編碼值為0.9。下一個(gè)問題是:什么時(shí)候進(jìn)行checkpoint呢?參數(shù)為:
test=# SHOW checkpoint_timeout;checkpoint_timeout--------------------5min(1 row)test=# SHOW max_wal_size;max_wal_size--------------1GB(1 row)
如果系統(tǒng)的負(fù)載比較低,在一段時(shí)間后進(jìn)行checkpoint。默認(rèn)值是5分鐘,但建議增加這個(gè)值以提高寫入性能。注意,請隨意修改這個(gè)值,僅會(huì)影響性能,不會(huì)以任何方式傷害數(shù)據(jù)庫,除了性能沒有數(shù)據(jù)會(huì)有風(fēng)險(xiǎn)。
max_wal_size有點(diǎn)棘手,這個(gè)是個(gè)軟限制,不是硬限制。因此WAL會(huì)超過這個(gè)值。這個(gè)值為了告訴PG可以堆積多少WAL,從而挑戰(zhàn)checkpoint,F(xiàn)實(shí)中,提高這個(gè)值會(huì)消耗更多空間,但是會(huì)提高性能。
為啥不將max_wal_size設(shè)置成無限大呢?首先很明顯,這樣就需要更多空間。另外,一旦數(shù)據(jù)庫崩潰,PG就需要從上個(gè)checkpoint處開始回放,這樣回放的時(shí)間就非常長了。如果檢查點(diǎn)的距離增加,性能確實(shí)會(huì)提升,但是所做的和想要達(dá)到的效果有限,從某種意義上說,在這個(gè)問題上投入更多存儲(chǔ)空間不會(huì)改變?nèi)魏问虑椤?/p>
后臺(tái)寫進(jìn)程會(huì)將臟頁刷寫到磁盤,然而許多情況下,更多工作是由checkpoint進(jìn)程本身完成,因此關(guān)注checkpoint比后臺(tái)寫進(jìn)程有意義。
min_wal_size:神秘參數(shù)
min_wal_size 和max_wal_size有什么區(qū)別呢?如果PG空閑,會(huì)逐漸將WAL量減少到min_wal_size,這是個(gè)緩慢的過程,不是立即一蹴而就。假設(shè)本周內(nèi)有高寫負(fù)載,但是在周末會(huì)空閑。禮拜五下午,WAL量會(huì)很多,但是周末,會(huì)漸漸減少。當(dāng)?shù)街芤缓,WAL量又會(huì)增加。
因此最后將min_wal_size的值設(shè)置的不要太小。

發(fā)表評(píng)論
請輸入評(píng)論內(nèi)容...
請輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
-
10 月之暗面,絕地反擊
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?