1.31. Thanos コンパクターの停止のトラブルシューティング
コンパクターが停止したというエラーメッセージが表示される場合があります。これは、破損したブロックがある場合、または Thanos コンパクターの永続ボリューム要求 (PVC) に十分なスペースがない場合に発生する可能性があります。
1.31.1. 現象: Thanos コンパクターが停止する リンクのコピーリンクがクリップボードにコピーされました!
永続ボリューム要求 (PVC) にスペースが残っていないため、Thanos コンパクターは停止します。以下のメッセージが表示されます。
ts=2024-01-24T15:34:51.948653839Z caller=compact.go:491 level=error msg="critical error detected; halting" err="compaction: group 0@5827190780573537664: compact blocks [ /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE]: 2 errors: populate block: add series: write series data: write /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE.tmp-for-creation/index: no space left on device; write /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE.tmp-for-creation/index: no space left on device"
ts=2024-01-24T15:34:51.948653839Z caller=compact.go:491 level=error msg="critical error detected; halting" err="compaction: group 0@5827190780573537664: compact blocks [ /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE]: 2 errors: populate block: add series: write series data: write /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE.tmp-for-creation/index: no space left on device; write /var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE.tmp-for-creation/index: no space left on device"
1.31.2. 問題の解決: Thanos コンパクターが停止 リンクのコピーリンクがクリップボードにコピーされました!
この問題を解決するには、Thanos コンパクター PVC のストレージスペースを増やします。以下の手順を実行します。
-
data-observability-thanos-compact-0PVC のストレージ容量を増やします。詳細は、永続ボリュームと永続ボリューム要求の増加と減少 を参照してください。 Pod を削除して、
observability-thanos-compactPod を再起動します。新しい Pod が自動的に作成され、起動します。oc delete pod observability-thanos-compact-0 -n open-cluster-management-observability
oc delete pod observability-thanos-compact-0 -n open-cluster-management-observabilityCopy to Clipboard Copied! Toggle word wrap Toggle overflow -
observability-thanos-compactPod を再起動した後、acm_thanos_compact_todo_compactionsメトリクスを確認します。Thanos コンパクターがバックログを処理するにつれて、メトリクス値は減少します。 メトリクスが一定の周期で変化していることを確認し、ディスク使用量をチェックします。その後、PVC を再度減らすことを再試行できます。
注記: これには数週間かかる場合があります。
1.31.3. 現象: Thanos コンパクターが停止する リンクのコピーリンクがクリップボードにコピーされました!
ブロックが破損しているため、Thanos コンパクターが停止します。01HKZYEZ2DVDQXF1STVEXAMPLE ブロックが破損している場合は、次の出力が表示されることがあります。
ts=2024-01-24T15:34:51.948653839Z caller=compact.go:491 level=error msg="critical error detected; halting" err="compaction: group 0@15699422364132557315: compact blocks [/var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HKZQK7TD06J2XWGR5EXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HKZYEZ2DVDQXF1STVEXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HM05APAHXBQSNC0N5EXAMPLE]: populate block: chunk iter: cannot populate chunk 8 from block 01HKZYEZ2DVDQXF1STVEXAMPLE: segment index 0 out of range"
ts=2024-01-24T15:34:51.948653839Z caller=compact.go:491 level=error msg="critical error detected; halting" err="compaction: group 0@15699422364132557315: compact blocks [/var/thanos/compact/compact/0@15699422364132557315/01HKZGQGJCKQWF3XMA8EXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HKZQK7TD06J2XWGR5EXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HKZYEZ2DVDQXF1STVEXAMPLE /var/thanos/compact/compact/0@15699422364132557315/01HM05APAHXBQSNC0N5EXAMPLE]: populate block: chunk iter: cannot populate chunk 8 from block 01HKZYEZ2DVDQXF1STVEXAMPLE: segment index 0 out of range"
1.31.4. 問題の解決: Thanos コンパクターが停止 リンクのコピーリンクがクリップボードにコピーされました!
オブジェクトストレージ設定に thanos bucket verify コマンドを追加します。以下の手順を実行します。
オブジェクトストレージ設定に
thanos bucket verifyコマンドを追加して、ブロックエラーを解決します。次のコマンドを使用して、observability-thanos-compactPod を設定します。oc rsh observability-thanos-compact-0 [..] thanos tools bucket verify -r --objstore.config="$OBJSTORE_CONFIG" --objstore-backup.config="$OBJSTORE_CONFIG" --id=01HKZYEZ2DVDQXF1STVEXAMPLE
oc rsh observability-thanos-compact-0 [..] thanos tools bucket verify -r --objstore.config="$OBJSTORE_CONFIG" --objstore-backup.config="$OBJSTORE_CONFIG" --id=01HKZYEZ2DVDQXF1STVEXAMPLECopy to Clipboard Copied! Toggle word wrap Toggle overflow 前のコマンドが機能しない場合は、ブロックが破損している可能性があるため、削除対象としてマークする必要があります。以下のコマンドを実行します。
thanos tools bucket mark --id "01HKZYEZ2DVDQXF1STVEXAMPLE" --objstore.config="$OBJSTORE_CONFIG" --marker=deletion-mark.json --details=DELETE
thanos tools bucket mark --id "01HKZYEZ2DVDQXF1STVEXAMPLE" --objstore.config="$OBJSTORE_CONFIG" --marker=deletion-mark.json --details=DELETECopy to Clipboard Copied! Toggle word wrap Toggle overflow 削除がブロックされている場合は、次のコマンドを実行して、マークされたブロックをクリーンアップします。
thanos tools bucket cleanup --objstore.config="$OBJSTORE_CONFIG"
thanos tools bucket cleanup --objstore.config="$OBJSTORE_CONFIG"Copy to Clipboard Copied! Toggle word wrap Toggle overflow