論文の概要: TierCheck: Tiered Checkpointing for Fault Tolerance in Large Language Model Training

• arxiv url: http://arxiv.org/abs/2605.17821v1
• Date: Mon, 18 May 2026 03:48:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:48.791563
• Title: TierCheck: Tiered Checkpointing for Fault Tolerance in Large Language Model Training
• Title（参考訳）: TierCheck: 大規模言語モデルトレーニングにおけるフォールトトレランスチェックポイント
• Authors: Shujie Han, Feng Jiang, Patrick P. C. Lee, Xiao Zhang, Zhijie Huang, Nannan Zhao, Xiaonan Zhao, Lichen Pan,
• Abstract要約: TierCheckはクラスタ対応の階層型チェックポイントシステムである。 ローカルとピアメモリの軽量な差分チェックポイントを維持し、高速なローカライズされたリカバリを実現すると同時に、ヘビーウェイトベースチェックポイントをリモート永続ストレージに非同期に移行する。 また、トレーニングを中断することなく、階層間の厳格なグローバル一貫性を確保し、回復中にクラスタ対応のチェックポイントを高速に復元する。
• 参考スコア（独自算出の注目度）: 17.59695954210434
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Model (LLM) training is frequently interrupted by a heterogeneous spectrum of failures, from common GPU crashes to catastrophic cluster-wide outages. Existing checkpointing systems rely on monolithic, single-tier storage backend, forcing a trade-off between state-saving overhead and recovery speed. We propose TierCheck, a cluster-aware tiered checkpointing system that aligns storage placement with failure heterogeneity. TierCheck adopts a three-tier design that maintains lightweight differential checkpoints in local and peer memory for fast localized recovery, while asynchronously migrating heavyweight base checkpoints to remote persistent storage. It also ensures strict global consistency across tiers without stalling training, and achieves fast cluster-aware checkpoint restoration during recovery. Evaluations on models up to 40 billion parameters show that TierCheck achieves low training overhead, reduces end-to-end checkpointing time to under 10s, and supports high-frequency checkpointing, ultimately striking an optimal balance between low-overhead persistence and fast recovery.
• Abstract（参考訳）: 大規模言語モデル(LLM)トレーニングは、一般的なGPUクラッシュから破滅的なクラスタ全体の停止に至るまで、異種障害のスペクトルによって頻繁に中断される。 既存のチェックポイントシステムはモノリシックな単一層ストレージバックエンドに依存しており、ステートセーブオーバーヘッドとリカバリスピードのトレードオフを強いている。 本稿では,クラスタ対応の階層型チェックポイントシステムであるTierCheckを提案する。 TierCheckは、ローカルとピアメモリの軽量な差分チェックポイントを高速なローカライズされたリカバリのために保持し、ヘビーウェイトベースチェックポイントをリモート永続ストレージに非同期に移行する3層設計を採用している。 また、トレーニングを中断することなく、階層間の厳格なグローバル一貫性を確保し、回復中にクラスタ対応のチェックポイントを高速に復元する。 最大400億のパラメータによる評価によると、TierCheckはトレーニングのオーバーヘッドを低くし、エンドツーエンドのチェックポイント時間を10秒未満に短縮し、高周波のチェックポイントをサポートし、最終的には低オーバーヘッドの永続化と高速リカバリの最適なバランスを達成している。

関連論文リスト

• ProbeLLM: Automating Principled Diagnosis of LLM Failures [89.44131968886184]
  ProbeLLMはベンチマークに依存しない自動探索フレームワークで、個々の障害から構造的障害モードへの脆弱性発見を増大させる。 ProbeLLMは、検証可能なテストケースにプローブを制限し、ツールの拡張された生成と検証を活用することで、信頼性のある証拠として障害発見を根拠とする。
  論文  参考訳（メタデータ） (2026-02-13T14:33:13Z)
• All is Not Lost: LLM Recovery without Checkpoints [0.1638581561083717]
  CheckFreeは、失敗するステージを最も近いステージの重み付き平均で置き換える効率的なリカバリ手法である。 CheckFreeとCheckFree+は、ウォールクロック時間の収束率でチェックポイントと冗長な計算を12%以上上回った。
  論文  参考訳（メタデータ） (2025-06-18T13:48:33Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)
• ByteCheckpoint: A Unified Checkpointing System for Large Foundation Model Development [9.13331802151585]
  ByteCheckpoint は大規模 LFM トレーニングのための産業レベルのチェックポイントシステムである。 ByteCheckpoint はチェックポイントストールを著しく減少させ、平均54.20倍の減少を達成する。 ByteCheckpointは、保存時間とロード時間を最大9.96倍と8.80倍に改善した。
  論文  参考訳（メタデータ） (2024-07-29T16:18:20Z)
• Boot and Switch: Alternating Distillation for Zero-Shot Dense Retrieval [50.47192086219752]
  $texttABEL$は、ゼロショット設定でのパス検索を強化するための、シンプルだが効果的な教師なしのメソッドである。 ラベル付きデータに対して$texttABEL$を微調整するか、既存の教師付き高密度検索と統合することにより、最先端の結果が得られる。
  論文  参考訳（メタデータ） (2023-11-27T06:22:57Z)
• Dual Cluster Contrastive learning for Person Re-Identification [78.42770787790532]
  私たちはDual Cluster Contrastive Learning(DCC)という統合クラスタコントラストフレームワークを定式化します。 DCCは、個々のメモリバンクとセントロイドクラスタメモリバンクの2種類のメモリバンクを維持している。 教師なしまたは監督されていない人物のReIDに容易に適用できる。
  論文  参考訳（メタデータ） (2021-12-09T02:43:25Z)
• Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax [88.11979569564427]
  本報告では, 長期分布前における最先端モデルの過小評価に関する最初の体系的解析を行う。 本稿では,グループワイドトレーニングを通じて検出フレームワーク内の分類器のバランスをとるための,新しいバランス付きグループソフトマックス(BAGS)モジュールを提案する。 非常に最近の長尾大語彙オブジェクト認識ベンチマークLVISの大規模な実験により,提案したBAGSは検出器の性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2020-06-18T10:24:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。