論文の概要: Retrievable Gradients: Continual Post-Training Without Cumulative Weight Drift

• arxiv url: http://arxiv.org/abs/2606.15734v1
• Date: Sun, 14 Jun 2026 10:31:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.812999
• Title: Retrievable Gradients: Continual Post-Training Without Cumulative Weight Drift
• Title（参考訳）: 回復可能な勾配: 累積重量ドリフトを伴わない連続的な後訓練
• Abstract要約: 継続的なポストトレーニングにより、モデルが展開後の知識を吸収することが可能になるが、共有パラメータの繰り返し更新は重み付けを蓄積することができる。 グラデーションを検索可能な知識単位として扱う新しいパラダイムであるReGradを提案する。
• 参考スコア（独自算出の注目度）: 34.68296432820504
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Continual post-training enables models to absorb emerging knowledge after deployment, but repeatedly updating shared parameters can accumulate weight drift, potentially causing catastrophic forgetting and degrading general capabilities. Retrieval-augmented generation avoids such parameter drift, yet often lacks the depth of parametric knowledge integration. In this paper, we propose ReGrad (Retrievable Gradients), a new paradigm that treats gradients as retrievable units of knowledge. ReGrad pre-computes document-specific gradients offline, stores them in an indexed Gradient Bank, and retrieves only query-relevant gradients at inference time for temporary weight adaptation. However, raw language-modeling gradients are optimized for token-level document reconstruction rather than for query-driven knowledge use. We therefore introduce a bi-level meta-learning objective that reshapes document-derived gradients into generalizable adaptation signals for downstream tasks. Experiments across general and domain-specific settings show that \textsc{ReGrad} outperforms CPT and RAG baselines, enabling scalable and reversible parametric knowledge injection without accumulating weight drift.
• Abstract（参考訳）: 継続的なポストトレーニングにより、モデルが展開後の知識を吸収することが可能になるが、共有パラメータの繰り返し更新は、ウェイトドリフトを蓄積し、破滅的な忘れ込みと一般化能力の低下を引き起こす可能性がある。 Retrieval-augmented Generationはそのようなパラメータドリフトを避けるが、パラメトリック知識統合の深さを欠いていることが多い。 本稿では,グラデーションを検索可能な知識単位として扱う新しいパラダイムであるReGrad(Retrievable Gradients)を提案する。 ReGradはドキュメント固有の勾配をオフラインで計算し、インデックス付きグラディエント銀行に格納し、一時的な重み付けのために推論時にクエリ関連勾配のみを取得する。 しかし、生の言語モデリング勾配は、クエリ駆動知識の使用よりもトークンレベルの文書再構成に最適化されている。 そこで,2段階のメタ学習目標を導入し,文書由来の勾配を下流タスクの一般化可能な適応信号に置き換える。 一般およびドメイン固有の設定での実験では、 \textsc{ReGrad} は CPT と RAG のベースラインを上回り、重量のドリフトを蓄積することなく、スケーラブルで可逆的なパラメトリックな知識注入を可能にする。

関連論文リスト

• Can Gradient Descent Simulate Prompting? [56.60154660021178]
  勾配は新しい情報に対する条件付けの効果を更新する。 勾配降下訓練は、引き起こされたモデルパフォーマンスのいくつか(時には全て)を回復する。 長文モデリングのための新しい道のりを示唆する。
  論文  参考訳（メタデータ） (2025-06-26T04:06:20Z)
• Gradient Inversion Transcript: Leveraging Robust Generative Priors to Reconstruct Training Data from Gradient Leakage [3.012404329139943]
  Gradient Inversion Transcript (GIT) は、リークした勾配からトレーニングデータを再構成するための新しい生成手法である。 GITは、既存のメソッドを複数のデータセットで一貫して上回る。
  論文  参考訳（メタデータ） (2025-05-26T14:17:00Z)
• Stepping Forward on the Last Mile [8.756033984943178]
  本稿では,バックプロパゲーションと比較してメモリフットプリントと精度のギャップを低減させるアルゴリズムの一連の拡張を提案する。 その結果、エッジデバイス上でのモデルカスタマイズの最後のマイルでは、固定点前方勾配によるトレーニングが実現可能で実践的なアプローチであることが示されている。
  論文  参考訳（メタデータ） (2024-11-06T16:33:21Z)
• R-CONV: An Analytical Approach for Efficient Data Reconstruction via Convolutional Gradients [40.209183669098735]
  本稿では,畳み込み層の勾配を効率的に利用するための高度なデータ漏洩手法を提案する。 我々の知る限りでは、これは勾配から直接畳み込み層の入力を再構築する最初の分析手法である。
  論文  参考訳（メタデータ） (2024-06-06T16:28:04Z)
• Scaling Forward Gradient With Local Losses [117.22685584919756]
  フォワード学習は、ディープニューラルネットワークを学ぶためのバックプロップに代わる生物学的に妥当な代替手段である。 重みよりも活性化に摂動を適用することにより、前方勾配のばらつきを著しく低減できることを示す。 提案手法はMNIST と CIFAR-10 のバックプロップと一致し,ImageNet 上で提案したバックプロップフリーアルゴリズムよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2022-10-07T03:52:27Z)
• Adapting Stepsizes by Momentumized Gradients Improves Optimization and Generalization [89.66571637204012]
  textscAdaMomentum on vision, and achieves state-the-art results on other task including language processing。 textscAdaMomentum on vision, and achieves state-the-art results on other task including language processing。 textscAdaMomentum on vision, and achieves state-the-art results on other task including language processing。
  論文  参考訳（メタデータ） (2021-06-22T03:13:23Z)
• Variance Reduction for Deep Q-Learning using Stochastic Recursive Gradient [51.880464915253924]
  深層Q-ラーニングアルゴリズムは、過度な分散を伴う勾配推定に苦しむことが多い。 本稿では、SRG-DQNと呼ばれる新しいアルゴリズムを実現するため、深層Q-ラーニングにおける勾配推定を更新するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-25T00:54:20Z)
• AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
  我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。 実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
  論文  参考訳（メタデータ） (2020-06-11T16:36:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。