論文の概要: HERD: Harness-Evolving Recursive Distillation for Continual Learning

• arxiv url: http://arxiv.org/abs/2610.31401v1
• Date: Thu, 22 Oct 2026 15:03:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.418961
• Title: HERD: Harness-Evolving Recursive Distillation for Continual Learning
• Title（参考訳）: HERD:継続的学習のためのハーネス進化型再帰蒸留
• Abstract要約: パラメトリック法は破滅的な忘れと可塑性の喪失に悩まされる。 プロンプトのような非パラメトリックな手法は、文脈長や不自由な平文圧縮によって制限される。 本研究では,ハーネスで効率よく学習し,その経験を蒸留による累積能力に内包するハイブリッド連続学習フレームワークHERDを提案する。
• 参考スコア（独自算出の注目度）: 14.308375563974309
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Continual learning requires a model to keep acquiring new skills and knowledge without compromising its existing capabilities. Parametric methods suffer from catastrophic forgetting and loss of plasticity. Non-parametric methods, such as prompts, skills, and harnesses, leverage in-context learning but are limited by context length and lossy plain-text compression. To effectively combine their complementary strengths, we propose HERD (Harness-Evolving Recursive Distillation), a hybrid continual learning framework that learns efficiently in the harness and internalizes experience into cumulative capabilities via distillation. On the harness side, HERD continually refines its skills to capture reusable patterns, while retaining high-residual examples that the skills fail to capture in a bounded memory. On the parameter side, HERD performs drift-constrained distillation with dual anchors, substantially reducing forgetting over long recursive runs. On the 25-stage task stream of TRACE+17, under fixed memory and compute budgets, HERD matches the strongest parametric baseline in new-task acquisition while exhibiting the least forgetting and the strongest retention of general capabilities.
• Abstract（参考訳）: 継続的な学習には、既存の能力を損なうことなく、新しいスキルと知識の獲得を続けるモデルが必要です。 パラメトリック法は破滅的な忘れと可塑性の喪失に悩まされる。 プロンプト、スキル、ハーネスなどの非パラメトリックな手法は、コンテキスト内学習を利用するが、文脈長と不自由な平文圧縮によって制限される。 それらの相補的強度を効果的に組み合わせるために, ハーネスで効率よく学習し, 蒸留による累積能力に内包するハイブリッド連続学習フレームワークHERD(Harness-Evolving Recursive Distillation)を提案する。 ハーネス側では、HERDは再利用可能なパターンをキャプチャするためのスキルを継続的に洗練し、そのスキルがバウンドメモリでキャプチャできないという高度な残留例を維持している。 パラメータ側では、HERDは2つのアンカーを持つドリフト拘束蒸留を行い、長い再帰ランの忘れを著しく低減する。 TRACE+17の25段階タスクストリームでは、メモリと計算予算が固定され、HERDは新たなタスク獲得において最強のパラメトリックベースラインと一致し、最も忘れられにくく、一般的な能力の維持が最強である。

関連論文リスト

• Harness Continual Learning: Continual Adaptation Beyond Model Parameters [9.54786133734043]
  我々は、凍結基盤モデルを中心にハーネスが進化する新しい連続学習パラダイムを定式化する。 候補者は、現在の改善、履歴保持、有効性を確認した後にのみハーネスをコミットする。 実験では、複数の設定で対応するベースラインに対して、相対的なゲインが10%を超える能力の蓄積と障害回復が示されている。
  論文  参考訳（メタデータ） (2026-08-19T15:12:31Z)
• ReAD: Reinforcement-Guided Capability Distillation for Large Language Models [69.00808591939524]
  固定トークン予算下でのキャパシティ蒸留について検討し、2つの一貫したパターンを同定する。 Reinforcement-guided cApability Distillation frameworkであるREADを提案する。
  論文  参考訳（メタデータ） (2026-05-11T22:17:51Z)
• Training with Harnesses: On-Policy Harness Self-Distillation for Complex Reasoning [8.33682726719781]
  インタイムハーネスは複雑な推論タスクにおいて大きな言語モデルを大幅に改善する。 emphOn-Policy Harness Self-Distillation (OPHSD)を紹介する。 OPHSDは、タスク固有のハーネス機能を学生モデルに内包する。
  論文  参考訳（メタデータ） (2026-05-09T07:06:37Z)
• SkillOS: Learning Skill Curation for Self-Evolving Agents [67.94374107466957]
  本稿では,自己進化エージェントのスキルキュレーションを学習するための,経験駆動型RLトレーニングレシピであるSkillOSを提案する。 SkillOSは、凍結したエージェントエグゼキュータとトレーニング可能なスキルキュレーターを組み合わせて、蓄積したエクスペリエンスから外部SkillRepoを更新する。 SkillOSは、メモリフリーと強力なメモリベースラインを、有効性と効率の両方で一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2026-05-07T17:31:50Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)
• Provable Contrastive Continual Learning [7.6989463205452555]
  我々は,従来のタスクのトレーニング損失によって,モデルの性能がいかに境界づけられているかを明らかにする理論的な性能保証を確立する。 これらの保証の理論的解析から着想を得て,CILAと呼ばれる新しいコントラスト型連続学習アルゴリズムを提案する。 提案手法は,標準ベンチマークの精度を向上し,新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-05-29T04:48:11Z)
• Solving Continual Offline Reinforcement Learning with Decision Transformer [78.59473797783673]
  連続的オフライン強化学習(CORL)は、連続的およびオフライン的な強化学習を組み合わせたものである。 Actor-Critic構造とエクスペリエンス・リプレイ(ER)を取り入れた既存の手法は、分散シフト、低効率、知識共有の弱さに悩まされている。 我々は,マルチヘッドDT (MH-DT) とローランク適応DT (LoRA-DT) を導入し,DTの無視問題を緩和する。
  論文  参考訳（メタデータ） (2024-01-16T16:28:32Z)
• Replay-enhanced Continual Reinforcement Learning [37.34722105058351]
  本稿では,新しいタスクにおける既存のリプレイ方式の可塑性を大幅に向上させるリプレイ拡張手法であるRECALLを紹介する。 Continual Worldベンチマークの実験では、RECALLは純粋に完全なメモリリプレイよりもはるかに優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2023-11-20T06:21:52Z)
• Relational Experience Replay: Continual Learning by Adaptively Tuning Task-wise Relationship [54.73817402934303]
  本稿では,2段階の学習フレームワークである経験連続再生(ERR)を提案する。 ERRは、すべてのベースラインの性能を一貫して改善し、現在の最先端の手法を超えることができる。
  論文  参考訳（メタデータ） (2021-12-31T12:05:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。