論文の概要: Harness Continual Learning: Continual Adaptation Beyond Model Parameters
- arxiv url: http://arxiv.org/abs/2608.19013v1
- Date: Wed, 19 Aug 2026 15:12:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.438025
- Title: Harness Continual Learning: Continual Adaptation Beyond Model Parameters
- Title(参考訳): Harness Continual Learning:Continuous Adaptation Beyond Modelパラメータ
- Abstract要約: 我々は、凍結基盤モデルを中心にハーネスが進化する新しい連続学習パラダイムを定式化する。
候補者は、現在の改善、履歴保持、有効性を確認した後にのみハーネスをコミットする。
実験では、複数の設定で対応するベースラインに対して、相対的なゲインが10%を超える能力の蓄積と障害回復が示されている。
- 参考スコア(独自算出の注目度): 9.54786133734043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning has largely been model-centric, treating model parameters as the state that changes with sequential experience. Modern agents can also adapt through a harness of prompts, memories, tools, skills, and routing rules. Because these contents jointly shape later execution, a harness update can disrupt previously reliable behavior even when the model is frozen. This raises a new question: how can an agent continually improve its state outside the model while retaining behavior acquired earlier? We formulate Harness Continual Learning (HCL), a new continual learning paradigm in which the harness evolves around a frozen foundation model, and define the resulting loss of earlier behavior as harness-level forgetting. We instantiate HCL with four execution-facing components: the Task Interface, Experience Memory, Capability Map, and Adaptive Router. We further introduce guarded harness evolution to separate update generation from state commitment. A Continual Optimizer proposes candidate harnesses from post-execution feedback, and a Continual Evaluator commits the resulting candidate harness only after checking current improvement, historical retention, and validity. Experiments on textual reasoning, multimodal perception, and open-world interaction demonstrate capability accumulation and failure recovery, with relative gains exceeding 10% over corresponding baselines in multiple settings. Component ablations assess the contribution of each harness component, while controlled retention sweeps reveal measurable harness-level forgetting and show that the stability--plasticity trade-off can be explicitly adjusted.
- Abstract(参考訳): 継続的な学習は主にモデル中心であり、連続的な経験で変化する状態としてモデルパラメータを扱います。
現代のエージェントは、プロンプト、記憶、ツール、スキル、ルーティングルールの活用を通じて適応することもできる。
これらの内容は後の実行後に共同で形成されるため、モデルが凍結された場合でも、ハーネス更新によって従来からの信頼性の高い動作が破壊される可能性がある。
エージェントはどうやってモデル外の状態を継続的に改善し、より早く取得した振る舞いを維持することができるのか?
凍結基盤モデルを中心にハーネスが進化する新たな連続学習パラダイムであるハーネス連続学習(HCL)を定式化し、その結果の過去の行動の喪失をハーネスレベルの忘れとして定義する。
タスクインターフェース、エクスペリエンスメモリ、キャパビリティマップ、適応ルータの4つの実行対応コンポーネントでHCLをインスタンス化する。
さらに、状態のコミットから更新生成を分離するために、ガードされたハーネスの進化を導入します。
継続オプティマイザは、実行後のフィードバックから候補ハーネスを提案し、継続評価器は、現在の改善、履歴保持、妥当性を確認した後にのみ、結果の候補ハーネスをコミットする。
テキスト推論、マルチモーダル認識、オープンワールドインタラクションの実験では、複数の設定において、対応するベースラインに対して10%以上の相対的なゲインを持つ能力の蓄積と障害回復が示されている。
各ハーネス部品のコントリビューションを評価し, 制御された保持スイープによって測定可能なハーネスレベルを忘れて, 安定性・塑性トレードオフを明示的に調整できることを示す。
関連論文リスト
- World Models for Embodied Intelligence: From Plausible to Controllable to Actionable [100.13060753774657]
世界モデルは、隠れた状態を維持し、結果を予測し、介入を比較し、実行が期待から外れたときに適応することによって、インテリジェンスにおける知覚と意思決定を結びつける。
これは、どの予測能力が振る舞いを改善するかという、中心的な疑問を提起する。
可塑性モデルは、タスク関連時間的・幾何学的・物理的構造を保存し、制御可能なモデルは、介入がどのように構造を変えるかを予測し、アクション可能なモデルは、予測を計画、行動、学習、評価、検証、回復、データ選択において測定可能な利得に変換する。
論文 参考訳(メタデータ) (2026-09-15T06:22:42Z) - EVOHARNESSBENCH: Can Your Agents Keep Pace with an Evolving Harness? [83.21711423118768]
EVOHARNESSBENCHは、制御されたハーネス進化下でエージェントを評価するためのベンチマークである。
検証器ベースのベンチマークから決定的に構築された17のマルチステージハーネスストリームを含んでいる。
論文 参考訳(メタデータ) (2026-09-03T03:24:02Z) - HELIX: Model-Harness Co-evolution for Recursive Self-Improvement [8.484282837156933]
我々は,HELIXを資源追跡可能なHELIX基板として提案する。
提案手法は,現在の能力向上と,次のモデルに対する学習信号の生成方法を示す。
論文 参考訳(メタデータ) (2026-08-14T04:44:53Z) - Self-Evolving Embodied Agents via Skill-Harness Evolution [53.307052568223945]
身体的エージェントは、ファンデーションモデルを中心としたシステムとして、ますます構築されている。
教師付き微調整と強化学習はエージェントを新しい環境に適応させることができるが、追加のデータ、報酬、トレーニングの実行が必要である。
SHAPERは,モデルパラメータの凍結を保ちつつ,列車不要な態様適応のための自己進化型フレームワークである。
論文 参考訳(メタデータ) (2026-08-11T18:55:58Z) - Living-Harness Is an Interactive-Agent Evolver [15.081919387954578]
大規模言語モデル(LLM)エージェントは、エピソード内の障害や再試行後に回復する可能性があるが、同じ実行失敗は後続のタスクで再帰する可能性がある。
我々は,各軌道とその評価器信号を有界なハーネス更新のための後続証拠に変換する自己進化型エージェントハーネスである$textbfLiving-Harnessを提案する。
論文 参考訳(メタデータ) (2026-07-29T08:20:11Z) - Recursive Harness Self-Improvement [28.432258880153125]
モデル-ハーネス共進化の下では、ハーネスはデータ生成コンポーネントであり、実行トレースは将来の基礎モデルを形成することができる。
本稿では,エージェントループのプロンプトレベル仕様としてハーネスを表現したRecursive Harness Self-Improvement (RHI)を紹介する。
RHIは、自身のリビジョン履歴に対してペアのフィードバックを使って、反復的にそれを洗練します。
論文 参考訳(メタデータ) (2026-07-17T00:21:19Z) - Training with Harnesses: On-Policy Harness Self-Distillation for Complex Reasoning [8.33682726719781]
インタイムハーネスは複雑な推論タスクにおいて大きな言語モデルを大幅に改善する。
emphOn-Policy Harness Self-Distillation (OPHSD)を紹介する。
OPHSDは、タスク固有のハーネス機能を学生モデルに内包する。
論文 参考訳(メタデータ) (2026-05-09T07:06:37Z) - Spectral Imbalance Causes Forgetting in Low-Rank Continual Adaptation [58.3773038915023]
継続的な学習は、事前訓練されたモデルを、以前取得した知識を忘れずにシーケンシャルなタスクに適応することを目的としている。
既存のほとんどのアプローチは、現在のタスク固有の更新が以前取得した知識を自然に保存するプロパティを考慮せずに、継続的な学習を過去の更新への干渉を避けるものとして扱う。
本稿では,視覚言語モデルで使用される標準深度ドットと互換性のある一階述語法を用いてこの問題に対処する。
論文 参考訳(メタデータ) (2026-01-31T13:27:02Z) - Continual Learning in Vision-Language Models via Aligned Model Merging [84.47520899851557]
塑性を保ちながら安定性を維持するために,モデルマージに基づく新しい視点を提案する。
マージプロセスの有効性を最大化するために,従来のものと一致した重みの学習を促進するシンプルなメカニズムを提案する。
論文 参考訳(メタデータ) (2025-05-30T20:52:21Z) - Temporal-Difference Variational Continual Learning [77.92320830700797]
複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
論文 参考訳(メタデータ) (2024-10-10T10:58:41Z) - Large Continual Instruction Assistant [59.585544987096974]
CIT(Continuous Instruction Tuning)は、大規模モデルにデータによる人間の意図データに従うよう指示するために用いられる。
既存の更新勾配は、CITプロセス中に前のデータセットのパフォーマンスを著しく損なうことになる。
本稿では,この課題に対処する汎用的な連続的命令チューニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-08T11:24:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。