論文の概要: Recurrent Harness for Agentic Continual Learning
- arxiv url: http://arxiv.org/abs/2610.12668v1
- Date: Thu, 08 Oct 2026 19:44:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.26088
- Title: Recurrent Harness for Agentic Continual Learning
- Title(参考訳): エージェント連続学習における反復的ハーネス
- Abstract要約: ReHarnessは、厳格なオンラインストリーミングプロトコルの下でのエージェント的連続学習のための繰り返しフレームワークである。
私たちは、ストリームの現在のインスタンスをよりよく知るために、ハーネス状態において、どのような情報が異なる方法でキャプチャされたのかを尋ねます。
本研究では,ReHarnessがソース・グラウンドで意味のあるリビジョンを生成し,分散シフト下での過度に一般化あるいは時代遅れな経験を補正し,連続学習時の安定性と可塑性を改善したことを示す。
- 参考スコア(独自算出の注目度): 53.480527067024404
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language model agents increasingly operate over long interaction streams, requiring online adaptation to distribution shifts through continual learning. However, existing agent harnesses typically either evolve their states only through forward information flow or rely on additional replay or validation data for harness optimization. To address this, we propose ReHarness, a recurrent harness framework for agentic continual learning that complements forward read and write with backward revision under a strictly online streaming protocol. We ask what information could have been captured differently in the harness state to better inform the current instance in the stream. Specifically, after each instance, we leverage the resulting trajectory as feedback to revise the reflections retrieved for that instance, thereby propagating feedback backward through the textual harness state. Across three continual learning benchmarks and three language model backbones, ReHarness consistently outperforms strong raw-context baselines, memory- and reflection-based methods, and prompt optimization approaches. Further analysis shows that ReHarness produces source-grounded and meaningful revisions, corrects overgeneralized or outdated experience under distribution shifts, and improves both stability and plasticity during continual learning.
- Abstract(参考訳): 言語モデルエージェントは、長いインタラクションストリームを介して操作されるようになり、継続的な学習を通じて分散シフトへのオンライン適応が求められている。
しかし、既存のエージェントハーネスは通常、フォワード情報フローを通してのみ状態を進化させるか、あるいは最適化のために追加のリプレイやバリデーションデータに依存する。
これを解決するために、厳密なオンラインストリーミングプロトコルの下で、前方読み書きを補完するエージェント連続学習のためのリカレントハーネスフレームワークであるReHarnessを提案する。
私たちは、ストリームの現在のインスタンスをよりよく知るために、ハーネス状態において、どのような情報が異なる方法でキャプチャされたのかを尋ねます。
具体的には、各インスタンスの後に得られた軌跡をフィードバックとして利用して、そのインスタンスから取得したリフレクションを修正し、テキストハーネス状態を通じてフィードバックを後方に伝達する。
3つの連続的な学習ベンチマークと3つの言語モデルバックボーンの中で、ReHarnessは、強い生のコンテキストベースライン、メモリおよびリフレクションベースのメソッド、最適化アプローチを一貫して上回っている。
さらに分析したところ、ReHarnessはソース・グラウンドで意味のあるリビジョンを生成し、分散シフトの下で過度に一般化または時代遅れな経験を修正し、継続的な学習における安定性と可塑性の両方を改善している。
関連論文リスト
- When to Review: Spaced Repetition for Continual Pre-Training of Language Models [1.0262304700896199]
既存のリプレイ手法は、しばしばグローバルな古い/新しい混合物とサンプルを均一に選択する。
トレーニングループは、リプレイする履歴だけでなく、各ステップでどの例を返すかを決定する必要があります。
認知科学に触発された連続学習フレームワークである空間反復訓練(Spaced Repetition Training, SRT)を導入し, SuperMemo-2 (SM-2) アルゴリズムを用いてサンプルリハーサルをスケジュールする。
論文 参考訳(メタデータ) (2026-08-18T08:51:47Z) - MemHarness: Memory Is Reconstructed, Not Replayed [28.869068760142667]
本稿では,過去体験を積極的に活用・再構築するためのLLMエージェントを備えたフレームワークであるMemHarnessを提案する。
MemHarnessは純粋なRLと静的メモリ拡張ベースラインを大幅に上回り、アウト・オブ・ディストリビューション(OOD)シナリオで強い堅牢性を示す。
論文 参考訳(メタデータ) (2026-07-30T14:25:49Z) - ReLearn: Unlearning via Learning for Large Language Models [64.2802606302194]
本研究では、効果的なアンラーニングのためのデータ拡張および微調整パイプラインであるReLearnを提案する。
このフレームワークでは、知識レベルの保存を測定するために、知識獲得率(KFR)と知識保持率(KRR)を導入している。
実験の結果,ReLearnは高品質な出力を保ちながら,目標とするリセットを実現することができた。
論文 参考訳(メタデータ) (2025-02-16T16:31:00Z) - Reflexion: Language Agents with Verbal Reinforcement Learning [44.85337947858337]
リフレクション(Reflexion)は、ウェイトを更新するのではなく、言語フィードバックによって言語エージェントを強化する新しいフレームワークである。
様々なタイプ(スカラー値または自由形式言語)とフィードバック信号のソース(外部または内部シミュレート)を組み込むのに十分な柔軟性がある。
例えば、ReflexionはHumanEvalのコーディングベンチマークで91%のパス@1精度を達成した。
論文 参考訳(メタデータ) (2023-03-20T18:08:50Z) - Inverse Reinforcement Learning for Text Summarization [52.765898203824975]
本稿では,抽象的な要約モデルを学習するための効果的なパラダイムとして,逆強化学習(IRL)を導入する。
異なる領域におけるデータセット間の実験結果は、MLEおよびRLベースラインに対する要約のための提案したIRLモデルの優位性を示す。
論文 参考訳(メタデータ) (2022-12-19T23:45:05Z) - Decoupling Knowledge from Memorization: Retrieval-augmented Prompt
Learning [113.58691755215663]
一般化と記憶のバランスをとるためにRetroPromptを開発した。
バニラプロンプト学習とは対照的に、RetroPromptはトレーニングインスタンスからオープンブックナレッジストアを構築する。
大規模な実験により、RetroPromptは、数ショットとゼロショットの両方で、より良いパフォーマンスを得ることができることが示されている。
論文 参考訳(メタデータ) (2022-05-29T16:07:30Z) - Reducing Representation Drift in Online Continual Learning [87.71558506591937]
私たちは、エージェントが制限されたメモリと計算で変化する分布から学ぶ必要があるオンライン連続学習パラダイムを研究します。
この作業では、入ってくるデータストリームに未観測のクラスサンプルが導入されることにより、事前に観測されたデータの表現の変化に焦点を合わせます。
論文 参考訳(メタデータ) (2021-04-11T15:19:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。