論文の概要: COEVO: Co-Evolving Context and Parameters for Recursive Self-Improvement

• arxiv url: http://arxiv.org/abs/2609.33398v1
• Date: Sun, 27 Sep 2026 09:22:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:22:56.451019
• Title: COEVO: Co-Evolving Context and Parameters for Recursive Self-Improvement
• Title（参考訳）: COEVO: 再帰的自己改善のためのコンテキストとパラメータの共進化
• Abstract要約: Recursive Self-Inprovement (RSI)は、大規模な言語モデルを静的トレーニングパイプラインを超えて、将来の行動改善に参加することのできるシステムに移行することを目指している。 既存のアプローチは、オンライン学習を通じてモデルパラメータを更新するか、検索、リフレクション、即時最適化によって外部コンテキストを改善している。 進化する政策の状況に応じて、文脈的ガイダンスを適用しながら、オンライン体験からモデルパラメータを更新するフレームワークであるCOEVOを紹介する。
• 参考スコア（独自算出の注目度）: 14.532350107960255
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recursive self-improvement (RSI) seeks to move large language models beyond static training pipelines toward systems that can participate in improving their own future behavior. Existing approaches largely follow two directions: updating model parameters through online learning, or improving the external context through search, reflection, and prompt optimization. Although both mechanisms can support continued improvement, they are typically studied independently. This separation overlooks an important interaction: the context shapes the experience from which a model learns, while an evolving model may interpret and utilize the same context differently over time. We therefore formulate RSI as a problem of parameter--context co-evolution, where model parameters and the learning context adapt within a shared feedback loop. We introduce COEVO, a framework that updates model parameters from on-policy experience while adapting contextual guidance according to the state of the evolving policy. Policy entropy and prompt-conditioned attention are used as complementary signals to guide this adaptation. Experiments show that COEVO consistently improves task performance over fixed-context reinforcement learning and produces policies that are more robust to changes in system prompts. More broadly, our results suggest that external context should be viewed not merely as a fixed interface to a large language model, but as an adaptive component of recursive self-improvement.
• Abstract（参考訳）: Recursive Self-Inprovement (RSI)は、大規模な言語モデルを静的トレーニングパイプラインを超えて、将来の行動改善に参加することのできるシステムに移行することを目指している。 既存のアプローチは、オンライン学習を通じてモデルパラメータを更新するか、検索、リフレクション、即時最適化によって外部コンテキストを改善している。 どちらのメカニズムも継続的な改善をサポートすることができるが、通常は独立して研究される。 コンテキストはモデルが学習する経験を形作り、進化するモデルは時間とともに同じコンテキストを解釈し、利用することができる。 そこで、モデルパラメータと学習コンテキストが共有フィードバックループ内に適応するパラメータ-コンテキスト共進化の問題としてRSIを定式化する。 進化する政策の状況に応じて、文脈的ガイダンスを適用しながら、オンライン体験からモデルパラメータを更新するフレームワークであるCOEVOを紹介する。 政策エントロピーと迅速な条件付き注意は、この適応を導く補完的な信号として使用される。 実験の結果,COEVOは一定のコンテキスト強化学習よりもタスク性能を一貫して改善し,システムプロンプトの変化に対してより堅牢なポリシを生成することがわかった。 より広範に、我々の結果は、外部コンテキストは、単に大きな言語モデルの固定インターフェースとしてではなく、再帰的自己改善の適応的なコンポーネントとして見るべきであることを示唆している。

関連論文リスト

• Self-Improving Large Language Models via Progressive Experience Evolution [52.03479747358687]
  textbfSPEE(textbfSelf-textbfProgressive textbfExperience textbfEvolution)を提案する。 5つの数学的推論ベンチマークの実験は、SPEEが3つのモデルスケールでテスト時間とトレーニング時間の両方の自己進化ベースラインを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2026-08-03T12:27:32Z)
• In-Context Reinforcement Learning under Non-Stationarity: A Survey [7.522032549330931]
  インコンテキスト強化学習(In-context reinforcement learning)は、訓練済みまたは微調整された決定モデルが潜在タスクルールを推論する能力である。 環境の変化において、蓄積されたコンテキストは、固定されたタスクに関する単なる証拠ではない。 我々は、非定常ICRLを、配置されたポリシーパラメータが固定されたまま、コンテキストを通した適応の問題として調査する。
  論文  参考訳（メタデータ） (2026-07-01T12:55:17Z)
• Reflective Context Learning: Studying the Optimization Primitives of Context Space [31.12730605047122]
  本稿では、反復的なインタラクション、動作と障害モードのリフレクション、コンテキストへの反復的な更新を通じて学習するエージェントのための統一されたフレームワークを提案する。 本研究では,ロバスト性更新による学習を,伝達可能な原理によって体系的に学習し,改善できる最適化問題として扱うべきであることを示す。
  論文  参考訳（メタデータ） (2026-04-03T17:05:45Z)
• Synergizing Understanding and Generation with Interleaved Analyzing-Drafting Thinking [154.2388970262703]
  Unified Vision-Language Models (UVLM) は、単一のフレームワーク内での理解と生成の両方をサポートすることで、マルチモーダル学習を促進することを目的としている。 本稿では,解析処理と起案処理を交互に行う新たな思考パラダイムである,インターリーブド・アナライジング・ドレイティング問題解決ループ(AD-Loop)を紹介する。 テキスト思考を視覚的思考とインターリーブすることで、AD-Loopはモデルが理解と出力の両方を反復的に洗練し、真のシナジーを育むことができる。
  論文  参考訳（メタデータ） (2026-02-24T23:26:09Z)
• Improving Interactive In-Context Learning from Natural Language Feedback [28.01292402237836]
  正しいフィードバックに基づいて思考プロセスを適用することは、人間の学習に不可欠な能力である。 本稿では,この対話型インコンテキスト学習能力を,個別で訓練可能なスキルとして扱うフレームワークを提案する。 提案手法によりトレーニングされたモデルにより,言語フィードバックから対話的に学習する能力が劇的に向上することを示す。
  論文  参考訳（メタデータ） (2026-02-17T22:44:10Z)
• Enhancing Visual-Language Modality Alignment in Large Vision Language Models via Self-Improvement [102.22911097049953]
  大規模視覚言語モデル(LVLM)は、視覚的質問応答および推論タスクにおいて印象的な結果を得た。 既存の手法は、しばしば外部モデルやデータに依存し、制御不能で不安定なアライメント結果をもたらす。 本稿では,外部依存を伴わない視覚的・言語的モダリティアライメントを向上させる自己改善フレームワークSIMAを提案する。
  論文  参考訳（メタデータ） (2024-05-24T23:09:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。