論文の概要: EvoSteer: Online Self-Evolving Graph Orchestration via Reference-Anchored Credit Assignment
- arxiv url: http://arxiv.org/abs/2609.38661v1
- Date: Tue, 29 Sep 2026 23:37:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.837075
- Title: EvoSteer: Online Self-Evolving Graph Orchestration via Reference-Anchored Credit Assignment
- Title(参考訳): EvoSteer: オンラインの自己進化型グラフオーケストレーション
- Abstract要約: EvoSteerは、オンライン自己進化グラフオーケストレーションの新しいパラダイムである。
実行中のチームを構築し、実行可能なものの、実行機能や学習した価値見積からのステップを修復する。
以上の結果から,EvoSteerは質問応答,数学的推論,コード生成,対話的意思決定において,ベースラインを著しく上回ることがわかった。
- 参考スコア(独自算出の注目度): 21.282842653023277
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, LLM-based multi-agent systems have been widely applied to orchestrate tool-using agents into executable communication graphs. However, existing self-evolving orchestration still faces key challenges, including post-hoc evolution that revises the team only after the trajectory ends, credit diffusion that gives every action the same terminal advantage under confounded baselines, and skill admission that is uncalibrated and never retired. To address these challenges, we propose EvoSteer, a new paradigm of Online Self-Evolving Graph Orchestration -- the orchestrator builds a running team and repairs its plausible but failing steps from execution features and a learned value estimate. To support this paradigm, we introduce Anchored Trajectory Balance (AnchorTB), a regression-style flow-matching loss that assigns each orchestration action a coefficient by balancing subtrajectories against a frozen reference. Built on the learned flow, we further propose Validated Skill Admission, in which a candidate skill is tried before promotion and promoted only if paired evidence passes a sequential test under a shared nominal testing budget. Moreover, AnchorTB combines measured task-level reference reward statistics with prefix-dependent corrections. Experimental results on twelve datasets show that EvoSteer significantly outperforms baselines across question answering, mathematical reasoning, code generation, and interactive decision making. Our code is available at https://github.com/beita6969/evosteer.
- Abstract(参考訳): 近年、LLMベースのマルチエージェントシステムは、ツール使用エージェントを実行可能な通信グラフにオーケストレーションするために広く応用されている。
しかし、既存の自己進化型オーケストレーションは、軌道が終わった後にのみチームを更新するポストホックな進化、すべてのアクションに、確立されたベースラインの下で同じ端末の利点を与えるクレジット拡散、未調整で引退しないスキルの受け入れなど、依然として大きな課題に直面している。
これらの課題に対処するため、私たちはEvoSteerという、オンライン自己進化型グラフオーケストレーションの新しいパラダイムを提案しています。
このパラダイムをサポートするために,アンコールド軌道バランス (Anchored Trajectory Balance, AnchorTB) を導入する。
学習フローをベースとした検証スキル認定の提案では,提案手法が採用される前に候補者のスキルを試行し,共通名目テスト予算の下で,ペアの証拠が逐次テストに合格した場合にのみ促進する。
さらに、AnchorTBは、測定されたタスクレベルの基準報酬統計とプレフィックス依存の補正を組み合わせる。
12のデータセットの実験結果から、EvoSteerは質問応答、数学的推論、コード生成、インタラクティブな意思決定において、ベースラインを著しく上回ることがわかった。
私たちのコードはhttps://github.com/beita6969/evosteer.comから入手可能です。
関連論文リスト
- R$^2$ Flow: Recursive Self-Improvement via Recursive Skill Evolution [21.09092301957443]
R$2$ Flowは、ポリシ学習、独立した検証、および共有状態オーケストレーショングラフでバージョン管理されたスキルライブラリ更新を交互に実行する。
トレーニングされたフローのフローシェア読み出し、後方ポリシー、変更するスキルを持つ個別の署名付きユーティリティランク、検証者エビデンスにより、編集が保証されているか否かが決定される。
論文 参考訳(メタデータ) (2026-09-27T19:43:15Z) - RRSI: Regularized Recursive Self-Improvement of Agent Harnesses [76.77275934611428]
正規化再帰的自己改善型エージェント・ハーネス(RRSI)
本稿では、正規化の原則を取り入れたRRSIを紹介し、進化候補の提案と選択を制約することで自己改善を活用する。
RRSIは5つのアウト・オブ・ディストリビューション・ベンチマークで14.1ポイント、最大4.7ポイントを獲得し、非正規化進化よりも30%少ないポリシートークンで動作するハーネスを生産している。
論文 参考訳(メタデータ) (2026-09-21T17:54:49Z) - HarnessEvolve: Learning from Reference Trajectories for Reliable Agent Self-Evolution [11.431479238875712]
我々は、信頼できるエージェントの自己進化を実現するために、参照軌道から学習する自己進化フレームワークであるHarnessEvolveを紹介する。
私たちは、さまざまなモデルとエージェントフレームワークを使用して、オープンドメインとエンタープライズシナリオにまたがるいくつかのベンチマークで広範な実験を行います。
結果は、HarnessEvolveがすべてのベンチマークと設定で、最先端のベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-09-01T07:31:18Z) - TTHE: Test-Time Harness Evolution [50.26245555541721]
既存のアプローチでは、デプロイ前、トレーニング前、あるいはテスト時に凍結される固定されたエージェントワークフローの開発データを最適化する。
我々は、エージェントがテスト入力で生成するラベルのない実行トレースのみを使用して、評価自体にハーネスを最適化できるかどうかを問う。
評価中、TTHEは候補ハーネスの人口を維持し、それらの実行トレースの理由をエージェントプロジェクタを通じてそれらを洗練する。
その後、審査員は実行元プロキシ信号から改善されたハーネスをコミットし、選択したプログラムは継続してその後の入力を統治する。
論文 参考訳(メタデータ) (2026-07-09T05:53:39Z) - Survive or Collapse: The Asymmetric Roles of Data Gating and Reward Grounding in Self-Play RL [76.45061154544568]
セルフプレイ強化学習は、言語モデルを独自の生成タスクで訓練し、人間ラベルなしでプロジェクタとソルバを共進化させる。
最近のシステムでは強い推理効果が報告されているが、崩壊と不安定性は広く観察され、理解されていない。
代わりに、自己プレイの安定性は、提案者生成タスクがトレーニングプールに入るかを判断するデータレベルゲートと、すでに認められたタスクに関するポリシーを更新する報酬信号の2つの異なるレバーによって管理されていると論じる。
論文 参考訳(メタデータ) (2026-05-21T09:19:23Z) - TIER: Trajectory-Invariant Execution Rewards for Multi-Step Tool Composition [62.56752617853322]
アウトカムベースの報酬はスパースフィードバックのみを提供するが、トラジェクトリによる報酬は注釈付き参照ソリューションに依存している。
本稿では,関数スキーマと実行時実行を直接管理する報奨フレームワークであるtrajectory-Invariant Execution Rewardsを提案する。
論文 参考訳(メタデータ) (2026-05-16T03:47:26Z) - SkillFlow: Flow-Driven Recursive Skill Evolution for Agentic Orchestration [40.79922760459963]
SkillFlowは、トレーニング可能なスーパーバイザをエージェントとして、動的スキルオーケストレーションを備えた構造化環境として、フローベースのフレームワークである。
これらのフロー診断に基づいて、スキル進化メカニズムは、いつ進化するか、どのスキルを創り出すか、どこで意思決定のギャップがあるかを決定する。
論文 参考訳(メタデータ) (2026-05-13T20:14:44Z) - Training LLMs for Multi-Step Tool Orchestration with Constrained Data Synthesis and Graduated Rewards [76.49428173793386]
LLMは、中間出力を伝搬しながら、正しい順序で複数の依存APIを呼び出す必要がある。
既存の環境は、シミュレーションデータを使った単純なターン毎の関数呼び出しとバイナリ報酬に重点を置いている。
まず、実APIレスポンスの大規模キャッシュを背景とした強化学習環境を構築し、有効なマルチステップオーケストレーショントレースをサンプリングするデータ合成パイプラインを実現する。
第二に、正当性を原子の妥当性とオーケストレーションに分解する、段階的な報酬設計を提案する。
論文 参考訳(メタデータ) (2026-03-25T18:31:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。