論文の概要: ForkPilot: Self-Evolving Policy for Retrospective Search in Long-Horizon Agents
- arxiv url: http://arxiv.org/abs/2610.04889v1
- Date: Sun, 04 Oct 2026 02:53:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 08:16:11.059629
- Title: ForkPilot: Self-Evolving Policy for Retrospective Search in Long-Horizon Agents
- Title(参考訳): ForkPilot: 長距離エージェントの振り返り検索のための自己進化型ポリシー
- Abstract要約: ふりかえり探索はそのような失敗から回復するが、誤位を起こしやすい。
自己進化型2段階ポリシー学習フレームワークであるForkPilotを提案する。
ForkPilotは同等のパフォーマンスを実現し、トークン使用量を最大59.2%削減した。
- 参考スコア(独自算出の注目度): 15.365983589137109
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Interactive language-model agents increasingly solve complex tasks through long-horizon, multi-call reasoning, where errors in beliefs or actions can compound across tool interactions. Retrospective search can recover from such failures but is prone to misallocation. Delayed outcomes obscure the contribution of intermediate search decisions, leading to Attribution Complexity, while evolving execution evidence leads to Adaptation Complexity, where previously learned estimates become stale. To address these challenges, we first introduce Search Value Dynamics (SVD), which characterizes the evolving trade-off between the gain and cost of retrospective search. Building on SVD, we propose ForkPilot, a self-evolving two-stage policy-learning framework. In the first stage, ForkPilot learns a search-value policy offline from completed trajectories through automatically constructed outcome comparisons. In the second stage, it makes search decisions based on current observations and then self-evolves by incorporating newly completed trajectories into subsequent policy updates. We evaluate ForkPilot across 6 diverse benchmarks and 7 widely used LLM backbone families, including four open-source families, GPT-5.6 Sol, and Opus 4.8 in a production agentic system, against 9 competitive baselines, including a real-world harness deployment used by hundreds of thousands of paid users. ForkPilot achieves comparable state-of-the-art performance while reducing token usage by up to 59.2%, demonstrating its efficacy.
- Abstract(参考訳): 対話型言語モデルエージェントは、長い水平、マルチコール推論を通じて複雑なタスクをますます解決する。
ふりかえり探索はそのような失敗から回復するが、誤位を起こしやすい。
遅延した結果は、中間的な探索決定の寄与を曖昧にし、帰属複雑性をもたらす一方、実行証拠の進化は適応複雑性をもたらす。
これらの課題に対処するために,我々はまず,検索価値ダイナミクス(SVD)を紹介した。
SVDをベースとして,自己進化型2段階ポリシー学習フレームワークであるForkPilotを提案する。
最初の段階では、ForkPilotは、自動的に構築された結果の比較を通じて、完了した軌道からオフラインで検索値ポリシーを学習する。
第2段階では、現在の観測に基づいて探索決定を行い、その後、新たに完成した軌跡をその後の政策更新に組み込むことで自己進化する。
ForkPilotは6つの多様なベンチマークと7つのLLMバックボーンファミリーで評価し、プロダクションエージェントシステムでは4つのオープンソースファミリ、GPT-5.6 Sol、Opus 4.8を含む。
ForkPilotは同等のパフォーマンスを実現し、トークン使用量を最大59.2%削減し、その有効性を実証している。
関連論文リスト
- MMPostTrainBench: Benchmarking Autonomous Research for Multimodal Post-Training [37.86472029294709]
LLMエージェントは機械学習と言語モデルポストトレーニングの自動化を約束するが、マルチモーダル改善を維持する能力は未だ不明である。
MMPostTrainBenchは、画像、音声、ビデオ、共同音声映像理解と画像地上ソフトウェア修復の8つのタスクにまたがるベンチマークである。
評価は、ターゲットモデルと非ターゲットモデルの結果、反復モデルの改善と選択、研究の完全性をカバーする。
論文 参考訳(メタデータ) (2026-10-04T17:32:58Z) - PersonalAI 2.0: Enhancing knowledge graph traversal/retrieval with planning mechanism for Personalized LLM Agents [53.369140518949656]
外部知識グラフ(KG)の統合により,大規模言語モデル(LLM)ベースのシステムを強化する新しいフレームワークであるPersonalAI 2.0(PAI-2)を紹介する。
提案手法は,動的でマルチステージなクエリ処理パイプラインを組み込むことにより,既存のGraphRAG(Retrieval-Augmented Generation)メソッドの重要な制限に対処する。
グラフアルゴリズム(例えば、BeamSearch、WaterCircles)は、平均6%の標準フラットテンレトリバーよりも優れた結果が得られる一方で、検索計画強化機構は、6つのデータセットにわたるLLM-as-a-Judgeによる障害アルゴリズムに比べて18%向上することを示す。
論文 参考訳(メタデータ) (2026-05-13T13:06:30Z) - CoSearch: Joint Training of Reasoning and Document Ranking via Reinforcement Learning for Agentic Search [51.911048955965136]
CoSearchは多段階推論エージェントと生成ドキュメントランキングモデルを共同でトレーニングするフレームワークである。
この結果から, 推論エージェントと検索システムの協調訓練は, 実現可能であり, 性能も高いことが示唆された。
論文 参考訳(メタデータ) (2026-04-19T17:48:17Z) - RetroAgent: From Solving to Evolving via Retrospective Dual Intrinsic Feedback [54.39884046754265]
RetroAgentは、エージェントが複雑なインタラクティブ環境をマスターできるオンラインRLフレームワークである。
実験の結果,RetroAgentはSOTA(State-of-the-art)の性能を達成できた。
論文 参考訳(メタデータ) (2026-03-09T16:23:33Z) - KARL: Knowledge Agents via Reinforcement Learning [63.627906947205624]
本稿では,強化学習による企業検索エージェントの訓練システムを提案する。
KARLBenchは、6つの異なる検索レギュレーションにまたがる多機能評価スイートである。
異種探索行動で訓練されたモデルは、どのベンチマークにも最適化されたモデルよりもかなりよく一般化されていることを示す。
論文 参考訳(メタデータ) (2026-03-05T14:30:25Z) - IterResearch: Rethinking Long-Horizon Agents via Markovian State Reconstruction [107.49922328855025]
IterResearchは、マルコフ決定過程として長期研究を再構築する、新しい反復的深層研究パラダイムである。
6つのベンチマークで平均+14.5ppの既存のオープンソースエージェントよりも大幅に改善されている。
これは効果的なプロンプト戦略として機能し、ロングホライゾンタスクにおけるReActよりも19.2ppのフロンティアモデルを改善する。
論文 参考訳(メタデータ) (2025-11-10T17:30:08Z) - Search Wisely: Mitigating Sub-optimal Agentic Searches By Reducing Uncertainty [21.96443267949563]
エージェント検索型Augmented Generation (RAG) システムは,動的かつ多段階の推論と情報検索を可能にし,Large Language Models (LLM) を強化する。
これらのシステムは、オーバーサーチ(冗長な情報を取得する)やアンダーサーチ(必要な情報を取得するのに失敗する)のような準最適探索行動を示すことが多い。
この研究は、これらの振る舞いを公式に定義し、定量化し、複数のQAデータセットとエージェントRAGシステムにまたがるそれらの頻度を明らかにする。
論文 参考訳(メタデータ) (2025-05-22T20:57:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。