論文の概要: Heterogeneous Co-Evolution Learning for Tool-Efficient Search Agents with Zero Labels
- arxiv url: http://arxiv.org/abs/2610.39682v1
- Date: Thu, 29 Oct 2026 09:28:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.485466
- Title: Heterogeneous Co-Evolution Learning for Tool-Efficient Search Agents with Zero Labels
- Title(参考訳): ゼロラベルをもつツール効率の良い検索エージェントのための不均一な共進化学習
- Abstract要約: 我々は,検索エージェント学習のためのゼロラベルおよびツール効率のフレームワークであるtextscZEST-Searchを紹介した。
textscZEST-Searchは、回答ファーストおよびエビデンスパス誘導生成プロセスを通じて、オンラインで検証された検索タスクを構築する。
実験の結果,textscZEST-Searchは検索エージェントの性能を向上し,高いツール効率を実現していることがわかった。
- 参考スコア(独自算出の注目度): 41.817556315984184
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep search agents extend language models by interleaving reasoning with external retrieval. However, effective search-agent training requires addressing two challenges beyond final-answer optimization. First, the capability frontier of agents is largely determined by training questions, whereas fixed or labeled task collections cannot adapt as agents improve. Second, outcome-only reinforcement learning treats all successful trajectories equally, even when some correct answers rely on redundant searches, creating an inherent tension between answer accuracy and tool efficiency. To address these issues, we introduce \textsc{ZEST-Search}, a zero-label and tool-efficient framework for search-agent training via heterogeneous co-evolution. Starting from unlabeled reference questions, \textsc{ZEST-Search} constructs validated search tasks online through an answer-first and evidence-path-guided generation process. A heterogeneous proposer adaptively constructs training tasks around the solver's evolving capability boundary, while the solver learns search-augmented reasoning through reinforcement learning. To jointly optimize task difficulty and search efficiency, \textsc{ZEST-Search} employs an intermediate-difficulty reward for the proposer and a task-local tool-aware reward for the solver, encouraging informative tasks and correct answers with fewer redundant searches. Experiments on seven general-domain and multi-hop question answering benchmarks demonstrate that \textsc{ZEST-Search} consistently improves search-agent performance while achieving higher tool efficiency without labeled search-training data or expert search trajectories. Further analyses show that heterogeneous generation, adaptive difficulty control, and tool-aware optimization enable more effective search-agent training.
- Abstract(参考訳): ディープサーチエージェントは、推論と外部検索をインターリーブすることで言語モデルを拡張する。
しかし、効果的な検索エージェントトレーニングでは、最終回答最適化以上の2つの課題に対処する必要がある。
まず、エージェントの能力フロンティアはトレーニングの質問によって決定されるが、固定あるいはラベル付けされたタスクコレクションはエージェントの改善によって適応できない。
第二に、結果のみ強化学習は、ある正しい答えが冗長な探索に依存している場合でも、すべての軌道を等しく扱い、応答精度とツール効率の間に固有の緊張を生み出す。
これらの問題に対処するために、異種共進化による検索エージェントトレーニングのためのゼロラベルおよびツール効率のフレームワークである \textsc{ZEST-Search} を導入する。
ラベルのない参照質問から始めると、‘textsc{ZEST-Search} は、応答優先およびエビデンスパス誘導生成プロセスを通じてオンラインの検証された検索タスクを構築する。
不均一なプロジェクタは、ソルバの進化能力境界周辺のトレーニングタスクを適応的に構築し、ソルバは強化学習を通じて探索強化推論を学習する。
タスクの難易度と探索効率を協調的に最適化するために, \textsc{ZEST-Search} では提案者に対する中間微分報酬と問題解決者に対するタスクローカルツール認識報酬を用いて, 情報的タスクを奨励し, 冗長な検索を少なくして回答を正す。
7つのジェネラルドメインおよびマルチホップ質問応答ベンチマークの実験により、検索学習データや専門家の検索軌跡をラベル付けせずに高いツール効率を達成しつつ、検索エージェントの性能を一貫して改善することを示した。
さらに分析した結果, 異種生成, 適応的難易度制御, ツール・アウェアの最適化により, より効果的な検索エージェント訓練が可能であることが示唆された。
関連論文リスト
- SearchMaster: Grounded and Regulated Self-Play for Search Agents [57.537666863340284]
検索エージェントの訓練には高品質な検索データが必要である。
既存のパイプラインは、人手によるタスクや専門家によるデモンストレーション、より強力な教師モデルに依存していることが多い。
本稿では,ローカル検索環境における検索タスクから,単一のLLMをトレーニングするセルフプレイフレームワークであるSearchMasterを提案する。
論文 参考訳(メタデータ) (2026-08-03T07:29:11Z) - SearchArt: Training Long-Horizon Search Agent with Scalable Synthetic and Verified Task [28.244711705405056]
有能な検索エージェントの訓練は、スケーラブルで長期にわたるタスクが欠如しているため、依然として困難である。
本稿では,長距離検索エージェントを訓練するためのフレームワークであるSearchArtを紹介する。
SearchArtは、複雑な検索、研究、ユーザ指向タスクのための大規模なデータセットを構築する。
論文 参考訳(メタデータ) (2026-07-25T06:47:46Z) - CoSearch: Joint Training of Reasoning and Document Ranking via Reinforcement Learning for Agentic Search [51.911048955965136]
CoSearchは多段階推論エージェントと生成ドキュメントランキングモデルを共同でトレーニングするフレームワークである。
この結果から, 推論エージェントと検索システムの協調訓練は, 実現可能であり, 性能も高いことが示唆された。
論文 参考訳(メタデータ) (2026-04-19T17:48:17Z) - AutoSearch: Adaptive Search Depth for Efficient Agentic RAG via Reinforcement Learning [52.305422887002656]
本稿では,自己生成中間回答を用いて各探索ステップを評価する強化学習フレームワークを提案する。
自己回答機構により、AutoSearchは最小限の検索深度を特定し、効率的な検索を促進する。
実験の結果、AutoSearchは検索品質を維持しながら過剰検索を軽減し、精度と効率のトレードオフが優れていることがわかった。
論文 参考訳(メタデータ) (2026-04-19T09:05:48Z) - REDSearcher: A Scalable and Cost-Efficient Framework for Long-Horizon Search Agents [40.38002661542917]
REDSearcherは複雑なタスク合成、ミッドトレーニング、拡張性のあるサーチエージェント最適化のための後トレーニングをコード署名する統合フレームワークである。
我々は、受動的リコールではなく、積極的にツールの使用を促すために、toolaugmentedクエリを導入している。
トレーニング中、コアアトミック能力の知識、計画、関数呼び出しを強化する。
我々は、強化学習実験のための高速で低コストなアルゴリズム反復を可能にする、局所シミュレーション環境を構築した。
論文 参考訳(メタデータ) (2026-02-15T17:04:46Z) - SmartSearch: Process Reward-Guided Query Refinement for Search Agents [63.46067892354375]
大言語モデル(LLM)に基づく検索エージェントは、知識集約的な問題に対処するために有望であることが証明されている。
既存の研究は主に、検索エージェントの推論パラダイムの最適化に重点を置いているが、推論中の中間的な検索クエリの品質は見過ごされ続けている。
この問題を緩和する2つの主要なメカニズムの上に構築されたフレームワークであるSmartSearchを紹介します。
論文 参考訳(メタデータ) (2026-01-08T12:39:05Z) - Beyond Outcome Reward: Decoupling Search and Answering Improves LLM Agents [19.31471304268234]
DeSA(Decoupling Search-and-Answering)は,検索最適化と回答生成を明確に分離する単純な2段階トレーニングフレームワークである。
7つのQAベンチマークで、DeSAがトレーニングしたエージェントは検索の振る舞いを継続的に改善し、結果のみのベースラインよりも検索リコールと回答の精度が大幅に向上した。
論文 参考訳(メタデータ) (2025-10-06T11:09:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。