論文の概要: LexiHorizon: Stabilizing Reinforcement Learning for Long-Horizon Deep Search
- arxiv url: http://arxiv.org/abs/2610.05119v1
- Date: Sun, 04 Oct 2026 10:53:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 23:20:36.581922
- Title: LexiHorizon: Stabilizing Reinforcement Learning for Long-Horizon Deep Search
- Title(参考訳): LexiHorizon: 長期深層探索のための強化学習の安定化
- Abstract要約: 本稿では,長い地平線上で探索エージェントを訓練するためのフレームワークを提案する。
結果の9Bモデルは、ベースモデルとMiroThinker-1.7-miniの両方を一貫して上回っていることを示す。
- 参考スコア(独自算出の注目度): 1.8810916321241067
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep search agents tackle complex knowledge tasks through iterative retrieval, multi-hop reasoning, and evidence synthesis across multiple sources. Existing approaches typically assume relatively stable retrieval systems and operate over short-horizon tool interaction. However, when retrieval is sensitive to query formulation, even a semantically appropriate query may fail to surface critical evidence because of mismatched entity names, aliases, or keyword combinations. Recovering from such failures requires repeated query reformulation and longer interaction trajectories. This setting poses a distinct training challenge, as the policy must sustain long-horizon query exploration while managing an expanding volume of retrieved content. We propose LexiHorizon, a framework for training search agents over long horizons that expands the trajectory context budget, manages accumulated retrieval content using a window over recent tool observations while preserving the reasoning history, and introduces an outcome-gated search-effort reward that provides a bounded bonus for tool invocations to trajectories with nonzero answer reward. Experiments on XBench, WebWalkerQA, and BrowseComp-ZH show that the resulting 9B model consistently outperforms both its base model and MiroThinker-1.7-mini, with maximum absolute gains of 8.7 and 23.8 percentage points, respectively. These results suggest that combining an extended context budget with reasoning-preserving context management benefits long-horizon deep search agents.
- Abstract(参考訳): ディープサーチエージェントは、反復検索、マルチホップ推論、複数の情報源にわたるエビデンス合成を通じて複雑な知識タスクに取り組む。
既存の手法は一般に比較的安定な検索システムを想定し、短期水平ツールの相互作用で操作する。
しかし、検索がクエリの定式化に敏感な場合、意味的に適切なクエリでさえ、ミスマッチしたエンティティ名、エイリアス、キーワードの組み合わせのために重要な証拠を提示できない可能性がある。
このような障害から回復するには、繰り返しクエリのリフォームと、より長いインタラクショントラジェクトリが必要である。
この設定は、検索されたコンテンツの量拡大を管理しながら、長い水平クエリー探索を継続する必要があるため、明確なトレーニングの課題となる。
提案するLexiHorizonは,長い地平線上で検索エージェントを訓練するフレームワークで,トラジェクティブ・コンテキストの予算を拡大し,最近のツールの観測履歴を保存しながら,ウィンドウによる検索内容の蓄積を管理し,非ゼロ応答報酬のトラジェクトリに対するツール呼び出しに対するバウンドボーナスを提供する,検索結果付き検索・エフォート報酬を導入する。
XBench、WebWalkerQA、BrowseComp-ZHの実験では、結果の9BモデルはベースモデルとMiroThinker-1.7-miniの両方で、それぞれ8.7と23.8ポイントの絶対ゲインを持つ。
これらの結果は,拡張コンテキスト予算と推論保存コンテキスト管理を併用することで,長期の深層検索エージェントに利益をもたらすことを示唆している。
関連論文リスト
- SearchArt: Training Long-Horizon Search Agent with Scalable Synthetic and Verified Task [28.244711705405056]
有能な検索エージェントの訓練は、スケーラブルで長期にわたるタスクが欠如しているため、依然として困難である。
本稿では,長距離検索エージェントを訓練するためのフレームワークであるSearchArtを紹介する。
SearchArtは、複雑な検索、研究、ユーザ指向タスクのための大規模なデータセットを構築する。
論文 参考訳(メタデータ) (2026-07-25T06:47:46Z) - AREX: Towards a Recursively Self-Improving Agent for Deep Research [75.96468303743958]
本稿では,再帰的自己改善型ディープリサーチエージェントであるAREXを紹介する。
AREXは、証拠を集め、暫定的な回答を構築する内部研究ループを交互に構成する。
我々は,エージェント学習と長期強化学習を通じて,AREXを検証済みの合成タスクと高品質な軌道上で訓練する。
論文 参考訳(メタデータ) (2026-07-23T16:05:46Z) - R$^2$-Searcher: Calibrating Retrieval and Reasoning Boundaries for Agentic Search [59.034878430183305]
R$2$-Searcherは、検索と推論の境界を明示的に探索し、校正する。
R$2$-Searcherは,解答精度と検索品質において,最先端のエージェント検索法よりも優れていることを示す。
論文 参考訳(メタデータ) (2026-06-26T19:44:34Z) - Superintelligent Retrieval Agent: The Next Frontier of Information Retrieval [25.731213365755234]
textitSuperIntelligent Retrieval Agent (SIRA)を紹介する。
SIRAは、複数ラウンド探索探索を単一のコーパス識別検索アクションに圧縮することができる。
解釈可能で、トレーニング不要で、効率的でありながら、より高価なマルチラウンドサーチを超えることができる。
論文 参考訳(メタデータ) (2026-05-07T17:54:29Z) - RecaLLM: Addressing the Lost-in-Thought Phenomenon with Explicit In-Context Retrieval [0.8594140167290097]
RecaLLMは、長文情報を効果的に活用するために訓練後の推論言語モデルのセットである。
我々は,証拠の冗長な複写を可能にする,無視可能な制約付き復号化機構を導入する。
最大128Kトークンのコンテキストウィンドウにおいて、最大10Kトークンのトレーニングサンプルを使用して一貫したゲインを観察する。
論文 参考訳(メタデータ) (2026-04-10T17:04:32Z) - Search More, Think Less: Rethinking Long-Horizon Agentic Search for Efficiency and Generalization [64.61432234404276]
emphSearch More, Think Less (SMTL) は、効率性と一般化の両方をターゲットとした長期エージェント検索のためのフレームワークである。
我々は、教師付き微調整と強化学習を用いてエンドツーエンドエージェントを訓練し、ベンチマーク全体にわたって、強固で頻繁なパフォーマンスを実現する。
論文 参考訳(メタデータ) (2026-02-26T06:46:41Z) - Beyond Monolithic Architectures: A Multi-Agent Search and Knowledge Optimization Framework for Agentic Search [56.78490647843876]
エージェント検索は、大規模言語モデル(LLM)が推論とツールの使用をインターリーブできるようにすることによって、複雑な情報を探すための有望なパラダイムとして登場した。
本稿では,bfM-ASKを提案する。bfM-ASK,bfM-ASK,bfM-ASK,bfM-ASK,bfM-ASK,bfM-ASK,bfM-ASK,bfM-ASK。
論文 参考訳(メタデータ) (2026-01-08T08:13:27Z) - Beyond the limitation of a single query: Train your LLM for query expansion with Reinforcement Learning [23.104182075898297]
Reasoning-augmented search agent, such as Search-R1, are trained to reason, search, and generate the final answer repeateratively。
我々は、強化学習によるクエリ拡張のネイティブ機能を備えたLLMベースの検索エージェントを訓練する。
シュレッシャーモデルの助けを借りて,小型の3B LLMでもクエリ拡張の強力な能力を実証できることが判明した。
論文 参考訳(メタデータ) (2025-10-11T04:23:30Z) - LevelRAG: Enhancing Retrieval-Augmented Generation with Multi-hop Logic Planning over Rewriting Augmented Searchers [24.01783076521377]
Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)における幻覚を緩和するための重要な方法である
既存のRAGメソッドは通常、検索範囲を広げるためにハイブリッド検索を使用しながら、ユーザ意図を明確にし、マルチホップロジックを管理するためにクエリ書き換えを使用する。
本稿では,複雑なクエリをアトミックなクエリに分解する高レベル検索手法を提案する。
高精度なキーワード検索にスパース検索の長所を利用するために,Lucene構文を用いて検索精度を向上させるスパース検索手法を開発した。
論文 参考訳(メタデータ) (2025-02-25T12:09:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。