論文の概要: RIVO: Lightweight Adaptive Rerouting for Deep Research Agents
- arxiv url: http://arxiv.org/abs/2610.15910v1
- Date: Sun, 11 Oct 2026 20:45:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 15:20:54.630366
- Title: RIVO: Lightweight Adaptive Rerouting for Deep Research Agents
- Title(参考訳): RIVO:ディープリサーチエージェントのための軽量適応レイアウト
- Abstract要約: RIVOは適応軌道修正のための軽量なプラグインフレームワークである。
RIVOは,基礎となるホストモデルを再学習することなく,長期研究を改善することができることを示す。
- 参考スコア(独自算出の注目度): 15.137722196341093
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep Research agents rely on long-horizon reasoning and iterative tool use to solve complex information-seeking tasks. However, adaptive decision-making over these trajectories remains challenging, as agents may stop prematurely when further evidence is needed, continue unnecessarily after sufficient evidence has been gathered, or fail to redirect unproductive trajectories. Existing solutions either require costly model retraining and dense turn-level supervision, or rely on heuristic control rules that are not directly optimized for downstream research utility. This motivates a lightweight, utility-aware alternative for Deep Research control. We formulate adaptive rerouting in long-horizon Deep Research as a state-conditioned trajectory correction problem. Based on this view, we introduce RIVO, a lightweight plug-in framework for adaptive trajectory correction. The agent estimates its research state from lightweight signals and determines whether trajectory redirection is needed. Once triggered, the plug-in modifies the Host token logits to steer generation toward a more promising research direction. Theoretical analysis shows that, under a value-alignment condition and bounded local curvature, a sufficiently small logit intervention can locally improve expected downstream research utility. We further construct BrowseCore, a curated dataset with a paired local corpus, for efficient and controlled Deep Research experimentation. Building on this resource, the plug-in is trained from downstream outcomes, enabling it to learn corrections that improve subsequent research and final task performance. Extensive experiments across multiple Deep Research benchmarks and control settings demonstrate the effectiveness of our method, showing that lightweight logit intervention can improve long-horizon research without retraining the underlying Host model.
- Abstract(参考訳): ディープリサーチエージェントは、複雑な情報探索タスクを解決するために、長期の推論と反復的なツールの使用に依存している。
しかしながら、これらの軌道に対する適応的な決定は依然として困難であり、エージェントはさらなる証拠が必要になったときに早急に停止し、十分な証拠が収集された後、必要なく継続したり、非生産的な軌道をリダイレクトできないためである。
既存のソリューションは、コストのかかるモデル再訓練と高密度なターンレベルの監視を必要とするか、あるいは下流の研究ユーティリティに直接最適化されないヒューリスティックな制御ルールに依存している。
これはDeep Researchコントロールの軽量でユーティリティ対応の代替手段である。
長距離深部研究における適応的再帰を状態条件付き軌道補正問題として定式化する。
この観点から,適応軌道補正のための軽量なプラグインフレームワークRIVOを紹介する。
エージェントは、その研究状態を軽量信号から推定し、軌道リダイレクトが必要かどうかを決定する。
一度起動すると、プラグインはホストトークンのロジットを変更して、より有望な研究方向に向けてスタイア生成を行う。
理論的解析により、値アライメント条件と局所曲率の境界の下では、十分に小さなロジット介入が下流の研究ユーティリティーを局所的に改善できることが示されている。
さらに、効率よく制御可能なDeep Research実験のために、ペア化されたローカルコーパスを備えたキュレートデータセットであるBrowseCoreを構築した。
このリソースに基づいて、プラグインは下流の結果からトレーニングされ、その後の研究と最終タスクのパフォーマンスを改善する修正を学習することができる。
複数のDeep Researchベンチマークと制御設定の広範な実験により,本手法の有効性が示され,基盤となるホストモデルを再トレーニングすることなく,軽量なロジット介入が長期研究を改善することが示された。
関連論文リスト
- G-ReAct: Graph-Guided Deep Search via Structure-State Co-Evolution [16.818086150132853]
$textbfG-ReActはディープ検索のための推論フレームワークである。
それは、固定トポロジークエリグラフ上の$textbfstateの進化として推論を整理する。
G-ReActはトレーニングと推論の両方をサポートしている。
論文 参考訳(メタデータ) (2026-08-02T15:43:37Z) - Nudging Beyond the Comfort Zone: Efficient Strategy-Guided Exploration for RLVR [53.27792011950384]
検証可能な報酬付き強化学習(RLVR)は、大規模言語モデルの推論能力を改善するためのスケーラブルなパラダイムとして登場した。
我々は、RLVRにおける構造化及び多様性駆動探索のためのフレームワークであるNudgeRLを提案する。
当社のアプローチでは,各ロールアウトを,軽量で戦略レベルのコンテキストに設定するストラテジーナッジを導入しています。
論文 参考訳(メタデータ) (2026-05-15T08:22:59Z) - Cycle-Consistent Search: Question Reconstructability as a Proxy Reward for Search Agent Training [80.20022221643414]
Cycle-Consistent Searchは、検索エージェントを訓練するための金色のスーパービジョンのないフレームワークである。
CCSは教師付きベースラインに匹敵する性能を示す。
これらの結果から,CCSは金の監督が不可能な環境で検索エージェントを訓練するためのスケーラブルな訓練パラダイムを提供する可能性が示唆された。
論文 参考訳(メタデータ) (2026-04-14T17:00:18Z) - OR-Agent: Bridging Evolutionary Search and Structured Research for Automated Algorithm Discovery [10.217363774023033]
OR-Agentは、リッチな実験環境における自動探査のために設計されたマルチエージェントの研究フレームワークである。
本稿では,研究開始点の進化的選択,総合的な研究計画生成,研究ツリー内の協調探索を統一する進化的システム機構を提案する。
我々は古典的最適化ベンチマーク(走行セールスマン、静電容量化車両ルーティング、ビンパッキング、オリエンテーリング、および複数のクナップサック問題を含む)およびシミュレーションに基づく協調運転シナリオを含む実験を行う。
論文 参考訳(メタデータ) (2026-02-14T13:32:03Z) - RE-TRAC: REcursive TRAjectory Compression for Deep Search Agents [144.5598958575922]
Re-TRACはクロス軌道探索を行うエージェントフレームワークである。
Re-TRAC は BrowseComp とフロンティア LLM で連続して ReAct を 15-20% 上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-02T18:58:07Z) - DeepSearch: Overcome the Bottleneck of Reinforcement Learning with Verifiable Rewards via Monte Carlo Tree Search [53.27052683356095]
我々はモンテカルロ木探索を直接RLVRトレーニングに統合するフレームワークであるDeepSearchを紹介する。
推論時にのみツリー検索に依存する既存のメソッドとは対照的に、DeepSearchは構造化された検索をトレーニングループに埋め込む。
コントリビューションには,(1)検索ツリー全体にわたって有望なノードを優先するグローバルフロンティア選択戦略,(2)監督のための確実なパスを識別するエントロピーベースのガイダンスによる選択,(3)効率的なソリューションキャッシングによる適応的リプレイバッファトレーニングなどが含まれている。
論文 参考訳(メタデータ) (2025-09-29T20:00:29Z) - Truncating Trajectories in Monte Carlo Policy Evaluation: an Adaptive Approach [51.76826149868971]
モンテカルロシミュレーションによる政策評価は多くのMC強化学習(RL)アルゴリズムの中核にある。
本研究では,異なる長さの軌跡を用いた回帰推定器の平均二乗誤差のサロゲートとして品質指標を提案する。
本稿では,Robust and Iterative Data Collection Strategy Optimization (RIDO) という適応アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-10-17T11:47:56Z) - Adaptive trajectory-constrained exploration strategy for deep
reinforcement learning [6.589742080994319]
深層強化学習 (DRL) は, まばらさや虚偽の報奨や大きな状態空間を持つタスクにおいて, ハード探索問題に対処する上で, 重大な課題に直面している。
DRLの最適軌道制約探索法を提案する。
2つの大きな2次元グリッドワールド迷路と複数のMuJoCoタスクについて実験を行った。
論文 参考訳(メタデータ) (2023-12-27T07:57:15Z) - Reannealing of Decaying Exploration Based On Heuristic Measure in Deep
Q-Network [82.20059754270302]
本稿では,再熱処理の概念に基づくアルゴリズムを提案し,必要なときにのみ探索を促進することを目的とする。
我々は、訓練を加速し、より良い政策を得る可能性を示す実証的なケーススタディを実施している。
論文 参考訳(メタデータ) (2020-09-29T20:40:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。