論文の概要: Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
- arxiv url: http://arxiv.org/abs/2610.20664v1
- Date: Wed, 14 Oct 2026 08:39:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:15.973558
- Title: Information-Gain Calibrated On-Policy Distillation for Deep Search Agents
- Title(参考訳): ディープサーチエージェントのための情報ゲイン校正オンポーティ蒸留
- Abstract要約: エージェントが外部の証拠を反復的に検索するディープサーチでは、検索前の教師のもっともらしい質問に対する好みは、どのクエリが有効な証拠を返すかを予測できない可能性がある。
Standard OPDは、前のコンテキストのみから各学生のクエリを監督し、textbftextitevidence-blind supervision(EBS)と呼ばれる障害モードを誘導する。
我々は,検索後の情報ゲイン(IG)を用いて,検索された証拠の有効利用を利用してクエリの嗜好を校正しながら,両方の先行情報を校正する手法を提案する。
- 参考スコア(独自算出の注目度): 28.715924015237828
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: On-policy distillation (OPD) has recently emerged as a promising approach for transferring the capabilities of large agents to compact students. In deep search, where agents iteratively retrieve external evidence, a teacher's preference among plausible queries before retrieval may not predict which queries will return useful evidence. Standard OPD nevertheless supervises each student query from the preceding context alone, inducing a failure mode we term \textbf{\textit{evidence-blind supervision (EBS)}}. To understand this, we regroup the OPD objective by interaction turns and reveal two implicit priors: a \textit{budget prior} that allocates supervision by token volume, and a \textit{direction prior} that favors tokens preferred by the teacher, neither of which accounts for the evidence returned by the current query. Our empirical analysis shows that both priors contribute to EBS in practice: the first search turn accounts for 51.1\% of total absolute information gain but receives only 18.0\% of the supervision budget, while 43.7\% of search queries have teacher rewards that disagree in sign with post-retrieval information utility. To mitigate this, we propose \ours, which uses post-retrieval information gain (IG) to calibrate both priors: reallocating supervision toward information-critical turns while calibrating query preferences using the utility of retrieved evidence. Experiments on six multimodal search benchmarks show that \ours improves average accuracy by 3.4 and 1.7 percentage points for 2B and 4B students over standard OPD, enabling the 4B student to surpass its 8B teacher on MMSearch and BrowseComp-VL.
- Abstract(参考訳): オンライン蒸留(OPD:On-policy distillation)は、最近、大規模エージェントの能力をコンパクトな学生に伝達するための有望なアプローチとして登場した。
エージェントが外部の証拠を反復的に検索するディープサーチでは、検索前の教師のもっともらしい質問に対する好みは、どのクエリが有効な証拠を返すかを予測できない可能性がある。
標準PDは、前のコンテキストのみから各学生のクエリを監督し、障害モードを \textbf{\textit{evidence-blind supervision (EBS)}} と呼ぶ。
これを理解するために、対話によってOPDの目的を再編成し、トークンボリュームによる監督を割り当てる \textit{budget prior} と、教師が好むトークンを優先する \textit{direction prior} の2つの暗黙の前提を明らかにする。
最初の検索ターンは総絶対情報ゲインの51.1\%を占めるが、監督予算の18.0\%しか受け取らないのに対し、43.7\%の検索クエリは、検索後の情報ユーティリティに従わない教師の報酬を持っている。
これを軽減するために,検索後の情報ゲイン(IG)を用いて,情報クリティカルなターンに対する監視の実施と,検索した証拠の活用によるクエリの嗜好の校正を行う。
6つのマルチモーダル検索ベンチマークの実験では、2Bと4Bの学生が標準PDよりも平均精度を3.4と1.7ポイント向上し、4Bの学生がMMSearchとBrowseComp-VLで8Bの教師を上回ることが示されている。
関連論文リスト
- SEEDS: Preview-Guided Evidence Admission for Search Agents [9.569803859816597]
本稿では,SEEDS(Selective Evidence Entry During Search)について紹介する。
SEEDSは、エージェントがどの候補とどの候補を検査すべきかを、現在の推論状態に基づいて共同で決定する。
ローカルコーパスとライブWebサーチの9つの知識集約型QAベンチマークにおいて,SEEDSは検索効率を継続的に改善し,完全エビデンス消費を大幅に削減した。
論文 参考訳(メタデータ) (2026-10-09T03:25:39Z) - IGSD: Environment-Verified Hindsight Self-Distillation for Search Agents [37.0115028771202]
Information-Gain-Gated Self-Distillationは、環境フィードバックによるオンライントークンの提案を検証する。
IGSDは教師のトークン提案と学生のサンプルトークンを一致したクエリにまとめ、同じリトリバーで同じ失敗状態から実行します。
論文 参考訳(メタデータ) (2026-09-26T14:57:17Z) - EAVer: Long-Form Factuality Verification as an End-to-End Agentic Policy [50.665874114632]
我々は、完全な応答レベルの検証ワークフローを統一ポリシーとして制御することを学ぶ、エンドツーエンドのエージェント検証であるEAVerを紹介する。
EAVerはセマンティック関連クレームをグループ化し、信頼に基づいた直接検証やターゲット検索にルートし、コンパクトなインコンテキストメモで検索によって返される証拠を保持する。
論文 参考訳(メタデータ) (2026-09-02T21:00:35Z) - EviGraph: Towards Verifiable Evidence Construction for Information-Seeking Agents [0.28675177318965045]
本稿では,証拠記録から検索実行を分離するディープ検索フレームワークであるEviGraphを紹介する。
結果として得られるグラフは、永続的なワーキングメモリと、密集したプロセス報酬の源として機能する。
BrowseComp-Plusでは、Qwen3-8B EviGraphエージェントが一致した相互作用予算の下で35.9%の精度を達成する。
論文 参考訳(メタデータ) (2026-08-25T15:06:54Z) - BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。
Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
論文 参考訳(メタデータ) (2026-08-09T15:32:16Z) - LiveBrowseComp: Are Search Agents Searching, or Just Verifying What They Already Know? [32.434901767447165]
LLMベースの検索エージェントは、外部の証拠よりも本質的な知識に依存している。
LiveBrowseCompは、固有のカバレッジ以上のエージェントを評価するために設計されたベンチマークである。
評価されたすべてのエージェントは、クローズドブックの精度を2%以下に抑え、検索強化されたスコアは、BrowseCompと比較して25~40ポイント減少し、以前のモデルランキングは、もはやパフォーマンスを確実に予測することができない。
論文 参考訳(メタデータ) (2026-05-27T16:39:57Z) - AgentIR: Reasoning-Aware Retrieval for Deep Research Agents [76.29382561831105]
ディープリサーチエージェントは、各検索の前に明示的な自然言語推論を生成する。
Reasoning-Aware Retrievalは、クエリと一緒にエージェントの推論トレースを埋め込む。
DR-Synthは、標準的なQAデータセットからDeep Researchレトリバーのトレーニングデータを生成する。
AgentIR-4Bは、オープンウェイトエージェントであるTongyi-DeepResearchで68%の精度を達成する。
論文 参考訳(メタデータ) (2026-03-04T18:47:26Z) - Progressive End-to-End Object Detection in Crowded Scenes [96.92416613336096]
以前のクエリベースの検出器は2つの欠点に悩まされていた: まず、複数の予測が1つのオブジェクトに対して推論される。
具体的には、まず受理されたクエリを選択して正の予測を生成し、その後、受理された予測に従って残雑音のあるクエリを精査する。
提案手法は,混み合ったシーンにおける問合せ型検出器の性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2022-03-15T06:12:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。