論文の概要: LiteSearch-VL: Small Multimodal Search Agents via Trajectory Distillation and Synthetic Step-DPO
- arxiv url: http://arxiv.org/abs/2608.29357v1
- Date: Sat, 29 Aug 2026 16:33:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:30.942494
- Title: LiteSearch-VL: Small Multimodal Search Agents via Trajectory Distillation and Synthetic Step-DPO
- Title（参考訳）: LiteSearch-VL: 軌道蒸留と合成ステップDPOによる小型マルチモーダル検索エージェント
- Abstract要約: マルチモーダル検索エージェントは、画像理解、Web検索、ツール使用、エビデンス合成をインターリーブすることで、視覚的な質問に答える。
単一ノードの予算の下で、放出されたエージェント軌道がずっと小さなバックボーンに蒸留されると、実際に何が転送されるかが示される。
12,400 GPT-5-judged rollouts on SimpleVQA, FVQA, LiveVQA, VDR-Bench-testmini, the dominant effect is behavioral than a uniform accuracy lift。
- 参考スコア（独自算出の注目度）: 0.5862480696321741
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal search agents answer visual questions by interleaving image understanding, web retrieval, tool use, and evidence synthesis. Strong systems exist, but in two expensive regimes: proprietary frontier models such as GPT-5 and Gemini, or large open vision-language backbones trained with substantial agentic data and reinforcement learning. We ask a different question: when released agent trajectories are distilled into much smaller backbones under a single-node budget, what is actually transferred? We study this with LiteSearch-VL, a low-compute recipe for Qwen3-VL-2B and Qwen3-VL-4B that uses only released OpenSearch-VL trajectories, parameter-efficient LoRA adapters, and synthetic step-level preferences: DPO on GPT-5-generated hard negatives targeting five local failure modes (premature answer, wrong tool, weak query, repeated query, ignored image). Across 12,400 GPT-5-judged rollouts on SimpleVQA, FVQA, LiveVQA, and VDR-Bench-testmini, the dominant effect is behavioral rather than a uniform accuracy lift: full-trajectory supervised fine-tuning transfers the agent contract, taking the 2B model from almost never emitting a usable answer (1,237/1,240 no_answer rollouts) to 28.4% macro Pass@1, matching or slightly exceeding the off-the-shelf 4B base (25.6%). Synthetic preference learning and compact tool distillation act as refinements rather than phase transitions (best 4B configuration: 30.8% macro Pass@1). Finally, a controlled VDR step-budget ablation shows that extra search turns convert abstentions into wrong_entity errors rather than correct answers, identifying answer verification, not search depth, as the next bottleneck for small multimodal agents.
- Abstract（参考訳）: マルチモーダル検索エージェントは、画像理解、Web検索、ツール使用、エビデンス合成をインターリーブすることで、視覚的な質問に答える。
強力なシステムは存在するが、GPT-5やGeminiのようなプロプライエタリなフロンティアモデルや、エージェントデータと強化学習で訓練された大規模なオープンビジョン言語バックボーンという2つの高価な制度がある。
放出されたエージェントの軌跡が、単一ノードの予算の下でずっと小さなバックボーンに蒸留されると、実際に何が転送されるのか?
本手法は,OpenSearch-VL トラジェクトリ,パラメータ効率のよい LoRA アダプタ,および合成ステップレベルの選好のみを使用する Qwen3-VL-2B と Qwen3-VL-4B の低計算レシピである LiteSearch-VL を用いて検討する。
12,400 GPT-5-judged rollouts on SimpleVQA, FVQA, LiveVQA, VDR-Bench-testmini, the dominant effect is behavioral than than a uniform accuracy lift: full-trajectory supervised fine-tuning transfers the agent contracts that the 2B model from almost never emiting a Useable answer (1,237/1,240 no_answer rollouts) to 28.4% macro Pass@1, matching or slightly over the off-the-shelf 4B base (25.6%)。
合成嗜好学習とコンパクトツール蒸留は、相転移よりも洗練されたものとして機能する(最良の4B構成: 30.8% macro Pass@1)。
最後に、制御されたVDRステップ予算アブレーションにより、小さなマルチモーダルエージェントの次のボトルネックとして、厳密な回答ではなく、アサートを間違った_entityエラーに変換し、回答の検証を検索深度ではなく特定する。
関連論文リスト
- Video-DeepResearch: Towards the Next-Generation Multimodal Deepresearch Agent [81.19460113054048]
Video-DRは、ステージワイドツールアンロックを備えた分離された知覚時間パイプラインを備えている。
当社のフレームワークでは,教師付き微調整とグループ相対ポリシー最適化という2段階のトレーニングレシピを採用しています。
実験の結果,ビデオ検索DeepB-A3Bでは64.0%の精度で新たな最先端技術が確立された。
論文 参考訳（メタデータ） (2026-08-04T17:45:16Z) - SimpleSearch-VL: A Simple Recipe for Multimodal Agentic Deep Search [60.29041788383166]
マルチモーダルエージェント検索のための,効率的で信頼性が高く,実用的なフレームワークであるSimpleSearch-VLを提案する。
SimpleSearch-VLは、データやツール、補助モデルコンポーネントをスケールするのではなく、エージェント自身の検索と検証プロセスを改善する。
論文 参考訳（メタデータ） (2026-06-30T11:22:24Z) - Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model [0.0]
5000の質問に対して評価したフルエージェントRAGパイプラインのアブレーション制御を行った。
相互階数融合による固定ハイブリッド検索は規則に基づく適応的ルーティングよりも一貫して優れていることがわかった。
論文 参考訳（メタデータ） (2026-06-19T15:50:35Z) - REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。
我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
論文 参考訳（メタデータ） (2026-06-17T10:37:23Z) - Agent Explorative Policy Optimization for Multimodal Agentic Reasoning [97.64835302176056]
エージェント推論は2つの行動と構造的非対称性(思考と道具の使用)をインターリーブする。
GRPOのような標準的なRLレシピでは、ギャップはトレーニング中に2つの診断症状として現れる。
AXPO (Agent eXplorative Policy Optimization) を提案する。
論文 参考訳（メタデータ） (2026-05-27T17:36:39Z) - HyperEyes: Dual-Grained Efficiency-Aware Reinforcement Learning for Parallel Multimodal Search Agents [6.536862833942476]
視覚的接地と検索を1つのアトミックアクションに融合させる並列マルチモーダル検索エージェントHyperEyesを提案する。
6つのベンチマークで、HyperEyes-30Bは最上位のオープンソースエージェントを9.9%上回り、平均5.3倍のツールコールラウンドを減らした。
論文 参考訳（メタデータ） (2026-05-08T03:16:08Z) - OpenSearch-VL: An Open Recipe for Frontier Multimodal Search Agents [50.79529228477821]
エージェント強化学習を用いたフロンティアマルチモーダルディープサーチエージェントの完全オープンソースレシピであるOpenSearch-VLを紹介した。
まず、ウィキペディアパスのサンプリング、ファジィエンティティの書き換え、ソース・アンカーの視覚的グラウンドリングを通じて、高品質なトレーニングデータを構築するための専用パイプラインをキュレートした。
さらに,テキスト検索,画像検索,OCR,収穫,研削,超解像,視点補正を統一する多様なツール環境を設計する。
論文 参考訳（メタデータ） (2026-05-06T17:50:38Z) - The cognitive companion: a lightweight parallel monitoring architecture for detecting and recovering from reasoning degradation in LLM agents [0.0]
マルチステップタスクにおける大規模言語モデル(LLM)エージェントは、ハードタスクにおいて最大30%の速度で劣化、ループ、ドリフト、スタント状態の推論に苦しむ。
本稿では,2つの実装を持つ並列監視アーキテクチャであるCognitive Companionを紹介する。
論文 参考訳（メタデータ） (2026-04-15T11:44:20Z) - LLMSR@XLLM25: Less is More: Enhancing Structured Multi-Agent Reasoning via Quality-Guided Distillation [6.920352059545929]
本稿では,LLMSR@XLLM25構造推論タスクにおける3位獲得手法であるLess is Moreを提案する。
提案手法は,逆プロンプト誘導,GPT-4oによる検索拡張推論合成,二段階報酬誘導フィルタリングを用いたマルチエージェントフレームワークを活用する。
全てのモジュールはメタラマ-3-8B-インストラクトからLoRA+を統一した構成で微調整される。
論文 参考訳（メタデータ） (2025-04-23T04:19:52Z) - SoTA with Less: MCTS-Guided Sample Selection for Data-Efficient Visual Reasoning Self-Improvement [100.85923086072204]
我々はThinkLite-VLを紹介した。これは最先端(SoTA)パフォーマンスを実現する視覚推論モデルのファミリーで、トレーニングサンプルの桁数を桁違いに減らしている。
我々はMonte Carlo Tree Search (MCTS) を用いて、各インスタンスの解決に必要な視覚言語モデル(VLM)の推論反復数を用いてサンプルの難易度を測定する。
ThinkLite-VL-7BとThinkLite-VL-72Bは、8つの視覚的推論ベンチマークにおいて、それぞれのベースモデルよりも大幅に優れていた。
論文 参考訳（メタデータ） (2025-04-10T17:49:05Z) - Pruning Self-attentions into Convolutional Layers in Single Path [89.55361659622305]
ビジョントランスフォーマー(ViT)は、様々なコンピュータビジョンタスクに対して印象的なパフォーマンスを実現している。
トレーニング済みのViTを効率よく自動圧縮するSPViT(Single-Path Vision Transformer pruning)を提案する。
われわれのSPViTはDeiT-Bで52.0%のFLOPをトリミングできる。
論文 参考訳（メタデータ） (2021-11-23T11:35:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。