論文の概要: Lookahead Prediction-Guided Adaptive Visual Refocusing for Interleaved Multimodal Reasoning
- arxiv url: http://arxiv.org/abs/2611.02780v1
- Date: Mon, 02 Nov 2026 08:58:28 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 20:11:02.204187
- Title: Lookahead Prediction-Guided Adaptive Visual Refocusing for Interleaved Multimodal Reasoning
- Title(参考訳): Lookahead Prediction-Guided Adaptive Visual Refocusing for Interleaved Multimodal Reasoning
- Abstract要約: 本研究では,Lookahead Prediction-Guided Adaptive Visual Refocusing (LPAVR) をトレーニング不要なテストタイムフレームワークとして提案する。
LPAVRは、MTP(Multi-Token Prediction)をデコードアクセラレーション機構からルックアヘッド信号に変換する。
複数のマルチモーダル推論ベンチマークの実験では、LPAVRは推論精度とMPP投機トークンの受け入れ率の両方を改善している。
- 参考スコア(独自算出の注目度): 14.189467032986542
- License:
- Abstract: Interleaved multimodal chain-of-thought reasoning improves the visual reasoning capabilities of multimodal large language models by dynamically incorporating visual evidence during reasoning. However, existing methods primarily select evidence from historical context. When the reasoning focus shifts, history-guided evidence may remain focused on prior regions and fail to cover the visual information required by the next step. We refer to this lag between visual evidence and subsequent reasoning demands as Temporal Evidence Myopia. To address this issue, we propose Lookahead Prediction-guided Adaptive Visual Refocusing (LPAVR), a training-free test-time framework. LPAVR transforms Multi-Token Prediction (MTP) from a decoding acceleration mechanism into a lookahead signal for anticipating upcoming reasoning intent. During MTP decoding, the draft head generates multiple future tokens, while the target model verifies them in parallel and retains the longest prefix consistent with its decoding trajectory. This target-verified prefix contains near-future semantics, which LPAVR uses to construct lookahead-guided visual evidence and assess whether history-guided evidence covers the indicated regions. If the coverage is sufficient, the history-guided evidence is retained; otherwise, LPAVR switches to the lookahead-guided evidence. This better aligns the visual context with upcoming reasoning and improves consistency between draft predictions and target-model decoding. Experiments on multiple multimodal reasoning benchmarks show that LPAVR improves both reasoning accuracy and the acceptance rates of MTP speculative tokens, jointly enhancing visual reasoning and speculative decoding efficiency.
- Abstract(参考訳): インターリーブされたマルチモーダル・チェーン・オブ・ソート推論は、推論中に視覚的エビデンスを動的に組み込むことにより、多モーダル大言語モデルの視覚的推論能力を向上させる。
しかし、現存する手法は主に歴史的文脈から証拠を選別するものである。
推論の焦点がシフトすると、歴史を導いた証拠は以前の領域に集中し続け、次のステップで必要とされる視覚情報をカバーできない可能性がある。
視覚的証拠とその後の推論要求の間のこの遅れを、時間的エビデンス・ミオピアと呼ぶ。
この問題に対処するため,Lookahead Prediction-Guided Adaptive Visual Refocusing (LPAVR) を提案する。
LPAVRは、MTP(Multi-Token Prediction)をデコードアクセラレーション機構からルックアヘッド信号に変換し、今後の推論意図を予測する。
MTPデコード中、ドラフトヘッドは複数の将来のトークンを生成し、ターゲットモデルはそれらを並列に検証し、そのデコード軌跡と一致する最長のプレフィックスを保持する。
LPAVRは、ルックアヘッド誘導された視覚的エビデンスを構築し、ヒストリー誘導されたエビデンスが指定された領域をカバーするかどうかを評価するために、近未来のセマンティクスを含む。
カバー範囲が十分であれば、履歴誘導された証拠は保持されるが、そうでなければ、LPAVRは見張り誘導された証拠に切り替わる。
これにより、ビジュアルコンテキストと今後の推論との整合性が向上し、ドラフト予測とターゲットモデルデコーディングの整合性が改善される。
複数のマルチモーダル推論ベンチマークの実験では、LPAVRは推論精度とMPP投機トークンの受け入れ率の両方を改善し、視覚的推論と投機的復号効率を両立させる。
関連論文リスト
- Look Before You Reason: Implicit Visual Thinking for Efficient Multimodal Reasoning [53.33244807951443]
視覚言語モデル(VLM)は多モーダル推論において急速に進歩している。
画像による最近の思考は、ズーム、トリミング、コード実行などの操作を通じて、モデルを検査することで、この制限を緩和する。
単ターンVLMインタラクションにおける効率的な視覚的推論のための暗黙的な視覚的思考フレームワークであるLook Before You Reason(LoRe)を提案する。
論文 参考訳(メタデータ) (2026-10-19T22:11:24Z) - SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows [14.32094457932353]
MLLM(Multimodal large language model)は、タスク関連の視覚的証拠よりも言語的先行性に頼ることで、視覚的推論の疑問に答えることが多い。
本稿では,明示的連鎖と潜在的推論を橋渡しするトレーニングフレームワークであるStructured Latent Visual Reasoning(SLVR)を提案する。
論文 参考訳(メタデータ) (2026-10-01T23:04:31Z) - When to Retrieve, When to Stay: Uncertainty-Aware Temporal Evidence Allocation for Streaming Video-LLMs [55.016033209274376]
WRWS(When to Retrieve, When to Stay)は、不確実性適応型エビデンスアロケーションのためのトレーニング不要のフレームワークである。
WRWSは、関連手段が信頼性が高い場合に意味検索を好んでおり、不確実性の下での精度を高める。
我々の効率評価において、WRWSは、平均視覚から回答までの時間を、最先端手法の47.93%に削減する。
論文 参考訳(メタデータ) (2026-09-29T12:13:56Z) - Beyond Visual CoT: Internalized Visual Thinking for Proactive Video Reasoning [15.521458272682308]
マルチモーダルな大規模言語モデルは、空間的、時間的、具体的環境を推論するために視覚的連鎖(Visual CoT)をますます利用している。
モデルが推論を直接推論しながら、トレーニング中に視覚的に思考することを学ぶことができるかどうかを問う。
テキストによる予測と、ラベルのないビデオに対する次の埋め込み予測を共同で最適化するフレームワークであるInnalized Visual Thinking (IVT)を紹介した。
論文 参考訳(メタデータ) (2026-08-16T17:35:38Z) - Debias in Text, Believe Your Eyes: Text-Anchored Cross-Modal Transfer for Visual Counter-Commonsense Reasoning [21.36422191204697]
最近の研究は、視覚入力の強化による視覚対共感覚推論の改善を中心にしている。
視覚的なトレーニングデータを必要としない共有言語デコーダを除去するテキスト編集後トレーニングフレームワークであるTACTを紹介する。
TACTは、一般的な能力を保ちながら視覚的推論を大幅に改善し、効果的なテキスト間相互移動を示す。
論文 参考訳(メタデータ) (2026-08-07T08:10:31Z) - Self-Prophetic Decoding to Unlock Visual Search in LVLMs [108.77389957341586]
LVLM(Large Vision-Language Models)は、真のマルチモーダル推論に向けて急速に進化している。
LVLMビジュアルサーチは、訓練後の本質的能力の非互換性と、長い多段階推論コンテキストにおける干渉の2つの主要な課題に直面している。
固有単一ステップ機能を活用してコヒーレントな多ステップ推論を可能にする自己プロヒーレントデコーディングフレームワークであるSeProDを紹介する。
論文 参考訳(メタデータ) (2026-05-27T17:01:39Z) - Look on Demand: A Cognitive Scheduling Framework for Visual Evidence Acquisition in Multimodal Reasoning [82.86343313807158]
我々は、視覚的証拠が推論プロセスにどのように、いつ導入されるかが中心的な課題であると主張している。
この知見により,言語モデルが推論プロセスを制御するマルチモーダル推論フレームワークCSMRを提案する。
論文 参考訳(メタデータ) (2026-05-27T08:43:13Z) - Reflect to Inform: Boosting Multimodal Reasoning via Information-Gain-Driven Verification [55.357038267439684]
Visual Re-Examination (VRE)は、MLLMが視覚的な入力を追加することなく推論中に自律的に視覚的イントロスペクションを実行することができる自己進化型トレーニングフレームワークである。
VREは推論精度と知覚信頼性を継続的に改善し、特にロングチェーン環境では幻覚を著しく低減する。
論文 参考訳(メタデータ) (2026-03-27T12:22:13Z) - Video-R2: Reinforcing Consistent and Grounded Reasoning in Multimodal Language Models [56.851611990473174]
動的ビジュアルコンテンツに対する推論は、大きな言語モデルにとって依然として中心的な課題である。
本稿では,時間的精度と推論一貫性を両立させる強化学習手法を提案する。
結果のモデルであるVideo R2は、複数のベンチマークでTAC、VAS、精度を一貫して向上させる。
論文 参考訳(メタデータ) (2025-11-28T18:59:58Z) - Perceptual-Evidence Anchored Reinforced Learning for Multimodal Reasoning [29.78411369746505]
PEARLは二重ブランチの知覚推論の相乗効果であり、視覚的証拠に明示的に固定することで多モーダル推論を強化する。
PEARLはマルチモーダル推論ベンチマークにおいて、ベースラインよりも+9.7%改善し、MathVerseではGRPOよりも+6.6%向上した。
論文 参考訳(メタデータ) (2025-11-23T13:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。