論文の概要: SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows
- arxiv url: http://arxiv.org/abs/2610.10563v1
- Date: Thu, 01 Oct 2026 23:04:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.555167
- Title: SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows
- Title(参考訳): SLVR:人間ライクな推論フローによる構造的潜在視覚推論
- Abstract要約: MLLM(Multimodal large language model)は、タスク関連の視覚的証拠よりも言語的先行性に頼ることで、視覚的推論の疑問に答えることが多い。
本稿では,明示的連鎖と潜在的推論を橋渡しするトレーニングフレームワークであるStructured Latent Visual Reasoning(SLVR)を提案する。
- 参考スコア(独自算出の注目度): 14.32094457932353
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Multimodal large language models (MLLMs) often answer visual reasoning questions by relying on linguistic priors rather than task-relevant visual evidence. Textual chain-of-thought reasoning can partially mitigate this issue by encouraging models to decompose visual questions into intermediate evidence-seeking steps, but generating these steps autoregressively increases inference cost. Latent reasoning avoids explicit rationale generation, but existing approaches provide limited control over what intermediate states encode, making it difficult to impose separate supervision for planning, grounding, and evidence selection. We propose Structured Latent Visual Reasoning (SLVR), a training framework that bridges explicit chain-of-thought and latent reasoning by organizing multimodal reasoning into typed latent stages for planning, grounding, evidence selection, and reasoning integration. SLVR first trains the model to rely on the image by masking answer-revealing text and contrasting the correct answer with visually plausible distractors. It then organizes reasoning into latent stages for planning, grounding, evidence selection, and integration, supervising each stage with the corresponding signal: plans, boxes, visual evidence, and final rationales. This gives latent reasoning an explicit functional structure while avoiding generated textual chains at inference time. Built on Qwen2.5-VL-7B, SLVR improves consistently across multimodal reasoning benchmarks, with absolute gains of +9.4 on MMVP and +14.2 on BLINK Relation, as well as improvements on V*, MathVista, and ChartQA. These results suggest that structured latent supervision can improve fine-grained visual reasoning without the decoding overhead of textual CoT. Project page is available \href{https://bogao-code.github.io/SLVR/}{here}.
- Abstract(参考訳): MLLM(Multimodal large language model)は、タスク関連の視覚的証拠よりも言語的先行性に頼ることで、視覚的推論の疑問に答えることが多い。
テキスト・チェーン・オブ・シント推論は、モデルに視覚的な質問を中間的なエビデンス探索ステップに分解するよう促すことによって、この問題を部分的に軽減することができるが、これらのステップは自動回帰的に推論コストを増大させる。
潜在的推論は明確な合理的な生成を避けるが、既存のアプローチは中間状態がコードする状態の限定的な制御を提供しており、計画、根拠、証拠の選択を個別に監督することは困難である。
本研究では,多モーダル推論を計画,グラウンド,エビデンス選択,推論統合のための型付き潜在段階に整理することにより,明確な連鎖と潜在推論を橋渡しするトレーニングフレームワークSLVRを提案する。
SLVRはまず、解答回答のテキストをマスキングし、正しい解答を視覚的に妥当な散逸と対比することで、画像に依存するようにモデルを訓練する。
その後、計画、根拠、証拠の選択、統合のための潜在段階に推論を編成し、各段階を対応する信号(プラン、ボックス、視覚的証拠、最終的な論理)で監視する。
これにより、潜在的推論は、推論時に生成されたテキストチェーンを避けながら、明示的な機能構造を与える。
Qwen2.5-VL-7Bで構築されたSLVRは、MMVPで+9.4、BLINKリレーショナルで+14.2、V*、MathVista、ChartQAで改善された。
これらの結果から,構造化潜在監視はテキストCoTの復号化を伴わずに細粒度の視覚的推論を改善することが示唆された。
プロジェクトページは href{https://bogao-code.github.io/SLVR/}{here} で公開されている。
関連論文リスト
- Retrieve, Integrate, and Synthesize: Spatial-Semantic Grounded Latent Visual Reasoning [11.05919811646786]
本稿では,事前学習型MLLM計算の互換性拡張として遅延推論を開発する空間意味的基盤となるRIS(Retrieve,Integrate,Synthesize)を提案する。
RISは潜伏トークンを空間的および意味的な証拠の両方に固定し、進行的な注意ボトルネックを通じて因果的役割を強制し、翻訳された潜伏状態から語彙に整合した復号に戻すために短い言語遷移トークンを導入する。
論文 参考訳(メタデータ) (2026-05-08T01:33:58Z) - Decompose, Look, and Reason: Reinforced Latent Reasoning for VLMs [6.111899371682025]
視覚言語モデルは、テキストCoTの視覚的情報損失により、複雑な視覚的推論に苦しむことが多い。
我々は,強化潜在推論フレームワークである"Decompose, Look, and Reason"(DLR)を提案する。
ビジョン中心のベンチマークの実験では、DLRは一貫して強いベースラインを上回っている。
論文 参考訳(メタデータ) (2026-04-08T18:52:27Z) - Structured Reasoning for Large Language Models [59.215789462977206]
本研究では、推論を明示的、評価可能、トレーニング可能なコンポーネントに分解するフレームワークであるStructured Reasoning(SCR)を提案する。
SCRは推論効率と自己検証を大幅に改善する。
既存の推論パラダイムと比較して、出力トークンの長さを最大50%削減する。
論文 参考訳(メタデータ) (2026-01-12T04:04:01Z) - CoRGI: Verified Chain-of-Thought Reasoning with Post-hoc Visual Grounding [1.6257248483123767]
textbfCoRGI(textbfChain textbffof textbfReasoning with textbfGrounded textbfInsights)は、チェーンオブ思考出力のポストホック検証により、推論信頼性を高めるフレームワークである。
論文 参考訳(メタデータ) (2025-08-01T07:17:12Z) - A Survey on Latent Reasoning [100.54120559169735]
大きな言語モデル(LLM)は印象的な推論機能を示している。
中間ステップを言語化するCoT推論は、モデルの表現帯域幅を制限する。
潜在的推論は、モデルの連続的な隠れ状態に完全にマルチステップの推論を実行することで、このボトルネックに対処する。
論文 参考訳(メタデータ) (2025-07-08T17:29:07Z) - Visual Chain of Thought: Bridging Logical Gaps with Multimodal
Infillings [61.04460792203266]
本稿では, 逐次データ内の論理的ギャップを埋めるために, 視覚言語による接地を促進させる, チェーン・オブ・シントを利用する新しい手法であるVCoTを紹介する。
本手法は,下流タスクの論理的ギャップを低減するために,一貫した情報と新しい情報を加える合成マルチモーダル埋め込みを生成するために視覚誘導を用いる。
論文 参考訳(メタデータ) (2023-05-03T17:58:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。