論文の概要: ProLaViT: Learning Progressive Latent Visual Thoughts in Structured Latent Space
- arxiv url: http://arxiv.org/abs/2607.02907v1
- Date: Fri, 03 Jul 2026 03:14:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.453526
- Title: ProLaViT: Learning Progressive Latent Visual Thoughts in Structured Latent Space
- Title(参考訳): ProLaViT: 構造化ラテント空間におけるプログレッシブラテント視覚思想の学習
- Abstract要約: 本稿では,MLLMが連続潜伏空間において構造化された視覚的導出を行うためのフレームワークであるProLaViTを紹介する。
異種外部モデルに依存した作品とは異なり、ProLaViTはモデル独自のビジュアルエンコーダを使用して潜在思考を監督する。
ProLaViTはビジョン中心のベンチマークでベースラインを上回り、高い効率で精度と解釈性を達成する。
- 参考スコア(独自算出の注目度): 30.276265046240223
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal Large Language Models (MLLMs) have achieved remarkable progress but still struggle with complex visual reasoning tasks requiring multi-step perception and logical deduction. While explicit visual generation incurs prohibitive computational costs, existing latent approaches often rely on external experts or lack rigorous cognitive logic. In this paper, we introduce ProLaViT (Progressive Latent Visual Thought), a framework empowering MLLMs to perform structured visual derivation in the continuous latent space. Unlike works dependent on heterogeneous external models, ProLaViT leverages an endogenous self-distillation mechanism, utilizing the model's own visual encoder to supervise latent thoughts. To facilitate this, we construct a scalable programmatic synthesis pipeline enabling the model to internalize algorithmic precision without inference time tools. We design two reasoning paradigms: (1) Coarse-to-Fine Causal Chain for spatial tasks, guiding attention from global context to local targets. (2) Dialectical Reasoning Chain for logical tasks, incorporating counter-factual thinking for verification. Furthermore, we propose a Distance-Weighted Diversity Loss to impose topology-aware constraints, preventing feature degeneration by enforcing semantic distinctiveness. Extensive experiments demonstrate that ProLaViT outperforms baselines on vision-centric benchmarks, achieving superior accuracy and interpretability with high efficiency.
- Abstract(参考訳): MLLM(Multimodal Large Language Models)は目覚ましい進歩を遂げているが、多段階認識と論理的推論を必要とする複雑な視覚的推論タスクに苦慮している。
明示的な視覚生成は計算コストを禁止しているが、既存の潜在的アプローチは、しばしば外部の専門家に依存したり、厳密な認知論理を欠いている。
本稿では,MLLMが連続潜伏空間において構造化された視覚的導出を行うためのフレームワークであるProLaViT(Progressive Latent Visual Thought)を紹介する。
異種外部モデルに依存した作品とは異なり、ProLaViTは内因性自己蒸留機構を活用し、モデル自身の視覚エンコーダを利用して潜在思考を監督する。
これを容易にするために,モデルが推論時間ツールを使わずにアルゴリズムの精度を内部化できるスケーラブルなプログラム合成パイプラインを構築した。
本研究では,(1)空間的タスクのための粗大な因果連鎖(Coarse-to-Fine Causal Chain)を設計し,グローバルなコンテキストからローカルなターゲットへの注目を導く。
2 論理的課題に対する弁証的推論の連鎖 : 検証のための対実的思考を取り入れて
さらに、トポロジに配慮した制約を課し、意味的特徴を強制することによって特徴劣化を防止するために、距離重み付き多様性損失を提案する。
大規模な実験では、ProLaViTはビジョン中心のベンチマークでベースラインを上回り、高い効率で精度と解釈性を達成する。
関連論文リスト
- Balancing Efficiency and Efficacy: Training-Free Attention-Guided Switching Between Explicit and Latent Thoughts for MLLMs [44.74237674161132]
MLLM(Multimodal Large Language Models)における推論は、きめ細かい視覚認識と厳密な論理推論の両方を必要とする。
明示的なテキストベースのChain-of-Thought (CoT) は計算に高価であり、視覚幻覚を起こしやすい。
既存の潜在的推論手法は、通常、コストのかかる訓練を必要とする。
論文 参考訳(メタデータ) (2026-08-04T10:46:10Z) - InterSketch: An Interleaved Reasoning Model with Self-correcting Visual Sketch and Stepwise Reward [24.461407883853344]
ヒューマンライクな思考は、典型的には、インターリーブド・ビジュアル・テクスト・チェーン・オブ・ソート(VT-CoT)による長い水平推論を伴う
自己補正とステップワイズ報酬機構によってVT-CoT能力を向上するインターリーブ推論モデルであるInterSketchを導入する。
ビジュアル推論ベンチマークの実験は、InterSketchの有効性を示し、Gemini-3-Proのようなプロプライエタリなモデルよりも優れている。
論文 参考訳(メタデータ) (2026-05-26T04:07:49Z) - Insight-V++: Towards Advanced Long-Chain Visual Reasoning with Multimodal Large Language Models [65.4947731385794]
基礎画像中心モデルであるInsight-Vから進化した統合多エージェント視覚推論フレームワークを提案する。
空間的時間的推論を強化し、評価ロバスト性を向上させる2つの新しいアルゴリズムST-GRPOとJ-GRPOを導入する。
LLaVA-NeXTやQwen2.5-VLといったベースモデルの実験は、挑戦的な画像とビデオの推論ベンチマーク間で大きなパフォーマンス向上を示している。
論文 参考訳(メタデータ) (2026-03-18T15:28:07Z) - Perception-Aware Multimodal Spatial Reasoning from Monocular Images [57.42071289037214]
単眼画像からの空間的推論は 自律運転には不可欠です
現在のヴィジュアルランゲージモデル(VLM)は、微粒な幾何学的知覚に苦慮している。
本稿では,VLMを明示的な対象中心の接地能力を持つ知覚認識型マルチモーダル推論フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-07T02:05:12Z) - CrystaL: Spontaneous Emergence of Visual Latents in MLLMs [55.34169914483764]
CrystaL(Crystallized Latent Reasoning)は,静止画像と劣化画像を処理するための2つの経路を持つ単一ステージフレームワークである。
CrystaLは2つの経路にまたがる注意パターンと予測分布を明確に調整することで、潜在表現をタスク関連視覚意味論に結晶化する。
知覚集約ベンチマークの実験では、CrystaLは最先端のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-24T15:01:30Z) - Revisiting Multi-Task Visual Representation Learning [52.93947931352643]
本稿では,マルチタスク・ビジュアル事前学習フレームワークであるMTVを紹介する。
我々は、高容量の「エキスパート」モデルを利用して、高密度で構造化された擬似ラベルを大規模に合成する。
以上の結果から,MTV が "Best-of-both-worlds" のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2026-01-20T11:59:19Z) - Reinforcing Spatial Reasoning in Vision-Language Models with Interwoven Thinking and Visual Drawing [62.447497430479174]
空間における推論への描画は、視覚空間における基本的な描画操作を通じてLVLMを推論できる新しいパラダイムである。
我々のモデルはVILASRと呼ばれ、様々な空間推論ベンチマークで既存の手法より一貫して優れています。
論文 参考訳(メタデータ) (2025-06-11T17:41:50Z) - Cantor: Inspiring Multimodal Chain-of-Thought of MLLM [83.6663322930814]
視覚的コンテキスト獲得と論理的推論の集約は、視覚的推論タスクに取り組む上で重要であると我々は主張する。
我々はCantorと呼ばれる革新的なマルチモーダルCoTフレームワークを提案し、その特徴は知覚決定アーキテクチャである。
提案手法の有効性を実証し,マルチモーダルCoT性能の大幅な向上を示した。
論文 参考訳(メタデータ) (2024-04-24T17:59:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。