論文の概要: Uni-LaDiR: Latent Diffusion Unifies Multimodal Reasoning
- arxiv url: http://arxiv.org/abs/2609.19878v2
- Date: Wed, 23 Sep 2026 10:54:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.6408
- Title: Uni-LaDiR: Latent Diffusion Unifies Multimodal Reasoning
- Title(参考訳): Uni-LaDiR: 遅延拡散はマルチモーダル推論を統一する
- Abstract要約: 共用潜在空間にモダリティ特異的な思考をもたらすフレームワークであるUni-LaDiR(Unified Latent Diffusion Reasoner)を紹介する。
統一エンコーダは、教師の推論ステップを異なるモダリティから共有思考トークンにマッピングし、後の推論ステップに必要な情報を保存するように訓練する。
同じコンテキストで複数の有効な次のステップがサポートできるので、インプットと先行ブロックから次のトークンのブロックを予測するために拡散を利用する。
- 参考スコア(独自算出の注目度): 38.66870995539215
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal reasoning requires models to draw on information from multiple modalities throughout the reasoning process. Yet existing methods often concatenate modality-specific thought tokens in a single sequence, leaving the model to bridge representational differences as it reasons across modalities. We introduce Uni-LaDiR (Unified Latent Diffusion Reasoner), a framework that brings these thoughts into a shared latent space for reasoning. A unified encoder maps teacher reasoning steps from different modalities into shared thought tokens, trained to preserve the information needed for later reasoning steps and the final answer or action. Because the same context can support multiple valid next steps, we use diffusion to predict the next block of thought tokens from the input and preceding blocks. Jointly training the encoder and diffusion reasoner with shared model weights encourages thought tokens to be both useful for the task and predictable from the available context. At inference, the model generates these tokens without teacher observations. Across eleven vision-language model (VLM) benchmarks and two vision-language-action (VLA) suites, Uni-LaDiR achieves relative gains over the strongest evaluated baselines of 7.3% on visual reasoning tasks and 6.1% on robot manipulation tasks.
- Abstract(参考訳): マルチモーダル推論は、推論プロセスを通して複数のモーダルから情報を引き出すモデルを必要とする。
しかし、既存の手法は、しばしばモダリティ固有の思考トークンを単一のシーケンスで結合し、モデルがモダリティにまたがる理由として表現上の違いを橋渡しする。
我々は、これらの思考を推論のための共有潜在空間に持ち込むフレームワークUni-LaDiR(Unified Latent Diffusion Reasoner)を紹介する。
統一エンコーダは、教師の推論ステップを異なるモダリティから共有思考トークンにマッピングし、後の推論ステップと最終回答または行動に必要な情報を保存するように訓練する。
同じコンテキストで複数の有効な次のステップがサポートできるので、インプットと先行ブロックから次のトークンのブロックを予測するために拡散を利用する。
共有モデル重み付きエンコーダと拡散推論器を共同でトレーニングすることで、思考トークンはタスクに有用であり、利用可能なコンテキストから予測可能であることを奨励する。
推論において、モデルは教師の観察なしにこれらのトークンを生成する。
11の視覚言語モデル(VLM)ベンチマークと2つの視覚言語アクション(VLA)スイートで、Uni-LaDiRは視覚推論タスクの7.3%、ロボット操作タスクの6.1%に対して、最も評価の高いベースラインを相対的に上回っている。
関連論文リスト
- Latent-Aligned Reasoning for Multimodal Recommendation [4.868819130885598]
1つのVLM内に相補的なアライメント機構を持つ2段階の潜在推論フレームワークであるLARKを提案する。
最初の段階では、学習可能な潜在トークンは多段階の連鎖推論でインターリーブされる。
第2段階では、潜在表現はブリッジを介して投影され、アイテム対イテムの対照的な学習で訓練される。
論文 参考訳(メタデータ) (2026-09-04T02:24:48Z) - TTE-Flash: Accelerating Reasoning-based Multimodal Representations via Think-Then-Embed Tokens [32.700228795574255]
TTE-Flash-2Bは,MMEB-v2ベンチマークにおいて,その明示的なCoTよりも優れたマルチモーダル表現モデルである。
本研究では,1)LLMバックボーンからトークンの考え方と埋め込みを抽出する方法,2)トークンを2つの依存タスクとしてトレーニングする方法,の2つの重要なアーキテクチャ設計について検討する。
論文 参考訳(メタデータ) (2026-05-15T21:10:56Z) - Walk the Talk: Bridging the Reasoning-Action Gap for Thinking with Images via Multimodal Agentic Policy Optimization [89.68681087743876]
MLLM(Multimodal Large Language Models)は,マルチターン推論において視覚ツールを積極的に呼び出すことによって,イメージで考えるモデルにインセンティブを与えている。
結果に基づく報酬を頼りにする一般的な強化学習の実践は、テキストの妥当性が経営幹部の失敗を隠蔽するという事実を無視します。
マルチモーダルエージェントポリシー最適化(MAPO)を導入し、テキスト推論とモデルが生成する視覚行動のギャップを埋める。
論文 参考訳(メタデータ) (2026-04-08T07:48:07Z) - On the Out-of-Distribution Generalization of Reasoning in Multimodal LLMs for Simple Visual Planning Tasks [56.98385132295952]
簡単な計画課題において,チェーン・オブ・ソート・アプローチがいかに一般化するかを評価する。
複数のテキスト形式を組み合わせた推論トレースが、最高の(かつ非自明な)OOD一般化をもたらすことが分かりました。
純粋にテキストベースのモデルは、画像ベースの入力を利用するモデルよりも一貫して優れています。
論文 参考訳(メタデータ) (2026-02-17T09:51:40Z) - Multi-Path Collaborative Reasoning via Reinforcement Learning [54.8518809800168]
CoT(Chain-of-Thought)推論は、LLM(Large Language Models)の問題解決能力を大幅に向上させた。
最近の手法では、連続的な意味空間における推論を可能にするために、ソフトな抽象トークンを生成することでこの問題に対処しようとしている。
提案するM3PO(Multi-Path Perception Policy Optimization)は,推論プロセスに集団的洞察を明示的に注入する,新たな強化学習フレームワークである。
論文 参考訳(メタデータ) (2025-12-01T10:05:46Z) - Soft Thinking: Unlocking the Reasoning Potential of LLMs in Continuous Concept Space [62.54887038032942]
ソフトシンキング(Soft Thinking)は、ソフトで抽象的な概念トークンを生成することによって、人間のような「ソフト」推論をエミュレートする訓練不要な手法である。
これらの概念トークンは、連続的な概念空間を形成するトークン埋め込みの確率重み付き混合によって生成される。
本質的に、生成された概念トークンは関連する離散トークンから複数の意味をカプセル化し、暗黙的に様々な推論経路を探索する。
論文 参考訳(メタデータ) (2025-05-21T17:29:15Z) - Token Assorted: Mixing Latent and Text Tokens for Improved Language Model Reasoning [53.57895922042783]
大規模言語モデル(LLM)は、チェーン・オブ・シークレット(CoT)データに基づいて訓練された場合、推論と計画が優れている。
そこで我々は,遅延離散トークンを用いて推論過程を部分的に抽象化するハイブリッド表現を提案する。
論文 参考訳(メタデータ) (2025-02-05T15:33:00Z) - DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning
in Language Models [28.712359821231182]
大規模言語モデル(LLM)は、思考の連鎖(CoT)を利用して人間の思考を模倣することによって、言語モダリティの多段階的推論において顕著な進歩を遂げた。
これらの進歩をマルチモーダルな文脈に移すことは、労働集約的アノテーションの非現実的な必要性に限らず、より高い課題をもたらす。
本研究では,複数モーダリティを推論に組み込んだDDCoTプロンプトを提案する。
論文 参考訳(メタデータ) (2023-10-25T08:03:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。