論文の概要: Latent Reasoning in Continuous Space for Unified Multimodal Models

• arxiv url: http://arxiv.org/abs/2610.42149v1
• Date: Fri, 30 Oct 2026 17:59:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.870412
• Title: Latent Reasoning in Continuous Space for Unified Multimodal Models
• Title（参考訳）: 統一マルチモーダルモデルのための連続空間における潜時推論
• Abstract要約: 統一マルチモーダルモデル(UMM)は多様なマルチモーダル理解および生成タスクにおいて顕著な成功を収める。 彼らは今でも、画像生成のための言語ベースの連鎖推論を効果的に活用するのに苦労している。 連続的空間(LARC)における遅延推論フレームワークを導入し、連続的な隠れ状態の推論によってトークンレベルのボトルネックを軽減する。
• 参考スコア（独自算出の注目度）: 82.26044667101011
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Unified Multimodal Models (UMMs) achieve remarkable success on diverse multimodal understanding and generation tasks, yet they still struggle to effectively leverage language-based chain-of-thought reasoning for image generation. As a result, existing reasoning-augmented UMMs often fail to inherit the test-time scaling and fine-grained controllability observed in large language models. We attribute this failure to a fundamental modality mismatch: reasoning is performed in a discrete token space, whereas image generation operates in a continuous space. To bridge this gap, we introduce a Latent Reasoning framework in Continuous space (LARC), which alleviates the token-level bottleneck by reasoning over continuous hidden states. Specifically, the training framework consists of two stages: (i) curriculum supervised fine-tuning (SFT), and (ii) information-gain reinforcement learning (RL). First, the curriculum SFT stage gradually converts token-level reasoning into latent reasoning. Subsequently, the information-gain RL stage self-evolves latent reasoning without ground truth supervision. Experiments across diverse text-to-image generation benchmarks show that LARC consistently improves generation quality, prompt following, and compositional fidelity. Notably, LARC achieves state-of-the-art performance on GenEval with a 7%p gain over BAGEL and demonstrates clear test-time scaling behavior, outperforming token-based generation under both parallel and sequential test-time scaling strategies.
• Abstract（参考訳）: 統一マルチモーダルモデル(UMM)は多様なマルチモーダル理解および生成タスクにおいて顕著な成功を収めるが、画像生成のための言語に基づく連鎖推論を効果的に活用することは困難である。 その結果、既存の推論拡張UMMは、大規模な言語モデルで観察されるテスト時間スケーリングときめ細かい制御性を継承できないことが多い。 推論は離散トークン空間で実行されるが、画像生成は連続空間で実行される。 このギャップを埋めるために、継続的空間(LARC)における遅延推論フレームワークを導入しました。 具体的には、トレーニングフレームワークは、2つのステージから構成される。 一 指導的微調整(SFT)のカリキュラム及び (II)情報ゲイン強化学習(RL) まず、カリキュラムSFTステージは、徐々にトークンレベルの推論を潜時推論に変換する。 その後、情報ゲインRLステージは、根拠となる真実の監督なしに潜伏推論を自己進化させる。 多様なテキスト・画像生成ベンチマークによる実験では、LARCは生成品質、後続のプロンプト、構成の忠実さを一貫して改善している。 特に、LARCは、BAGELよりも7%向上したGenEvalの最先端のパフォーマンスを達成し、並列およびシーケンシャルなテストタイムスケーリング戦略の下でトークンベースの生成よりも優れた、明確なテストタイムスケーリング挙動を示す。

関連論文リスト

• Genesis: Visual Augmentation Primitives for Multimodal Chain-of-Thought Reasoning [54.91540375064964]
  思考の連鎖推論は言語空間に限られており、視覚的証拠のそれぞれの段階を固定することは滅多にない。 我々は、最先端のビジョン生成モデルを活用するトレーニングデータ拡張パイプライン、textbfVisual Augmentation Primitives (VAP)を導入する。 実験によると、VAP上に構築された4Bモデルは8Bベースラインを超え、モデルが32Bにスケールするにつれて、パフォーマンスが一貫して改善されている。
  論文  参考訳（メタデータ） (2026-10-11T12:19:59Z)
• Self-Evolving Spatial Reasoning in Vision Language Models via Geometric Logic Consistency [53.28076739140119]
  本稿では,視覚・言語モデル(VLM)における論理的一貫性を幾何学的・言語的双対性演算によって実現する枠組みを提案する。 SAGEは、従来のGRPO法に比べてモデルに依存しず、データ効率が良く、既存のVLMに軽量な後学習段階として適用することができる。 ビデオおよび空間推論ベンチマークの実験では、強いベースラインよりも一貫した改善が示されている。
  論文  参考訳（メタデータ） (2026-05-18T10:05:21Z)
• Mitigating Multimodal LLMs Hallucinations via Relevance Propagation at Inference Time [9.870369982132678]
  マルチモーダルな大規模言語モデル(MLLM)は、AIの展望に革命をもたらした。 これらのモデルは、しばしば幻覚に悩まされ、提供された知覚入力から分岐する出力を生成する。 マルチモーダルグラウンド化を促進するために,Learning Inference-time Modality Enhancement (LIME)を提案する。
  論文  参考訳（メタデータ） (2026-05-03T07:58:02Z)
• Scaling Test-Time Robustness of Vision-Language Models via Self-Critical Inference Framework [20.533408486872702]
  大規模言語モデル(LLM)は、特にLVLM(Large Vision-Language Models)の開発において、マルチモーダル学習の急速な進歩を促している。 既存のLVLMトレーニングパラダイムはLLMコンポーネントに過度に依存しており、言語バイアスと言語感受性という2つの重要な堅牢性課題を生み出している。 複数ラウンドの反実的推論を行うことで視覚コントラストデコーディングを拡張する新しい自己批判推論(SCI)フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-08T14:46:19Z)
• Do MLLMs Really See It: Reinforcing Visual Attention in Multimodal LLMs [55.61018839017648]
  CoT(Chain-of- Thought)推論は、複雑な推論タスクにおいて、MLLM(Multimodal large language model)を大幅に改善した。 既存のアプローチは、主に長いテキスト推論軌道に依存し、安定した視覚的注意ポリシーを学ぶための限られたメカニズムを提供する。 地域レベルの視覚的注意に基づく報酬を導入する強化学習フレームワークを用いて訓練された視覚的推論モデルであるSAYOを提案する。
  論文  参考訳（メタデータ） (2026-02-09T03:33:23Z)
• STaR: Towards Cognitive Table Reasoning via Slow-Thinking Large Language Models [12.745473719032026]
  本稿では、認知テーブル推論を実現するための新しいフレームワークSTaR(slow-thinking for table reasoning)を提案する。 STaRはステップバイステップ思考と不確実性認識推論を明示的にモデル化する。 ベンチマーク実験により、STaRは優れた性能を示し、推論安定性が向上した。
  論文  参考訳（メタデータ） (2025-11-14T12:34:17Z)
• Provable Benefit of Curriculum in Transformer Tree-Reasoning Post-Training [76.12556589212666]
  学習後のカリキュラムは指数関数的複雑性のボトルネックを回避していることを示す。 結果のみの報酬信号の下では、強化学習の微調整は、サンプルの複雑さを高い精度で達成する。 カリキュラムを意識したクエリにより、報奨託書の呼び出しとサンプリングコストの両方を指数関数的に削減するテストタイムスケーリングの保証を確立する。
  論文  参考訳（メタデータ） (2025-11-10T18:29:54Z)
• VL-Cogito: Progressive Curriculum Reinforcement Learning for Advanced Multimodal Reasoning [69.44871115752055]
  本稿では,PCuRL(Progressive Curriculum Reinforcement Learning)フレームワークを用いて学習した高度なマルチモーダル推論モデルを提案する。 PCuRLは、難易度が徐々に増大するタスクを通じてモデルを体系的にガイドし、多様なマルチモーダルコンテキストにおける推論能力を大幅に向上させる。 本フレームワークは,(1)連続するRLトレーニング段階におけるトレーニング難度を動的に調整するオンライン難易度重み付け機構,(2)タスク複雑度に応じて推論経路長を適応的に調整する動的長報奨機構,の2つの重要なイノベーションを紹介する。
  論文  参考訳（メタデータ） (2025-07-30T12:23:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。