論文の概要: OPLD: On-Policy Latent Distillation for Multimodal Reasoning

• arxiv url: http://arxiv.org/abs/2607.28154v1
• Date: Thu, 30 Jul 2026 12:57:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.570673
• Title: OPLD: On-Policy Latent Distillation for Multimodal Reasoning
• Title（参考訳）: OPLD:マルチモーダル推論のためのオンライン潜水蒸留
• Abstract要約: マルチモーダル・チェーン・オブ・リーブド(CoT)は、補助的な視覚的証拠を中間的推論に組み込むことで視覚的推論を改善する。 既存のアプローチは、外部で定義された推論トレースと視覚操作によって制約される。 本稿では,特権付きマルチモーダルCoTによって引き起こされる推論能力を潜在的推論表現に伝達するフレームワークOPLDを提案する。
• 参考スコア（独自算出の注目度）: 27.842942669819948
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Interleaved multimodal Chain-of-Thought (CoT) improves visual reasoning by incorporating auxiliary visual evidence into intermediate reasoning. However, existing approaches remain constrained by externally defined reasoning traces and visual operations, limiting their ability to develop flexible and abstract visual thinking. Reasoning with latent has recently offered a promising direction by internalizing intermediate computation into continuous representations. Nevertheless, existing visual-latent methods mainly supervise latent states through alignment with compressed auxiliary visual features, treating them as proxies for visual observations rather than active reasoning states. Consequently, they capture the provided evidence but fail to fully internalize the abstract reasoning process induced by multimodal CoT. In this paper, we propose OPLD (On-Policy Latent Distillation), a simple framework that transfers the reasoning capability induced by privileged multimodal CoT into latent reasoning representations. Extensive experiments on diverse multimodal benchmarks demonstrate that OPLD consistently outperforms existing latent reasoning methods and achieves state-of-the-art performance on multiple benchmarks. The results suggest that supervising latent representations at the reasoning-process level provides a more effective paradigm for multimodal latent reasoning than conventional feature-level alignment.
• Abstract（参考訳）: インターリーブ型マルチモーダル・チェーン・オブ・ワット(CoT)は、補助的な視覚的証拠を中間的推論に組み込むことにより、視覚的推論を改善する。 しかし、既存のアプローチは、外部で定義された推論のトレースと視覚操作によって制約され、柔軟性と抽象的な視覚的思考を発達させる能力を制限する。 latentとの推論は、最近、中間計算を連続表現に内部化することで、有望な方向を提供する。 それにもかかわらず、既存の視覚遅延法は主に圧縮された補助視覚特徴と整合して潜伏状態を監督し、アクティブな推論状態ではなく、視覚観察のためのプロキシとして扱う。 その結果、得られた証拠を捕捉するが、マルチモーダルCoTによって誘導される抽象的推論過程を完全に内部化することができない。 本稿では,特権付きマルチモーダルCoTによる推論能力を潜在推論表現に変換するシンプルなフレームワークであるOPLD(On-Policy Latent Distillation)を提案する。 多様なマルチモーダルベンチマークに対する大規模な実験は、OPLDが既存の潜在推論手法を一貫して上回り、複数のベンチマークで最先端のパフォーマンスを達成することを示した。 その結果,従来の特徴レベルのアライメントよりも,遅延表現を推論処理レベルで監視することが,マルチモーダル遅延推論のパラダイムとして有効であることが示唆された。

関連論文リスト

• Latent-Aligned Reasoning for Multimodal Recommendation [4.868819130885598]
  1つのVLM内に相補的なアライメント機構を持つ2段階の潜在推論フレームワークであるLARKを提案する。 最初の段階では、学習可能な潜在トークンは多段階の連鎖推論でインターリーブされる。 第2段階では、潜在表現はブリッジを介して投影され、アイテム対イテムの対照的な学習で訓練される。
  論文  参考訳（メタデータ） (2026-09-04T02:24:48Z)
• Look on Demand: A Cognitive Scheduling Framework for Visual Evidence Acquisition in Multimodal Reasoning [82.86343313807158]
  我々は、視覚的証拠が推論プロセスにどのように、いつ導入されるかが中心的な課題であると主張している。 この知見により,言語モデルが推論プロセスを制御するマルチモーダル推論フレームワークCSMRを提案する。
  論文  参考訳（メタデータ） (2026-05-27T08:43:13Z)
• Decompose, Look, and Reason: Reinforced Latent Reasoning for VLMs [6.111899371682025]
  視覚言語モデルは、テキストCoTの視覚的情報損失により、複雑な視覚的推論に苦しむことが多い。 我々は,強化潜在推論フレームワークである"Decompose, Look, and Reason"(DLR)を提案する。 ビジョン中心のベンチマークの実験では、DLRは一貫して強いベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-04-08T18:52:27Z)
• Walk the Talk: Bridging the Reasoning-Action Gap for Thinking with Images via Multimodal Agentic Policy Optimization [89.68681087743876]
  MLLM(Multimodal Large Language Models)は,マルチターン推論において視覚ツールを積極的に呼び出すことによって,イメージで考えるモデルにインセンティブを与えている。 結果に基づく報酬を頼りにする一般的な強化学習の実践は、テキストの妥当性が経営幹部の失敗を隠蔽するという事実を無視します。 マルチモーダルエージェントポリシー最適化(MAPO)を導入し、テキスト推論とモデルが生成する視覚行動のギャップを埋める。
  論文  参考訳（メタデータ） (2026-04-08T07:48:07Z)
• Rethinking Token-Level Policy Optimization for Multimodal Chain-of-Thought [73.39221516441624]
  マルチモーダル・チェーン・オブ・ソート(CoT)推論は、推論軌道を構築するために大きな視覚言語モデルを必要とする。 既存のReinforcement Learning with Verifiable Rewards (RLVR) 法は、様々な視覚的接地度を区別することなく、CoTを均一に扱う。 本稿では,隠れ状態の類似性に先立って認識を導き,トークンのエントロピーと統合する知覚探索ポリシー最適化(PEPO)を提案する。
  論文  参考訳（メタデータ） (2026-03-24T06:38:00Z)
• CrystaL: Spontaneous Emergence of Visual Latents in MLLMs [55.34169914483764]
  CrystaL(Crystallized Latent Reasoning)は,静止画像と劣化画像を処理するための2つの経路を持つ単一ステージフレームワークである。 CrystaLは2つの経路にまたがる注意パターンと予測分布を明確に調整することで、潜在表現をタスク関連視覚意味論に結晶化する。 知覚集約ベンチマークの実験では、CrystaLは最先端のベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-24T15:01:30Z)
• Reasoning Within the Mind: Dynamic Multimodal Interleaving in Latent Space [46.05748768260013]
  テスト時間動的マルチモーダル遅延推論フレームワークを提案する。 信頼誘導の潜在ポリシー勾配最適化を、詳細な推論のために潜在シンクトークンに採用する。 7つのマルチモーダル推論ベンチマークと様々なモデルアーキテクチャによる実験により、DMLRは推論性能と知覚性能を大幅に改善することが示された。
  論文  参考訳（メタデータ） (2025-12-14T10:07:45Z)
• A Survey on Latent Reasoning [100.54120559169735]
  大きな言語モデル(LLM)は印象的な推論機能を示している。 中間ステップを言語化するCoT推論は、モデルの表現帯域幅を制限する。 潜在的推論は、モデルの連続的な隠れ状態に完全にマルチステップの推論を実行することで、このボトルネックに対処する。
  論文  参考訳（メタデータ） (2025-07-08T17:29:07Z)
• Cantor: Inspiring Multimodal Chain-of-Thought of MLLM [83.6663322930814]
  視覚的コンテキスト獲得と論理的推論の集約は、視覚的推論タスクに取り組む上で重要であると我々は主張する。 我々はCantorと呼ばれる革新的なマルチモーダルCoTフレームワークを提案し、その特徴は知覚決定アーキテクチャである。 提案手法の有効性を実証し,マルチモーダルCoT性能の大幅な向上を示した。
  論文  参考訳（メタデータ） (2024-04-24T17:59:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。