論文の概要: MoLE: Mixture of Latent Experts for Complementary Visual Reasoning

• arxiv url: http://arxiv.org/abs/2610.01917v1
• Date: Thu, 01 Oct 2026 15:54:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.23819
• Title: MoLE: Mixture of Latent Experts for Complementary Visual Reasoning
• Title（参考訳）: Mole: 相補的ビジュアル推論のための潜在専門家の混在
• Abstract要約: 有効な潜伏推論は、相補的な視覚情報を抽出するために異なる潜伏トークンを奨励すべきである。 各視覚的専門家が観察する視覚的エビデンスと、そのエビデンスをどう変換するかを制御できるフレームワークであるMoLEを提案する。 平均スコアは78.6で、データマッチングによる微調整を4.9で上回り、同じ遅延予算で最も評価された潜在視覚推論ベースラインを3.6で上回っている。
• 参考スコア（独自算出の注目度）: 21.61854989005596
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Latent visual reasoning equips vision--language models with continuous intermediate states that can process visual evidence without explicit textual reasoning traces or repeated image operations. However, existing methods often allow multiple latent tokens to access the same visual evidence through shared value projections, providing no mechanism for them to extract complementary visual information; simply increasing the latent budget can therefore yield redundant latent representations. We argue that effective latent reasoning should encourage different latent tokens to extract complementary visual information, and thereby act as specialized visual experts. Based on this insight, we propose MoLE, a Mixture of Latent Experts framework that controls both what visual evidence each latent visual expert observes and how it transforms that evidence. MoLE isolates latent visual experts during evidence extraction and uses dedicated latent summary experts to aggregate the complementary representations of latent visual experts. A two-stage training pipeline first forces visual evidence through this latent pathway and then restores direct visual access, requiring neither predefined expert roles nor intermediate visual targets. Across five visual reasoning benchmarks, MoLE achieves an average score of 78.6, outperforming data-matched supervised fine-tuning by 4.9 and the strongest evaluated latent visual reasoning baseline at the same latent budget by 3.6. Representation analyses show lower latent-state similarity and more diverse visual attention, while masking the latent pathway reduces average performance by 9.2. These results demonstrate that specializing latent computation is more effective than merely increasing the number of latent tokens.
• Abstract（参考訳）: 潜在視覚推論は、明示的なテキスト推論トレースや反復的な画像操作なしで視覚的証拠を処理できる、連続的な中間状態を持つ視覚言語モデルと等価である。 しかし、既存の方法では、複数の潜在トークンが共有値投影を通して同じ視覚的証拠にアクセスすることができ、補完的な視覚情報を抽出するためのメカニズムを提供しない。 有効な潜伏推論は、異なる潜伏トークンが相補的な視覚情報を抽出し、専門的な視覚専門家として機能するように促すべきであると論じる。 この知見に基づいて,各視覚的専門家が観察する視覚的エビデンスと,そのエビデンスをどう変換するかを両立するMuleフレームワークを提案する。 MoLEは、証拠抽出中に潜伏した視覚専門家を分離し、潜伏した視覚専門家の補完的な表現を集約するために専用の潜伏した要約専門家を使用する。 2段階のトレーニングパイプラインは、まずこの潜伏経路を通じて視覚的エビデンスを強制し、その後直接視覚的アクセスを復元し、事前に定義された専門家の役割も中間的な視覚的ターゲットも必要としない。 5つの視覚的推論ベンチマークで、MoLEは平均78.6のスコアを獲得し、データマッチングによる教師付き微調整を4.9で上回り、最も評価の高い視覚的推論ベースラインを3.6で上回っている。 表現解析は、潜伏状態の類似度が低く、視覚的注意がより多様であることを示し、潜伏経路のマスキングは平均性能を9.2に低下させる。 これらの結果は、潜在トークンの数を増やすことよりも、潜時計算を専門化する方が効果的であることを示している。

関連論文リスト

• MM-OPD: Towards One More Bottleneck Between Perception and Reasoning [51.632342337454226]
  最近の大規模言語モデル(MLLM)は、知覚と推論の両方を強化することで視覚的推論を推し進めている。 我々はこの仮定に挑戦する直感的現象を観察し、モデル、疑問、復号化を保ち、イメージをキャプションやコード表現に置き換える。 本稿では,シンボル条件付き行動から画像条件付きポリシーへガイダンスを転送する,シンボル・視覚的修正のためのフレームワークMM-OPDを紹介する。
  論文  参考訳（メタデータ） (2026-09-26T14:53:25Z)
• GLaQ: Grounding Latent Queries in Visual Evidence for Multimodal Reasoning [27.232897918541067]
  連鎖推論は多モーダルな大言語モデルの問題解決能力を大幅に改善した。 しかし、微細な視覚的証拠は、テキストベースの推論ステップをまたいだ保存と再利用が難しいままである。 GLaQは、逐次ラテントロールアウトをコンテキスト条件付きクエリの固定セットに置き換える、接地型ラテントクエリフレームワークである。
  論文  参考訳（メタデータ） (2026-08-16T04:01:08Z)
• VisionPulse: Dynamic Visual Sparsity for Efficient Multimodal Reasoning [15.03674139835036]
  推論中に段階的に視覚的トークンを抽出するフレームワークであるVisionPulseを提案する。 VisionPulseは、推論中に視覚的間隔を強制することにより、関連する視覚的証拠を保持しながら冗長な視覚的コンテキストをフィルタリングし、推論トレースを自然に短縮する。
  論文  参考訳（メタデータ） (2026-05-29T15:51:12Z)
• Self-Consistent Latent Reasoning: Long Latent Sequence Reasoning for Vision-Language Model [56.21523258053447]
  SCOLAR(Self-Consistent LAtent Reasoning)は、1枚のショットで補助的な視覚トークンを生成する軽量なデコンバータを導入している。 SCOLARは許容遅延CoT長を30ドル以上延長し、実世界の推論ベンチマークでオープンソースモデルの間で最先端を実現している。
  論文  参考訳（メタデータ） (2026-05-12T14:13:08Z)
• Visual Latents Know More Than They Say: Unsilencing Latent Reasoning in MLLMs [54.16324124242172]
  連続潜在空間推論は、マルチモーダルモデルに対するテキストチェーンのコンパクトな代替を提供する。 既存の視覚的推論手法では,これまで見過ごされてきた最適化病理を同定する。 パラメータ更新を伴わない推論時間潜時最適化は、視覚潜時における抑止的推論能力を効果的に解き放つことを示す。
  論文  参考訳（メタデータ） (2026-05-04T15:36:12Z)
• Seeing but Not Thinking: Routing Distraction in Multimodal Mixture-of-Experts [58.86896791968143]
  MoE(Multimodal Mixture-of-Experts)モデルは視覚言語タスクにおいて顕著なパフォーマンスを実現している。 モデルは画像の内容が正確に知覚されるが、その後の推論では失敗する。 本稿では,視覚的な入力を処理する際に,タスク関連推論の専門家を適切に活性化できないという,ルーティング・ディトラクションの仮説を提案する。
  論文  参考訳（メタデータ） (2026-04-09T17:59:44Z)
• Imagination Helps Visual Reasoning, But Not Yet in Latent Space [65.80396132375571]
  因果関係分析を用いた潜伏推論の有効性について検討した。 潜在トークンが限られた視覚情報を符号化し、高い類似性を示すことを示す。 CapImagineという簡単な代替案を提案し、テキストを明示的に想像するようにモデルに教える。
  論文  参考訳（メタデータ） (2026-02-26T08:56:23Z)
• Draft and Refine with Visual Experts [18.983324604452118]
  LVLM(Large Vision-Language Models)は、視覚的証拠ではなく、言語的先行に強く依存しているため、根拠のない、あるいは幻覚的な応答を生成する。 本稿では,質問条件付き利用指標によって駆動されるエージェントフレームワークであるDraft and Refine(DnR)を提案する。
  論文  参考訳（メタデータ） (2025-11-14T06:50:14Z)
• VisionReasoner: Unified Reasoning-Integrated Visual Perception via Reinforcement Learning [56.99825489208698]
  複数の視覚知覚タスクの推論と解決が可能な統合フレームワークであるVisionReasonerを紹介する。 VisionReasonerは、視覚的な入力を分析するための推論機能を強化し、統一モデル内の様々な知覚タスクに対処する。 VisionReasonerは、検出、セグメンテーション、カウントという3つの重要な領域にまたがる10のタスクに対して評価する。
  論文  参考訳（メタデータ） (2025-05-17T16:51:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。