論文の概要: MCD: Causal Distillation of Multimodal In-Context Learning in Large Vision-Language Models

• arxiv url: http://arxiv.org/abs/2609.39920v1
• Date: Wed, 30 Sep 2026 15:10:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 04:51:24.455309
• Title: MCD: Causal Distillation of Multimodal In-Context Learning in Large Vision-Language Models
• Title（参考訳）: MCD:大規模視覚言語モデルにおけるマルチモーダルインコンテキスト学習の因果的蒸留
• Abstract要約: In-context Learning(ICL)において,強い教師がマルチモーダルエビデンスをどのように利用するかを伝達する蒸留フレームワークであるMultimodal Causal Distillation(MCD)を導入する。 MCDは学生の成績を平均7.23ポイント改善し、バニラ蒸留を4.68ポイント上回る。
• 参考スコア（独自算出の注目度）: 19.611472822224737
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large vision-language models (LVLMs) exhibit strong multimodal in-context learning (ICL) capabilities, yet this ability degrades substantially as model size decreases. Knowledge distillation offers a natural way to bridge this gap, but existing methods primarily align output distributions or hidden representations directly. Such alignment teaches the student what the teacher predicts without revealing which evidence in the complex context causally supports that prediction. Consequently, a student can imitate the teacher's answer while continuing to rely on language priors, prompt structure, or other spurious cues. To address this limitation, we introduce Multimodal Causal Distillation (MCD), a distillation framework that transfers how a strong teacher uses multimodal evidence during ICL. MCD uses structure-preserving token interventions to identify and verify causal evidence, then transfers how the teacher responds when that evidence is retained or removed. This design connects distillation to the causal patterns by which the model uses contextual evidence during multimodal ICL. Experiments across three LVLM families and seven benchmarks show that MCD improves student performance by 7.23 points on average and outperforms vanilla distillation by 4.68 points, while further analyses confirm the generalizability of these gains.
• Abstract（参考訳）: 大規模視覚言語モデル(LVLM)は、強力なマルチモーダル・イン・コンテクスト学習(ICL)能力を示すが、モデルサイズが減少するにつれて大幅に劣化する。 知識蒸留は、このギャップを埋める自然な方法を提供するが、既存の方法は主に出力分布や隠れ表現を直接整列する。 このようなアライメントは、複雑な文脈におけるどの証拠がその予測を因果的に支持するかを明らかにすることなく、教師が予測するものを教える。 その結果、学生は教師の答えを模倣し、言語の先行、構造、その他の刺激的な手がかりに頼り続けることができる。 この制限に対処するために,強い教師がICL中にマルチモーダルエビデンスをどのように利用するかを伝達する蒸留フレームワークであるMCD(Multimodal Causal Distillation)を導入する。 MCDは、構造保存トークンの介入を使用して因果的証拠を特定し、検証し、その証拠が保持または削除されたときに教師がどう反応するかを伝達する。 この設計は蒸留を、マルチモーダルICL中に文脈証拠を使用する因果パターンに結びつける。 3つのLVLMファミリーと7つのベンチマーク実験により、MCDは学生の成績を平均7.23ポイント改善し、バニラ蒸留を4.68ポイント上回った。

関連論文リスト

• Large Language Model Teaches Visual Students: Cross-Modality Transfer of Fine-Grained Conceptual Knowledge [35.00522690300795]
  言語のみの教師から視覚のみの学生モデルへ高レベルの意味的知識を伝達するためのフレームワークであるLaViD-Language-to-Visual Knowledge Distillationを提案する。 LaViDは、視覚クラス間のセマンティックな区別を探索するマルチチョイス質問(MCQ)を生成するように促すことで、LLMから概念的なシグナルを引き出す。
  論文  参考訳（メタデータ） (2026-06-25T20:19:50Z)
• Curriculum Learning-Guided Progressive Distillation in Large Language Models [18.961191510804134]
  既存の蒸留アプローチでは、トレーニングデータの学習順序と、教師と学生のモデル間の容量ミスマッチという、2つの重要な要因を見落としていることが多い。 本稿では,教師の強度とデータ難易度を一致させることにより,両要因を統一したフレームワークであるCLPD(Curriculum Learning-Guided Progressive Distillation)を提案する。 私たちのフレームワークはモジュール化されており、最小限のオーバーヘッドで標準的な蒸留アルゴリズムに統合することができます。
  論文  参考訳（メタデータ） (2026-05-11T21:37:20Z)
• Enhancing Multimodal In-Context Learning via Inductive-Deductive Reasoning [65.15766304205657]
  In-context Learning (ICL) は、大規模なモデルをいくつかの例を使ってタスクに適応させるが、視覚言語モデル(VLM)への拡張は脆弱である。 我々の分析によると、基本的な限界は帰納的ギャップにあり、モデルはしばしば欠陥のある推論から正しい答えを導き出す。 帰納的帰納的プロセスとしてマルチモーダル ICL を再構成する枠組みを導入する。
  論文  参考訳（メタデータ） (2026-05-04T09:18:19Z)
• Learning to Focus: Causal Attention Distillation via Gradient-Guided Token Pruning [62.23671919314693]
  大規模言語モデル (LLM) は文脈理解において著しく改善されている。 しかし、長いコンテキストの推論と生成の間に真に重要な情報に出席する能力は、まだペースの遅れています。 本稿では,2段階のフレームワークであるLearning to Focus(LeaF)を導入し,コンバウンディング要因を緩和する。
  論文  参考訳（メタデータ） (2025-06-09T15:16:39Z)
• Multi-View Incongruity Learning for Multimodal Sarcasm Detection [40.10921890527881]
  マルチモーダルサルカズム検出(MSD)は下流の様々なタスクに不可欠である。 既存のMSD法は、素早い相関に依存する傾向がある。 本稿では,マルチモーダルサルカズム検出のためのコントラスト学習(MICL)によるマルチモーダルイングルリティの統合手法を提案する。
  論文  参考訳（メタデータ） (2024-12-01T10:29:36Z)
• Beyond DAGs: A Latent Partial Causal Model for Multimodal Learning [80.44084021062105]
  本稿では,非方向エッジで連結された2つの潜在結合変数を特徴とする,多モーダルデータに対する新しい潜在部分因果モデルを提案する。 特定の統計的仮定の下では、多モーダル・コントラッシブ・ラーニングによって学習された表現が、自明な変換までの潜在結合変数に対応することを示す。 事前トレーニングされたCLIPモデルの実験は、非絡み合った表現を具現化し、数ショットの学習を可能にし、さまざまな現実世界のデータセットにわたるドメインの一般化を改善する。
  論文  参考訳（メタデータ） (2024-02-09T07:18:06Z)
• MAGDi: Structured Distillation of Multi-Agent Interaction Graphs Improves Reasoning in Smaller Language Models [61.479419734006825]
  我々は,複数言語モデル (LLM) エージェント間の推論相互作用をより小さなLMに構造化した新しい蒸留法であるMAGDiを紹介する。 7つの広く使われているコモンセンスおよび数学推論ベンチマークの実験は、MAGDiがより小さなモデルの推論能力を改善することを示している。 我々は、MAGDiが領域外タスクの一般化性を高め、基礎となる学生モデルのサイズと強度に正にスケールし、自己整合性を適用する際により大きな改善をもたらすことを示すため、広範囲な分析を行った。
  論文  参考訳（メタデータ） (2024-02-02T18:35:14Z)
• SCOTT: Self-Consistent Chain-of-Thought Distillation [68.40232422158569]
  大規模言語モデル(LM)は、チェーン・オブ・シークレット・プロンプトを通じて予測のための自由テキスト論理を生成する。 そこで本研究では,教師モデルから,小規模で自己整合的なCoTモデルを学習するための忠実な知識蒸留法を提案する。 忠実蒸留を確実にするために,教師生成の合理性を用いて,反実的推論目的の学生LMを学習する。
  論文  参考訳（メタデータ） (2023-05-03T03:47:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。