論文の概要: Dependency, Compression, and Synergy: A Unified Information-Theoretic View of Multimodal Learning

• arxiv url: http://arxiv.org/abs/2609.14421v1
• Date: Sun, 13 Sep 2026 10:43:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 21:02:54.426292
• Title: Dependency, Compression, and Synergy: A Unified Information-Theoretic View of Multimodal Learning
• Title（参考訳）: 依存・圧縮・シナジー:マルチモーダル学習の統一情報理論
• Abstract要約: 相互情報(MI)、情報ボトルネック(IB)、部分情報分解(PID)は相補的な視点を提供する。 MIはモーダル間の依存性を特徴付け、IBは圧縮下でのタスク指向の情報保存を説明し、PIDは保存された情報を冗長性、特異性、シナジーに分解する。
• 参考スコア（独自算出の注目度）: 66.81869882333264
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Recent advances in multimodal foundation models have intensified the need to understand how different modalities share, preserve, and complement information. Mutual Information (MI), the Information Bottleneck (IB), and Partial Information Decomposition (PID) provide complementary perspectives, yet existing studies often treat them as isolated tools. This survey presents an information-theoretic perspective connecting these principles as progressively refined views of multimodal information processing: MI characterizes inter-modal dependency, IB explains task-oriented information preservation under compression, and PID decomposes preserved information into redundancy, uniqueness, and synergy. We review 170 recent studies (2018--2026) and 12 foundational works, organizing multimodal learning around four challenges: cross-modal alignment, information-efficient fusion, interaction-type characterization, and scaling to multimodal foundation models. Rather than using application domains as primary taxonomy axes, we interpret healthcare, robotics, recommendation systems, affective computing, and wireless communications as empirical validations of these information principles. Beyond taxonomy, we organize existing multimodal paradigms within a single information-theoretic coordinate system -- the Generalized Multimodal Information Lagrangian -- in which they occupy exact or approximate parameter corners, and whose unoccupied regions name candidate method families the literature has not yet built. We further discuss how emerging multimodal foundation models instantiate these principles at scale and identify open challenges including scalable information estimation in high-dimensional settings, standardized evaluation across information-theoretic methods, combinatorial complexity of multimodal PID, and the transition from post-hoc information analysis toward information-aware multimodal learning.
• Abstract（参考訳）: マルチモーダル基礎モデルの最近の進歩は、異なるモダリティが情報を共有し、保存し、補完する方法について理解する必要性を高めている。 Mutual Information(MI)、Information Bottleneck(IB)、Partial Information Decomposition(PID)は相補的な視点を提供するが、既存の研究はしばしばそれらを独立したツールとして扱う。 本調査では,これらの原則を多モード情報処理の高度に洗練された視点として結合する情報理論的視点を提示する。MIは相互依存を特徴付け,IBは圧縮下のタスク指向情報保存を説明し,PIDは保存情報を冗長性,特異性,シナジーに分解する。 我々は、クロスモーダルアライメント、情報効率の融合、インタラクションタイプの特徴付け、マルチモーダルファンデーションモデルへのスケーリングの4つの課題について、最近の170の研究(2018-2026)と12の基礎研究をレビューする。 アプリケーションドメインを主要な分類軸として使うのではなく、医療、ロボティクス、レコメンデーションシステム、感情コンピューティング、無線通信を、これらの情報原則の実証的な検証として解釈する。 分類の他に、我々は既存のマルチモーダルパラダイムを1つの情報理論座標系(一般化多モーダル情報ラグランジアン)にまとめる。 さらに,新たなマルチモーダル基礎モデルがこれらの原則を大規模にインスタンス化し,高次元設定におけるスケーラブルな情報推定,情報理論的手法による評価の標準化,多モーダルPIDの組合せ複雑性,ポストホック情報分析から情報認識型マルチモーダル学習への移行など,オープンな課題を特定する方法について論じる。

関連論文リスト

• Multimodal Representation-disentangled Information Bottleneck for Multimodal Recommendation [36.338586087343806]
  我々はMRdIB(Multimodal Representation-disentangled Information Bottleneck)という新しいフレームワークを提案する。 具体的には,まず,入力表現を圧縮するためにマルチモーダル・インフォメーション・ボトルネックを用いる。 そして,レコメンデーションターゲットとの関係に基づいて,情報をユニークで冗長な,シナジスティックなコンポーネントに分解する。
  論文  参考訳（メタデータ） (2025-09-24T15:18:32Z)
• Multimodal Alignment and Fusion: A Survey [11.3029945633295]
  このサーベイは、機械学習分野におけるマルチモーダルアライメントと融合の進歩に関する包括的概要を提供する。 我々は、両構造の観点から、アライメントと融合の鍵となるアプローチを体系的に分類し、分析する。 この調査は、クロスモーダルなミスアライメント、計算ボトルネック、データ品質の問題、モダリティギャップといった重要な課題を強調します。
  論文  参考訳（メタデータ） (2024-11-26T02:10:27Z)
• Neuro-Inspired Information-Theoretic Hierarchical Perception for Multimodal Learning [16.8379583872582]
  我々は,情報ボトルネックの概念を利用する情報理論階層知覚(ITHP)モデルを開発した。 我々は、ITHPがマルチモーダル学習シナリオにおいて重要な情報を一貫して蒸留し、最先端のベンチマークより優れていることを示す。
  論文  参考訳（メタデータ） (2024-04-15T01:34:44Z)
• Quantifying & Modeling Multimodal Interactions: An Information Decomposition Framework [89.8609061423685]
  本稿では,入力モーダル性と出力タスクを関連付けた冗長性,特異性,シナジーの度合いを定量化する情報理論手法を提案する。 PID推定を検証するために、PIDが知られている合成データセットと大規模マルチモーダルベンチマークの両方で広範な実験を行う。 本研究では,(1)マルチモーダルデータセット内の相互作用の定量化,(2)マルチモーダルモデルで捉えた相互作用の定量化,(3)モデル選択の原理的アプローチ,(4)実世界のケーススタディの3つにその有用性を示す。
  論文  参考訳（メタデータ） (2023-02-23T18:59:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。