論文の概要: FiGuRO: Intrinsic Dimension Estimation for Multi-Modal Data
- arxiv url: http://arxiv.org/abs/2608.10857v1
- Date: Tue, 11 Aug 2026 12:30:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:46.039204
- Title: FiGuRO: Intrinsic Dimension Estimation for Multi-Modal Data
- Title（参考訳）: FiGuRO:マルチモーダルデータの固有次元推定
- Abstract要約: FiGuROは、ユニモーダルデータとマルチモーダルデータのIDを近似するフレームワークである。
この最適化の創発的な性質として、共有情報とプライベート情報の切り離しが生じる。
本稿では,FiGuROが一様事前学習モデルに適用可能であることを示す。
- 参考スコア（独自算出の注目度）: 13.327494159383356
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Determining the complexity, or Intrinsic Dimension (ID), of data is fundamental to efficient and interpretable representation learning. This is particularly challenging in multi-modal settings when trying to learn disentangled representations for shared and private information. Existing techniques leave a critical gap: they are often static, uni-modal, or in the case of contrastive methods, adapt only to the shared ID implicitly. We introduce Fidelity-Guided Rank Optimization (FiGuRO), a framework for approximating the ID of uni- and multi-modal data under constraints of model capacity and hyperparameters. FiGuRO learns the dimensions of low-rank projections using truncated singular value decomposition and an algorithm that determines when to reduce or increase dimension and in which latent space. Disentanglement of shared and private information arises as an emergent property of this optimization, eliminating the need for complex auxiliary loss functions. We demonstrate that FiGuRO outperforms existing ID estimation techniques and is more robust to hyperparameter changes. Across simulations and real-world data, FiGuRO captures distinct ID scales and varying subspace ratios, and decomposes shared and private information successfully. Furthermore, we show that FiGuRO can be applied to modern uni-modal pretrained models, enabling efficient, post-hoc disentanglement of multi-modal representations.
- Abstract（参考訳）: データの複雑さ、すなわち内在次元(ID)を決定することは、効率的かつ解釈可能な表現学習に不可欠である。
これは、共有情報とプライベート情報の非絡み合い表現を学習しようとする場合、特にマルチモーダルな設定では困難である。
既存のテクニックは、しばしば静的、ユニモーダル、あるいは対照的なメソッドの場合、共有IDのみに暗黙的に適応する。
モデルキャパシティとハイパーパラメータの制約の下でユニモーダルデータのIDを近似するフレームワークであるFidelity-Guided Rank Optimization (FiGuRO)を紹介する。
FiGuROは、切り刻まれた特異値分解と、いつ次元を減らしたり増すかを決定するアルゴリズムを用いて、低ランク射影の次元を学習する。
この最適化の創発的な性質として、共有情報とプライベート情報の切り離しが生まれ、複雑な補助損失関数が不要になる。
我々は、FiGuROが既存のID推定手法より優れており、ハイパーパラメーターの変化に対してより堅牢であることを示す。
シミュレーションと実世界のデータを通じて、FiGuROは異なるIDスケールと様々なサブスペース比をキャプチャし、共有情報とプライベート情報を分解する。
さらに、FiGuROは現代の一様事前学習モデルに適用でき、マルチモーダル表現の効率的かつポストホックなアンタングル化を可能にする。
関連論文リスト
- SMA: Submodular Modality Aligner For Data Efficient Multimodal Learning [3.9890357781493595]
本稿では,集合としてエンティティの複数の拡張と記述を扱うemphSubmodular Modality Aligner(SMA)を紹介し,よりリッチなクロスモーダル構造を捉えるために,データの複数の記述を活用する。
CLIPベンチマークから14のゼロショット分類および検索タスクについてSMAを評価し,低データ方式における一貫した利得を示す。
論文 参考訳（メタデータ） (2026-05-13T01:36:43Z) - AlignMamba-2: Enhancing Multimodal Fusion and Sentiment Analysis with Modality-Aware Mamba [56.52470564147458]
マルチモーダル融合と感情分析のための効率的かつ効率的なフレームワークである textbfAlignMamba-2 を提案する。
提案手法では, 最適輸送距離と最大平均離散度の両方を用いてモデルを正規化する2つのアライメント戦略を導入する。
さらに重要なことは、モダリティに特有かつモダリティに偏ったエキスパートによるMixture-of-Expertsアーキテクチャを採用したModality-Aware Mamba層を設計することです。
論文 参考訳（メタデータ） (2026-03-19T03:47:21Z) - FDRMFL:Multi-modal Federated Feature Extraction Model Based on Information Maximization and Contrastive Learning [4.453671369861554]
本研究では,マルチモーダルデータ回帰における特徴抽出問題に焦点をあてる。
実世界のシナリオでは、制限と非IIDデータ、マルチモーダル情報の効果的な抽出と融合、モデル学習における破滅的な忘れ込みへの感受性の3つの課題に対処する。
論文 参考訳（メタデータ） (2025-11-30T17:13:35Z) - FAIM: Frequency-Aware Interactive Mamba for Time Series Classification [87.84511960413715]
時系列分類(TSC)は、環境モニタリング、診断、姿勢認識など、多くの実世界の応用において重要である。
本稿では,周波数対応対話型マンバモデルであるFAIMを提案する。
FAIMは既存の最先端(SOTA)手法を一貫して上回り、精度と効率のトレードオフが優れていることを示す。
論文 参考訳（メタデータ） (2025-11-26T08:36:33Z) - Better Together: Leveraging Unpaired Multimodal Data for Stronger Unimodal Models [63.032359320629105]
In this present: Unpaired Multimodal, a modality-agnostic training paradigm, a single model then alternately processs from different modalities while sharing parameters across。
補助モダリティからの未ペアリングデータを使用することで、画像や音声などの様々な単一目標に対して、ダウンストリーム性能が一貫して向上することを示す。
論文 参考訳（メタデータ） (2025-10-09T17:32:23Z) - Disentanglement of Variations with Multimodal Generative Modeling [18.610989859219895]
マルチモーダルデータの堅牢な表現を学習する際の課題を解決するために,IDMVAE(Information-disentangled Multimodal VAE)を提案する。
既存のアプローチと比較すると、IDMVAEは共有情報とプライベート情報の明確な分離を示し、課題のあるデータセットに対して優れた生成品質とセマンティックコヒーレンスを示す。
論文 参考訳（メタデータ） (2025-09-28T00:54:39Z) - I$^3$-MRec: Invariant Learning with Information Bottleneck for Incomplete Modality Recommendation [56.55935146424585]
textbfIncomplete textbfModality textbfRecommendation の textbfInformation ボトルネック原理を用いて学習する textbfI$3$-MRec を紹介する。
それぞれのモダリティを異なる意味環境として扱うことで、I$3$-MRecは、優先指向の表現を学習するために不変リスク最小化(IRM)を採用する。
I$3$-MRecは、様々なモダリティ欠落シナリオにおいて、既存の最先端MSSメソッドを一貫して上回る
論文 参考訳（メタデータ） (2025-08-06T09:29:50Z) - ReID5o: Achieving Omni Multi-modal Person Re-identification in a Single Model [59.00754756072231]
Omni Multi-modal Person Re-identification (OM-ReID) と呼ばれる新しい課題について検討する。
ORBenchは、5つのモダリティにまたがる1,000のユニークなIDからなる最初の高品質なマルチモーダルデータセットである。
また,ReIDのための新しいマルチモーダル学習フレームワークであるReID5oを提案する。
論文 参考訳（メタデータ） (2025-06-11T04:26:13Z) - AMM-Diff: Adaptive Multi-Modality Diffusion Network for Missing Modality Imputation [2.8498944632323755]
臨床実践において、フルイメージングは必ずしも実現可能ではなく、多くの場合、複雑な取得プロトコル、厳格なプライバシ規則、特定の臨床ニーズのためである。
有望な解決策は、利用可能なものから欠落したモダリティが生成されるデータ計算の欠如である。
適応多モード拡散ネットワーク (AMM-Diff) を提案する。
論文 参考訳（メタデータ） (2025-01-22T12:29:33Z) - Learnable Sparse Customization in Heterogeneous Edge Computing [27.201987866208484]
異種フェデレート学習(FedLPS)のための学習可能なパーソナライズ・スパシフィケーションを提案する。
FedLPSは、局所データ表現におけるモデルユニットの重要性を学び、パーソナライズされたデータ特徴を正確に抽出するために、最小限の重要度に基づくスパースパターンを導出する。
実験により、FedLPSは精度とトレーニングコストにおいてステータスクオアプローチよりも優れていることが示された。
論文 参考訳（メタデータ） (2024-12-10T06:14:31Z) - Learning Multimodal Data Augmentation in Feature Space [65.54623807628536]
LeMDAは、機能空間におけるマルチモーダルデータを共同で拡張することを自動的に学習する、使い易い方法である。
我々はLeMDAがマルチモーダルディープラーニングアーキテクチャの性能を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2022-12-29T20:39:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。