論文の概要: InfoDPCCA: Information-Theoretic Dynamic Probabilistic Canonical Correlation Analysis
- arxiv url: http://arxiv.org/abs/2506.08884v1
- Date: Tue, 10 Jun 2025 15:13:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-11 15:11:42.664482
- Title: InfoDPCCA: Information-Theoretic Dynamic Probabilistic Canonical Correlation Analysis
- Title(参考訳): InfoDPCCA:情報理論動的確率的正準相関解析
- Authors: Shiqin Tang, Shujian Yu,
- Abstract要約: InfoDPCCAは、2つの相互依存的な観測シーケンスをモデル化するフレームワークである。
本稿では,情報理論表現学習と生成モデルとのギャップを埋める2段階の学習手法を提案する。
表現学習のツールとしてInfoDPCCAが優れていることを示す。
- 参考スコア(独自算出の注目度): 20.656410520966986
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Extracting meaningful latent representations from high-dimensional sequential data is a crucial challenge in machine learning, with applications spanning natural science and engineering. We introduce InfoDPCCA, a dynamic probabilistic Canonical Correlation Analysis (CCA) framework designed to model two interdependent sequences of observations. InfoDPCCA leverages a novel information-theoretic objective to extract a shared latent representation that captures the mutual structure between the data streams and balances representation compression and predictive sufficiency while also learning separate latent components that encode information specific to each sequence. Unlike prior dynamic CCA models, such as DPCCA, our approach explicitly enforces the shared latent space to encode only the mutual information between the sequences, improving interpretability and robustness. We further introduce a two-step training scheme to bridge the gap between information-theoretic representation learning and generative modeling, along with a residual connection mechanism to enhance training stability. Through experiments on synthetic and medical fMRI data, we demonstrate that InfoDPCCA excels as a tool for representation learning. Code of InfoDPCCA is available at https://github.com/marcusstang/InfoDPCCA.
- Abstract(参考訳): 高次元シーケンシャルデータから有意義な潜在表現を抽出することは、機械学習において重要な課題であり、自然科学と工学にまたがる応用である。
本稿では,動的確率論的正準相関解析(CCA)フレームワークであるInfoDPCCAを紹介する。
InfoDPCCAは、新しい情報理論の目的を利用して、データストリーム間の相互構造をキャプチャし、表現圧縮と予測充足のバランスをとる共有潜時表現を抽出し、また、各シーケンスに固有の情報をエンコードする独立した潜時成分を学習する。
DPCCAのような従来の動的CCAモデルとは異なり、我々の手法は共有潜在空間を明示的に強制し、シーケンス間の相互情報のみを符号化し、解釈可能性と堅牢性を向上させる。
さらに,情報理論表現学習と生成モデリングのギャップを埋める2段階の学習手法と,学習安定性を高めるための残差接続機構を導入する。
合成および医用fMRIデータの実験を通じて,InfoDPCCAが表現学習のツールとして優れていることを示す。
InfoDPCCAのコードはhttps://github.com/marcusstang/InfoDPCCAで公開されている。
関連論文リスト
- Deep Dynamic Probabilistic Canonical Correlation Analysis [16.82419839795058]
Deep Dynamic Probabilistic Canonical correlation Analysis (D2PCCA)は、ディープラーニングと確率的モデリングを統合し、非線形力学系を解析するモデルである。
正準相関解析(CCA)の確率的拡張に基づいて、D2PCCAは非線形潜在力学をキャプチャする。
D2PCCAは自然に複数の観測変数に拡張され、シーケンシャルデータセットに関する事前知識を符号化するための汎用ツールとなる。
論文 参考訳(メタデータ) (2025-02-07T18:37:57Z) - Images in Discrete Choice Modeling: Addressing Data Isomorphism in
Multi-Modality Inputs [77.54052164713394]
本稿では,離散選択モデリング(DCM)と機械学習の交わりについて考察する。
本稿では,DCMフレームワーク内の従来の表型入力と同型情報を共有する高次元画像データの埋め込み結果について検討する。
論文 参考訳(メタデータ) (2023-12-22T14:33:54Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - Compressed Predictive Information Coding [6.220929746808418]
我々は,動的データから有用な表現を抽出する新しい情報理論フレームワーク,Compressed Predictive Information Coding (CPIC) を開発した。
我々はCPIC損失の変動境界を導出し、最大予測可能な情報を取得するために潜時空間を誘導する。
我々はCPICが低信号対雑音比で雑音力学系の潜時空間を復元できることを実証した。
論文 参考訳(メタデータ) (2022-03-03T22:47:58Z) - Multi-modality fusion using canonical correlation analysis methods:
Application in breast cancer survival prediction from histology and genomics [16.537929113715432]
2つのモードの融合にカノニカル相関解析(CCA)とCCAのペナル化変種を用いて検討した。
モデルパラメータが既知の場合,両モードを併用した後進平均推定器は,潜時変動予測における単一モード後進推定器の任意の線形混合よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-11-27T21:18:01Z) - Deep sr-DDL: Deep Structurally Regularized Dynamic Dictionary Learning to Integrate Multimodal and Dynamic Functional Connectomics data for Multidimensional Clinical Characterizations [5.200461964737113]
静止機能MRI(r-fMRI)接続と拡散テンソルイメージング(DTI)トラクトグラフィーから補完情報を共同でモデル化する新しい統合フレームワークを提案する。
本フレームワークは,コネクトロミクスデータの生成モデルと,行動スコアを予測するディープネットワークを結合する。
我々のハイブリッドモデルは、臨床結果予測における最先端のアプローチよりも優れており、脳組織の解釈可能なマルチモーダルニューラルシグネチャを学習する。
論文 参考訳(メタデータ) (2020-08-27T23:43:56Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳(メタデータ) (2020-06-22T08:35:58Z) - Modeling Shared Responses in Neuroimaging Studies through MultiView ICA [94.31804763196116]
被験者の大規模なコホートを含むグループ研究は、脳機能組織に関する一般的な結論を引き出す上で重要である。
グループ研究のための新しい多視点独立成分分析モデルを提案し、各被験者のデータを共有独立音源と雑音の線形結合としてモデル化する。
まず、fMRIデータを用いて、被験者間の共通音源の同定における感度の向上を示す。
論文 参考訳(メタデータ) (2020-06-11T17:29:53Z) - Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。
従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。
本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文 参考訳(メタデータ) (2020-04-07T04:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。