論文の概要: Canonical Correlation Neural Networks
- arxiv url: http://arxiv.org/abs/2611.07212v1
- Date: Wed, 04 Nov 2026 23:02:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.464759
- Title: Canonical Correlation Neural Networks
- Title(参考訳): 正準相関ニューラルネットワーク
- Abstract要約: 下流タスクを解決するために,CANE(CAnonical correlation NEural Network)を導入する。
CANEは2ビューを相関部分空間に投影する古典的な手法であるCanonical correlation Analysis (CCA)を描いている。
CANEはシングルビュー,ツービュー,CAAベースのベースラインに適合し,パラメータが少ない場合が多い。
- 参考スコア(独自算出の注目度): 36.03842300750476
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Relational inductive biases such as grids or graphs allow neural networks with fewer trainable parameters and improved generalization, but require a known structure beforehand. When no structure is available, the covariance matrix provides a principled substitute, and coVariance Neural Networks (VNNs) have shown that using it yields models that are theoretically grounded in Principal Component Analysis, stable to finite-sample estimation errors and parameter-efficient. This framework, however, is limited to single-view data, whereas many applications observe the same phenomenon through multiple views, each with its own in-view covariance and a cross-view covariance linking them. To incorporate these matrices as inductive biases in a principled way, we introduce CAnonical correlation NEural networks (CANEs), architectures that use in-view and cross-view covariances as distinct relational biases to solve downstream tasks. Via spectral analysis, CANEs draw analogies with Canonical Correlation Analysis (CCA), a classical technique to project two-view data onto a correlated subspace. However, while CCA's objective is to compute shared view representations, CANEs are trained to solve a downstream task directly. We bound their output error under finite-sample covariance perturbations and show that it depends on controllable Lipschitz constants of the learned filters in place of the singular-value gap that governs the stability of CCA, thus guaranteeing better robustness. Experiments on seven datasets from brain imaging and motion sensing show that CANEs match or outperform single-view, two-view and CCA-based baselines, often with fewer parameters, and retain their performance when covariances are re-estimated from fewer samples.
- Abstract(参考訳): グリッドやグラフのような関係帰納バイアスは、トレーニング可能なパラメータを少なくし、一般化を改善したニューラルネットワークを可能にするが、事前に既知の構造を必要とする。
構造が存在しない場合、共分散行列は原理化された代用となり、コバリアンスニューラルネットワーク(英語版)(VNN)は、理論上は主成分分析に基礎を置いているモデルを生成し、有限サンプル推定誤差とパラメータ効率を安定させることを示した。
しかし、このフレームワークはシングルビューのデータに限られているが、多くのアプリケーションは複数のビューを通して同じ現象を観測し、それぞれが独自のインビュー共分散とそれらをリンクするクロスビュー共分散を持つ。
これらの行列を帰納的バイアスとして原則的に組み込むために、下流タスクを解決するために、インビューとクロスビューの共分散を用いるアーキテクチャであるCANE(CAnonical correlation NEural Network)を導入する。
スペクトル解析により、CANEは2ビューデータを相関部分空間に投影する古典的な手法であるCanonical correlation Analysis (CCA)と類似している。
しかし、CAAの目的は共有ビュー表現を計算することであるが、CANEは下流のタスクを直接解決するように訓練されている。
有限サンプル共分散摂動の下で出力誤差を束縛し、CCAの安定性を支配する特異値ギャップの代わりに学習フィルタの制御可能なリプシッツ定数に依存することを示す。
脳画像とモーションセンシングから得られた7つのデータセットの実験によると、CANEは単一ビュー、2ビュー、CAAベースのベースラインにマッチし、しばしばパラメータが少なく、より少ないサンプルから共分散が再見積された場合のパフォーマンスを維持する。
関連論文リスト
- Beyond Independence: Learning Correlated Views for Variational Incomplete Multi-View Clustering [15.204251218204542]
不完全なマルチビュークラスタリング(IMVC)は、部分的に観察されたビューを持つデータから共有クラスタ構造を明らかにすることを目的としている。
本稿では、学習可能なクロスビュー相関構造を導入することにより、この仮定を明示的に超越した変分フレームワークを提案する。
提案手法は多種多様なビュー設定における最先端のアプローチを一貫して上回る。
論文 参考訳(メタデータ) (2026-08-16T14:16:24Z) - Learning Identifiable Structures Helps Avoid Bias in DNN-based Supervised Causal Learning [56.22841701016295]
Supervised Causal Learning (SCL)はこの分野で新興パラダイムである。
既存のディープニューラルネットワーク(DNN)ベースの手法では、"Node-Edgeアプローチ"が一般的である。
論文 参考訳(メタデータ) (2025-02-15T19:10:35Z) - Canonical Correlation Guided Deep Neural Network [14.188285111418516]
深層ニューラルネットワーク(CCDNN)により実現可能な標準相関学習フレームワークを提案する。
提案手法では、最適化の定式化は相関を最大化するために制限されず、代わりに正規相関を制約として行う。
相関による冗長性を低減するために、冗長性フィルタを設計する。
論文 参考訳(メタデータ) (2024-09-28T16:08:44Z) - Learning Partial Correlation based Deep Visual Representation for Image
Classification [61.0532370259644]
CNNの新たな構造層としてスパース逆共分散推定(SICE)を定式化する。
本研究は,部分的相関に基づく深部視覚表現を求め,小さなサンプル問題を緩和する。
実験により,本モデルの有効性と優れた分類性能が示された。
論文 参考訳(メタデータ) (2023-04-23T10:09:01Z) - coVariance Neural Networks [119.45320143101381]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ内の相互関係を利用して学習する効果的なフレームワークである。
我々は、サンプル共分散行列をグラフとして扱う、共分散ニューラルネットワーク(VNN)と呼ばれるGNNアーキテクチャを提案する。
VNN の性能は PCA ベースの統計手法よりも安定していることを示す。
論文 参考訳(メタデータ) (2022-05-31T15:04:43Z) - Prequential MDL for Causal Structure Learning with Neural Networks [9.669269791955012]
ベイジアンネットワークの実用的スコアリング関数を導出するために,事前最小記述長の原理が利用できることを示す。
我々は、調整しなければならない事前やその他の正規化子を誘導するスパーシリティに頼ることなく、可塑性および擬似グラフ構造を得る。
本研究は, 適応速度から因果構造を推定する最近の研究と, 分布変化の源泉から観測結果が得られた場合の因果構造との関係について考察する。
論文 参考訳(メタデータ) (2021-07-02T22:35:21Z) - CASTLE: Regularization via Auxiliary Causal Graph Discovery [89.74800176981842]
因果構造学習(CASTLE)の正規化を導入し,変数間の因果関係を共同学習することでニューラルネットワークの正規化を提案する。
CASTLEは因果的隣り合いを持つ因果的DAGの特徴のみを効率的に再構成する一方、再構成ベース正規化器は全ての入力特徴を過度に再構成する。
論文 参考訳(メタデータ) (2020-09-28T09:49:38Z) - ACDC: Weight Sharing in Atom-Coefficient Decomposed Convolution [57.635467829558664]
我々は,CNNにおいて,畳み込みカーネル間の構造正則化を導入する。
我々はCNNがパラメータや計算量を劇的に減らして性能を維持していることを示す。
論文 参考訳(メタデータ) (2020-09-04T20:41:47Z) - Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
論文 参考訳(メタデータ) (2020-07-30T05:48:48Z) - Sparse Generalized Canonical Correlation Analysis: Distributed
Alternating Iteration based Approach [18.93565942407577]
Sparse Canonical correlation analysis (CCA) はスパース構造を用いた潜伏情報検出に有用な統計ツールである。
本稿では,多視点データとスパース構造との潜在関係を検出可能な一般標準相関解析(GCCA)を提案する。
論文 参考訳(メタデータ) (2020-04-23T05:53:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。