論文の概要: Learning with Covariance Matrices: Principal Component Analysis Meets Learning with Graphs
- arxiv url: http://arxiv.org/abs/2609.10490v2
- Date: Mon, 14 Sep 2026 17:56:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:04.848891
- Title: Learning with Covariance Matrices: Principal Component Analysis Meets Learning with Graphs
- Title(参考訳): 共分散行列による学習: グラフによる学習を主成分分析
- Abstract要約: 本稿では,共分散ニューラルネットワーク(VNN)の理論的基礎について概説する。
グラフニューラルネットワーク(GNN)に関する既存の理論的貢献は、抽象グラフ表現を考察する。
このチュートリアルは、幅広い信号処理に影響を及ぼすVNNの数学的解析を通じて、様々な新しい理論的な洞察に焦点をあてる。
- 参考スコア(独自算出の注目度): 94.85514873380572
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This feature article provides an overview of the theoretical foundations for coVariance neural networks (VNNs), i.e., graph neural networks (GNNs) operating on covariance matrices as graphs. Covariance matrices are ubiquitous across domains, and hence, the deployment of GNNs often leverages graphs of pairwise statistical dependencies. Existing theoretical contributions on GNNs consider abstract graph representations and cannot accommodate the data-driven nuances associated with covariance matrices. This tutorial brings into focus various novel theoretical insights via mathematical analyses of VNNs that have broad signal processing implications, including: (i) a conceptual equivalence between VNNs and principal component analysis (PCA)-based information processing; (ii) refined stability bounds on predictive outcomes in the presence of finite sample-induced covariance matrix perturbations; and (iii) refined characterization of transferability of VNNs across multiscale datasets. The theoretical insights discussed herein provide the underlying principles and justification towards adopting VNNs over workhorse PCA-based learning pipelines, in applications where covariance matrices are useful descriptors of data structure. We also convey how impact of these foundational advances permeates to \textit{principled} designs and applications of learning methods across broad domains where covariance matrices emerge. Notably, we elucidate the conceptual insights facilitated by VNNs to the specific task of characterizing brain age gap for neurodegenerative conditions using neuroimaging datasets, a timely problem in computational neuroscience. Broader impacts to other application domains are discussed as well.
- Abstract(参考訳): 本稿では、共分散行列をグラフとして操作するグラフニューラルネットワーク(GNN)という、共分散ニューラルネットワーク(VNN)の理論基盤について概説する。
共分散行列はドメインにまたがってユビキタスであるため、GNNの展開はペアの統計的依存関係のグラフを利用することが多い。
GNNにおける既存の理論的貢献は抽象グラフ表現を考慮に入れており、共分散行列に関連するデータ駆動ニュアンスに対応できない。
このチュートリアルは、以下を含む幅広い信号処理に影響を及ぼすVNNの数学的解析を通じて、様々な新しい理論的な洞察に焦点をあてる。
i) VNNと主成分分析(PCA)に基づく情報処理の概念的等価性
(II)有限サンプル誘起共分散行列摂動の存在下での予測結果の洗練された安定性境界、及び
(iii)マルチスケールデータセット間のVNNの転送性の評価を改良した。
ここで議論されている理論的洞察は、共分散行列がデータ構造の有用な記述子であるアプリケーションにおいて、ワークホースPCAベースの学習パイプラインよりもVNNを採用するための基礎原則と正当化を提供する。
また,これらの基礎的進歩が,共分散行列が出現する広い領域にまたがる学習手法の設計や応用にどのように影響するかを述べる。
特に,脳神経科学のタイムリーな問題であるニューロイメージングデータセットを用いて,神経変性状態の脳年齢差を特徴づける特定のタスクに対して,VNNが促進する概念的洞察を解明する。
他のアプリケーションドメインへの影響も広く議論されている。
関連論文リスト
- Sparse Covariance Neural Networks [24.009203223031676]
本稿では,サンプル共分散行列にスペーシフィケーション手法を適用し,後者をVNNアーキテクチャに組み込むフレームワークを提案する。
S-VNNは、名目VNNや類似のスパース主成分分析よりも有限サンプル共分散推定の方が安定であることを示す。
我々は、脳データから人間の行動認識まで、様々な応用シナリオに関する実験結果を用いて、理論的な結果をサポートし、タスク性能の向上、安定性の向上、代替よりも計算時間を短縮した。
論文 参考訳(メタデータ) (2024-10-02T15:37:12Z) - Canonical Correlation Guided Deep Neural Network [14.188285111418516]
深層ニューラルネットワーク(CCDNN)により実現可能な標準相関学習フレームワークを提案する。
提案手法では、最適化の定式化は相関を最大化するために制限されず、代わりに正規相関を制約として行う。
相関による冗長性を低減するために、冗長性フィルタを設計する。
論文 参考訳(メタデータ) (2024-09-28T16:08:44Z) - Neural Tangent Kernels Motivate Graph Neural Networks with
Cross-Covariance Graphs [94.44374472696272]
グラフニューラルネットワーク(GNN)の文脈におけるNTKとアライメントについて検討する。
その結果、2層GNNのアライメントの最適性に関する理論的保証が確立された。
これらの保証は、入力と出力データの相互共分散の関数であるグラフシフト演算子によって特徴づけられる。
論文 参考訳(メタデータ) (2023-10-16T19:54:21Z) - Quantifying the Optimization and Generalization Advantages of Graph Neural Networks Over Multilayer Perceptrons [50.33260238739837]
グラフネットワーク(GNN)は、グラフ構造化データから学習する際、顕著な能力を示した。
最適化と一般化の観点から、GNNと一般化を比較した分析の欠如がまだ残っている。
論文 参考訳(メタデータ) (2023-06-24T10:21:11Z) - Transferability of coVariance Neural Networks and Application to
Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。
我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。
VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
論文 参考訳(メタデータ) (2023-05-02T22:15:54Z) - SO(2) and O(2) Equivariance in Image Recognition with
Bessel-Convolutional Neural Networks [63.24965775030674]
この研究はベッセル畳み込みニューラルネットワーク(B-CNN)の開発を示す
B-CNNは、ベッセル関数に基づく特定の分解を利用して、画像とフィルタの間のキー操作を変更する。
他の手法と比較して,B-CNNの性能を評価するために検討を行った。
論文 参考訳(メタデータ) (2023-04-18T18:06:35Z) - coVariance Neural Networks [119.45320143101381]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ内の相互関係を利用して学習する効果的なフレームワークである。
我々は、サンプル共分散行列をグラフとして扱う、共分散ニューラルネットワーク(VNN)と呼ばれるGNNアーキテクチャを提案する。
VNN の性能は PCA ベースの統計手法よりも安定していることを示す。
論文 参考訳(メタデータ) (2022-05-31T15:04:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。