論文の概要: Sheaf Neural Networks on SPD Manifolds: Second-Order Geometric Representation Learning
- arxiv url: http://arxiv.org/abs/2604.20308v1
- Date: Wed, 22 Apr 2026 08:09:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:11.032604
- Title: Sheaf Neural Networks on SPD Manifolds: Second-Order Geometric Representation Learning
- Title(参考訳): SPD多様体上のせん断ニューラルネットワーク:2次幾何表現学習
- Authors: Yuhan Peng, Junwen Dong, Yuzhi Zeng, Hao Li, Ce Ju, Huitao Feng, Diaaeldin Taha, Anna Wienhard, Kelin Xia,
- Abstract要約: 我々はSPD多様体上で動作する最初のせん断ニューラルネットワークを開発した。
以上の結果から,SPD値のシーブはユークリッドシーブよりも厳密に表現力が高いことが明らかとなった。
当社のデュアルストリームアーキテクチャは6/7 MoleculeNetベンチマーク上でSOTAを実現しています。
- 参考スコア(独自算出の注目度): 9.973930984631547
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks face two fundamental challenges rooted in the linear structure of Euclidean vector spaces: (1) Current architectures represent geometry through vectors (directions, gradients), yet many tasks require matrix-valued representations that capture relationships between directions-such as how atomic orientations covary in a molecule. These second-order representations are naturally captured by points on the symmetric positive definite matrices (SPD) manifold; (2) Standard message passing applies shared transformations across edges. Sheaf neural networks address this via edge-specific transformations, but existing formulations remain confined to vector spaces and therefore cannot propagate matrix-valued features. We address both challenges by developing the first sheaf neural network operates natively on the SPD manifold. Our key insight is that the SPD manifold admits a Lie group structure, enabling well-posed analogs of sheaf operators without projecting to Euclidean space. Theoretically, we prove that SPD-valued sheaves are strictly more expressive than Euclidean sheaves: they admit consistent configurations (global sections) that vector-valued sheaves cannot represent, directly translating to richer learned representations. Empirically, our sheaf convolution transforms effectively rank-1 directional inputs into full-rank matrices encoding local geometric structure. Our dual-stream architecture achieves SOTA on 6/7 MoleculeNet benchmarks, with the sheaf framework providing consistent depth robustness.
- Abstract(参考訳): グラフニューラルネットワークは、ユークリッドベクトル空間の線型構造に根ざした2つの基本的な課題に直面している: (1) 現在のアーキテクチャはベクトル(方向、勾配)を通して幾何学を表現するが、多くのタスクは、分子内の原子配向がどのように共変であるかのような方向の関係を捉える行列値の表現を必要とする。
これらの二階表現は、対称正定値行列(SPD)多様体上の点によって自然に捕捉される; (2) 標準メッセージパッシングは、エッジ間の共有変換を適用する。
せん断ニューラルネットワークは、エッジ固有の変換を通じてこの問題に対処するが、既存の定式化はベクトル空間に限られており、したがって行列値の特徴を伝播することはできない。
我々はSPD多様体上でネイティブに動作する最初のせん断ニューラルネットワークを開発することにより、両方の課題に対処する。
我々の重要な洞察は、SPD多様体はリー群構造を許容し、ユークリッド空間に射影せずにシェフ作用素の十分な類似を可能にすることである。
理論的には、SPD値のシーブはユークリッドのシーブよりも厳密に表現され、ベクトル値のシーブは表現できない一貫した構成(グローバルセクション)を認め、より豊かな学習表現に直接翻訳する。
経験的, せん断畳み込みは, 局所幾何学構造を符号化したフルランク行列に, 効果的にランク1方向入力を変換する。
当社のデュアルストリームアーキテクチャは6/7 MoleculeNetベンチマーク上でSOTAを実現しています。
関連論文リスト
- Geometry-Aware Deep Congruence Networks for Manifold Learning in Cross-Subject Motor Imagery [0.0]
脳波ベースの脳-コンピュータインタフェースでは、クロスオブジェクト・モーター・イメージ・デコーディングが依然として大きな課題である。
本稿では,新しいジオメトリ対応プリプロセッシングモジュールとディープコングルーエンスネットワークを紹介する。
我々のフレームワークは、最強の古典的ベースラインに対して、クロスオブジェクトの精度を3~4%向上させる。
論文 参考訳(メタデータ) (2025-11-24T09:46:55Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳(メタデータ) (2025-06-28T01:46:36Z) - On the Stability of Expressive Positional Encodings for Graphs [46.967035678550594]
ラプラシア固有ベクトルを位置符号化として使用することは、2つの根本的な課題に直面している。
SPE(Stable and Expressive Positional Generalizations)を紹介する。
SPEは(1)確率的に安定であり、(2)基底不変関数に対して普遍的に表現できる最初のアーキテクチャである。
論文 参考訳(メタデータ) (2023-10-04T04:48:55Z) - Householder Projector for Unsupervised Latent Semantics Discovery [58.92485745195358]
Householder Projectorは、画像の忠実さを犠牲にすることなく、StyleGANがより複雑で正確なセマンティック属性を見つけるのに役立つ。
プロジェクタを事前訓練したStyleGAN2/StyleGAN3に統合し、複数のベンチマークでモデルを評価する。
論文 参考訳(メタデータ) (2023-07-16T11:43:04Z) - Collaborative Representation for SPD Matrices with Application to
Image-Set Classification [12.447073442122468]
協調表現に基づく分類(CRC)はここ数年で顕著な進歩を遂げている。
既存のCRC法では非線形変動情報を直接処理することができない。
最近の進歩は、これらの非線形変動情報を効果的にモデル化し、不変表現を学習する方法がオープンな課題であることを示している。
論文 参考訳(メタデータ) (2022-01-22T04:56:53Z) - Implicit Bias of Linear Equivariant Networks [2.580765958706854]
群同変畳み込みニューラルネットワーク(G-CNN)は畳み込みニューラルネットワーク(CNN)の一般化である
低ランクフーリエ行列係数の解に勾配勾配勾配を学習した$L$層全幅線形G-CNNが収束することを示す。
論文 参考訳(メタデータ) (2021-10-12T15:34:25Z) - SLGCN: Structure Learning Graph Convolutional Networks for Graphs under
Heterophily [5.619890178124606]
本稿では2つの側面から問題を緩和する構造学習グラフ畳み込みネットワーク(SLGCN)を提案する。
具体的には、全ての類似ノードから特徴表現を効率的に集約するために、アンカーを用いた効率的なスペクトルクラスタリング(ESC-ANCH)を設計する。
幅広いベンチマークデータセットの実験結果は、提案されたSLGCNが、最先端のGNNよりも優れていることを示している。
論文 参考訳(メタデータ) (2021-05-28T13:00:38Z) - Dual-constrained Deep Semi-Supervised Coupled Factorization Network with
Enriched Prior [80.5637175255349]
本稿では、DS2CF-Netと呼ばれる、拡張された事前制約付きDual-Constrained Deep Semi-Supervised Coupled Factorization Networkを提案する。
隠れた深い特徴を抽出するために、DS2CF-Netは、深い構造と幾何学的な構造に制約のあるニューラルネットワークとしてモデル化される。
我々のネットワークは、表現学習とクラスタリングのための最先端の性能を得ることができる。
論文 参考訳(メタデータ) (2020-09-08T13:10:21Z) - Building powerful and equivariant graph neural networks with structural
message-passing [74.93169425144755]
本稿では,2つのアイデアに基づいた,強力かつ同変なメッセージパッシングフレームワークを提案する。
まず、各ノードの周囲の局所的コンテキスト行列を学習するために、特徴に加えてノードの1ホット符号化を伝搬する。
次に,メッセージのパラメトリゼーション手法を提案する。
論文 参考訳(メタデータ) (2020-06-26T17:15:16Z) - Gauge Equivariant Mesh CNNs: Anisotropic convolutions on geometric
graphs [81.12344211998635]
メッシュ上の畳み込みを定義する一般的なアプローチは、それらをグラフとして解釈し、グラフ畳み込みネットワーク(GCN)を適用することである。
本稿では、GCNを一般化して異方性ゲージ同変カーネルを適用するGauge Equivariant Mesh CNNを提案する。
本実験は,従来のGCNおよび他の手法と比較して,提案手法の表現性を大幅に向上することを示した。
論文 参考訳(メタデータ) (2020-03-11T17:21:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。