論文の概要: Beyond the Laplacian: Doubly Stochastic Matrices for Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2604.15069v1
- Date: Thu, 16 Apr 2026 14:33:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:31.947511
- Title: Beyond the Laplacian: Doubly Stochastic Matrices for Graph Neural Networks
- Title(参考訳): ラプラシア語を超えて:グラフニューラルネットワークのための2つの確率行列
- Authors: Zhaobo Hu, Vincent Gauthier, Mehdi Naima,
- Abstract要約: グラフニューラルネットワーク(GNN)は従来、構造的メッセージパッシングのために標準的なラプラシア行列や隣接行列に依存していた。
本研究では、従来のラプラシアンを、修正ラプラシアンの逆数から派生した二重グラフ行列 (DSM) で置き換え、連続マルチホップ近接と厳密な局所集中性を自然に符号化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) conventionally rely on standard Laplacian or adjacency matrices for structural message passing. In this work, we substitute the traditional Laplacian with a Doubly Stochastic graph Matrix (DSM), derived from the inverse of the modified Laplacian, to naturally encode continuous multi-hop proximity and strict local centrality. To overcome the intractable $O(n^3)$ complexity of exact matrix inversion, we first utilize a truncated Neumann series to scalably approximate the DSM, which serves as the foundation for our proposed DsmNet. Furthermore, because algebraic truncation inherently causes probability mass leakage, we introduce DsmNet-compensate. This variant features a mathematically rigorous Residual Mass Compensation mechanism that analytically re-injects the truncated tail mass into self-loops, strictly restoring row-stochasticity and structural dominance. Extensive theoretical and empirical analyses demonstrate that our decoupled architectures operate efficiently in $O(K|E|)$ time and effectively mitigate over-smoothing by bounding Dirichlet energy decay, providing robust empirical validation on homophilic benchmarks. Finally, we establish the theoretical boundaries of the DSM on heterophilic topologies and demonstrate its versatility as a continuous structural encoding for Graph Transformers.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は従来、構造的メッセージパッシングのために標準的なラプラシア行列や隣接行列に依存していた。
本研究では、従来のラプラシアンを、修正ラプラシアンの逆数から派生した二重確率グラフ行列 (DSM) で置き換え、連続マルチホップ近接と厳密な局所集中性を自然に符号化する。
精度の高い行列逆転の難解な$O(n^3)$複雑性を克服するために、我々はまず、提案した DsmNet の基礎となる DSM を辛抱強く近似するために、トランケートされたノイマン級数を利用する。
さらに、代数的トランケーションは本質的に確率質量リークを引き起こすため、DsmNet-compensateを導入する。
この変種は数学的に厳密な残留質量補償機構を特徴とし、切り裂かれた尾の質量を自己ループに分析的に再注入し、行確率と構造支配を厳密に回復する。
大規模な理論的および経験的分析により、我々の疎結合なアーキテクチャは、$O(K|E|)$時間で効率的に動作し、ディリクレエネルギー崩壊を束縛することで効率よく過度な平滑化を緩和し、ホモフィル性ベンチマークに対する堅牢な実証的検証を提供することを示した。
最後に、不均一なトポロジ上のDSMの理論的境界を確立し、グラフ変換器の連続的構造符号化としてその汎用性を実証する。
関連論文リスト
- Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Majorization-Minimization Networks for Inverse Problems: An Application to EEG Imaging [4.063392865490957]
逆問題はしばしば誤りを犯し、強い安定性と収束を保証する最適化スキームを必要とする。
本稿では,二段階最適化設定における逆問題に対する学習されたMajorization-Minimization(MM)フレームワークを提案する。
我々は,古典的MM降下保証を保ちながら,各MMステップを管理する構造化曲率行列を学習する。
論文 参考訳(メタデータ) (2026-01-23T10:33:45Z) - Latent Object Permanence: Topological Phase Transitions, Free-Energy Principles, and Renormalization Group Flows in Deep Transformer Manifolds [0.5729426778193398]
幾何学的および統計的物理レンズを用いた深部変圧器言語モデルにおける多段階推論の出現について検討する。
我々は、フォワードパスを離散粗粒度写像として形式化し、安定な「概念盆地」の出現と、この再正規化のような力学の固定点を関連付ける。
結果として生じる低エントロピー状態は、スペクトルテール崩壊と、表現空間における過渡的で再利用可能なオブジェクトのような構造の形成によって特徴づけられる。
論文 参考訳(メタデータ) (2026-01-16T23:11:02Z) - SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。
行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。
我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
論文 参考訳(メタデータ) (2026-01-06T19:47:11Z) - Deep Delta Learning [91.75868893250662]
本稿では,標準残差接続を一般化した新しいアーキテクチャであるDeep Delta Learning(DDL)を紹介する。
我々はこの演算子のスペクトル解析を行い、ゲート$(mathbfX)$がアイデンティティマッピング、投影、幾何反射のダイナミックな相互作用を可能にすることを示した。
この統合により、ネットワークは階層的な遷移作用素のスペクトルを明示的に制御することができ、複雑な非単調力学のモデリングを可能にする。
論文 参考訳(メタデータ) (2026-01-01T18:11:38Z) - Intrinsic-Metric Physics-Informed Neural Networks (IM-PINN) for Reaction-Diffusion Dynamics on Complex Riemannian Manifolds [0.0]
本研究は,本質的物理インフォームドニューラルネットワーク(IM-PINN)を紹介する。
メッシュのない幾何学的深層学習フレームワークであり、連続パラメトリック領域において偏微分方程式を直接解く。
このフレームワークは、進化する表面上の生物学的パターンの形成をシミュレートするための、メモリ効率が高く、解像度に依存しないパラダイムを提供する。
論文 参考訳(メタデータ) (2025-12-26T12:41:05Z) - Efficient Approximation of Volterra Series for High-Dimensional Systems [0.0]
入力空間の小さな部分集合で訓練された局所化MVMALSモデルを構築することにより,複雑性を著しく低減するヘッド平均化(THA)アルゴリズムを導入する。
THAは、拡張性があり理論的に基礎付けられたアプローチを提供し、以前は難解な高次元システムを特定する。
論文 参考訳(メタデータ) (2025-11-09T20:31:39Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。