Fugu-MT 論文翻訳(概要): Deep Neural Sheaf Diffusion

論文の概要: Deep Neural Sheaf Diffusion

arxiv url: http://arxiv.org/abs/2605.19021v2
Date: Fri, 22 May 2026 18:44:04 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-26 16:32:37.741352
Title: Deep Neural Sheaf Diffusion
Title（参考訳）: Deep Neural Sheaf Diffusion
Authors: Rémi Bourgerie, Šarūnas Girdzijauskas, Viktoria Fodor,
Abstract要約: 本稿では,層間情報伝達信号を維持するために,層間ラプラシアンを層間隣接演算子に置き換えるEmphDeep Neural Sheaf Diffusion (DNSD)を提案する。 DNSDはグラフタスクの深い集約を効果的に利用し、合成長範囲データセット上で最大30ppの精度でGNNおよびNSDベースラインを上回ります。
参考スコア（独自算出の注目度）: 3.402787708517185
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deep Graph Neural Networks (GNNs) are essential for capturing complex dependencies in graph-structured data. However, scaling GNNs to depth remains challenging, as stacking layers leads to representation collapse and diminishing sensitivity due to repeated aggregation. While Neural Sheaf Diffusion (NSD) provides strong theoretical guarantees against such collapse, these guarantees do not translate to practice: as depth increases, the disagreement signal of the sheaf Laplacian vanishes, limiting the contribution of deeper layers. We identify mechanisms that hinder NSD effectiveness at depth and propose \emph{Deep Neural Sheaf Diffusion} (DNSD), which replaces the sheaf Laplacian with a sheaf adjacency operator to maintain informative signals across layers. This is complemented by normalization, odd nonlinearities, and gating. To provide a principled explanation of the expected performance improvement, we contrast sheaf diffusion to graph attention mechanisms, highlighting that DNSD replaces scalar attention scores with matrix-valued edge functions and normalizes node representations rather than attention scores. We demonstrate empirically that DNSD effectively utilizes deep aggregation in graph tasks, outperforming GNN and NSD baselines with up to 30pp accuracy on synthetic long-range datasets, and consistently outperforming them on real-world benchmarks. These results position sheaf-based architectures as a promising building block for graph foundation models by supporting effective deep architectures.
Abstract（参考訳）: グラフ構造化データの複雑な依存関係をキャプチャするためには、ディープグラフニューラルネットワーク(GNN)が不可欠である。しかし、階層化によって表現が崩壊し、繰り返しアグリゲーションによって感度が低下するため、GNNを深さにスケーリングすることは依然として困難である。 NSD(Neural Sheaf Diffusion)は、このような崩壊に対する強力な理論的保証を提供するが、これらの保証は実践には変換されない。我々は,NSDの深度効果を阻害するメカニズムを同定し,層間情報伝達信号を維持するために,層間ラプラシアンを層間隣接演算子に置き換えた「emph{deep Neural Sheaf Diffusion} (DNSD)」を提案する。これは正規化、奇非線形性、ゲーティングによって補完される。期待される性能改善の原理的説明として,DNSDはスカラーアテンションスコアを行列値エッジ関数に置き換え,アテンションスコアよりもノード表現を正規化する。我々は、DNSDがグラフタスクの深い集約を効果的に利用し、GNNとNSDのベースラインを最大30ppの精度で上回り、現実世界のベンチマークで一貫して上回ります。これらの結果は、効果的な深層アーキテクチャをサポートすることにより、グラフ基盤モデルの有望な構築ブロックとして、層ベースのアーキテクチャを位置づける。

関連論文リスト

Compositional Sparsity as an Inductive Bias for Neural Architecture Design [35.06894725394093]
我々は、ディープニューラルネットワークが次元の呪いを克服できる構造的先行性を特定する。本稿では,階層的な構成によって抽象化が生じる解釈可能なパイプラインを提案する。現実世界のデータセットの幅広いスイートの中で、HNNは、はるかに少ないパラメータを使用しながら、常に密なベースラインにマッチまたは性能を向上する。
論文参考訳（メタデータ） (2026-05-14T12:26:50Z)
Layer Embedding Deep Fusion Graph Neural Network [25.30982656886312]
グラフニューラルネットワーク(GNN)は,グラフ構造化データからの学習表現において,優れた性能を示す。本稿では,Deep Fusion Graph Neural Network (LEDF-GNN) と呼ばれる新しいフレームワークを提案する。
論文参考訳（メタデータ） (2026-04-25T14:25:02Z)
ScaleGNN: Towards Scalable Graph Neural Networks via Adaptive High-order Neighboring Feature Fusion [73.85920403511706]
スケーラブルで効果的なグラフ学習のためのマルチホップノード機能を適応的に融合する新しいフレームワークであるScaleGNNを提案する。予測精度と計算効率の両面で,ScaleGNNは最先端のGNNよりも一貫して優れていることを示す。
論文参考訳（メタデータ） (2025-04-22T14:05:11Z)
Statistical physics analysis of graph neural networks: Approaching optimality in the contextual stochastic block model [0.0]
グラフニューラルネットワーク(GNN)は、グラフに関連するデータを処理するように設計されている。 GNNは、繰り返し集約ステップによって遠く離れたノードから情報を集めるのに苦労する可能性がある。我々は,GCNのアーキテクチャが過度なスムーシングを避けるために,深さとともにスケールしなければならないことを示す。
論文参考訳（メタデータ） (2025-03-03T09:55:10Z)
Deep Graph Neural Networks via Posteriori-Sampling-based Node-Adaptive Residual Module [65.81781176362848]
グラフニューラルネットワーク(GNN)は、近隣情報収集を通じてグラフ構造化データから学習することができる。レイヤーの数が増えるにつれて、ノード表現は区別不能になり、オーバー・スムーシング(over-smoothing)と呼ばれる。我々は,textbfPosterior-Sampling-based, Node-distinguish Residual Module (PSNR)を提案する。
論文参考訳（メタデータ） (2023-05-09T12:03:42Z)
Kernel function impact on convolutional neural networks [10.98068123467568]
畳み込みニューラルネットワークの異なる層におけるカーネル関数の利用について検討する。より歪みに敏感なプール層を導入することで、カーネル関数を効果的に活用する方法を示す。完全接続層を置き換えるKDL(Kernelized Dense Layers)を提案する。
論文参考訳（メタデータ） (2023-02-20T19:57:01Z)
Deep Architecture Connectivity Matters for Its Convergence: A Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文参考訳（メタデータ） (2022-05-11T17:43:54Z)
EIGNN: Efficient Infinite-Depth Graph Neural Networks [51.97361378423152]
グラフニューラルネットワーク(GNN)は多くのアプリケーションでグラフ構造化データのモデリングに広く利用されている。この制限により、無限深度GNNモデルを提案し、これをEIGNN(Efficient Infinite-Depth Graph Neural Networks)と呼ぶ。 EIGNNは、最近のベースラインよりも長距離依存関係をキャプチャする能力が優れており、常に最先端のパフォーマンスを実現していることを示す。
論文参考訳（メタデータ） (2022-02-22T08:16:58Z)
Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。