論文の概要: Mitigating Over-squashing without Rewiring: A Sheaf Effective Resistance Perspective
- arxiv url: http://arxiv.org/abs/2610.04157v1
- Date: Sat, 03 Oct 2026 00:01:33 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-06 20:42:02.992639
- Title: Mitigating Over-squashing without Rewiring: A Sheaf Effective Resistance Perspective
- Title(参考訳): スイッチを使わずにオーバーカッシングを緩和する - せん断抵抗の観点から-
- Abstract要約: せん断有効抵抗は、グラフに付随するせん断に依存する有効抵抗の一般化である。
また,FlatNSDは全せん断有効抵抗を暗黙的に調整し,過度なスキャッシングを強調するために設計されたベンチマークで良好な性能を発揮することを示す。
- 参考スコア(独自算出の注目度): 14.07124129330773
- License:
- Abstract: Graph Neural Networks (GNNs) often struggle to capture long-range dependencies due to over-squashing -- a phenomenon in which the repeated compression of node embeddings into finite-size messages causes representations to collapse. Over-squashing is most often diagnosed as a property of the graph topology, with effective resistance serving as a principled measure of the bottleneck. We provide a complementary view on the matter: building on cellular sheaves, we introduce sheaf effective resistance, a generalization of effective resistance that depends on the sheaf attached to the graph, and we prove that for flat vector bundles, the over-squashing sensitivity in the Jacobian sense is upper bounded by a quantity related to the sheaf effective resistance between the nodes. The bottleneck thus need not lie in the graph itself: it can be relocated, and reduced, by adjusting the sheaf. We instantiate this idea in FlatNSD, a simple message-passing variant of Neural Sheaf Diffusion, and show that it implicitly learns to modulate total sheaf effective resistance, performing well on benchmarks designed to stress over-squashing without altering the original graph topology.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、オーバースカッシング(over-squashing)による長距離依存関係のキャプチャに苦労することが多い -- ノードの埋め込みを有限サイズのメッセージに繰り返し圧縮することで、表現が崩壊する現象だ。
オーバースカッシングは、しばしばグラフトポロジーの特性として認識され、効果的な抵抗はボトルネックの原理的な尺度として機能する。
本稿では, セルラー層上に構築し, せん断有効抵抗を導入し, グラフに付着するせん断に係わる有効抵抗を一般化し, 平面ベクトル束に対して, ジャコビアンセンスの過度な感度が, ノード間のせん断有効抵抗に関連する量によって上界であることが証明した。
したがって、ボトルネックはグラフ自体に横たわる必要はない。
このアイデアは、単純メッセージパス方式のNeural Sheaf DiffusionであるFlatNSDでインスタンス化され、グラフトポロジを変更せずにオーバーシャッシングに重点を置いたベンチマークにおいて、全せん断有効抵抗を暗黙的に変調できることが示される。
関連論文リスト
- Persistent Gaussian Perturbations Prevent Oversmoothing in Recurrent Graph Neural Networks [2.8427946758947304]
伝搬ステップ毎に独立なガウスノイズを注入するグラフニューラルネットワークについて検討する。
隠れ表現が幾何学的にエルゴード的なマルコフ連鎖を形成し、一意な不変確率測度を持つことを証明する。
以上の結果から,過密症と闘うメカニズムとして,持続的摂動が根本的に異なることが明らかとなった。
論文 参考訳(メタデータ) (2026-07-30T13:21:18Z) - Effective Resistance Rewiring: A Simple Topological Correction for Over-Squashing [0.03636228980200798]
本稿では,実効抵抗をグローバル信号として利用し,構造的ボトルネックを検出する単純なトポロジ補正手法であるEffective resistance Rewiring(ERR)を紹介する。
ERRは、最大の抵抗を持つノードペア間のエッジを反復的に追加し、最小抵抗のエッジを除去し、弱い通信経路を強化する。
層間におけるノード埋め込みのコサイン類似性を追跡することにより、初期ノード特徴と学習された表現の関係がメッセージパッシング中にどのように進化するかを検討する。
論文 参考訳(メタデータ) (2026-03-12T13:55:48Z) - Mitigating Over-Squashing in Graph Neural Networks by Spectrum-Preserving Sparsification [81.06278257153835]
本稿では,構造的ボトルネック低減とグラフ特性保存のバランスをとるグラフ再構成手法を提案する。
本手法は、疎性を維持しながら接続性を高めたグラフを生成し、元のグラフスペクトルを大半保存する。
論文 参考訳(メタデータ) (2025-06-19T08:01:00Z) - A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs [54.62268052283014]
署名されたグラフの枠組みに基づく統一的な理論的視点を示す。
既存の戦略の多くは、メッセージパッシングを変えて過度な操作に抵抗する負のエッジを暗黙的に導入している。
本稿では,ラベルや特徴の類似性に基づいて署名されたエッジを割り当てるプラグイン・アンド・プレイ方式であるStructure Balanced Propagation (SBP)を提案する。
論文 参考訳(メタデータ) (2025-02-17T03:25:36Z) - Latent Graph Inference with Limited Supervision [58.54674649232757]
潜在グラフ推論(LGI)は、データ特徴から基礎となるグラフ構造とノード表現を共同で学習することを目的としている。
既存のLGI手法は、意味的な監督なしに巨大なエッジウェイトが学習され、トレーニング損失に寄与しない、監督飢餓の問題に悩まされることが一般的である。
本稿では,この問題の原因はグラフスカラー化操作であり,重要なノードとラベル付きノード間の接続を著しく破壊する。
論文 参考訳(メタデータ) (2023-10-06T15:22:40Z) - Revisiting Robustness in Graph Machine Learning [1.5293427903448025]
グラフニューラルネットワーク(GNN)のノードレベルの予測は、小さく、しばしば逆数と呼ばれるグラフ構造の変更に対して損なわれないことが、多くの研究で示されている。
本稿では, 意味的内容の変化を意識した, 逆数グラフのより原理的な概念を導入する。
トレーニンググラフのラベル構造をGNNの推論プロセスに含めると、過酷さが著しく減少することがわかった。
論文 参考訳(メタデータ) (2023-05-01T14:39:55Z) - Understanding Oversquashing in GNNs through the Lens of Effective
Resistance [9.640594614636047]
本研究では,入力グラフに付加されるエッジを同定し,全体の有効抵抗を最小限に抑えるアルゴリズムを開発し,オーバーカッシングを緩和する。
我々は,GNNの性能向上のための総合的有効抵抗に基づくスイッチング戦略の有効性を示す実証的証拠を提供する。
論文 参考訳(メタデータ) (2023-02-14T05:16:12Z) - Resisting Graph Adversarial Attack via Cooperative Homophilous
Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。
本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。
本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文 参考訳(メタデータ) (2022-11-15T11:44:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。