論文の概要: Comment on "A Note on Over-Smoothing for Graph Neural Networks"
- arxiv url: http://arxiv.org/abs/2509.04178v1
- Date: Thu, 04 Sep 2025 12:53:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-05 20:21:10.162617
- Title: Comment on "A Note on Over-Smoothing for Graph Neural Networks"
- Title(参考訳): グラフニューラルネットワークの超平滑化に関するノート」へのコメント
- Authors: Razi Hasson, Reuven Guetta,
- Abstract要約: 軽度スペクトル条件下では、ディリクレエネルギーは深さとともに指数関数的に減少し、スペクトルフィルタにさらに拡張し、Leaky-ReLUの場合の短い証明を与える。
エッジの削除と重量増幅の実験は、ディリクレのエネルギーが増加するときに現れ、過剰なスムーシングを緩和する実践的な方法を示唆している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We comment on Cai and Wang (2020, arXiv:2006.13318), who analyze over-smoothing in GNNs via Dirichlet energy. We show that under mild spectral conditions (including with Leaky-ReLU), the Dirichlet energy of node embeddings decreases exponentially with depth; we further extend the result to spectral polynomial filters and provide a short proof for the Leaky-ReLU case. Experiments on edge deletion and weight amplification illustrate when Dirichlet energy increases, hinting at practical ways to relieve over-smoothing.
- Abstract(参考訳): We comment on Cai and Wang (2020, arXiv:2006.13318) who analyze over-smoothing in GNNs via Dirichlet energy。
軽度スペクトル条件(Leaky-ReLUを含む)では、ノード埋め込みのディリクレエネルギーは指数関数的に深さとともに減少し、さらにスペクトル多項式フィルタに拡張し、Leaky-ReLUの場合の短い証明を与える。
エッジの削除と重量増幅の実験は、ディリクレのエネルギーが増加するときに現れ、過剰なスムーシングを緩和する実践的な方法を示唆している。
関連論文リスト
- A Spectral Interpretation of Redundancy in a Graph Reservoir [51.40366905583043]
この研究はMRGNN(Multi resolution Reservoir Graph Neural Network)における貯留層の定義を再考する。
コンピュータグラフィックスにおける表面設計の分野で最初に導入されたフェアリングアルゴリズムに基づく変種を提案する。
この論文の中核的な貢献は、ランダムウォークの観点からのアルゴリズムの理論解析にある。
論文 参考訳(メタデータ) (2025-07-17T10:02:57Z) - Taming Gradient Oversmoothing and Expansion in Graph Neural Networks [3.0764244780817283]
オーバースムーシングはグラフニューラルネットワーク(GNN)の主要なボトルネックとして主張されている。
トレーニング中に最適化を防ぐための$textitgradient oversmoothingの存在を示します。
勾配拡大を防止するため, 単純かつ効果的な正規化法を提案する。
論文 参考訳(メタデータ) (2024-10-07T08:22:20Z) - A Theoretical Formulation of Many-body Message Passing Neural Networks [0.0]
我々は高次ノード相互作用をモデル化する多体メッセージパッシングニューラルネットワーク(MPNN)フレームワークを提案する。
グローバルエッジリッチ曲率で重み付けしたモチーフラプラシアンに局所化スペクトルフィルタを適用した。
我々は、我々の定式化が隣接ノード置換に不変であることを証明し、その感度境界を導出し、学習されたグラフポテンシャルの範囲を束縛する。
論文 参考訳(メタデータ) (2024-07-16T14:18:48Z) - Hamiltonian Mechanics of Feature Learning: Bottleneck Structure in Leaky ResNets [58.460298576330835]
ResNets と Fully-Connected Nets を相互接続する Leaky ResNets について「有効深度」に依存して検討する。
この直感を利用して、以前の研究で見られるように、ボトルネック構造の出現を説明する。
論文 参考訳(メタデータ) (2024-05-27T18:15:05Z) - On the group-theoretical approach to energy quantization of a perturbed vortex ring: spectrum calculating in the pipe-type domain [0.0]
細長い管内を移動する量子渦ループのエネルギースペクトルの問題を示す。
我々は,この力学系を新しい手法で定量化し,非自明な循環結果をもたらす。
我々は、量子乱流を記述するために得られた結果を適用することができるモデルを改善する方法について論じる。
論文 参考訳(メタデータ) (2024-03-11T05:20:59Z) - Dirichlet Energy Enhancement of Graph Neural Networks by Framelet
Augmentation [19.56268823452656]
我々は、ディリクレエネルギーの分析にフレームレットシステムを導入し、ディリクレエネルギーを活用するためにマルチスケールの視点を採る。
そこで我々は,エネルギ・エンハンスメント・コンボリューション(EEConv)を設計する。
実験により、EEConvを用いたディープGNNは、さまざまなノード分類データセットに対して最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2023-11-09T22:22:18Z) - Spectral Feature Augmentation for Graph Contrastive Learning and Beyond [64.78221638149276]
グラフ(および画像)におけるコントラスト学習のための新しいスペクトル特徴論法を提案する。
各データビューに対して,特徴写像毎の低ランク近似を推定し,その近似を地図から抽出して補数を求める。
これは、2つの価値ある副産物(単に1つまたは2つのイテレーション)を楽しむ非標準パワーレジームである、ここで提案された不完全パワーイテレーションによって達成される。
グラフ/画像データセットの実験では、スペクトルフィーチャの増大がベースラインを上回ります。
論文 参考訳(メタデータ) (2022-12-02T08:48:11Z) - SkipNode: On Alleviating Performance Degradation for Deep Graph
Convolutional Networks [84.30721808557871]
我々は,深いGCNにおける性能劣化の根本的な原因を探るため,理論的および実験的解析を行う。
我々は,深いGCNの性能劣化を克服するために,シンプルで効果的なプラグイン・アンド・プレイモジュールであるSkipnodeを提案する。
論文 参考訳(メタデータ) (2021-12-22T02:18:31Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - A Note on Over-Smoothing for Graph Neural Networks [13.008323851750442]
我々は、一般的なグラフニューラルネットワークアーキテクチャにおけるオーバースムーシング効果を分析するために、以前の結果であるciteoono 2019graphに基づいて構築する。
重み行列が拡張正規化ラプラシアンのスペクトルによって決定される条件を満たすとき、埋め込みのディリクレエネルギーは 0 に収束し、判別力を失う。
論文 参考訳(メタデータ) (2020-06-23T20:36:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。