論文の概要: LEED: Local Embedding Evolution Distance for over-smoothing estimation and virtual node selection in GNN
- arxiv url: http://arxiv.org/abs/2608.09596v1
- Date: Mon, 10 Aug 2026 13:30:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.290016
- Title: LEED: Local Embedding Evolution Distance for over-smoothing estimation and virtual node selection in GNN
- Title(参考訳): LEED: GNNにおけるオーバースムース推定と仮想ノード選択のためのローカル埋め込み進化距離
- Authors: Killian Cressant, Pedro B. Velloso,
- Abstract要約: グラフニューラルネットワーク(GNN)には,オーバースムーシングとオーバースキャッシングという,2つの基本的な制限がある。
オーバー・スムーシングを定量化する新しい局所的計量であるLEED(Local Embedding Evolution Distance)を提案する。
ノードレベルでの操作により、LEEDはトレーニング中の表現ダイナミクスのきめ細かい解析を可能にする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) suffer from two fundamental limitations: over-smoothing, where node representations become indistinguishable with depth, and over-squashing, where long-range information is compressed through limited message-passing channels. Existing metrics such as Dirichlet energy provide global characterizations of over-smoothing but lack the resolution to analyze node-level behavior and guide architectural improvements. In this paper, we propose LEED (Local Embedding Evolution Distance), a novel local metric that quantifies over-smoothing by tracking the evolution of individual node embeddings across layers. By operating at the node level, LEED enables fine-grained analysis of representation dynamics during training, revealing heterogeneous over-smoothing patterns that are invisible to global energy-based measures. This locality induces informative node importance scores, interpreted as embedding-driven centrality measures. We leverage LEED to design a more efficient strategy for virtual node selection. Unlike existing approaches that depend on multiple heuristic centrality measures, our method uses LEED as a unique criterion to guide the construction of Local Virtual Nodes to mitigate over-squashing. Experiments show that LEED provides more informative diagnostics than Dirichlet energy while preserving global evaluation, and enables more effective virtual node integration, improving GNN performance across datasets.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、ノード表現が深さと区別不能になるオーバースムーシング(over-smoothing)と、長距離情報が制限されたメッセージパスチャネルを通じて圧縮されるオーバースキャッシング(over-squashing)という、2つの基本的な制限を被っている。
ディリクレエネルギーのような既存のメトリクスは、オーバースムーシングのグローバルな特徴を提供するが、ノードレベルの振る舞いを分析し、アーキテクチャの改善を導くための解決方法がない。
本稿では,各ノードの層間埋め込みの進化を追跡することで,過平滑化を定量化する新しい局所的指標LEED(Local Embedding Evolution Distance)を提案する。
ノードレベルでの操作により、LEEDはトレーニング中の表現ダイナミクスのきめ細かい解析を可能にし、地球規模のエネルギーベースの測定では見えない異質な過平滑化パターンを明らかにする。
この局所性は情報的ノード重要度スコアを誘導し、埋め込み駆動の集中度尺度と解釈される。
我々はLEEDを利用して仮想ノード選択のためのより効率的な戦略を設計する。
複数のヒューリスティックな集中度尺度に依存する既存のアプローチとは異なり、我々の手法はLEEDをユニークな基準として使用し、局所仮想ノードの構築を誘導し過度な監視を緩和する。
実験によると、LEEDはグローバルな評価を維持しながらディリクレエネルギーよりも有益な診断を提供し、より効果的な仮想ノード統合を可能にし、データセット間でのGNNパフォーマンスを改善している。
関連論文リスト
- Beyond Fixed Depth: Adaptive Graph Neural Networks for Node Classification Under Varying Homophily [10.0426843232642]
本研究では,局所構造特性とラベル特性を情報伝達ダイナミクスに関連付ける理論的枠組みを開発する。
本稿では,ノード固有の集約深さを動的に選択する適応深度GNNアーキテクチャを提案する。
本手法は, 統一モデルにおけるホモ親和性パターンとヘテロ親和性パターンの両方にシームレスに適応する。
論文 参考訳(メタデータ) (2025-11-10T01:37:51Z) - Virtual Nodes Improve Long-term Traffic Prediction [9.125554921271338]
本研究では,仮想ノードを組み込んだ新しいフレームワークを紹介し,グラフに追加したノードを既存ノードに接続する。
提案モデルでは,セミアダプティブ・アジャシエイト行列を構築し,仮想ノードを組み込んだ。
実験により,仮想ノードの挿入は長期予測精度を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-01-17T09:09:01Z) - Diss-l-ECT: Dissecting Graph Data with Local Euler Characteristic Transforms [13.608942872770855]
グラフ表現学習における表現性と解釈性を高めるために,局所オイラー特性変換(ell$-ECT)を導入する。
本手法は,ノード分類タスクにおける標準グラフニューラルネットワーク(GNN)と比較して,優れた性能を示す。
論文 参考訳(メタデータ) (2024-10-03T16:02:02Z) - Spatiotemporal Graph Learning with Direct Volumetric Information Passing and Feature Enhancement [62.91536661584656]
本稿では,CeFeGNN(CeFeGNN)とCell-embeddedとFeature-enhanced Graph Neural Networkを学習用として提案する。
学習可能なセル属性を共通ノードエッジメッセージパッシングプロセスに埋め込むことで,地域特性の空間依存性をよりよく把握する。
各種PDEシステムと1つの実世界のデータセットを用いた実験により、CeFeGNNは他のベースラインと比較して優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2024-09-26T16:22:08Z) - GNUMAP: A Parameter-Free Approach to Unsupervised Dimensionality Reduction via Graph Neural Networks [0.8192907805418583]
我々はMAPが既存のGNN埋め込み手法を様々な文脈で一貫して上回ることを示す。
本稿では,従来の UMAP アプローチと GNN フレームワークの表現性を融合した,教師なしノード表現学習のための頑健かつパラメータフリーな手法を提案する。
論文 参考訳(メタデータ) (2024-07-30T22:58:23Z) - On Oversquashing in Graph Neural Networks Through the Lens of Dynamical Systems [28.351050664151536]
Message-Passing Neural Networksの一般的な問題はオーバーカッシング(oversquashing)である。
本稿では, 過疎化に対処する新たな視点を導入し, グローバルおよびローカルな非拡散性のシステム特性を活用する。
空間領域と重み領域の両方において反対称性を持つ一意にパラメータ化されたGNNモデルであるSWANを非拡散性を得る手段として提示する。
論文 参考訳(メタデータ) (2024-05-02T05:23:58Z) - Accelerating Scalable Graph Neural Network Inference with Node-Adaptive
Propagation [80.227864832092]
グラフニューラルネットワーク(GNN)は、様々なアプリケーションで例外的な効果を発揮している。
大規模グラフの重大化は,GNNによるリアルタイム推論において重要な課題となる。
本稿では,オンライン伝搬フレームワークと2つの新しいノード適応伝搬手法を提案する。
論文 参考訳(メタデータ) (2023-10-17T05:03:00Z) - A Topological Perspective on Demystifying GNN-Based Link Prediction
Performance [72.06314265776683]
トポロジカル濃度 (TC) は、各ノードの局所部分グラフと隣人の部分グラフの交点に基づいている。
また,TCLは,次数や部分グラフ密度などの他のノードレベルのトポロジ指標よりもLP性能と高い相関性を示した。
我々は, 近似トポロジカル濃度 (ATC) を提案し, 理論的・経験的にTC近似の有効性を正当化し, 複雑さを低減させる。
論文 参考訳(メタデータ) (2023-10-06T22:07:49Z) - DeHIN: A Decentralized Framework for Embedding Large-scale Heterogeneous
Information Networks [64.62314068155997]
本稿では,異種情報ネットワーク(DeHIN)のための分散埋め込みフレームワークについて述べる。
DeHINは、大きなHINをハイパーグラフとして革新的に定式化するコンテキスト保存分割機構を提供する。
当社のフレームワークでは,木のようなパイプラインを採用することで,効率よくHINを分割する分散戦略を採用しています。
論文 参考訳(メタデータ) (2022-01-08T04:08:36Z) - Local Augmentation for Graph Neural Networks [78.48812244668017]
本稿では,局所的な部分グラフ構造によりノード特性を向上する局所拡張を提案する。
局所的な拡張に基づいて、プラグイン・アンド・プレイ方式で任意のGNNモデルに適用可能な、LA-GNNという新しいフレームワークをさらに設計する。
論文 参考訳(メタデータ) (2021-09-08T18:10:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。