論文の概要: Diagnosing GNN Failure Modes with Layer-Wise Probe Entropy

• arxiv url: http://arxiv.org/abs/2610.22595v1
• Date: Thu, 15 Oct 2026 19:45:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.644137
• Title: Diagnosing GNN Failure Modes with Layer-Wise Probe Entropy
• Title（参考訳）: 層幅プローブエントロピーを用いたGNN故障モードの診断
• Abstract要約: グラフニューラルネットワーク(GNN)は最終層でのみ評価され、メッセージパッシング中にタスク関連情報がどのように進化するかが分かる。 トレーニングされたGNNを凍結し、各層に独立した線形プローブを適合させ、予測エントロピーとともにプローブの精度を追跡するポストホック診断を導入する。 エントロピー劣化の開始は, 構造ミスマッチのヘテロフィリエによる構造ミスマッチと, 過度な深さの過度なオーバースムーシングの2つの主要なGNN障害モードを分離することを示す。
• 参考スコア（独自算出の注目度）: 11.337632710839166
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph neural networks (GNNs) are typically evaluated only at their final layer, obscuring how task-relevant information evolves during message passing. We introduce a post-hoc diagnostic that freezes a trained GNN, fits an independent linear probe to each layer, and tracks probe accuracy alongside normalized predictive entropy. Across real and synthetic graph settings, layer-wise probe entropy distinguishes beneficial, neutral, and harmful smoothing, a capability not demonstrated by existing geometric measures. Moreover, by comparing shallow and deep models, we show that the onset of entropy degradation separates the two main GNN failure modes: structural mismatch under heterophily, which appears from the earliest layers even in shallow models, and excessive-depth oversmoothing, which emerges only as propagation depth increases. These results establish probe-entropy trajectories as a tool for analyzing information flow in GNNs and motivate future work on adaptive depth selection and early-exit mechanisms.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は通常、最終層でのみ評価される。 トレーニングされたGNNを凍結し、各層に独立した線形プローブを適合させ、正規化された予測エントロピーとともにプローブの精度を追跡するポストホック診断を導入する。 実グラフや合成グラフの設定全体において、層回りのプローブエントロピーは有益で中立的で有害な平滑化を区別するが、これは既存の幾何学的測度では示されていない。 さらに, 浅層モデルと深層モデルを比較し, エントロピー劣化の開始は, ヘテロフィリー下の構造ミスマッチと, 伝播深度が増加するにつれてのみ発生する過度な過度な過密化という2つの主要なGNN故障モードを分離することを示した。 これらの結果は、GNNにおける情報の流れを解析するためのツールとしてプローブエントロピー軌道を確立し、適応的な深度選択と早期退避機構に関する今後の研究を動機付けている。

関連論文リスト

• On Vanishing Gradients, Over-Smoothing, and Over-Squashing in GNNs: Bridging Recurrent and Graph Learning [20.302595624436183]
  グラフニューラルネットワーク(GNN)は、グラフ構造を利用してノード間で情報を伝達するモデルである。 GNNの単純な状態空間の定式化は、余分な訓練可能なパラメータコストを伴わずに、過度な平滑化と過度なスキャッシングを効果的に軽減できることを示す。
  論文  参考訳（メタデータ） (2025-02-15T14:43:41Z)
• ProPINN: Demystifying Propagation Failures in Physics-Informed Neural Networks [71.02216400133858]
  物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法において高い期待を得た 以前の研究では、PINNの伝播不良現象が観察された。 本稿では,伝播不良とその根本原因に関する公式かつ詳細な研究について述べる。
  論文  参考訳（メタデータ） (2025-02-02T13:56:38Z)
• Generalization of Graph Neural Networks is Robust to Model Mismatch [84.01980526069075]
  グラフニューラルネットワーク(GNN)は、その一般化能力によってサポートされている様々なタスクにおいて、その効果を実証している。 本稿では,多様体モデルから生成される幾何グラフで動作するGNNについて検討する。 本稿では,そのようなモデルミスマッチの存在下でのGNN一般化の堅牢性を明らかにする。
  論文  参考訳（メタデータ） (2024-08-25T16:00:44Z)
• Graph Neural Networks Do Not Always Oversmooth [46.57665708260211]
  グラフ畳み込みネットワーク (GCN) における過剰スムーシングを, 無限に多くの隠れた特徴の極限におけるガウス過程 (GP) の等価性を用いて検討する。 ネットワークの初期重みが十分に大きな場合、GCNは過度に過度に変化せず、ノード特徴は大きな深さでも情報的のままである。
  論文  参考訳（メタデータ） (2024-06-04T12:47:13Z)
• Accelerating Scalable Graph Neural Network Inference with Node-Adaptive Propagation [80.227864832092]
  グラフニューラルネットワーク(GNN)は、様々なアプリケーションで例外的な効果を発揮している。 大規模グラフの重大化は,GNNによるリアルタイム推論において重要な課題となる。 本稿では,オンライン伝搬フレームワークと2つの新しいノード適応伝搬手法を提案する。
  論文  参考訳（メタデータ） (2023-10-17T05:03:00Z)
• Non-Gradient Manifold Neural Network [79.44066256794187]
  ディープニューラルネットワーク(DNN)は通常、勾配降下による最適化に数千のイテレーションを要します。 非次最適化に基づく新しい多様体ニューラルネットワークを提案する。
  論文  参考訳（メタデータ） (2021-06-15T06:39:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。