論文の概要: Towards Precise Prediction Uncertainty in GNNs: Refining GNNs with Topology-grouping Strategy
- arxiv url: http://arxiv.org/abs/2412.14223v2
- Date: Sun, 23 Feb 2025 13:40:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-25 15:47:01.121028
- Title: Towards Precise Prediction Uncertainty in GNNs: Refining GNNs with Topology-grouping Strategy
- Title(参考訳): GNNの精度予測の不確実性に向けて: トポロジググルーピング戦略によるGNNの精錬
- Authors: Hyunjin Seo, Kyusung Seo, Joonhyung Park, Eunho Yang,
- Abstract要約: 我々は**Simi-Mailbox*を導入する。これは、ノードを近隣の類似性とそれ自身の信頼性の両方で分類する新しいアプローチである。
本手法は,非校正GNN予測と比較して最大13.79%の誤差削減を実現する。
- 参考スコア(独自算出の注目度): 32.31130345375303
- License:
- Abstract: Recent advancements in graph neural networks (GNNs) have highlighted the critical need of calibrating model predictions, with neighborhood prediction similarity recognized as a pivotal component. Existing studies suggest that nodes with analogous neighborhood prediction similarity often exhibit similar calibration characteristics. Building on this insight, recent approaches incorporate neighborhood similarity into node-wise temperature scaling techniques. However, our analysis reveals that this assumption does not hold universally. Calibration errors can differ significantly even among nodes with comparable neighborhood similarity, depending on their confidence levels. This necessitates a re-evaluation of existing GNN calibration methods, as a single, unified approach may lead to sub-optimal calibration. In response, we introduce **Simi-Mailbox**, a novel approach that categorizes nodes by both neighborhood similarity and their own confidence, irrespective of proximity or connectivity. Our method allows fine-grained calibration by employing *group-specific* temperature scaling, with each temperature tailored to address the specific miscalibration level of affiliated nodes, rather than adhering to a uniform trend based on neighborhood similarity. Extensive experiments demonstrate the effectiveness of our **Simi-Mailbox** across diverse datasets on different GNN architectures, achieving up to 13.79\% error reduction compared to uncalibrated GNN predictions.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)の最近の進歩は、モデル予測を校正する重要な必要性を強調しており、近傍予測の類似性は重要な要素として認識されている。
既存の研究では、類似の近傍予測類似性を持つノードは、しばしば同様のキャリブレーション特性を示すことが示唆されている。
この知見に基づいて、近年のアプローチでは、近傍の類似性をノード単位の温度スケーリング技術に取り入れている。
しかし,本解析により,この仮定は普遍的に成り立たないことが明らかとなった。
キャリブレーションエラーは、その信頼性レベルによって、同等の近傍類似性を持つノードの間でも大きく異なる可能性がある。
これにより、既存のGNNキャリブレーション手法の再評価が必要となり、単一の統一アプローチが最適以下のキャリブレーションにつながる可能性がある。
これに対し**Simi-Mailbox*は,近接性や接続性に関わらず,近傍の類似性とそれ自身の信頼度の両方でノードを分類する,新しいアプローチである。
本手法では,各温度が近傍の類似性に基づく一様傾向に固執するのではなく,関係ノードの特定の誤校正レベルに適合するように調整された,*グループ固有の*温度スケーリングを用いることで,粒度のキャリブレーションが可能となる。
大規模な実験では、さまざまなGNNアーキテクチャ上のさまざまなデータセット間で***Simi-Mailbox**の有効性を実証し、未校正GNN予測と比較して最大13.79\%のエラー削減を実現した。
関連論文リスト
- Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks [38.17680286557666]
固有GNNの不確実性推定を改善するための新しいトレーニングフレームワークを提案する。
我々のフレームワークは、新しいグラフアンカー戦略を通じて、データをグラフデータに中心付けるという原則に適応する。
本研究は,GNNの不確実性推定に関する知見を提供し,信頼度推定におけるG-$Delta$UQの有用性を実証する。
論文 参考訳(メタデータ) (2024-01-07T00:58:33Z) - SimCalib: Graph Neural Network Calibration based on Similarity between
Nodes [60.92081159963772]
グラフニューラルネットワーク(GNN)は、さまざまなアプリケーションで実証されたグラフデータのモデリングにおいて、優れたパフォーマンスを示している。
理論解析により,GNNキャリブレーションとノードワイド類似性の関係について考察した。
SimCalibと名付けられた新しい校正フレームワークは、グローバルレベルとローカルレベルにおけるノード間の類似性を検討するために提案されている。
論文 参考訳(メタデータ) (2023-12-19T04:58:37Z) - What Makes Graph Neural Networks Miscalibrated? [48.00374886504513]
グラフニューラルネットワーク(GNN)の校正特性に関する系統的研究を行う。
我々は,GNNのキャリブレーションに影響を与える5つの要因を同定する: 一般信頼度傾向, ノード単位の予測分布の多様性, 訓練ノード間距離, 相対信頼度, 近傍類似度。
我々は,グラフニューラルネットワークのキャリブレーションに適した新しいキャリブレーション手法であるグラフアテンション温度スケーリング(GATS)を設計する。
論文 参考訳(メタデータ) (2022-10-12T16:41:42Z) - On Calibration of Graph Neural Networks for Node Classification [29.738179864433445]
グラフニューラルネットワークは、ノード分類やリンク予測といったタスクのためのエンティティとエッジの埋め込みを学ぶ。
これらのモデルは精度で優れた性能を発揮するが、予測に付随する信頼性スコアは校正されないかもしれない。
本稿では,近隣ノードを考慮に入れたトポロジ対応キャリブレーション手法を提案する。
論文 参考訳(メタデータ) (2022-06-03T13:48:10Z) - Learning Graph Neural Networks for Multivariate Time Series Anomaly
Detection [8.688578727646409]
局所不確実性推定を用いたGLUE(Graph Deviation Network)を提案する。
GLUEは変数間の複雑な依存関係を学び、それを使って異常な振る舞いをよりよく識別する。
また、GLUEは、同様のセンサーをまとめる有意義なセンサー埋め込みを学習することを示す。
論文 参考訳(メタデータ) (2021-11-15T21:05:58Z) - A Biased Graph Neural Network Sampler with Near-Optimal Regret [57.70126763759996]
グラフニューラルネットワーク(GNN)は、グラフおよびリレーショナルデータにディープネットワークアーキテクチャを適用する手段として登場した。
本論文では,既存の作業に基づいて,GNN近傍サンプリングをマルチアームバンディット問題として扱う。
そこで本研究では,分散を低減し,不安定かつ非限定的な支払いを回避すべく設計されたバイアスをある程度導入した報酬関数を提案する。
論文 参考訳(メタデータ) (2021-03-01T15:55:58Z) - Should Graph Convolution Trust Neighbors? A Simple Causal Inference
Method [114.48708191371524]
グラフ畳み込みネットワーク(GCN)は情報検索(IR)アプリケーションのための新興技術である。
この研究は、ほとんど精査されていないテストノードの局所的な構造差に焦点を当てている。
本稿では,GCNの動作メカニズムを因果グラフを用いて解析し,ノードの局所構造による因果効果を推定する。
論文 参考訳(メタデータ) (2020-10-22T15:21:47Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
論文 参考訳(メタデータ) (2020-06-07T07:06:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。