論文の概要: Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2401.03350v1
• Date: Sun, 7 Jan 2024 00:58:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-09 19:13:03.185636
• Title: Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks
• Title（参考訳）: グラフニューラルネットワークにおける認識不確かさの高精度かつスケーラブルな推定
• Authors: Puja Trivedi, Mark Heimann, Rushil Anirudh, Danai Koutra, Jayaraman J. Thiagarajan
• Abstract要約: 固有GNNの不確実性推定を改善するための新しいトレーニングフレームワークを提案する。 我々のフレームワークは、新しいグラフアンカー戦略を通じて、データをグラフデータに中心付けるという原則に適応する。 本研究は,GNNの不確実性推定に関する知見を提供し,信頼度推定におけるG-$Delta$UQの有用性を実証する。
• 参考スコア（独自算出の注目度）: 40.95782849532316
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While graph neural networks (GNNs) are widely used for node and graph representation learning tasks, the reliability of GNN uncertainty estimates under distribution shifts remains relatively under-explored. Indeed, while post-hoc calibration strategies can be used to improve in-distribution calibration, they need not also improve calibration under distribution shift. However, techniques which produce GNNs with better intrinsic uncertainty estimates are particularly valuable, as they can always be combined with post-hoc strategies later. Therefore, in this work, we propose G-$\Delta$UQ, a novel training framework designed to improve intrinsic GNN uncertainty estimates. Our framework adapts the principle of stochastic data centering to graph data through novel graph anchoring strategies, and is able to support partially stochastic GNNs. While, the prevalent wisdom is that fully stochastic networks are necessary to obtain reliable estimates, we find that the functional diversity induced by our anchoring strategies when sampling hypotheses renders this unnecessary and allows us to support G-$\Delta$UQ on pretrained models. Indeed, through extensive evaluation under covariate, concept and graph size shifts, we show that G-$\Delta$UQ leads to better calibrated GNNs for node and graph classification. Further, it also improves performance on the uncertainty-based tasks of out-of-distribution detection and generalization gap estimation. Overall, our work provides insights into uncertainty estimation for GNNs, and demonstrates the utility of G-$\Delta$UQ in obtaining reliable estimates.
• Abstract（参考訳）: グラフニューラルネットワーク(gnns)はノードおよびグラフ表現学習タスクに広く使用されているが,分布シフト下でのgnn不確実性推定の信頼性は比較的未検討のままである。 実際、ポストホックキャリブレーション戦略は、分配内キャリブレーションを改善するために使用できるが、分配シフト時にキャリブレーションも改善する必要はない。 しかしながら、本質的な不確実性推定が優れているGNNを生成する技術は特に有用であり、後からポストホック戦略と組み合わせることができる。 そこで本研究では,本質的gnn不確実性推定を改善するための新しいトレーニングフレームワークであるg-$\delta$uqを提案する。 本フレームワークは,グラフアンカー戦略によるグラフデータ中心の確率的データに適応し,部分的に確率的GNNをサポートすることができる。 十分に確率的なネットワークが信頼できる推定値を得るために必要とされているが、仮説をサンプリングする際、アンカーリング戦略によって引き起こされる機能的多様性は、これを不要にし、事前訓練されたモデル上でG-$\Delta$UQをサポートすることができる。 実際、共変量、概念、グラフサイズシフトの下での広範な評価により、G-$\Delta$UQがノードとグラフの分類においてより良い校正GNNをもたらすことを示す。 さらに、分布外検出および一般化ギャップ推定の不確実性に基づくタスクの性能も向上する。 全体として、我々の研究はGNNの不確実性推定に関する洞察を提供し、信頼性のある推定値を得る上でのG-$\Delta$UQの有用性を実証する。

関連論文リスト

• Positional Encoder Graph Quantile Neural Networks for Geographic Data [4.277516034244117]
  我々は,PE-GNN,Quantile Neural Networks,および再校正技術を完全非パラメトリックフレームワークに統合する新しい手法である,位置グラフ量子ニューラルネットワーク(PE-GQNN)を紹介する。 ベンチマークデータセットの実験では、PE-GQNNは予測精度と不確実性の定量化の両方で既存の最先端手法を著しく上回っている。
  論文  参考訳（メタデータ） (2024-09-27T16:02:12Z)
• Conditional Shift-Robust Conformal Prediction for Graph Neural Network [0.0]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データの結果を予測する強力なツールとして登場した。 有効性にもかかわらず、GNNは堅牢な不確実性推定を提供する能力に制限がある。 本稿では,GNNに対する条件シフトロバスト(CondSR)の共形予測を提案する。
  論文  参考訳（メタデータ） (2024-05-20T11:47:31Z)
• Online GNN Evaluation Under Test-time Graph Distribution Shifts [92.4376834462224]
  オンラインGNN評価という新たな研究課題は、よく訓練されたGNNが現実世界の未ラベルグラフに一般化する能力について、貴重な洞察を提供することを目的としている。 我々は、よく訓練されたGNNモデルのテスト時間一般化誤差を推定するために、LeBeDと呼ばれる効果的な学習行動不一致スコアを開発する。
  論文  参考訳（メタデータ） (2024-03-15T01:28:08Z)
• Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
  グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。 しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。 本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
  論文  参考訳（メタデータ） (2024-03-11T21:54:52Z)
• GNNEvaluator: Evaluating GNN Performance On Unseen Graphs Without Labels [81.93520935479984]
  本稿では,ラベル付きおよび観測されたグラフに基づいて学習した特定のGNNモデルの性能を評価することを目的とした,新しい問題であるGNNモデル評価について検討する。 本稿では,(1) DiscGraph セット構築と(2) GNNEvaluator トレーニングと推論を含む2段階の GNN モデル評価フレームワークを提案する。 DiscGraphセットからの効果的なトレーニング監督の下で、GNNEvaluatorは、評価対象であるGNNモデルのノード分類精度を正確に推定することを学ぶ。
  論文  参考訳（メタデータ） (2023-10-23T05:51:59Z)
• Accurate and Scalable Estimation of Epistemic Uncertainty for Graph Neural Networks [40.95782849532316]
  信頼性インジケータ(CI)は、分散シフト下でグラフニューラルネットワーク(GNN)の安全なデプロイには不可欠である。 表現率やモデルサイズの増加がCIパフォーマンスの向上につながるとは限らないことを示す。 我々は最近提案されたフレームワークを拡張する新しい単一モデルUQ手法であるG-$UQを提案する。 全体として、我々の研究は、新しいフレキシブルなGNN UQメソッドを導入するだけでなく、安全クリティカルなタスクに関するGNN CIに関する新たな洞察も提供する。
  論文  参考訳（メタデータ） (2023-09-20T00:35:27Z)
• A Biased Graph Neural Network Sampler with Near-Optimal Regret [57.70126763759996]
  グラフニューラルネットワーク(GNN)は、グラフおよびリレーショナルデータにディープネットワークアーキテクチャを適用する手段として登場した。 本論文では,既存の作業に基づいて,GNN近傍サンプリングをマルチアームバンディット問題として扱う。 そこで本研究では,分散を低減し,不安定かつ非限定的な支払いを回避すべく設計されたバイアスをある程度導入した報酬関数を提案する。
  論文  参考訳（メタデータ） (2021-03-01T15:55:58Z)
• Bayesian Graph Neural Networks with Adaptive Connection Sampling [62.51689735630133]
  グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。 提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
  論文  参考訳（メタデータ） (2020-06-07T07:06:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。