論文の概要: Energy-based Epistemic Uncertainty for Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2406.04043v1
- Date: Thu, 6 Jun 2024 13:13:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-07 14:49:58.885127
- Title: Energy-based Epistemic Uncertainty for Graph Neural Networks
- Title(参考訳): グラフニューラルネットワークにおけるエネルギーベースエピステマティック不確かさ
- Authors: Dominik Fuchsgruber, Tom Wollschläger, Stephan Günnemann,
- Abstract要約: 高品質な不確実性推定を提供するエネルギーベースモデル(EBM)を提案する。
我々は、エネルギー関数を正則化することにより、データ空間の可積分密度を確実に誘導する。
我々のフレームワークは、様々な分散シフトに敏感な事前学習GNNに適用可能な、シンプルで効果的なポストホック手法である。
- 参考スコア(独自算出の注目度): 47.52218144839666
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In domains with interdependent data, such as graphs, quantifying the epistemic uncertainty of a Graph Neural Network (GNN) is challenging as uncertainty can arise at different structural scales. Existing techniques neglect this issue or only distinguish between structure-aware and structure-agnostic uncertainty without combining them into a single measure. We propose GEBM, an energy-based model (EBM) that provides high-quality uncertainty estimates by aggregating energy at different structural levels that naturally arise from graph diffusion. In contrast to logit-based EBMs, we provably induce an integrable density in the data space by regularizing the energy function. We introduce an evidential interpretation of our EBM that significantly improves the predictive robustness of the GNN. Our framework is a simple and effective post hoc method applicable to any pre-trained GNN that is sensitive to various distribution shifts. It consistently achieves the best separation of in-distribution and out-of-distribution data on 6 out of 7 anomaly types while having the best average rank over shifts on \emph{all} datasets.
- Abstract(参考訳): グラフのような相互依存データを持つ領域では、グラフニューラルネットワーク(GNN)の疫学的不確かさを定量化することは困難である。
既存の手法はこの問題を無視するか、あるいは1つの尺度に組み合わせることなく構造認識と構造認識の不確かさを区別するのみである。
我々は,グラフ拡散から自然に生じる異なる構造レベルでエネルギーを集約することにより,高品質な不確実性推定を提供するエネルギーベースモデル(EBM)であるGEBMを提案する。
ロジットベースのEMMとは対照的に、エネルギー関数を正則化することにより、データ空間の可積分密度を確実に誘導する。
我々は,GNNの予測ロバスト性を大幅に向上させるEMMの明確な解釈を導入する。
我々のフレームワークは、様々な分散シフトに敏感な事前学習GNNに適用可能な、シンプルで効果的なポストホック手法である。
7つの異常なタイプのうち6つについて、分布内と分布外データの最良の分離を一貫して達成すると同時に、 \emph{all}データセット上のシフトよりも平均的なランクが最良である。
関連論文リスト
- xAI-Drop: Don't Use What You Cannot Explain [23.33477769275026]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習するための主要なパラダイムとして登場した。
GNNは過密化、一般化の欠如、解釈可能性の低下といった課題に直面している。
我々は、雑音の多いネットワーク要素をピンポイントする説明可能性を活用する新しいトポロジカルレベル降下正規化器であるxAI-Dropを紹介する。
論文 参考訳(メタデータ) (2024-07-29T14:53:45Z) - IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs [10.087216264788097]
ノードレベルの環境識別と外挿技術に基づくグラフのOOD一般化手法であるIENEを提案する。
モデルが2つの粒度から不変性を同時に抽出する能力を強化し、一般化が向上する。
論文 参考訳(メタデータ) (2024-06-02T14:43:56Z) - Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳(メタデータ) (2024-02-18T07:49:22Z) - Alleviating Structural Distribution Shift in Graph Anomaly Detection [70.1022676681496]
グラフ異常検出(GAD)は二項分類の問題である。
ガロン神経ネットワーク(GNN)は、同胞性隣人からの正常の分類に有用である。
ヘテロ親水性隣人の影響を緩和し、不変にするための枠組みを提案する。
論文 参考訳(メタデータ) (2024-01-25T13:07:34Z) - MixupExplainer: Generalizing Explanations for Graph Neural Networks with
Data Augmentation [6.307753856507624]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習する能力によって、注目を集めている。
GNN予測を理解するために、ポストホックなインスタンスレベルの説明法が提案されている。
我々は,既存手法における分布シフト問題の存在に光を当て,説明の質に影響を及ぼす。
論文 参考訳(メタデータ) (2023-07-15T15:46:38Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Handling Distribution Shifts on Graphs: An Invariance Perspective [78.31180235269035]
我々は、グラフ上のOOD問題を定式化し、新しい不変学習手法である探索・拡張リスク最小化(EERM)を開発する。
EERMは、複数の仮想環境からのリスクの分散を最大化するために、敵対的に訓練された複数のコンテキストエクスプローラーを利用する。
理論的に有効なOOD解の保証を示すことによって,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2022-02-05T02:31:01Z) - Generalizing Graph Neural Networks on Out-Of-Distribution Graphs [51.33152272781324]
トレーニンググラフとテストグラフの分散シフトを考慮せずにグラフニューラルネットワーク(GNN)を提案する。
このような環境では、GNNは、たとえ素早い相関であるとしても、予測のためのトレーニングセットに存在する微妙な統計的相関を利用する傾向がある。
本稿では,スプリアス相関の影響を排除するため,StableGNNと呼ばれる一般的な因果表現フレームワークを提案する。
論文 参考訳(メタデータ) (2021-11-20T18:57:18Z) - Physics-Informed Graph Learning for Robust Fault Location in
Distribution Systems [2.984934409689467]
分散エネルギー資源の急速な成長は電力グリッドの不安定性を増大させる可能性がある。
有望な戦略の1つは、検出と位置によって異常事象(例えば障害)に効率的に応答するために電力網にデータを使用することである。
本稿では,2段階の物理インフォームドグラフ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2021-07-05T21:18:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。