論文の概要: Uncertainty Propagation in Node Classification
- arxiv url: http://arxiv.org/abs/2304.00918v1
- Date: Mon, 3 Apr 2023 12:18:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-04 15:40:03.074541
- Title: Uncertainty Propagation in Node Classification
- Title（参考訳）: ノード分類における不確実性伝播
- Authors: Zhao Xu, Carolin Lawrence, Ammar Shaker, Raman Siarheyeu
- Abstract要約: 本稿では,ノード分類作業におけるグラフニューラルネットワーク(GNN)の不確実性の測定に焦点をあてる。
ベイジアンモデリングフレームワークにGNNを組み込んだベイジアン不確実性伝播(BUP)法を提案する。
本稿では,GNNが学習過程における予測的不確実性を明確に統合できるようにするノード分類における不確実性指向の損失について述べる。
- 参考スコア（独自算出の注目度）: 9.03984964980373
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quantifying predictive uncertainty of neural networks has recently attracted
increasing attention. In this work, we focus on measuring uncertainty of graph
neural networks (GNNs) for the task of node classification. Most existing GNNs
model message passing among nodes. The messages are often deterministic.
Questions naturally arise: Does there exist uncertainty in the messages? How
could we propagate such uncertainty over a graph together with messages? To
address these issues, we propose a Bayesian uncertainty propagation (BUP)
method, which embeds GNNs in a Bayesian modeling framework, and models
predictive uncertainty of node classification with Bayesian confidence of
predictive probability and uncertainty of messages. Our method proposes a novel
uncertainty propagation mechanism inspired by Gaussian models. Moreover, we
present an uncertainty oriented loss for node classification that allows the
GNNs to clearly integrate predictive uncertainty in learning procedure.
Consequently, the training examples with large predictive uncertainty will be
penalized. We demonstrate the BUP with respect to prediction reliability and
out-of-distribution (OOD) predictions. The learned uncertainty is also analyzed
in depth. The relations between uncertainty and graph topology, as well as
predictive uncertainty in the OOD cases are investigated with extensive
experiments. The empirical results with popular benchmark datasets demonstrate
the superior performance of the proposed method.
- Abstract（参考訳）: ニューラルネットワークの予測の不確かさの定量化が最近注目を集めている。
本研究では,ノード分類作業におけるグラフニューラルネットワーク(GNN)の不確実性の測定に焦点をあてる。
既存のGNNはノード間のメッセージパッシングをモデル化している。
メッセージはしばしば決定論的です。
メッセージに不確実性はあるか?
このような不確実性を、メッセージとともにグラフ上でどのように伝播させるのか?
これらの問題に対処するために,gnnをベイズモデリングフレームワークに組み込むベイズ不確実性伝播(bup)法を提案し,予測確率とメッセージの不確かさのベイズ信頼度を有するノード分類の予測不確実性をモデル化する。
本手法はガウスモデルにインスパイアされた新しい不確実性伝播機構を提案する。
さらに,GNNが学習手順における予測不確実性を明瞭に統合できるようにするノード分類における不確実性指向損失を提案する。
その結果、予測の不確実性が大きいトレーニング例が罰せられる。
予測信頼性とアウト・オブ・ディストリビューション(OOD)予測に関して,BUPを実証する。
学習された不確実性も深く分析される。
ood症例における不確かさとグラフトポロジーの関係,および予測不確実性との関係を広範な実験により検討した。
人気のあるベンチマークデータセットを用いた実験結果は,提案手法の優れた性能を示す。
関連論文リスト
- Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。
しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。
本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
論文 参考訳（メタデータ） (2024-03-11T21:54:52Z) - Uncertainty of Feed Forward Neural Networks Recognizing Quantum
Contextuality [2.5665227681407243]
ベイズニューラルネットワーク(BNN)による精度と不確実性の両方を推定する強力な手法
偏りのあるデータセットを用いてトレーニングした後でも、BNNが確実な不確実性推定の能力をいかに強調できるかを示す。
論文 参考訳（メタデータ） (2022-12-27T17:33:46Z) - A General Framework for quantifying Aleatoric and Epistemic uncertainty
in Graph Neural Networks [0.29494468099506893]
Graph Neural Networks(GNN)は、グラフ理論と機械学習をエレガントに統合する強力なフレームワークを提供する。
本稿では,モデル誤差と測定の不確かさからGNNの予測の不確かさを定量化する問題を考察する。
ベイジアンフレームワークにおける両源の不確実性を扱うための統一的なアプローチを提案する。
論文 参考訳（メタデータ） (2022-05-20T05:25:40Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳（メタデータ） (2022-02-07T12:30:45Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳（メタデータ） (2021-11-22T08:54:10Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳（メタデータ） (2021-02-22T07:02:37Z) - Uncertainty Aware Semi-Supervised Learning on Graph Data [18.695343563823798]
ノード分類予測のためのグラフニューラルネットワーク(GNN)を用いたマルチソース不確実性フレームワークを提案する。
トレーニングノードのラベルからエビデンスを収集することにより、ノードレベルのディリクレ分布を正確に予測するグラフベースのカーネルディリクレ分布推定(GKDE)法が設計されている。
その結果,不協和性検出は誤分類検出において最良であり,空洞性検出はOOD検出において最良であることがわかった。
論文 参考訳（メタデータ） (2020-10-24T04:56:46Z) - Probabilistic Neighbourhood Component Analysis: Sample Efficient
Uncertainty Estimation in Deep Learning [25.8227937350516]
トレーニングデータの量が少ない場合,最先端のBNNとDeep Ensembleモデルの不確実性推定能力は著しく低下することを示す。
サンプル効率の高い非パラメトリックkNN手法の確率的一般化を提案する。
我々のアプローチは、深いkNNがその予測において根底にある不確かさを正確に定量化することを可能にする。
論文 参考訳（メタデータ） (2020-07-18T21:36:31Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Getting a CLUE: A Method for Explaining Uncertainty Estimates [30.367995696223726]
微分可能確率モデルからの不確実性推定を解釈する新しい手法を提案する。
提案手法は,データ多様体上に保持しながら,入力の変更方法を示す。
論文 参考訳（メタデータ） (2020-06-11T21:53:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。