論文の概要: Tractable Function-Space Variational Inference in Bayesian Neural
Networks
- arxiv url: http://arxiv.org/abs/2312.17199v1
- Date: Thu, 28 Dec 2023 18:33:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-29 14:57:28.726079
- Title: Tractable Function-Space Variational Inference in Bayesian Neural
Networks
- Title（参考訳）: ベイズニューラルネットワークにおけるトラクタブル関数-空間変動推論
- Authors: Tim G. J. Rudner, Zonghao Chen, Yee Whye Teh, Yarin Gal
- Abstract要約: ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。
本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。
提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
- 参考スコア（独自算出の注目度）: 72.97620734290139
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reliable predictive uncertainty estimation plays an important role in
enabling the deployment of neural networks to safety-critical settings. A
popular approach for estimating the predictive uncertainty of neural networks
is to define a prior distribution over the network parameters, infer an
approximate posterior distribution, and use it to make stochastic predictions.
However, explicit inference over neural network parameters makes it difficult
to incorporate meaningful prior information about the data-generating process
into the model. In this paper, we pursue an alternative approach. Recognizing
that the primary object of interest in most settings is the distribution over
functions induced by the posterior distribution over neural network parameters,
we frame Bayesian inference in neural networks explicitly as inferring a
posterior distribution over functions and propose a scalable function-space
variational inference method that allows incorporating prior information and
results in reliable predictive uncertainty estimates. We show that the proposed
method leads to state-of-the-art uncertainty estimation and predictive
performance on a range of prediction tasks and demonstrate that it performs
well on a challenging safety-critical medical diagnosis task in which reliable
uncertainty estimation is essential.
- Abstract（参考訳）: 信頼性の高い予測の不確実性推定は、ニューラルネットワークの安全クリティカルな設定へのデプロイを可能にする上で重要な役割を果たす。
ニューラルネットワークの予測の不確かさを推定するための一般的なアプローチは、ネットワークパラメータ上の事前分布を定義し、近似的な後方分布を推定し、確率的予測を行うことである。
しかし、ニューラルネットワークパラメータに対する明示的な推論は、データ生成プロセスに関する有意義な事前情報をモデルに組み込むのを難しくする。
本稿では,別のアプローチを追求する。
ニューラルネットワークのパラメータ上での後方分布によって引き起こされる関数の分布を最も興味のある対象と認識し,関数の後方分布を推定するニューラルネットワークにおけるベイズ推定を明示的に構成し,事前情報を組み込んで信頼性の高い予測不確実性推定を可能にするスケーラブルな関数空間変動推定法を提案する。
提案手法は,様々な予測タスクにおける最先端の不確実性評価と予測性能につながり,信頼性の高い不確実性評価が不可欠である挑戦的な安全クリティカルな医療診断タスクに有効であることを示す。
関連論文リスト
- Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。
これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。
クリーン音声推定における不確実性モデリングの利点について検討する。
論文 参考訳（メタデータ） (2023-05-15T15:55:12Z) - Neural State-Space Models: Empirical Evaluation of Uncertainty
Quantification [0.0]
本稿では,ニューラル状態空間モデルを用いたシステム同定のための不確実性定量化に関する予備的結果を示す。
ベイズ確率的設定で学習問題をフレーム化し、ニューラルネットワークの重みと出力の後方分布を求める。
後部に基づいて,出力の信頼区間を構築し,潜在的に危険なアウト・オブ・ディストリビューション体制下でモデルの使用を効果的に診断できるサプライズ指標を定義する。
論文 参考訳（メタデータ） (2023-04-13T08:57:33Z) - Looking at the posterior: accuracy and uncertainty of neural-network
predictions [0.0]
予測精度はてんかんとアレタリック不確実性の両方に依存している。
本稿では,共通不確実性に基づく手法よりも優れた新たな獲得関数を提案する。
論文 参考訳（メタデータ） (2022-11-26T16:13:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳（メタデータ） (2022-02-07T12:30:45Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。
本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文 参考訳（メタデータ） (2021-04-13T12:20:18Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳（メタデータ） (2021-02-22T07:02:37Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。