論文の概要: Uncertainty-Aware (UNA) Bases for Deep Bayesian Regression Using
Multi-Headed Auxiliary Networks
- arxiv url: http://arxiv.org/abs/2006.11695v4
- Date: Wed, 15 Dec 2021 19:18:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 11:28:49.251170
- Title: Uncertainty-Aware (UNA) Bases for Deep Bayesian Regression Using
Multi-Headed Auxiliary Networks
- Title(参考訳): 多層補助網を用いた深ベイズ回帰のための不確実性認識ベース
- Authors: Sujay Thakur, Cooper Lorsung, Yaniv Yacoby, Finale Doshi-Velez, Weiwei
Pan
- Abstract要約: 本稿では,従来のニューラル線形モデルのトレーニング手順が,アウト・オブ・ディストリビューション・インプットに対する不確実性を大幅に過小評価していることを示す。
下流タスクに有用な予測不確実性を捉える新しいトレーニングフレームワークを提案する。
- 参考スコア(独自算出の注目度): 23.100727871427367
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural Linear Models (NLM) are deep Bayesian models that produce predictive
uncertainties by learning features from the data and then performing Bayesian
linear regression over these features. Despite their popularity, few works have
focused on methodically evaluating the predictive uncertainties of these
models. In this work, we demonstrate that traditional training procedures for
NLMs drastically underestimate uncertainty on out-of-distribution inputs, and
that they therefore cannot be naively deployed in risk-sensitive applications.
We identify the underlying reasons for this behavior and propose a novel
training framework that captures useful predictive uncertainties for downstream
tasks.
- Abstract(参考訳): ニューラルリニアモデル(nlm)は、データから特徴を学習し、それらの特徴に対してベイズ線形回帰を行うことで予測的不確実性を生み出す深いベイズモデルである。
その人気にもかかわらず、これらのモデルの予測的不確かさを体系的に評価する研究はほとんどない。
本研究は,nlmsの従来のトレーニング手順が,分布外入力の不確かさを著しく過小評価していること,それゆえ,リスクに敏感なアプリケーションではナイーブにデプロイできないことを実証する。
この動作の根本原因を特定し,下流タスクに有用な予測不確実性を捉える新しいトレーニングフレームワークを提案する。
関連論文リスト
- Neural State-Space Models: Empirical Evaluation of Uncertainty
Quantification [0.0]
本稿では,ニューラル状態空間モデルを用いたシステム同定のための不確実性定量化に関する予備的結果を示す。
ベイズ確率的設定で学習問題をフレーム化し、ニューラルネットワークの重みと出力の後方分布を求める。
後部に基づいて,出力の信頼区間を構築し,潜在的に危険なアウト・オブ・ディストリビューション体制下でモデルの使用を効果的に診断できるサプライズ指標を定義する。
論文 参考訳(メタデータ) (2023-04-13T08:57:33Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Surrogate uncertainty estimation for your time series forecasting black-box: learn when to trust [2.0393477576774752]
本研究では不確実性推定手法を紹介する。
妥当な不確実性推定を伴うベース回帰モデルを強化する。
各種時系列予測データを用いて, 代理モデルに基づく手法により, 精度の高い信頼区間が得られることがわかった。
論文 参考訳(メタデータ) (2023-02-06T14:52:56Z) - BayesCap: Bayesian Identity Cap for Calibrated Uncertainty in Frozen
Neural Networks [50.15201777970128]
本研究では,凍結モデルに対するベイズIDマッピングを学習し,不確実性の推定を可能にするBayesCapを提案する。
BayesCapは、元のデータセットのごく一部でトレーニングできる、メモリ効率のよいメソッドである。
本稿では,多種多様なアーキテクチャを用いた多種多様なタスクに対する本手法の有効性を示す。
論文 参考訳(メタデータ) (2022-07-14T12:50:09Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Robust uncertainty estimates with out-of-distribution pseudo-inputs
training [0.0]
我々は、信頼性のあるデータを与えられていない不確実性予測器を明示的に訓練することを提案する。
データ無しでは訓練できないので、入力空間の情報的低密度領域において擬似入力を生成するメカニズムを提供する。
総合的な評価により、様々なタスクにおける最先端性能を維持しながら、不確実性の頑健かつ解釈可能な予測が得られることを示す。
論文 参考訳(メタデータ) (2022-01-15T17:15:07Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Understanding Uncertainty in Bayesian Deep Learning [0.0]
我々は,NLMの従来のトレーニング手順が,データスカース領域における不確実性を大幅に過小評価できることを示した。
本稿では,有用な予測の不確実性を捉えるとともに,ドメイン知識の組み入れを可能にする新しいトレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-05-21T19:22:17Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。