論文の概要: DEUP: Direct Epistemic Uncertainty Prediction
- arxiv url: http://arxiv.org/abs/2102.08501v1
- Date: Tue, 16 Feb 2021 23:50:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-18 18:50:25.704885
- Title: DEUP: Direct Epistemic Uncertainty Prediction
- Title(参考訳): DEUP: 直接のてんかん不確実性予測
- Authors: Moksh Jain, Salem Lahlou, Hadi Nekoei, Victor Butoi, Paul Bertin,
Jarrid Rector-Brooks, Maksym Korablyov, Yoshua Bengio
- Abstract要約: 認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。
一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
- 参考スコア(独自算出の注目度): 56.087230230128185
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Epistemic uncertainty is the part of out-of-sample prediction error due to
the lack of knowledge of the learner. Whereas previous work was focusing on
model variance, we propose a principled approach for directly estimating
epistemic uncertainty by learning to predict generalization error and
subtracting an estimate of aleatoric uncertainty, i.e., intrinsic
unpredictability. This estimator of epistemic uncertainty includes the effect
of model bias and can be applied in non-stationary learning environments
arising in active learning or reinforcement learning. In addition to
demonstrating these properties of Direct Epistemic Uncertainty Prediction
(DEUP), we illustrate its advantage against existing methods for uncertainty
estimation on downstream tasks including sequential model optimization and
reinforcement learning. We also evaluate the quality of uncertainty estimates
from DEUP for probabilistic classification of images and for estimating
uncertainty about synergistic drug combinations.
- Abstract(参考訳): 疫学的な不確実性は、学習者の知識の欠如によるサンプル外予測エラーの一部である。
従来の研究はモデルの分散に着目していたが,一般化誤差の予測を学習することで認識的不確実性を直接推定する原理的手法を提案し,推定的不確実性,すなわち内在的不確実性の推定を減じた。
この認識の不確実性推定装置は、モデルバイアスの効果を含み、アクティブラーニングや強化学習で発生する非定常学習環境に適用することができる。
直接認識不確実性予測(DEUP)のこれらの特性の実証に加えて、逐次モデル最適化や強化学習を含む下流タスクにおける不確実性推定手法に対する利点を示す。
また,画像の確率的分類と相乗的薬物の組み合わせに関する不確かさを推定するために,deupから推定した不確実性の品質を評価する。
関連論文リスト
- On Information-Theoretic Measures of Predictive Uncertainty [5.8034373350518775]
その重要性にも拘わらず、予測の不確実性の正しい測定に関するコンセンサスはいまだに解明されていない。
提案手法は, 予測の不確かさを, (I) 予測モデル (II) 真の予測分布の近似の2つの要因により分類する。
本研究では, 誤分類検出, 選択的予測, アウト・オブ・ディストリビューション検出など, 典型的な不確実性推定設定において, これらの指標を実証的に評価する。
論文 参考訳(メタデータ) (2024-10-14T17:52:18Z) - Efficient Normalized Conformal Prediction and Uncertainty Quantification
for Anti-Cancer Drug Sensitivity Prediction with Deep Regression Forests [0.0]
予測間隔で機械学習モデルをペアリングするための有望な方法として、コンフォーマル予測が登場した。
本研究では,深部回帰林から得られた分散度を算出し,各試料の不確かさを推定する手法を提案する。
論文 参考訳(メタデータ) (2024-02-21T19:09:53Z) - Introducing an Improved Information-Theoretic Measure of Predictive
Uncertainty [6.3398383724486544]
予測の不確実性は、ベイズ平均(BMA)予測分布のエントロピーによってよく測定される。
これらの制限を克服するために理論的に根ざした尺度を導入する。
提案手法は, 制御された合成タスクにおいて, より合理的に振る舞う。
論文 参考訳(メタデータ) (2023-11-14T16:55:12Z) - Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。
この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
論文 参考訳(メタデータ) (2023-08-03T12:43:21Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z) - Loss Estimators Improve Model Generalization [36.520569284970456]
予測モデルと並行して損失推定器を訓練し,対照訓練目標を用いて予測の不確実性を直接推定する。
モデル一般化における損失推定器の影響を,その分布データに対する忠実度と,トレーニング中に見つからない分布サンプルや新しいクラスの検出能力の両方の観点から示す。
論文 参考訳(メタデータ) (2021-03-05T16:35:10Z) - The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。
本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
論文 参考訳(メタデータ) (2020-12-05T17:30:35Z) - The Aleatoric Uncertainty Estimation Using a Separate Formulation with
Virtual Residuals [51.71066839337174]
既存の手法では、ターゲット推定における誤差を定量化できるが、過小評価する傾向がある。
本稿では,信号とその不確かさを推定するための新たな分離可能な定式化を提案し,オーバーフィッティングの影響を回避した。
提案手法は信号および不確実性推定のための最先端技術より優れていることを示す。
論文 参考訳(メタデータ) (2020-11-03T12:11:27Z) - Learning to Predict Error for MRI Reconstruction [67.76632988696943]
提案手法による予測の不確実性は予測誤差と強く相関しないことを示す。
本稿では,2段階の予測誤差の目標ラベルと大小を推定する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-02-13T15:55:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。