論文の概要: Estimation of Accurate and Calibrated Uncertainties in Deterministic
models
- arxiv url: http://arxiv.org/abs/2003.05103v1
- Date: Wed, 11 Mar 2020 04:02:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-24 13:37:54.141445
- Title: Estimation of Accurate and Calibrated Uncertainties in Deterministic
models
- Title(参考訳): 決定論的モデルにおける精度と校正不確かさの推定
- Authors: Enrico Camporeale and Algo Car\`e
- Abstract要約: 我々は,決定論的予測を確率論的予測に変換する手法を考案した。
そのためには,そのようなモデルの精度と信頼性(校正)を損なう必要がある。
隠れたノイズを正確に回収できる合成データと、大規模な実世界のデータセットの両方について、いくつかの例を示す。
- 参考スコア(独自算出の注目度): 0.8702432681310401
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we focus on the problem of assigning uncertainties to
single-point predictions generated by a deterministic model that outputs a
continuous variable. This problem applies to any state-of-the-art physics or
engineering models that have a computational cost that does not readily allow
to run ensembles and to estimate the uncertainty associated to single-point
predictions. Essentially, we devise a method to easily transform a
deterministic prediction into a probabilistic one. We show that for doing so,
one has to compromise between the accuracy and the reliability (calibration) of
such a probabilistic model. Hence, we introduce a cost function that encodes
their trade-off. We use the Continuous Rank Probability Score to measure
accuracy and we derive an analytic formula for the reliability, in the case of
forecasts of continuous scalar variables expressed in terms of Gaussian
distributions. The new Accuracy-Reliability cost function is then used to
estimate the input-dependent variance, given a black-box mean function, by
solving a two-objective optimization problem. The simple philosophy behind this
strategy is that predictions based on the estimated variances should not only
be accurate, but also reliable (i.e. statistical consistent with observations).
Conversely, early works based on the minimization of classical cost functions,
such as the negative log probability density, cannot simultaneously enforce
both accuracy and reliability. We show several examples both with synthetic
data, where the underlying hidden noise can accurately be recovered, and with
large real-world datasets.
- Abstract(参考訳): 本稿では,連続変数を出力する決定論的モデルにより生成される単一点予測に不確実性を割り当てる問題に焦点をあてる。
この問題は、アンサンブルの実行が容易でない計算コストを持つ最先端の物理学や工学モデルに適用され、単点予測に関連する不確かさを推定する。
基本的に、決定論的予測を確率的予測に容易に変換する手法を考案する。
そこで本研究では,そのような確率モデルの精度と信頼性(因果関係)を妥協する必要があることを示す。
そこで我々は,そのトレードオフを符号化するコスト関数を導入する。
連続ランク確率スコアを用いて精度を計測し,ガウス分布で表される連続スカラー変数の予測において,信頼性に関する解析式を導出する。
新しい精度・信頼性コスト関数は、2目的最適化問題を解くことにより、ブラックボックス平均関数が与えられた入力依存分散を推定するために使用される。
この戦略の背後にある単純な哲学は、推定された分散に基づく予測は正確であるだけでなく、信頼できる(つまり観測と統計的に一致している)べきだというものである。
逆に、負の対数確率密度のような古典的コスト関数の最小化に基づく初期の研究は、精度と信頼性の両方を同時に実施することはできない。
基礎となる隠れたノイズを正確に復元できる合成データと、大規模な実世界のデータセットの両方の例を示す。
関連論文リスト
- Invariant Probabilistic Prediction [45.90606906307022]
任意の分布シフトは、一般に不変かつ頑健な確率的予測を認めないことを示す。
Invariant probabilistic predictions called IPP, and study the consistency of the underlying parameters。
論文 参考訳(メタデータ) (2023-09-18T18:50:24Z) - Sparsified Simultaneous Confidence Intervals for High-Dimensional Linear
Models [4.010566541114989]
本稿では,間隔化同時信頼区間という,同時信頼区間の概念を提案する。
我々の区間は、区間の上と下の境界の一部が 0 に切り替わるという意味でスパースである。
提案手法は様々な選択手順と組み合わせることができるため,不確実性を比較するのに最適である。
論文 参考訳(メタデータ) (2023-07-14T18:37:57Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Metrics of calibration for probabilistic predictions [0.0]
信頼性図」は統計的に有意な相違を検知・診断するのに役立ち、いわゆる「ミススキャリブレーション」と呼ばれる。
標準信頼性図は、予測の観測値と期待値のヒストグラムを示す。
しかし、どの幅のビンやカーネルが最善か?
セカントラインの一定のオフセットが無関係である場合でも、スロープは定量的な精度で容易に知覚できる。
論文 参考訳(メタデータ) (2022-05-19T16:38:24Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Robust Bayesian Inference for Discrete Outcomes with the Total Variation
Distance [5.139874302398955]
離散的に評価された結果のモデルは、データがゼロインフレーション、過分散または汚染を示す場合、容易に誤特定される。
ここでは、Ttal Variation Distance (TVD) を用いた頑健な相違に基づくベイズ的アプローチを提案する。
我々は、我々のアプローチが堅牢で、シミュレーションおよび実世界のデータの範囲で予測性能を著しく改善していることを実証的に実証した。
論文 参考訳(メタデータ) (2020-10-26T09:53:06Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。