論文の概要: Simulation-Based Inference with WALDO: Perfectly Calibrated Confidence
Regions Using Any Prediction or Posterior Estimation Algorithm
- arxiv url: http://arxiv.org/abs/2205.15680v1
- Date: Tue, 31 May 2022 10:43:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-01 22:09:32.779531
- Title: Simulation-Based Inference with WALDO: Perfectly Calibrated Confidence
Regions Using Any Prediction or Posterior Estimation Algorithm
- Title（参考訳）: WALDOを用いたシミュレーションに基づく推論: 予測・後推定アルゴリズムを用いた完全校正信頼領域
- Authors: Luca Masserano, Tommaso Dorigo, Rafael Izbicki, Mikael Kuusela, Ann B.
Lee
- Abstract要約: 本稿では,シミュレーションベース推論における信頼領域を正しく調整する新しい手法であるWALDOを提案する。
本稿では,WALDOを用いて高エネルギー物理学における粒子エネルギーの深層学習予測手法を提案する。
- 参考スコア（独自算出の注目度）: 4.191094796148314
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The vast majority of modern machine learning targets prediction problems,
with algorithms such as Deep Neural Networks revolutionizing the accuracy of
point predictions for high-dimensional complex data. Predictive approaches are
now used in many domain sciences to directly estimate internal parameters of
interest in theoretical simulator-based models. In parallel, common
alternatives focus on estimating the full posterior using modern neural density
estimators such as normalizing flows. However, an open problem in
simulation-based inference (SBI) is how to construct properly calibrated
confidence regions for internal parameters with nominal conditional coverage
and high power. Many SBI methods are indeed known to produce overly confident
posterior approximations, yielding misleading uncertainty estimates. Similarly,
existing approaches for uncertainty quantification in deep learning provide no
guarantees on conditional coverage. In this work, we present WALDO, a novel
method for constructing correctly calibrated confidence regions in SBI. WALDO
reframes the well-known Wald test and uses Neyman inversion to convert point
predictions and posteriors from any prediction or posterior estimation
algorithm to confidence sets with correct conditional coverage, even for finite
sample sizes. As a concrete example, we demonstrate how a recently proposed
deep learning prediction approach for particle energies in high-energy physics
can be recalibrated using WALDO to produce confidence intervals with correct
coverage and high power.
- Abstract（参考訳）: 現代の機械学習の大半は予測問題をターゲットにしており、Deep Neural Networksのようなアルゴリズムは高次元の複雑なデータに対する点予測の精度に革命をもたらした。
予測的アプローチは、理論シミュレータに基づくモデルに興味のある内部パラメータを直接推定するために、多くのドメイン科学で使われている。
並行して、一般的な選択肢は、流れの正規化のような現代の神経密度推定器を用いて、全後方の推定に焦点を当てている。
しかしながら、シミュレーションベース推論(sbi)におけるオープン問題は、名目条件範囲と高出力を持つ内部パラメータの信頼領域を適切に調整する方法である。
多くのSBI法は、非常に確実な後続近似を生成することが知られており、誤った不確実性推定をもたらす。
同様に、ディープラーニングにおける不確実性定量化に対する既存のアプローチは、条件付きカバレッジを保証しない。
本研究では,SBIにおける信頼領域を正確に調整する新しい手法であるWALDOを提案する。
WALDO はよく知られた Wald テストを再設計し、Neyman の逆変換を用いて任意の予測や後続推定アルゴリズムから有限サンプルサイズであっても正しい条件付き信頼セットに変換する。
実例として、WALDOを用いて高エネルギー物理学における粒子エネルギーの深層学習予測手法を再構成して、正しいカバレッジと高出力で信頼区間を生成する方法を示す。
関連論文リスト
- Tractable Function-Space Variational Inference in Bayesian Neural
Networks [72.97620734290139]
ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。
本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。
提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
論文 参考訳（メタデータ） (2023-12-28T18:33:26Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳（メタデータ） (2023-10-20T10:20:45Z) - Improved uncertainty quantification for neural networks with Bayesian
last layer [0.0]
不確実性定量化は機械学習において重要な課題である。
本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
論文 参考訳（メタデータ） (2023-02-21T20:23:56Z) - Density Regression and Uncertainty Quantification with Bayesian Deep
Noise Neural Networks [4.376565880192482]
ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。
DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。
本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。
予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
論文 参考訳（メタデータ） (2022-06-12T02:47:29Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳（メタデータ） (2022-05-20T10:10:32Z) - Stochastic Neural Radiance Fields:Quantifying Uncertainty in Implicit 3D
Representations [19.6329380710514]
不確かさの定量化は機械学習における長年の問題である。
本稿では,このシーンをモデル化するすべての可能なフィールドの確率分布を学習する標準NeRFの一般化であるNeural Radiance Fields (S-NeRF)を提案する。
S-NeRFは、他の領域における不確実性推定のために提案された一般的なアプローチよりも、より信頼性の高い予測と信頼性値を提供することができる。
論文 参考訳（メタデータ） (2021-09-05T16:56:43Z) - Truncated Marginal Neural Ratio Estimation [5.438798591410838]
本稿では、シミュレーション効率と高速な実験後テスト容易性を同時に提供するニューラルネットワークシミュレータベースの推論アルゴリズムを提案する。
本手法は関節後部ではなく低次元縁後部を同時に推定することによりシミュレーションを効率化する。
局所的アモータイズ後部を推定することにより,提案アルゴリズムは推論結果のロバスト性の効率的な実証試験を可能にする。
論文 参考訳（メタデータ） (2021-07-02T18:00:03Z) - Quantifying Uncertainty in Deep Spatiotemporal Forecasting [67.77102283276409]
本稿では,正規格子法とグラフ法という2種類の予測問題について述べる。
我々はベイジアンおよび頻繁な視点からUQ法を解析し、統計的決定理論を通じて統一的な枠組みを提示する。
実際の道路ネットワークのトラフィック、疫病、空気質予測タスクに関する広範な実験を通じて、異なるUQ手法の統計計算トレードオフを明らかにする。
論文 参考訳（メタデータ） (2021-05-25T14:35:46Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳（メタデータ） (2021-02-22T07:02:37Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。