論文の概要: Simulator-Based Inference with Waldo: Confidence Regions by Leveraging
Prediction Algorithms and Posterior Estimators for Inverse Problems
- arxiv url: http://arxiv.org/abs/2205.15680v4
- Date: Mon, 13 Nov 2023 16:46:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-14 23:07:09.274108
- Title: Simulator-Based Inference with Waldo: Confidence Regions by Leveraging
Prediction Algorithms and Posterior Estimators for Inverse Problems
- Title（参考訳）: Waldoを用いたシミュレーションに基づく推論:予測アルゴリズムの活用による信頼領域と逆問題に対する後部推定器
- Authors: Luca Masserano, Tommaso Dorigo, Rafael Izbicki, Mikael Kuusela, Ann B.
Lee
- Abstract要約: WALDOは有限サンプル条件付き信頼領域を構築するための新しい手法である。
提案手法を最近の高エネルギー物理問題に適用し,より深いニューラルネットワークによる予測が予測バイアスによる推定を導いた。
- 参考スコア（独自算出の注目度）: 4.212344009251363
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Prediction algorithms, such as deep neural networks (DNNs), are used in many
domain sciences to directly estimate internal parameters of interest in
simulator-based models, especially in settings where the observations include
images or complex high-dimensional data. In parallel, modern neural density
estimators, such as normalizing flows, are becoming increasingly popular for
uncertainty quantification, especially when both parameters and observations
are high-dimensional. However, parameter inference is an inverse problem and
not a prediction task; thus, an open challenge is to construct conditionally
valid and precise confidence regions, with a guaranteed probability of covering
the true parameters of the data-generating process, no matter what the
(unknown) parameter values are, and without relying on large-sample theory.
Many simulator-based inference (SBI) methods are indeed known to produce biased
or overly confident parameter regions, yielding misleading uncertainty
estimates. This paper presents WALDO, a novel method to construct confidence
regions with finite-sample conditional validity by leveraging prediction
algorithms or posterior estimators that are currently widely adopted in SBI.
WALDO reframes the well-known Wald test statistic, and uses a computationally
efficient regression-based machinery for classical Neyman inversion of
hypothesis tests. We apply our method to a recent high-energy physics problem,
where prediction with DNNs has previously led to estimates with prediction
bias. We also illustrate how our approach can correct overly confident
posterior regions computed with normalizing flows.
- Abstract（参考訳）: ディープニューラルネットワーク(dnn)のような予測アルゴリズムは、多くのドメイン科学において、シミュレータベースのモデル、特に観測が画像や複雑な高次元データを含む設定で興味のある内部パラメータを直接推定するために使用される。
並行して、流れの正規化のような現代の神経密度推定器は、特にパラメーターと観測値の両方が高次元の場合、不確かさの定量化のためにますます普及している。
しかし、パラメータ推論は逆問題であり、予測タスクではない。そのため、オープンチャレンジは、(未知)パラメータ値が何であっても、大きなサンプル理論に頼らずに、データ生成プロセスの真のパラメータをカバーできる保証された確率で、条件付き有効で正確な信頼領域を構築することである。
多くのシミュレーターベース推論(SBI)法は、偏りや過度に自信の持たれたパラメータ領域を生成し、誤った不確実性推定をもたらす。
本稿では,現在SBIに広く採用されている予測アルゴリズムや後部推定器を活用することで,有限サンプル条件付き信頼領域を構築する手法であるWALDOを提案する。
ウォルドはよく知られたヴァルトテストの統計を再構成し、古典的ニーマンの仮説検定の反転に計算効率の高い回帰ベースの機械を用いる。
提案手法を最近の高エネルギー物理問題に適用し,DNNによる予測が予測バイアスによる推定を導いた。
また,本手法は流れの正規化によって計算された過度に自信の強い後方領域を補正する方法を示す。
関連論文リスト
- Non-Asymptotic Uncertainty Quantification in High-Dimensional Learning [5.318766629972959]
不確かさの定量化は多くの高次元回帰や学習問題において決定的だが難しい課題である。
我々は、古典的回帰アプローチとニューラルネットワークの両方に適用可能な、回帰におけるUQのための新しいデータ駆動アプローチを開発した。
論文 参考訳（メタデータ） (2024-07-18T16:42:10Z) - Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models [0.0]
本稿では,拡散モデルを用いてベイズ推定を行う方法を示す。
本稿では,新しいノイズスケジュールを用いて,標準的なDBMトレーニングを通じてそのようなマップを学習する方法を示す。
その結果は、低次元の潜在空間上で一意に定義される非常に表現性の高い生成モデルのクラスである。
論文 参考訳（メタデータ） (2024-07-11T19:58:19Z) - Tractable Function-Space Variational Inference in Bayesian Neural
Networks [72.97620734290139]
ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。
本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。
提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
論文 参考訳（メタデータ） (2023-12-28T18:33:26Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳（メタデータ） (2023-10-20T10:20:45Z) - Improved uncertainty quantification for neural networks with Bayesian
last layer [0.0]
不確実性定量化は機械学習において重要な課題である。
本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
論文 参考訳（メタデータ） (2023-02-21T20:23:56Z) - Density Regression and Uncertainty Quantification with Bayesian Deep
Noise Neural Networks [4.376565880192482]
ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。
DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。
本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。
予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
論文 参考訳（メタデータ） (2022-06-12T02:47:29Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳（メタデータ） (2022-05-20T10:10:32Z) - Stochastic Neural Radiance Fields:Quantifying Uncertainty in Implicit 3D
Representations [19.6329380710514]
不確かさの定量化は機械学習における長年の問題である。
本稿では,このシーンをモデル化するすべての可能なフィールドの確率分布を学習する標準NeRFの一般化であるNeural Radiance Fields (S-NeRF)を提案する。
S-NeRFは、他の領域における不確実性推定のために提案された一般的なアプローチよりも、より信頼性の高い予測と信頼性値を提供することができる。
論文 参考訳（メタデータ） (2021-09-05T16:56:43Z) - Quantifying Uncertainty in Deep Spatiotemporal Forecasting [67.77102283276409]
本稿では,正規格子法とグラフ法という2種類の予測問題について述べる。
我々はベイジアンおよび頻繁な視点からUQ法を解析し、統計的決定理論を通じて統一的な枠組みを提示する。
実際の道路ネットワークのトラフィック、疫病、空気質予測タスクに関する広範な実験を通じて、異なるUQ手法の統計計算トレードオフを明らかにする。
論文 参考訳（メタデータ） (2021-05-25T14:35:46Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳（メタデータ） (2021-02-22T07:02:37Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。