論文の概要: The Statistical Accuracy of Neural Posterior and Likelihood Estimation
- arxiv url: http://arxiv.org/abs/2411.12068v1
- Date: Mon, 18 Nov 2024 21:25:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-20 13:37:20.407312
- Title: The Statistical Accuracy of Neural Posterior and Likelihood Estimation
- Title(参考訳): 神経後頭葉の統計的精度と主観的推定
- Authors: David T. Frazier, Ryan Kelly, Christopher Drovandi, David J. Warne,
- Abstract要約: 我々はNPEとNLEの統計的挙動を詳細に調査する。
これらの手法は、近似ベイズ計算(ABC)やベイズ合成可能性(BSL)のような一般的な統計手法に類似した理論的保証があることを証明している。
この精度は計算コストが大幅に削減され,ABCやBSLよりも魅力的な近似が得られることが証明された。
- 参考スコア(独自算出の注目度): 0.5825410941577592
- License:
- Abstract: Neural posterior estimation (NPE) and neural likelihood estimation (NLE) are machine learning approaches that provide accurate posterior, and likelihood, approximations in complex modeling scenarios, and in situations where conducting amortized inference is a necessity. While such methods have shown significant promise across a range of diverse scientific applications, the statistical accuracy of these methods is so far unexplored. In this manuscript, we give, for the first time, an in-depth exploration on the statistical behavior of NPE and NLE. We prove that these methods have similar theoretical guarantees to common statistical methods like approximate Bayesian computation (ABC) and Bayesian synthetic likelihood (BSL). While NPE and NLE methods are just as accurate as ABC and BSL, we prove that this accuracy can often be achieved at a vastly reduced computational cost, and will therefore deliver more attractive approximations than ABC and BSL in certain problems. We verify our results theoretically and in several examples from the literature.
- Abstract(参考訳): 神経後部推定 (NPE) と神経後部推定 (NLE) は、複雑なモデリングシナリオにおける正確な後部および可能性、近似を提供する機械学習アプローチである。
このような手法は様々な科学的応用において有意な可能性を示してきたが、これらの手法の統計的精度は今のところ明らかになっていない。
本書では,NPEとNLEの統計的挙動を詳細に調査する。
これらの手法は、近似ベイズ計算(ABC)やベイズ合成可能性(BSL)のような一般的な統計手法に類似した理論的保証を持つことを示す。
NPE法とNLE法はABC法とBSL法と同等に正確であるが,この精度は計算コストを大幅に削減し,ある問題においてABC法とBSL法よりも魅力的な近似が得られることを証明している。
理論的に検証し、文献からいくつかの例を挙げる。
関連論文リスト
- Preconditioned Neural Posterior Estimation for Likelihood-free Inference [5.651060979874024]
本稿では,低次元問題においても,神経後部推定法(NPE)の精度は高くないことを示す。
我々は,ABCの短い動作でパラメータ空間の領域を効果的に排除し,シミュレーションとデータ間の大きな相違を生じさせる,プレコンディション付きNPEとそのシーケンシャルバージョン(PSNPE)を提案する。
本稿では, ニューラルネットワークと統計的SBI法を融合させることにより, 様々な事例において性能が向上することを示す。
論文 参考訳(メタデータ) (2024-04-21T07:05:38Z) - Pseudo-Likelihood Inference [16.934708242852558]
Pseudo-Likelihood Inference (PLI)は、ABCに神経近似をもたらす新しい方法であり、ベイズシステムの識別に挑戦するタスクと競合する。
PLIは、勾配降下による神経後葉の最適化を可能にし、要約統計に頼らず、入力として複数の観察を可能にする。
PLIの有効性は、4つの古典的SBIベンチマークタスクと非常にダイナミックな物理システムで評価される。
論文 参考訳(メタデータ) (2023-11-28T10:17:52Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Validation Diagnostics for SBI algorithms based on Normalizing Flows [55.41644538483948]
本研究は,NFに基づく多次元条件(後)密度推定器の検証診断を容易にすることを提案する。
また、局所的な一貫性の結果に基づいた理論的保証も提供する。
この作業は、より良い特定モデルの設計を支援したり、新しいSBIアルゴリズムの開発を促進するのに役立つだろう。
論文 参考訳(メタデータ) (2022-11-17T15:48:06Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Non-Asymptotic Performance Guarantees for Neural Estimation of
$\mathsf{f}$-Divergences [22.496696555768846]
統計的距離は確率分布の相似性を定量化する。
このようなデータからの距離を推定する現代的な方法は、ニューラルネットワーク(NN)による変動形態のパラメータ化と最適化に依存する。
本稿では,このトレードオフを非漸近誤差境界を用いて検討し,SDの3つの一般的な選択に焦点をあてる。
論文 参考訳(メタデータ) (2021-03-11T19:47:30Z) - Efficient Data-Dependent Learnability [8.766022970635898]
予測正規化最大可能性(pNML)アプローチは、最近、バッチ学習問題に対する min-max 最適解として提案されている。
ニューラルネットワークに適用すると、この近似が分散外例を効果的に検出できることが示される。
論文 参考訳(メタデータ) (2020-11-20T10:44:55Z) - On a Variational Approximation based Empirical Likelihood ABC Method [1.5293427903448025]
本稿では,ABC法を提案する。
対象の対数姿勢は、期待される関節対数類似度とデータ生成密度の差分エントロピーの和として近似できることを示す。
論文 参考訳(メタデータ) (2020-11-12T21:24:26Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳(メタデータ) (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。