論文の概要: BayesFlow can reliably detect Model Misspecification and Posterior
Errors in Amortized Bayesian Inference
- arxiv url: http://arxiv.org/abs/2112.08866v1
- Date: Thu, 16 Dec 2021 13:25:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-17 14:52:29.801321
- Title: BayesFlow can reliably detect Model Misspecification and Posterior
Errors in Amortized Bayesian Inference
- Title(参考訳): Amortized Bayesian Inferenceにおけるモデルミス特定と後誤差を確実に検出できるBayesFlow
- Authors: Marvin Schmitt and Paul-Christian B\"urkner and Ullrich K\"othe and
Stefan T. Radev
- Abstract要約: シミュレーションに基づく推論で生じるモデル誤特定のタイプを概念化し、これらの誤特定の下でベイズフローフレームワークの性能を体系的に検討する。
本稿では、潜在データ空間に確率的構造を課し、最大平均不一致(MMD)を利用して破滅的な誤特定を検知する拡張最適化手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Neural density estimators have proven remarkably powerful in performing
efficient simulation-based Bayesian inference in various research domains. In
particular, the BayesFlow framework uses a two-step approach to enable
amortized parameter estimation in settings where the likelihood function is
implicitly defined by a simulation program. But how faithful is such inference
when simulations are poor representations of reality? In this paper, we
conceptualize the types of model misspecification arising in simulation-based
inference and systematically investigate the performance of the BayesFlow
framework under these misspecifications. We propose an augmented optimization
objective which imposes a probabilistic structure on the latent data space and
utilize maximum mean discrepancy (MMD) to detect potentially catastrophic
misspecifications during inference undermining the validity of the obtained
results. We verify our detection criterion on a number of artificial and
realistic misspecifications, ranging from toy conjugate models to complex
models of decision making and disease outbreak dynamics applied to real data.
Further, we show that posterior inference errors increase as a function of the
distance between the true data-generating distribution and the typical set of
simulations in the latent summary space. Thus, we demonstrate the dual utility
of MMD as a method for detecting model misspecification and as a proxy for
verifying the faithfulness of amortized Bayesian inference.
- Abstract(参考訳): 神経密度推定器は、様々な研究領域において効率的なシミュレーションに基づくベイズ推論の実行において非常に強力であることが証明されている。
特に、ベイズフローフレームワークは、2段階のアプローチを用いて、確率関数がシミュレーションプログラムによって暗黙的に定義される設定において、償却パラメータ推定を可能にする。
しかし、シミュレーションが現実の貧弱な表現である場合、そのような推論はどれほど忠実か?
本稿では,シミュレーションに基づく推論で生じるモデル誤特定の種類を概念化し,これらの誤特定下でのベイズフローフレームワークの性能を体系的に検討する。
本稿では,潜在データ空間に確率的構造を課し,最大平均偏差(mmd)を活用し,得られた結果の有効性を損なう推論中に潜在的に破滅的な誤特定を検知する拡張最適化目標を提案する。
おもちゃの共役モデルから意思決定の複雑なモデル、実際のデータに適用される病気の発生ダイナミクスまで、多くの人工的で現実的な誤特定に関する検出基準を検証する。
さらに,実際のデータ生成分布と潜在サマリー空間における典型的シミュレーションとの距離関数として後方推定誤差が増加することを示した。
そこで我々は,MDDの二重効用をモデル不特定性の検出方法として,また,償却ベイズ推論の忠実性を検証するプロキシとして示す。
関連論文リスト
- Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。
第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。
第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
論文 参考訳(メタデータ) (2025-02-11T19:24:09Z) - Bayesian Estimation and Tuning-Free Rank Detection for Probability Mass Function Tensors [17.640500920466984]
本稿では,関節のPMFを推定し,そのランクを観測データから自動的に推定する新しい枠組みを提案する。
我々は、様々なモデルパラメータの後方分布を近似するために、変分推論(VI)に基づく決定論的解を導出し、さらに、変分推論(SVI)を利用して、VVIベースのアプローチのスケーラブルバージョンを開発する。
合成データと実映画レコメンデーションデータの両方を含む実験は、推定精度、自動ランク検出、計算効率の点で、VVIおよびSVIベースの手法の利点を示している。
論文 参考訳(メタデータ) (2024-10-08T20:07:49Z) - Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models [0.0]
本稿では,拡散モデルを用いてベイズ推定を行う方法を示す。
本稿では,新しいノイズスケジュールを用いて,標準的なDBMトレーニングを通じてそのようなマップを学習する方法を示す。
その結果は、低次元の潜在空間上で一意に定義される非常に表現性の高い生成モデルのクラスである。
論文 参考訳(メタデータ) (2024-07-11T19:58:19Z) - Addressing Misspecification in Simulation-based Inference through Data-driven Calibration [43.811367860375825]
近年の研究では、モデルの不特定がシミュレーションに基づく推論の信頼性を損なうことが示されている。
本研究は, モデル誤特定を克服し, 地上真実パラメータ測定の小さな実世界の校正セットであるロバスト後部推定(ROPE)を導入する。
論文 参考訳(メタデータ) (2024-05-14T16:04:39Z) - All-in-one simulation-based inference [19.41881319338419]
我々は、現在の制限を克服する新しい償却推論手法、Simformerを提案する。
Simformerは、ベンチマークタスクにおける現在の最先端の償却推論アプローチより優れています。
関数値パラメータを持つモデルに適用することができ、欠落または非構造化データによる推論シナリオを処理でき、パラメータとデータの合同分布の任意の条件をサンプリングすることができる。
論文 参考訳(メタデータ) (2024-04-15T10:12:33Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Robust Bayesian Inference for Discrete Outcomes with the Total Variation
Distance [5.139874302398955]
離散的に評価された結果のモデルは、データがゼロインフレーション、過分散または汚染を示す場合、容易に誤特定される。
ここでは、Ttal Variation Distance (TVD) を用いた頑健な相違に基づくベイズ的アプローチを提案する。
我々は、我々のアプローチが堅牢で、シミュレーションおよび実世界のデータの範囲で予測性能を著しく改善していることを実証的に実証した。
論文 参考訳(メタデータ) (2020-10-26T09:53:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。