論文の概要: Robust Neural Posterior Estimation and Statistical Model Criticism
- arxiv url: http://arxiv.org/abs/2210.06564v1
- Date: Wed, 12 Oct 2022 20:06:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-14 15:16:19.198868
- Title: Robust Neural Posterior Estimation and Statistical Model Criticism
- Title(参考訳): ロバスト神経後部推定と統計的モデル批判
- Authors: Daniel Ward, Patrick Cannon, Mark Beaumont, Matteo Fasiolo, Sebastian
M Schmon
- Abstract要約: モデラーはシミュレータを真のデータ生成プロセスの理想主義的な表現として扱わなければならない。
本研究では,シミュレーションモデルにおけるブラックボックスパラメータ推論を可能にするアルゴリズムのクラスであるNPEを再検討する。
一方,NPEを経時的に用いた場合,不特定性の存在は信頼できない推論につながることが判明した。
- 参考スコア(独自算出の注目度): 1.5749416770494706
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Computer simulations have proven a valuable tool for understanding complex
phenomena across the sciences. However, the utility of simulators for modelling
and forecasting purposes is often restricted by low data quality, as well as
practical limits to model fidelity. In order to circumvent these difficulties,
we argue that modellers must treat simulators as idealistic representations of
the true data generating process, and consequently should thoughtfully consider
the risk of model misspecification. In this work we revisit neural posterior
estimation (NPE), a class of algorithms that enable black-box parameter
inference in simulation models, and consider the implication of a
simulation-to-reality gap. While recent works have demonstrated reliable
performance of these methods, the analyses have been performed using synthetic
data generated by the simulator model itself, and have therefore only addressed
the well-specified case. In this paper, we find that the presence of
misspecification, in contrast, leads to unreliable inference when NPE is used
naively. As a remedy we argue that principled scientific inquiry with
simulators should incorporate a model criticism component, to facilitate
interpretable identification of misspecification and a robust inference
component, to fit 'wrong but useful' models. We propose robust neural posterior
estimation (RNPE), an extension of NPE to simultaneously achieve both these
aims, through explicitly modelling the discrepancies between simulations and
the observed data. We assess the approach on a range of artificially
misspecified examples, and find RNPE performs well across the tasks, whereas
naively using NPE leads to misleading and erratic posteriors.
- Abstract(参考訳): 計算機シミュレーションは、科学全体の複雑な現象を理解するための貴重なツールであることが証明されている。
しかし、モデリングと予測のためのシミュレータの有用性は、しばしばデータ品質の低さと、モデル忠実性に対する実用的な制限によって制限される。
これらの困難を回避するために、モデルラーはシミュレータを真のデータ生成プロセスの理想論的表現として扱う必要があり、その結果、モデルの誤特定のリスクを慎重に考慮する必要があると論じている。
本研究では,シミュレーションモデルにおけるブラックボックスパラメータ推定を可能にするアルゴリズムのクラスであるneural posterior estimation (npe)を再検討し,シミュレーションから現実へのギャップの含意を検討する。
近年の研究では,これらの手法の信頼性が実証されているが,シミュレータモデル自体が生成した合成データを用いて解析を行ってきた。
そこで本論文では,NPEを用いた場合,非特異性の存在が信頼できない推論につながることを示す。
シミュレーションを用いた科学的調査は、誤特定の解釈可能な識別と頑健な推論コンポーネントを容易にし、モデルに適合させるために、モデル批判コンポーネントを取り入れるべきである、と我々は論じている。
シミュレーションと観測データとの差異を明示的にモデル化し,npeの拡張による2つの目標を同時に達成するためのロバスト神経後方推定(rnpe)を提案する。
提案手法は, 人工的に不特定な事例に対して評価し, RNPEがタスク全体にわたって良好に機能するのに対して, NPEを経口的に用いた場合, ミスリードや不安定な後肢が生じる。
関連論文リスト
- All-in-one simulation-based inference [19.41881319338419]
我々は、現在の制限を克服する新しい償却推論手法、Simformerを提案する。
Simformerは、ベンチマークタスクにおける現在の最先端の償却推論アプローチより優れています。
関数値パラメータを持つモデルに適用することができ、欠落または非構造化データによる推論シナリオを処理でき、パラメータとデータの合同分布の任意の条件をサンプリングすることができる。
論文 参考訳(メタデータ) (2024-04-15T10:12:33Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳(メタデータ) (2023-11-13T01:48:08Z) - Misspecification-robust Sequential Neural Likelihood for
Simulation-based Inference [0.20971479389679337]
本稿では,追加の調整パラメータを組み込んだSNL法を提案する。
いくつかの例を通して,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-01-31T02:28:18Z) - Neural Posterior Estimation with Differentiable Simulators [58.720142291102135]
微分可能シミュレータを用いてニューラル・ポストミラー推定(NPE)を行う新しい手法を提案する。
勾配情報が後部形状の制約にどのように役立ち、試料効率を向上させるかを示す。
論文 参考訳(メタデータ) (2022-07-12T16:08:04Z) - Nonparametric likelihood-free inference with Jensen-Shannon divergence
for simulator-based models with categorical output [1.4298334143083322]
シミュレータに基づく統計モデルに対する自由な推論は、機械学習と統計のコミュニティの両方において、関心の高まりを招いている。
本稿では、Jensen-Shannon- divergenceの計算特性を用いて、モデルパラメータに対する推定、仮説テスト、信頼区間の構築を可能にする理論的結果のセットを導出する。
このような近似はより集中的なアプローチの素早い代替手段であり、シミュレーターベースモデルの多種多様な応用には魅力的である。
論文 参考訳(メタデータ) (2022-05-22T18:00:13Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Black-box Bayesian inference for economic agent-based models [0.0]
2種類のブラックボックス近似ベイズ推定法の有効性について検討した。
ニューラルネットワークに基づくブラックボックス法は, 経済シミュレーションモデルに対して, アートパラメータ推論の状態を提示する。
論文 参考訳(メタデータ) (2022-02-01T18:16:12Z) - Deep Bayesian Active Learning for Accelerating Stochastic Simulation [74.58219903138301]
Interactive Neural Process(INP)は、シミュレーションとアクティブな学習アプローチのためのディープラーニングフレームワークである。
能動的学習のために,NPベースモデルの潜時空間で計算された新しい取得関数Latent Information Gain (LIG)を提案する。
その結果,STNPは学習環境のベースラインを上回り,LIGは能動学習の最先端を達成していることがわかった。
論文 参考訳(メタデータ) (2021-06-05T01:31:51Z) - Amortized Bayesian model comparison with evidential deep learning [0.12314765641075436]
本稿では,専門的なディープラーニングアーキテクチャを用いたベイズモデルの比較手法を提案する。
提案手法は純粋にシミュレーションベースであり,観測された各データセットに対して,すべての代替モデルを明示的に適合させるステップを回避している。
提案手法は,本研究で検討した事例に対して,精度,キャリブレーション,効率の点で優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2020-04-22T15:15:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。