論文の概要: Score Matched Conditional Exponential Families for Likelihood-Free
Inference
- arxiv url: http://arxiv.org/abs/2012.10903v2
- Date: Fri, 15 Jan 2021 09:18:48 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-01 04:39:51.246535
- Title: Score Matched Conditional Exponential Families for Likelihood-Free
Inference
- Title(参考訳): 確率フリー推論のためのスコアマッチング条件付指数関数族
- Authors: Lorenzo Pacchiardi, Ritabrata Dutta
- Abstract要約: Likelihood-Free Inference (LFI) はモデルからのシミュレーションに依存する。
モデルからパラメータシミュレーションペアを観測に基づいて独立に生成する。
重みをスコアマッチングで調整したニューラルネットワークを用いて,条件付き指数関数的家族度近似を学習する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To perform Bayesian inference for stochastic simulator models for which the
likelihood is not accessible, Likelihood-Free Inference (LFI) relies on
simulations from the model. Standard LFI methods can be split according to how
these simulations are used: to build an explicit Surrogate Likelihood, or to
accept/reject parameter values according to a measure of distance from the
observations (Approximate Bayesian Computation (ABC)). In both cases,
simulations are adaptively tailored to the value of the observation. Here, we
generate parameter-simulation pairs from the model independently on the
observation, and use them to learn a conditional exponential family likelihood
approximation; to parametrize it, we use Neural Networks whose weights are
tuned with Score Matching. With our likelihood approximation, we can employ
MCMC for doubly intractable distributions to draw samples from the posterior
for any number of observations without additional model simulations, with
performance competitive to comparable approaches. Further, the sufficient
statistics of the exponential family can be used as summaries in ABC,
outperforming the state-of-the-art method in five different models with known
likelihood. Finally, we apply our method to a challenging model from
meteorology.
- Abstract(参考訳): 確率的シミュレーターモデルに対するベイズ推論を行うために、LFI (Likelihood-Free Inference) はモデルからのシミュレーションに依存する。
標準的なLFI法は、これらのシミュレーションがどのように使われるかに応じて分割することができる: 明示的なサロゲート様相を構築するか、または観測からの距離(近似ベイズ計算(ABC))に応じてパラメータ値を受け入れ/削除する。
どちらの場合も、シミュレーションは観測値に適応的に調整される。
そこで本研究では,観測から独立にモデルからパラメータ-シミュレーションペアを生成し,条件付き指数関数的家族確率近似を学習するために利用し,それをパラメータ化するために,重みをスコアマッチングで調整したニューラルネットワークを用いる。
確率近似により、MCMCを2重に抽出可能な分布に利用して、追加のモデルシミュレーションを使わずに後部からサンプルを引き出すことができ、性能は同等のアプローチに匹敵する。
さらに、指数族に関する十分な統計はABCの要約として利用でき、既知の5つのモデルにおいて最先端の手法よりも優れている。
最後に,本手法を気象学の課題モデルに適用する。
関連論文リスト
- Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Likelihood-Based Methods Improve Parameter Estimation in Opinion
Dynamics Models [6.138671548064356]
エージェント・ベース・モデル(ABM)におけるパラメータ推定の最大解法は、典型的なシミュレーション・ベース・アプローチよりも優れていることを示す。
対照的に、確率に基づくアプローチは、統計的に原理化された方法で未知のパラメータを観測データに接続する確率関数を導出する。
実験の結果,最大推定値の精度は最大4倍に向上し,計算時間を最大200倍に短縮できることがわかった。
論文 参考訳(メタデータ) (2023-10-04T12:29:37Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Maximum Likelihood Learning of Unnormalized Models for Simulation-Based
Inference [44.281860162298564]
シミュレーションベース推論のための2つの合成確率法を提案する。
本研究では,シミュレータによって生成された合成データを用いて,条件付きエネルギーベースモデル(EBM)を学習する。
本研究は, カニの神経科学ネットワークのモデルに適用し, 各種合成データセット上での両手法の特性を実証する。
論文 参考訳(メタデータ) (2022-10-26T14:38:24Z) - Compositional Score Modeling for Simulation-based Inference [28.422049267537965]
両手法の利点を享受する条件付きスコアモデリングに基づく新しい手法を提案する。
提案手法は, サンプル効率が高く, 自然に複数の観測を推定時に集約し, 標準推定手法の欠点を回避することができる。
論文 参考訳(メタデータ) (2022-09-28T17:08:31Z) - Nonparametric likelihood-free inference with Jensen-Shannon divergence
for simulator-based models with categorical output [1.4298334143083322]
シミュレータに基づく統計モデルに対する自由な推論は、機械学習と統計のコミュニティの両方において、関心の高まりを招いている。
本稿では、Jensen-Shannon- divergenceの計算特性を用いて、モデルパラメータに対する推定、仮説テスト、信頼区間の構築を可能にする理論的結果のセットを導出する。
このような近似はより集中的なアプローチの素早い代替手段であり、シミュレーターベースモデルの多種多様な応用には魅力的である。
論文 参考訳(メタデータ) (2022-05-22T18:00:13Z) - Likelihood-Free Inference in State-Space Models with Unknown Dynamics [71.94716503075645]
本研究では、状態空間モデルにおいて、観測をシミュレートすることしかできず、遷移ダイナミクスが不明な潜在状態の推測と予測を行う手法を提案する。
本研究では,限られた数のシミュレーションで状態予測と状態予測を行う手法を提案する。
論文 参考訳(メタデータ) (2021-11-02T12:33:42Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。