論文の概要: Error-guided likelihood-free MCMC
- arxiv url: http://arxiv.org/abs/2010.06735v3
- Date: Fri, 23 Apr 2021 19:47:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 23:03:42.148233
- Title: Error-guided likelihood-free MCMC
- Title(参考訳): エラー誘導電位MCMC
- Authors: Volodimir Begy and Erich Schikuta
- Abstract要約: この研究は、難解なエビデンスと可能性関数を持つモデルに対する新しい後部推論法を示す。
誤り誘導の可能性のないEG-LF-MCMCは科学応用のために開発された。
- 参考スコア(独自算出の注目度): 2.0305676256390934
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work presents a novel posterior inference method for models with
intractable evidence and likelihood functions. Error-guided likelihood-free
MCMC, or EG-LF-MCMC in short, has been developed for scientific applications,
where a researcher is interested in obtaining approximate posterior densities
over model parameters, while avoiding the need for expensive training of
component estimators on full observational data or the tedious design of
expressive summary statistics, as in related approaches. Our technique is based
on two phases. In the first phase, we draw samples from the prior, simulate
respective observations and record their errors $\epsilon$ in relation to the
true observation. We train a classifier to distinguish between corresponding
and non-corresponding $(\epsilon, \boldsymbol{\theta})$-tuples. In the second
stage the said classifier is conditioned on the smallest recorded $\epsilon$
value from the training set and employed for the calculation of transition
probabilities in a Markov Chain Monte Carlo sampling procedure. By conditioning
the MCMC on specific $\epsilon$ values, our method may also be used in an
amortized fashion to infer posterior densities for observations, which are
located a given distance away from the observed data. We evaluate the proposed
method on benchmark problems with semantically and structurally different data
and compare its performance against the state of the art approximate Bayesian
computation (ABC).
- Abstract(参考訳): この研究は、難解なエビデンスと可能性関数を持つモデルに対する新しい後部推論法を示す。
誤り誘導可能性のないMCMC(略してEG-LF-MCMC)は科学的応用のために開発され、研究者はモデルパラメータよりも近似した後続密度を求める一方で、完全な観測データに対するコンポーネント推定器の高価なトレーニングや、関連するアプローチのように表現力のある要約統計の退屈な設計を回避している。
我々の技術は2つのフェーズに基づいている。
第1フェーズでは、前者のサンプルを描画し、それぞれの観測をシミュレートし、その誤差を真観測との関係で$\epsilon$に記録する。
分類器を訓練して、対応するおよび非対応の$(\epsilon, \boldsymbol{\theta})$-tuplesを区別する。
第2段階では、この分類器はトレーニングセットから記録された最小の$\epsilon$値に条件付けされ、マルコフ連鎖モンテカルロサンプリング手順における遷移確率の計算に使用される。
mcmc を特定の $\epsilon$ 値に条件付けることにより、本手法は観測データから離れた位置にある観測の後方密度を推定するために、償却された方法でも使用できる。
提案手法を意味的および構造的に異なるデータを用いたベンチマーク問題において評価し,その性能を近似ベイズ計算(ABC)の状態と比較した。
関連論文リスト
- Amortizing intractable inference in diffusion models for vision, language, and control [89.65631572949702]
本稿では,p(mathbfx)$以前の拡散生成モデルとブラックボックス制約,あるいは関数$r(mathbfx)$からなるモデルにおいて,データ上の後部サンプルである $mathbfxsim prm post(mathbfx)propto p(mathbfx)r(mathbfx)$について検討する。
我々は,データフリー学習目標である相対軌道バランスの正しさを,サンプルから抽出した拡散モデルの訓練のために証明する。
論文 参考訳(メタデータ) (2024-05-31T16:18:46Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Towards Model-Agnostic Posterior Approximation for Fast and Accurate Variational Autoencoders [22.77397537980102]
我々は,真のモデルの後部の決定論的,モデルに依存しない後部近似(MAPA)を計算可能であることを示す。
我々は,(1)MAPAが真の後部傾向を捉えた低次元合成データに対する予備的な結果を示し,(2)MAPAに基づく推論は,ベースラインよりも少ない計算でより優れた密度推定を行う。
論文 参考訳(メタデータ) (2024-03-13T20:16:21Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Convergence Analysis of Stochastic Gradient Descent with MCMC Estimators [8.493584276672971]
勾配降下(SGD)とその変種は機械学習に不可欠である。
本稿では,マルコフ連鎖モンテカルロ(MCMC)推定器を用いて勾配を計算するSGDアルゴリズムについて考察する。
MCMC-SGDはサドル点から脱出し、$(epsilon,epsilon1/4)$2次定常点に達することが示されている。
論文 参考訳(メタデータ) (2023-03-19T08:29:49Z) - Variational Inference for Neyman-Scott Processes [1.4467794332678536]
Neyman-Scottプロセス(NSP)は、クラスタ階層のモデルポイントや時間イベントに、さまざまな分野に適用されている。
NSPに対する第1変分推論 (VI) アルゴリズムを開発し、適切な変分後点過程分布の2つの例を示す。
論文 参考訳(メタデータ) (2023-03-07T07:32:10Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Compositional Score Modeling for Simulation-based Inference [28.422049267537965]
両手法の利点を享受する条件付きスコアモデリングに基づく新しい手法を提案する。
提案手法は, サンプル効率が高く, 自然に複数の観測を推定時に集約し, 標準推定手法の欠点を回避することができる。
論文 参考訳(メタデータ) (2022-09-28T17:08:31Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Score Matched Conditional Exponential Families for Likelihood-Free
Inference [0.0]
Likelihood-Free Inference (LFI) はモデルからのシミュレーションに依存する。
モデルからパラメータシミュレーションペアを観測に基づいて独立に生成する。
重みをスコアマッチングで調整したニューラルネットワークを用いて,条件付き指数関数的家族度近似を学習する。
論文 参考訳(メタデータ) (2020-12-20T11:57:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。