論文の概要: Sequential Likelihood-Free Inference with Implicit Surrogate Proposal
- arxiv url: http://arxiv.org/abs/2010.07604v2
- Date: Mon, 15 Feb 2021 16:55:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 02:41:25.151429
- Title: Sequential Likelihood-Free Inference with Implicit Surrogate Proposal
- Title(参考訳): Inlicit Surrogate 提案による逐次自由推論
- Authors: Dongjun Kim, Kyungwoo Song, YoonYeong Kim, Yongjin Shin, Wanmo Kang,
Il-Chul Moon
- Abstract要約: 本稿では,さらにサンプル効率のよい累積データセットを生成するために,ISP(Inlicit Surrogate Proposal)を提案する。
ISPは、フィードフォワード方式でi.i.dサンプルを描画することで、最も多様な方法で累積データセットを構築する。
ISPは,マルチモーダル後部シミュレーションにおいて,ベースライン推論アルゴリズムよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 24.20924279100816
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bayesian inference without the access of likelihood, or likelihood-free
inference, has been a key research topic in simulations, to yield a more
realistic generation result. Recent likelihood-free inference updates an
approximate posterior sequentially with the dataset of the cumulative
simulation input-output pairs over inference rounds. Therefore, the dataset is
gathered through the iterative simulations with sampled inputs from a proposal
distribution by MCMC, which becomes the key of inference quality in this
sequential framework. This paper introduces a new proposal modeling, named as
Implicit Surrogate Proposal (ISP), to generate a cumulated dataset with further
sample efficiency. ISP constructs the cumulative dataset in the most diverse
way by drawing i.i.d samples via a feed-forward fashion, so the posterior
inference does not suffer from the disadvantages of MCMC caused by its
non-i.i.d nature, such as auto-correlation and slow mixing. We analyze the
convergence property of ISP in both theoretical and empirical aspects to
guarantee that ISP provides an asymptotically exact sampler. We demonstrate
that ISP outperforms the baseline inference algorithms on simulations with
multi-modal posteriors.
- Abstract(参考訳): 可能性のないベイズ推論や可能性のない推論はシミュレーションにおいて重要な研究テーマであり、より現実的な生成結果をもたらす。
最近の可能性のない推論は、累積シミュレーションの入出力ペアのデータセットを推論ラウンド上で逐次更新する。
そのため、MCMCによる提案分布からのサンプル入力による反復シミュレーションによりデータセットが収集され、このシーケンシャルフレームワークにおける推論品質の鍵となる。
本稿では,よりサンプル効率の高い累積データセットを生成するための,暗黙的サロゲート提案(isp)という新しい提案モデルを提案する。
ISPは、フィードフォワード方式でi.dサンプルを描画することで、最も多様な方法で累積データセットを構築するため、後部推論は自動相関や遅い混合のような非i.dの性質によって引き起こされるMCMCの欠点に悩まされない。
本稿では,ISPの収束特性を理論的および経験的両面において解析し,ISPが漸近的に正確なサンプリングを行うことを保証する。
ISPは,マルチモーダル後部シミュレーションにおいて,ベースライン推論アルゴリズムよりも優れていることを示す。
関連論文リスト
- All-in-one simulation-based inference [19.41881319338419]
我々は、現在の制限を克服する新しい償却推論手法、Simformerを提案する。
Simformerは、ベンチマークタスクにおける現在の最先端の償却推論アプローチより優れています。
関数値パラメータを持つモデルに適用することができ、欠落または非構造化データによる推論シナリオを処理でき、パラメータとデータの合同分布の任意の条件をサンプリングすることができる。
論文 参考訳(メタデータ) (2024-04-15T10:12:33Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Fast Shapley Value Estimation: A Unified Approach [71.92014859992263]
冗長な手法を排除し、単純で効率的なシェープリー推定器SimSHAPを提案する。
既存手法の解析において、推定器は特徴部分集合からランダムに要約された値の線形変換として統一可能であることを観察する。
実験により,SimSHAPの有効性が検証され,精度の高いShapley値の計算が大幅に高速化された。
論文 参考訳(メタデータ) (2023-11-02T06:09:24Z) - Amortizing intractable inference in large language models [56.92471123778389]
難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。
我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。
重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
論文 参考訳(メタデータ) (2023-10-06T16:36:08Z) - Differentially Private Federated Clustering over Non-IID Data [59.611244450530315]
クラスタリングクラスタ(FedC)問題は、巨大なクライアント上に分散されたラベルなしデータサンプルを、サーバのオーケストレーションの下で有限のクライアントに正確に分割することを目的としている。
本稿では,DP-Fedと呼ばれる差分プライバシー収束手法を用いた新しいFedCアルゴリズムを提案する。
提案するDP-Fedの様々な属性は、プライバシー保護の理論的解析、特に非識別的かつ独立に分散された(非i.d.)データの場合において得られる。
論文 参考訳(メタデータ) (2023-01-03T05:38:43Z) - Variational methods for simulation-based inference [3.308743964406687]
逐次ニューラル変分推論(SNVI)は、難易度のあるモデルにおいてベイズ推論を行うためのアプローチである。
SNVIは、確率推定と変分推論を組み合わせることで、スケーラブルなシミュレーションベースの推論アプローチを実現する。
論文 参考訳(メタデータ) (2022-03-08T16:06:37Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。
単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
論文 参考訳(メタデータ) (2021-02-15T16:59:30Z) - Accelerating Metropolis-Hastings with Lightweight Inference Compilation [1.2633299843878945]
推論コンパイル(英: Inference Compilation, lic)は、オープン・ユニバース確率型プログラミング言語において、アモータイズされた推論を実装している。
licは、ベイズネットワーク上で直接運用することを好んで、線形実行トレースのサンプリングを重要視している。
実験結果から,パラメータが少なく,ニュアンス確率変数に対するロバスト性が向上し,後続サンプリングが改善された。
論文 参考訳(メタデータ) (2020-10-23T02:05:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。