論文の概要: Annealed Flow Transport Monte Carlo
- arxiv url: http://arxiv.org/abs/2102.07501v1
- Date: Mon, 15 Feb 2021 12:05:56 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-16 15:53:14.466083
- Title: Annealed Flow Transport Monte Carlo
- Title(参考訳): モンテカルロの焼鈍流輸送
- Authors: Michael Arbel, Alexander G. D. G. Matthews, Arnaud Doucet
- Abstract要約: Annealed Flow Transport (AFT) built on Annealed Importance Smpling (AIS) and Sequential Monte Carlo (SMC)
AFTは、連続したターゲットに向かって粒子をプッシュするために順次学習されるNFに依存します。
AFTの人口バージョンの連続時間スケーリング限界は、Feynman--Kac測度によって与えられることを示した。
- 参考スコア(独自算出の注目度): 91.20263039913912
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Annealed Importance Sampling (AIS) and its Sequential Monte Carlo (SMC)
extensions are state-of-the-art methods for estimating normalizing constants of
probability distributions. We propose here a novel Monte Carlo algorithm,
Annealed Flow Transport (AFT), that builds upon AIS and SMC and combines them
with normalizing flows (NF) for improved performance. This method transports a
set of particles using not only importance sampling (IS), Markov chain Monte
Carlo (MCMC) and resampling steps - as in SMC, but also relies on NF which are
learned sequentially to push particles towards the successive annealed targets.
We provide limit theorems for the resulting Monte Carlo estimates of the
normalizing constant and expectations with respect to the target distribution.
Additionally, we show that a continuous-time scaling limit of the population
version of AFT is given by a Feynman--Kac measure which simplifies to the law
of a controlled diffusion for expressive NF. We demonstrate experimentally the
benefits and limitations of our methodology on a variety of applications.
- Abstract(参考訳): Annealed Importance Sampling(AIS)とそのSequential Monte Carlo(SMC)拡張は、確率分布の正規化定数を推定するための最先端の方法です。
本稿では,AISとSMCを基盤としたモンテカルロの新しいアルゴリズムであるアニールドフロートランスポート(AFT)を提案し,それを正規化フロー(NF)と組み合わせ,性能向上を図る。
この方法は、重要サンプリング(IS)、マルコフチェーンモンテカルロ(MCMC)および再サンプリングステップ(SMC)だけでなく、連続アニールターゲットに向かって粒子をプッシュするために順次学習NFに依存するだけでなく、粒子のセットを輸送します。
我々は、目標分布に関する正規化定数と期待のモンテカルロ推定の極限定理を提供する。
さらに, AFT の個体数の連続的スケーリング限界は, 表現的 NF に対する制御拡散の法則を単純化する Feynman-Kac 測度によって与えられることを示した。
様々なアプリケーションにおける方法論の利点と限界を実験的に示します。
関連論文リスト
- Sequential Kalman Monte Carlo for gradient-free inference in Bayesian inverse problems [1.3654846342364308]
逐次カルマンモンテカルロサンプリングを導入し、逆問題における勾配のない推論を行う。
FAKIは正規化フローを用いて、EKIの目標措置のガウスアンザッツを緩和する。
FAKIだけでは、EKIのモデル線形性仮定を正すことはできない。
論文 参考訳(メタデータ) (2024-07-10T15:56:30Z) - Convergence Bounds for Sequential Monte Carlo on Multimodal Distributions using Soft Decomposition [6.872242798058046]
逐次モンテカルロ法(SMC)アルゴリズムにより得られたサンプルの実証測度の下での関数の分散に関するバウンダリを証明した。
我々は,局所MCMC力学に依存する混合時間を用いて,真のマルチモーダル設定でバウンダリが得られることを示す。
論文 参考訳(メタデータ) (2024-05-29T22:43:45Z) - Combining Normalizing Flows and Quasi-Monte Carlo [0.0]
近年の機械学習の進歩はモンテカルロ法を改良するための新しい手法の開発に繋がった。
数値実験により,この組み合わせにより,従来のモンテカルロを用いて流れをサンプリングした場合よりも,分散度が著しく低い推定器が得られることを示した。
論文 参考訳(メタデータ) (2024-01-11T14:17:06Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Mitigating Out-of-Distribution Data Density Overestimation in
Energy-Based Models [54.06799491319278]
深部エネルギーベースモデル(EBM)は、複雑な分布を学習する能力によって注目されている。
EBMの訓練には、Langevin Monte Carlo (LMC) を用いた最大推定(MLE)を用いることが多い。
短周期LCCのMLEが, 誤った密度推定でEMMに収束する理由を考察する。
論文 参考訳(メタデータ) (2022-05-30T02:49:17Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Continual Repeated Annealed Flow Transport Monte Carlo [93.98285297760671]
我々はCRAFT(Continuous Repeated Annealed Flow Transport Monte Carlo)を提案する。
シーケンシャルなモンテカルロサンプリングと正規化フローを用いた変分推論を組み合わせる。
CRAFTは格子場の実例で驚くほど正確な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-31T10:58:31Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Projected Latent Markov Chain Monte Carlo: Conditional Sampling of
Normalizing Flows [37.87437571724747]
射影型マルコフ連鎖モンテカルロ(PL-MCMC)は正規化流によって学習された高次元条件分布から抽出する手法である。
条件付きサンプリング法として,PL-MCMCは不完全データからのフローを正規化するためのモンテカルロ予測最大化(MC-EM)訓練を可能にする。
論文 参考訳(メタデータ) (2020-07-13T00:47:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。