論文の概要: Auxiliary MCMC and particle Gibbs samplers for parallelisable inference in latent dynamical systems
- arxiv url: http://arxiv.org/abs/2303.00301v2
- Date: Wed, 20 Nov 2024 09:39:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-21 16:10:06.071685
- Title: Auxiliary MCMC and particle Gibbs samplers for parallelisable inference in latent dynamical systems
- Title（参考訳）: 潜時力学系における並列推論のための補助MCMCと粒子ギブスサンプリング器
- Authors: Adrien Corenflos, Simo Särkkä,
- Abstract要約: 本研究では,高次元(時間ステップ数と潜時空間次元)非線型非ガウス潜在力学モデルからサンプリングするための効率的なMCMCアルゴリズムの設計問題について検討する。
モデルに補助的な観測変数を導入することにより、大きな状態空間モデルに対して効率的にカルマンベースのサンプルを実装できることを示す。
我々は、これらの補助サンプルを時間次元に沿って並列化する方法を示し、その結果、時間ステップの数と対数的にスケールするアルゴリズムを生み出した。
- 参考スコア（独自算出の注目度）: 12.13101948886485
- License:
- Abstract: We study the problem of designing efficient exact MCMC algorithms for sampling from the full posterior distribution of high-dimensional (in the number of time steps and the dimension of the latent space) non-linear non-Gaussian latent dynamical models. Particle Gibbs, also known as conditional sequential Monte Carlo (SMC), constitutes the de facto golden standard to do so, but suffers from degeneracy problems when the dimension of the latent space increases. On the other hand, the routinely employed globally Gaussian-approximated (e.g., extended Kalman filtering) biased solutions are seldom used for this same purpose even though they are more robust than their SMC counterparts. In this article, we show how, by introducing auxiliary observation variables in the model, we can both implement efficient exact Kalman-based samplers for large state-space models, as well as dramatically improve the mixing speed of particle Gibbs algorithms when the dimension of the latent space increases. We demonstrate when and how we can parallelise these auxiliary samplers along the time dimension, resulting in algorithms that scale logarithmically with the number of time steps when implemented on graphics processing units (GPUs). Both algorithms are easily tuned and can be extended to accommodate sophisticated approximation techniques. We demonstrate the improved statistical and computational performance of our auxiliary samplers compared to state-of-the-art alternatives for high-dimensional (in both time and state space) latent dynamical systems.
- Abstract（参考訳）: 本研究では,高次元(時間ステップ数および潜時空間次元)非線型非ガウス潜在力学モデルの全後部分布からサンプリングするための効率的なMCMCアルゴリズムの設計問題について検討する。
粒子ギブズ(英: Particle Gibbs、または条件付きシーケンシャルモンテカルロ(英: Conditional sequence Monte Carlo、SMC)は、それを行うための事実上の黄金標準を構成するが、潜時空間の次元が大きくなると縮退問題に悩まされる。
一方、グローバルガウス近似(例えば拡張カルマンフィルタ)の偏りのある解は、SMCよりも頑健であるにもかかわらず、この目的のためにはほとんど使われない。
本稿では, モデルに補助観測変数を導入することにより, 大規模状態空間モデルに対して, 正確なKalman-based samplerを効率的に実装できると同時に, 潜時空間の次元が大きくなると粒子ギブスアルゴリズムの混合速度を劇的に向上させることができることを示す。
グラフィック処理ユニット(GPU)に実装した場合の時間ステップ数と対数的にスケールするアルゴリズムが得られた。
どちらのアルゴリズムも簡単に調整でき、高度な近似技術に対応できるように拡張できる。
我々は,高次元(時間空間と状態空間の両方)潜在力学系に対する最先端の代替手法と比較して,補助試料の統計的および計算性能の向上を実証した。
関連論文リスト
- HJ-sampler: A Bayesian sampler for inverse problems of a stochastic process by leveraging Hamilton-Jacobi PDEs and score-based generative models [1.949927790632678]
本稿では,ブラウン運動文脈におけるコールホップ変換(Cole-Hopf transform)と呼ばれるログ変換に基づく。
本稿では,HJ-sampler という新しいアルゴリズムを開発し,与えられた終端観測による微分方程式の逆問題に対する推論を行う。
論文 参考訳（メタデータ） (2024-09-15T05:30:54Z) - von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳（メタデータ） (2024-06-19T01:57:21Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
論文 参考訳（メタデータ） (2024-02-09T01:11:23Z) - Entropy-based Training Methods for Scalable Neural Implicit Sampler [15.978655106034113]
非正規化対象分布からの効率的なサンプリングは、科学計算と機械学習の基本的な問題である。
本稿では,これらの制約を克服する,効率的でスケーラブルなニューラル暗黙サンプリング手法を提案する。
提案手法では, 提案手法を応用して, 提案手法を用いることにより, 精度の低い大量のサンプルを生成できる。
論文 参考訳（メタデータ） (2023-06-08T05:56:05Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳（メタデータ） (2021-10-06T16:58:34Z) - Direct sampling of projected entangled-pair states [0.0]
投射的絡み合ったペア状態(PEPS)を用いたモンテカルロ変分法(英語版)の研究は、長年の疑問に対する回答を提示できることを最近示した。
本稿では,PEPSから独立したサンプルを生成するサンプリングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-09-15T15:09:20Z) - A fast asynchronous MCMC sampler for sparse Bayesian inference [10.535140830570256]
本稿では,非常に高速なマルコフ・チェイン・モンテカルロ(MCMC)サンプリングフレームワークを提案する。
本研究では, 高次元線形回帰問題において, 提案アルゴリズムで生成したマルコフ連鎖は, 主信号の正確な復元を行う不変分布を持つことを示す。
論文 参考訳（メタデータ） (2021-08-14T02:20:49Z) - Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。
我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
論文 参考訳（メタデータ） (2021-06-18T15:36:09Z) - Oops I Took A Gradient: Scalable Sampling for Discrete Distributions [53.3142984019796]
このアプローチは、多くの困難な設定において、ジェネリックサンプリングよりも優れていることを示す。
また,高次元離散データを用いた深部エネルギーモデルトレーニングのための改良型サンプリング器についても実演した。
論文 参考訳（メタデータ） (2021-02-08T20:08:50Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳（メタデータ） (2021-02-04T02:21:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。