論文の概要: Auxiliary MCMC and particle Gibbs samplers for parallelisable inference in latent dynamical systems

• arxiv url: http://arxiv.org/abs/2303.00301v2
• Date: Wed, 20 Nov 2024 09:39:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-21 16:10:06.071685
• Title: Auxiliary MCMC and particle Gibbs samplers for parallelisable inference in latent dynamical systems
• Title（参考訳）: 潜時力学系における並列推論のための補助MCMCと粒子ギブスサンプリング器
• Authors: Adrien Corenflos, Simo Särkkä,
• Abstract要約: 本研究では,高次元(時間ステップ数と潜時空間次元)非線型非ガウス潜在力学モデルからサンプリングするための効率的なMCMCアルゴリズムの設計問題について検討する。 モデルに補助的な観測変数を導入することにより、大きな状態空間モデルに対して効率的にカルマンベースのサンプルを実装できることを示す。 我々は、これらの補助サンプルを時間次元に沿って並列化する方法を示し、その結果、時間ステップの数と対数的にスケールするアルゴリズムを生み出した。
• 参考スコア（独自算出の注目度）: 12.13101948886485
• License:
• Abstract: We study the problem of designing efficient exact MCMC algorithms for sampling from the full posterior distribution of high-dimensional (in the number of time steps and the dimension of the latent space) non-linear non-Gaussian latent dynamical models. Particle Gibbs, also known as conditional sequential Monte Carlo (SMC), constitutes the de facto golden standard to do so, but suffers from degeneracy problems when the dimension of the latent space increases. On the other hand, the routinely employed globally Gaussian-approximated (e.g., extended Kalman filtering) biased solutions are seldom used for this same purpose even though they are more robust than their SMC counterparts. In this article, we show how, by introducing auxiliary observation variables in the model, we can both implement efficient exact Kalman-based samplers for large state-space models, as well as dramatically improve the mixing speed of particle Gibbs algorithms when the dimension of the latent space increases. We demonstrate when and how we can parallelise these auxiliary samplers along the time dimension, resulting in algorithms that scale logarithmically with the number of time steps when implemented on graphics processing units (GPUs). Both algorithms are easily tuned and can be extended to accommodate sophisticated approximation techniques. We demonstrate the improved statistical and computational performance of our auxiliary samplers compared to state-of-the-art alternatives for high-dimensional (in both time and state space) latent dynamical systems.
• Abstract（参考訳）: 本研究では,高次元(時間ステップ数および潜時空間次元)非線型非ガウス潜在力学モデルの全後部分布からサンプリングするための効率的なMCMCアルゴリズムの設計問題について検討する。 粒子ギブズ(英: Particle Gibbs、または条件付きシーケンシャルモンテカルロ(英: Conditional sequence Monte Carlo、SMC)は、それを行うための事実上の黄金標準を構成するが、潜時空間の次元が大きくなると縮退問題に悩まされる。 一方、グローバルガウス近似(例えば拡張カルマンフィルタ)の偏りのある解は、SMCよりも頑健であるにもかかわらず、この目的のためにはほとんど使われない。 本稿では, モデルに補助観測変数を導入することにより, 大規模状態空間モデルに対して, 正確なKalman-based samplerを効率的に実装できると同時に, 潜時空間の次元が大きくなると粒子ギブスアルゴリズムの混合速度を劇的に向上させることができることを示す。 グラフィック処理ユニット(GPU)に実装した場合の時間ステップ数と対数的にスケールするアルゴリズムが得られた。 どちらのアルゴリズムも簡単に調整でき、高度な近似技術に対応できるように拡張できる。 我々は,高次元(時間空間と状態空間の両方)潜在力学系に対する最先端の代替手法と比較して,補助試料の統計的および計算性能の向上を実証した。

関連論文リスト

• Go With the Flow: Fast Diffusion for Gaussian Mixture Models [13.03355083378673]
  Schr"odinger Bridges (SB) は、適切なコスト関数を最小化しながら、有限時間で与えられた初期分布を他の最終状態に分配する拡散過程である。 本稿では,ある分布から別の分布へシステムをステアリングするための一組のSBポリシーの潜在メトリゼーションを提案する。 オートエンコーダの空間における画像から画像への変換のような低次元問題におけるこのアプローチの可能性を示す。
  論文  参考訳（メタデータ） (2024-12-12T08:40:22Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• Efficient Exploration in Continuous-time Model-based Reinforcement Learning [37.14026153342745]
  強化学習アルゴリズムは典型的には離散時間力学を考察するが、基礎となるシステムは時間的に連続していることが多い。 連続時間力学を表すモデルに基づく強化学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-30T15:04:40Z)
• Online Time Series Anomaly Detection with State Space Gaussian Processes [12.483273106706623]
  R-ssGPFAは、一様および多変量時系列の教師なしオンライン異常検出モデルである。 高次元時系列に対して、時系列の一般的な潜伏過程を特定するためにガウス過程因子解析の拡張を提案する。 異常観測時にカルマン更新をスキップすることで,モデルの堅牢性を向上させる。
  論文  参考訳（メタデータ） (2022-01-18T06:43:32Z)
• Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with Weak Mixing Time Bounds [7.428782604099876]
  Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。 本稿では,分割関数を厳密に推定する計算複雑性を低減する手法を提案する。
  論文  参考訳（メタデータ） (2021-11-14T15:42:02Z)
• Adaptive Machine Learning for Time-Varying Systems: Low Dimensional Latent Space Tuning [91.3755431537592]
  本稿では,時間変化システムを対象とした適応機械学習手法を提案する。 我々は,エンコーダデコーダCNNのエンコーダ部出力において,非常に高次元(N>100k)の入力を低次元(N2)潜在空間にマッピングする。 そこで本手法では,割り込みを伴わないフィードバックに基づいて,内部の相関関係を学習し,その進化をリアルタイムで追跡する。
  論文  参考訳（メタデータ） (2021-07-13T16:05:28Z)
• Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
  本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。 我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
  論文  参考訳（メタデータ） (2021-06-18T15:36:09Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
  後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。 我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
  論文  参考訳（メタデータ） (2020-10-03T16:22:15Z)
• Improving Sampling Accuracy of Stochastic Gradient MCMC Methods via Non-uniform Subsampling of Gradients [54.90670513852325]
  サンプリング精度を向上させるための一様でないサブサンプリング手法を提案する。 EWSGは、一様勾配MCMC法がバッチ勾配MCMC法の統計的挙動を模倣するように設計されている。 EWSGの実践的な実装では、データインデックス上のMetropolis-Hastingsチェーンを介して、一様でないサブサンプリングを効率的に行う。
  論文  参考訳（メタデータ） (2020-02-20T18:56:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。