論文の概要: Sequential Kalman Monte Carlo for gradient-free inference in Bayesian inverse problems

• arxiv url: http://arxiv.org/abs/2407.07781v1
• Date: Wed, 10 Jul 2024 15:56:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-11 16:02:46.504972
• Title: Sequential Kalman Monte Carlo for gradient-free inference in Bayesian inverse problems
• Title（参考訳）: ベイズ逆問題における勾配自由推論のための逐次カルマンモンテカルロ
• Authors: Richard D. P. Grumitt, Minas Karamanis, Uroš Seljak,
• Abstract要約: 逐次カルマンモンテカルロサンプリングを導入し、逆問題における勾配のない推論を行う。 FAKIは正規化フローを用いて、EKIの目標措置のガウスアンザッツを緩和する。 FAKIだけでは、EKIのモデル線形性仮定を正すことはできない。
• 参考スコア（独自算出の注目度）: 1.3654846342364308
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Ensemble Kalman Inversion (EKI) has been proposed as an efficient method for solving inverse problems with expensive forward models. However, the method is based on the assumption that we proceed through a sequence of Gaussian measures in moving from the prior to the posterior, and that the forward model is linear. In this work, we introduce Sequential Kalman Monte Carlo (SKMC) samplers, where we exploit EKI and Flow Annealed Kalman Inversion (FAKI) within a Sequential Monte Carlo (SMC) sampling scheme to perform efficient gradient-free inference in Bayesian inverse problems. FAKI employs normalizing flows (NF) to relax the Gaussian ansatz of the target measures in EKI. NFs are able to learn invertible maps between a Gaussian latent space and the original data space, allowing us to perform EKI updates in the Gaussianized NF latent space. However, FAKI alone is not able to correct for the model linearity assumptions in EKI. Errors in the particle distribution as we move through the sequence of target measures can therefore compound to give incorrect posterior moment estimates. In this work we consider the use of EKI and FAKI to initialize the particle distribution for each target in an adaptive SMC annealing scheme, before performing t-preconditioned Crank-Nicolson (tpCN) updates to distribute particles according to the target. We demonstrate the performance of these SKMC samplers on three challenging numerical benchmarks, showing significant improvements in the rate of convergence compared to standard SMC with importance weighted resampling at each temperature level. Code implementing the SKMC samplers is available at https://github.com/RichardGrumitt/KalmanMC.
• Abstract（参考訳）: Ensemble Kalman Inversion (EKI) は、高価なフォワードモデルを用いた逆問題の効率的な解法として提案されている。 しかし,本手法は,前方から後方への移動におけるガウス測度列の進行と,前方モデルが線型であるという仮定に基づいている。 本研究では,シークエンシャル・カルマン・カルマン・カルマン・カルマン・カルマン・インバージョン(FAKI)を,シークエンシャル・カルマン・カルマン・カルマン・カルマン・インバージョン(SKMC)・カルマン・インバージョン(FAKI)を用いて,ベイズ的逆問題における効率的な勾配のない推論を行う。 FAKIは正規化フロー(NF)を用いて、EKIのターゲット対策のガウスアンザッツを緩和する。 NFはガウス潜在空間と原データ空間の間の可逆写像を学習することができ、ガウス化されたNF潜在空間でEKI更新を実行することができる。 しかし、FAKIだけでは、EKIのモデル線形性仮定を正すことはできない。 したがって, 粒子分布の誤差は, 不正確な後モーメント推定を与えるために複雑になる。 本研究では, 適応SMCアニール方式で各ターゲットの粒子分布を初期化するために, EKI と FAKI を用い, t-プレコンディショニングした Crank-Nicolson (tpCN) 更新を行い, ターゲットに応じて粒子を分散させる。 これらのSKMCサンプリング器の性能を3つの挑戦的な数値ベンチマークで示し、各温度レベルで重み付けされた再サンプリングが重要となる標準SMCと比較して、収束率を著しく改善したことを示す。 SKMCのサンプル実装コードはhttps://github.com/RichardGrumitt/KalmanMCで公開されている。

関連論文リスト

• Rectified Diffusion Guidance for Conditional Generation [62.00207951161297]
  CFGの背後にある理論を再検討し、組合せ係数の不適切な構成(すなわち、広く使われている和対1バージョン)が生成分布の期待シフトをもたらすことを厳密に確認する。 本稿では,誘導係数を緩和したReCFGを提案する。 このようにして、修正された係数は観測されたデータをトラバースすることで容易に事前計算でき、サンプリング速度はほとんど影響を受けない。
  論文  参考訳（メタデータ） (2024-10-24T13:41:32Z)
• Sequential Monte Carlo for Inclusive KL Minimization in Amortized Variational Inference [3.126959812401426]
  SMC-Wakeは,モンテカルロの連続検層を用いて包摂的KL偏差の勾配を推定する補正式である。 シミュレーションと実データの両方を用いた実験では、SMC-Wakeは既存の手法よりも後方を正確に近似する変動分布に適合する。
  論文  参考訳（メタデータ） (2024-03-15T18:13:48Z)
• Flow Annealed Kalman Inversion for Gradient-Free Inference in Bayesian Inverse Problems [1.534667887016089]
  Flow Annealed Kalman Inversion (FAKI)はEnsemble Kalman Inversion (EKI)の一般化である 2つのベンチマークでFAKIの性能を示す。
  論文  参考訳（メタデータ） (2023-09-20T17:39:14Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)
• Annealed Flow Transport Monte Carlo [91.20263039913912]
  Annealed Flow Transport (AFT) built on Annealed Importance Smpling (AIS) and Sequential Monte Carlo (SMC) AFTは、連続したターゲットに向かって粒子をプッシュするために順次学習されるNFに依存します。 AFTの人口バージョンの連続時間スケーリング限界は、Feynman--Kac測度によって与えられることを示した。
  論文  参考訳（メタデータ） (2021-02-15T12:05:56Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Gaussian Process-based Min-norm Stabilizing Controller for Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
  本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。 この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
  論文  参考訳（メタデータ） (2020-11-14T01:27:32Z)
• An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
  後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。 我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
  論文  参考訳（メタデータ） (2020-10-03T16:22:15Z)
• Generalized Bayesian Filtering via Sequential Monte Carlo [12.789129084258409]
  本稿では,一般状態空間隠蔽マルコフモデル (HMM) における推定のためのフレームワークを提案する。 一般化ベイズ推論(GBI)の損失理論的視点を利用して、HMMにおける一般化フィルタリング再帰を定義する。 標準フィルタリングアルゴリズムと他のロバストフィルタの性能改善を観察する。
  論文  参考訳（メタデータ） (2020-02-23T22:15:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。