論文の概要: Flow Annealed Kalman Inversion for Gradient-Free Inference in Bayesian
Inverse Problems
- arxiv url: http://arxiv.org/abs/2309.11490v1
- Date: Wed, 20 Sep 2023 17:39:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-21 15:22:39.865288
- Title: Flow Annealed Kalman Inversion for Gradient-Free Inference in Bayesian
Inverse Problems
- Title(参考訳): ベイズ逆問題における勾配自由推論のためのフローアニールカルマンインバージョン
- Authors: Richard D.P. Grumitt, Minas Karamanis and Uro\v{s} Seljak
- Abstract要約: Flow Annealed Kalman Inversion (FAKI)はEnsemble Kalman Inversion (EKI)の一般化である
2つのベンチマークでFAKIの性能を示す。
- 参考スコア(独自算出の注目度): 1.534667887016089
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For many scientific inverse problems we are required to evaluate an expensive
forward model. Moreover, the model is often given in such a form that it is
unrealistic to access its gradients. In such a scenario, standard Markov Chain
Monte Carlo algorithms quickly become impractical, requiring a large number of
serial model evaluations to converge on the target distribution. In this paper
we introduce Flow Annealed Kalman Inversion (FAKI). This is a generalization of
Ensemble Kalman Inversion (EKI), where we embed the Kalman filter updates in a
temperature annealing scheme, and use normalizing flows (NF) to map the
intermediate measures corresponding to each temperature level to the standard
Gaussian. In doing so, we relax the Gaussian ansatz for the intermediate
measures used in standard EKI, allowing us to achieve higher fidelity
approximations to non-Gaussian targets. We demonstrate the performance of FAKI
on two numerical benchmarks, showing dramatic improvements over standard EKI in
terms of accuracy whilst accelerating its already rapid convergence properties
(typically in $\mathcal{O}(10)$ steps).
- Abstract(参考訳): 多くの科学的逆問題に対して、我々は高価な前方モデルを評価する必要がある。
さらに、モデルはしばしば勾配にアクセスするのが非現実的であるような形で与えられる。
このようなシナリオでは、標準マルコフチェインモンテカルロアルゴリズムはすぐに非現実的になり、ターゲット分布に収束するために多数のシリアルモデル評価を必要とする。
本稿では,Flow Annealed Kalman Inversion (FAKI)を紹介する。
これはEnsemble Kalman Inversion (EKI)の一般化であり、カルマンフィルタの更新を温度アニールスキームに埋め込み、正規化フロー(NF)を用いて各温度レベルに対応する中間測度を標準ガウスにマッピングする。
これにより、標準EKIで使用される中間測度に対してガウスアンサッツを緩和し、非ガウス目標に対する高忠実度近似を達成することができる。
FAKIの性能を2つの数値ベンチマークで示し、精度において標準EKIよりも劇的に向上し、既に高速な収束特性(典型的には$\mathcal{O}(10)$のステップ)を加速することを示した。
関連論文リスト
- Sequential Kalman Monte Carlo for gradient-free inference in Bayesian inverse problems [1.3654846342364308]
逐次カルマンモンテカルロサンプリングを導入し、逆問題における勾配のない推論を行う。
FAKIは正規化フローを用いて、EKIの目標措置のガウスアンザッツを緩和する。
FAKIだけでは、EKIのモデル線形性仮定を正すことはできない。
論文 参考訳(メタデータ) (2024-07-10T15:56:30Z) - von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Variational Kalman Filtering with Hinf-Based Correction for Robust
Bayesian Learning in High Dimensions [2.294014185517203]
本稿では,頑健な変動目標とHinf-normに基づく補正を適用し,逐次変動推定フィルタ(VIF)の収束問題に対処する。
連続的な変分推論とHinfに基づく最適化ステップを利用する新しいVIF-Hinf再帰法を提案する。
論文 参考訳(メタデータ) (2022-04-27T17:38:13Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Gaussian MRF Covariance Modeling for Efficient Black-Box Adversarial
Attacks [86.88061841975482]
我々は,ゼロオーダーのオラクルにのみアクセス可能なブラックボックス設定において,逆例を生成する問題について検討する。
我々はこの設定を用いて、FGSM(Fast Gradient Sign Method)のブラックボックス版と同様に、高速な1ステップの敵攻撃を見つける。
提案手法はクエリを少なくし,現在の技術よりも攻撃成功率が高いことを示す。
論文 参考訳(メタデータ) (2020-10-08T18:36:51Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳(メタデータ) (2020-10-03T16:22:15Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。