論文の概要: Multi-fidelity Monte Carlo: a pseudo-marginal approach
- arxiv url: http://arxiv.org/abs/2210.01534v1
- Date: Tue, 4 Oct 2022 11:27:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 13:59:11.985478
- Title: Multi-fidelity Monte Carlo: a pseudo-marginal approach
- Title(参考訳): 多面的モンテカルロ--擬マルジナルアプローチ
- Authors: Diana Cai and Ryan P. Adams
- Abstract要約: モンテカルロを科学分野に適用する上で重要な課題は計算である。
多忠実MCMCアルゴリズムは、近似目標密度を得るために、様々な忠実度のモデルを組み合わせる。
我々は、より安価でランダムな非バイアス推定器を用いたマルチフィデリティ推定のための疑似マージ型MCMCアプローチを採用する。
- 参考スコア(独自算出の注目度): 21.05263506153674
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Markov chain Monte Carlo (MCMC) is an established approach for uncertainty
quantification and propagation in scientific applications. A key challenge in
applying MCMC to scientific domains is computation: the target density of
interest is often a function of expensive computations, such as a high-fidelity
physical simulation, an intractable integral, or a slowly-converging iterative
algorithm. Thus, using an MCMC algorithms with an expensive target density
becomes impractical, as these expensive computations need to be evaluated at
each iteration of the algorithm. In practice, these computations often
approximated via a cheaper, low-fidelity computation, leading to bias in the
resulting target density. Multi-fidelity MCMC algorithms combine models of
varying fidelities in order to obtain an approximate target density with lower
computational cost. In this paper, we describe a class of asymptotically exact
multi-fidelity MCMC algorithms for the setting where a sequence of models of
increasing fidelity can be computed that approximates the expensive target
density of interest. We take a pseudo-marginal MCMC approach for multi-fidelity
inference that utilizes a cheaper, randomized-fidelity unbiased estimator of
the target fidelity constructed via random truncation of a telescoping series
of the low-fidelity sequence of models. Finally, we discuss and evaluate the
proposed multi-fidelity MCMC approach on several applications, including
log-Gaussian Cox process modeling, Bayesian ODE system identification,
PDE-constrained optimization, and Gaussian process regression parameter
inference.
- Abstract(参考訳): マルコフ連鎖モンテカルロ(MCMC)は、科学応用における不確実な定量化と伝播のための確立されたアプローチである。
MCMCを科学分野に適用する際の重要な課題は計算である: 関心のターゲット密度は、しばしば高忠実度物理シミュレーション、難解積分、ゆっくりと収束する反復アルゴリズムのような高価な計算の関数である。
したがって、アルゴリズムの各イテレーションでこれらの高価な計算を評価する必要があるため、高価な目標密度を持つMCMCアルゴリズムは実用的ではない。
実際には、これらの計算はしばしばより安価で低忠実な計算によって近似され、結果としてターゲット密度のバイアスが生じる。
多忠実MCMCアルゴリズムは、計算コストの低い近似目標密度を得るために、様々な忠実度のモデルを組み合わせる。
本稿では,高利得のターゲット密度を近似した,高信頼度モデル列を計算可能な設定のための,漸近的に正確な多忠実MCMCアルゴリズムのクラスについて述べる。
低忠実度モデル系列のテレスコップ系列のランダム切断により構築された目標忠実性の、より安価でランダム化された不偏推定器を利用するマルチ忠実性推論に疑似マージ型mcmcアプローチを用いる。
最後に、対数ガウスコックスプロセスモデリング、ベイズODEシステム同定、PDE制約最適化、ガウスプロセス回帰パラメータ推論など、複数のアプリケーションにおいて提案されたマルチ忠実MCMCアプローチを議論し、評価する。
関連論文リスト
- Accelerating Multilevel Markov Chain Monte Carlo Using Machine Learning Models [0.0]
大規模問題に対するマルチレベルマルコフ・チェイン・モンテカルロ(MCMC)サンプリングを高速化するための効率的な手法を提案する。
提案したサンプルの低コストな評価には,低忠実度機械学習モデルを用いる。
本手法は地下水流の標準ベンチマーク推論問題において実証された。
論文 参考訳(メタデータ) (2024-05-18T05:13:11Z) - Multi-fidelity Hamiltonian Monte Carlo [1.86413150130483]
代理モデルを用いた2段階ハミルトニアンモンテカルロアルゴリズムを提案する。
受け入れられた確率は、標準のHMC提案によって第一段階で計算される。
提案が受理された場合、後部を高忠実度数値解法を用いて第2段階で評価する。
論文 参考訳(メタデータ) (2024-05-08T13:03:55Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-04T01:47:37Z) - Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。
本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。
疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
論文 参考訳(メタデータ) (2022-06-10T04:54:13Z) - Faster One-Sample Stochastic Conditional Gradient Method for Composite
Convex Minimization [61.26619639722804]
滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。
提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
論文 参考訳(メタデータ) (2022-02-26T19:10:48Z) - Fast Doubly-Adaptive MCMC to Estimate the Gibbs Partition Function with
Weak Mixing Time Bounds [7.428782604099876]
Gibbs分布の実践的応用に対する大きな障害は、それらの分割関数を見積もる必要があることである。
本稿では,分割関数を厳密に推定する計算複雑性を低減する手法を提案する。
論文 参考訳(メタデータ) (2021-11-14T15:42:02Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-11-18T16:40:45Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。
我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
論文 参考訳(メタデータ) (2020-10-03T16:22:15Z) - Gaussian Mixture Reduction with Composite Transportation Divergence [15.687740538194413]
複合輸送分散(CTD)に基づく新しい最適化型GMR法を提案する。
我々は,還元混合物を計算し,その理論的収束を確立するための最大化最小化アルゴリズムを開発した。
統合されたフレームワークにより、CTDの最も適切なコスト関数を選択して、優れたパフォーマンスを実現することができる。
論文 参考訳(メタデータ) (2020-02-19T19:52:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。