論文の概要: Cyclical Variational Bayes Monte Carlo for Efficient Multi-Modal Posterior Distributions Evaluation

• arxiv url: http://arxiv.org/abs/2202.11645v1
• Date: Wed, 23 Feb 2022 17:31:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-24 16:39:17.221857
• Title: Cyclical Variational Bayes Monte Carlo for Efficient Multi-Modal Posterior Distributions Evaluation
• Title（参考訳）: 効率的なマルチモーダル後部分布評価のための周期的ベイズモンテカルロ
• Authors: Felipe Igea, Alice Cicirello
• Abstract要約: 変分推論は、後方近似を推定するためのサンプリング方法の代替手法である。 変分ベイジアンモンテカルロ法 (VBMC) は, 統計モデル更新問題に対処する目的で検討されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Statistical model updating is frequently used in engineering to calculate the uncertainty of some unknown latent parameters when a set of measurements on observable quantities is given. Variational inference is an alternative approach to sampling methods that has been developed by the machine learning community to estimate posterior approximations through an optimization approach. In this paper, the Variational Bayesian Monte Carlo (VBMC) method is investigated with the purpose of dealing with statistical model updating problems in engineering involving expensive-to-run models. This method combines the active-sampling Bayesian quadrature with a Gaussian-process based variational inference to yield a non-parametric estimation of the posterior distribution of the identified parameters involving few runs of the expensive-to-run model. VBMC can also be used for model selection as it produces an estimation of the model's evidence lower bound. In this paper, a variant of the VBMC algorithm is developed through the introduction of a cyclical annealing schedule into the algorithm. The proposed cyclical VBMC algorithm allows to deal effectively with multi-modal posteriors by having multiple cycles of exploration and exploitation phases. Four numerical examples are used to compare the standard VBMC algorithm, the monotonic VBMC, the cyclical VBMC and the Transitional Ensemble Markov Chain Monte Carlo (TEMCMC). Overall, it is found that the proposed cyclical VBMC approach yields accurate results with a very reduced number of model runs compared to the state of the art sampling technique TEMCMC. In the presence of potential multi-modal problems, the proposed cyclical VBMC algorithm outperforms all the other approaches in terms of accuracy of the resulting posterior.
• Abstract（参考訳）: 統計モデル更新は、観測可能な量の一連の測定が与えられたとき、未知の潜在パラメータの不確かさを計算するために工学において頻繁に用いられる。 変分推論は、機械学習コミュニティが最適化アプローチを通じて後方近似を推定するために開発したサンプリング手法の代替手法である。 本稿では, 変分ベイズ型モンテカルロ法(vbmc法)について, コストのかかるモデルを含む工学における統計モデル更新問題に対処する目的で検討する。 この方法は、アクティブサンプリングベイズ二次数とガウス過程に基づく変分推論を組み合わせることで、費用のかかるモデルの実行量が少ないパラメータの後方分布を非パラメトリックに推定する。 VBMCはモデル選択にも使用することができ、モデルのエビデンスを下限に見積もることができる。 本稿では,周期的アニーリングスケジュールをアルゴリズムに導入することにより,VBMCアルゴリズムの変種を開発する。 提案したサイクリックVBMCアルゴリズムは,複数周期の探索および利用フェーズを持つことで,マルチモーダル後部を効果的に扱うことができる。 標準的なVBMCアルゴリズム、モノトニックなVBMC、サイクリックなVBMC、トランジショナルなマルコフ連鎖モンテカルロ(TEMCMC)を比較するために4つの数値例が用いられる。 以上の結果から, 提案手法は, TEMCMCと比較して, モデル実行回数を極めて少なくして, 精度の高い結果が得られることがわかった。 潜在的なマルチモーダル問題の存在下では、提案する循環型vbmcアルゴリズムは、結果の後方の精度の点で他の全てのアプローチよりも優れている。

関連論文リスト

• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• Learning Energy-Based Prior Model with Diffusion-Amortized MCMC [89.95629196907082]
  非収束短距離MCMCを用いた事前及び後方サンプリングによる潜時空間EMM学習の一般的な実践は、さらなる進歩を妨げている。 本稿では,MCMCサンプリングのための単純だが効果的な拡散型アモータイズ手法を導入し,それに基づく潜時空間EMMのための新しい学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-05T00:23:34Z)
• Reverse Diffusion Monte Carlo [19.35592726471155]
  逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。 rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
  論文  参考訳（メタデータ） (2023-07-05T05:42:03Z)
• Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
  我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。 実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
  論文  参考訳（メタデータ） (2023-05-30T06:17:35Z)
• GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond [101.5329678997916]
  対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。 本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。 低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
  論文  参考訳（メタデータ） (2022-11-03T16:42:40Z)
• When to Update Your Model: Constrained Model-based Reinforcement Learning [50.74369835934703]
  モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。 続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。 さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
  論文  参考訳（メタデータ） (2022-10-15T17:57:43Z)
• Community Detection in the Stochastic Block Model by Mixed Integer Programming [3.8073142980733]
  Degree-Corrected Block Model (DCSBM) は、コミュニティ構造を持つランダムグラフを生成する一般的なモデルである。 DCSBMに基づくコミュニティ検出の標準的なアプローチは、最大推定(MLE)により観測されたネットワークデータを生成する可能性が最も高いモデルパラメータを探索することである。 本稿では,モデルパラメータと最大確率のコミュニティ割当を観測グラフから確実に求める数学的計画式と厳密解法を提案する。
  論文  参考訳（メタデータ） (2021-01-26T22:04:40Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)
• Fast Bayesian Estimation of Spatial Count Data Models [0.0]
  シミュレーション問題ではなく最適化問題として変分ベイズ(VB)を導入する。 VB法は、観測されていないパラメータと空間依存性を持つ負二項モデルにおける後部推論のために導出される。 VBアプローチは、シミュレーションと経験的研究において、通常の8コアプロセッサ上でのMCMCの約45倍から50倍高速である。
  論文  参考訳（メタデータ） (2020-07-07T10:24:45Z)
• Variational Bayesian Monte Carlo with Noisy Likelihoods [11.4219428942199]
  我々は、期待情報ゲイン(EIG)や変動間距離(VIQR)など、新たなグローバルな'取得機能を導入する。 VBMC+VIQRは、接地トラス後部とモデル証拠の回収における最先端の性能を達成する。
  論文  参考訳（メタデータ） (2020-06-15T18:06:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。