論文の概要: Accelerating MCMC algorithms through Bayesian Deep Networks

• arxiv url: http://arxiv.org/abs/2011.14276v1
• Date: Sun, 29 Nov 2020 04:29:00 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-07 13:26:53.627343
• Title: Accelerating MCMC algorithms through Bayesian Deep Networks
• Title（参考訳）: ベイジアンディープネットワークによるMCMCアルゴリズムの高速化
• Authors: Hector J. Hortua, Riccardo Volpi, Dimitri Marinelli, Luigi Malago
• Abstract要約: マルコフ・チェイン・モンテカルロ(MCMC)アルゴリズムは、複雑な確率分布のサンプリングにおいて、その汎用性のために一般的に用いられる。 分布の次元が大きくなるにつれて、サンプリング空間を十分に探索する計算コストが困難になる。 マルコフ連鎖の最初の提案としてベイズニューラルネットワークの結果を用いて適応MCMCを実行する方法を示す。
• 参考スコア（独自算出の注目度）: 7.054093620465401
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Markov Chain Monte Carlo (MCMC) algorithms are commonly used for their versatility in sampling from complicated probability distributions. However, as the dimension of the distribution gets larger, the computational costs for a satisfactory exploration of the sampling space become challenging. Adaptive MCMC methods employing a choice of proposal distribution can address this issue speeding up the convergence. In this paper we show an alternative way of performing adaptive MCMC, by using the outcome of Bayesian Neural Networks as the initial proposal for the Markov Chain. This combined approach increases the acceptance rate in the Metropolis-Hasting algorithm and accelerate the convergence of the MCMC while reaching the same final accuracy. Finally, we demonstrate the main advantages of this approach by constraining the cosmological parameters directly from Cosmic Microwave Background maps.
• Abstract（参考訳）: マルコフ連鎖モンテカルロ(mcmc)アルゴリズムは、複雑な確率分布からのサンプリングにおける汎用性のために一般的に用いられる。 しかし,分布の次元が大きくなるにつれて,サンプリング空間を十分に探索するための計算コストが困難になる。 提案分布の選択を用いた適応MCMC法は収束を高速化するこの問題に対処できる。 本稿では,マルコフ連鎖の最初の提案としてベイズニューラルネットワークの結果を用いて,適応MCMCの実行方法を示す。 この組み合わせアプローチは、メトロポリス・ハスティングアルゴリズムの受け入れ率を高め、MCMCの収束を加速し、同じ最終的な精度に達する。 最後に、宇宙マイクロ波背景マップから直接宇宙パラメータを制約することにより、このアプローチの主な利点を示す。

関連論文リスト

• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Reverse Diffusion Monte Carlo [19.35592726471155]
  逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。 rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
  論文  参考訳（メタデータ） (2023-07-05T05:42:03Z)
• Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
  我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。 実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
  論文  参考訳（メタデータ） (2023-05-30T06:17:35Z)
• Importance is Important: Generalized Markov Chain Importance Sampling Methods [4.611170084430822]
  我々は,任意のマルチトライトリメトロポリスアルゴリズムにおいて,提案を常に受け入れ,余分な計算コストを伴わずにバイアスを補正するために必要な重み付けを評価することができることを示した。 本稿では、メトロポリス・ハスティングスフレームワークの外部にある離散空間上の別のMCMCサンプリング器を提案する。
  論文  参考訳（メタデータ） (2023-04-13T04:04:09Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• MCMC-Interactive Variational Inference [56.58416764959414]
  本稿では, MCMC-interactive variational inference (MIVI) を提案し, 後部を時間制約で推定する。 MIVIは変分推論とMCMCの相補的特性を利用して相互改善を促進する。 実験により、MIVIは後部を正確に近似するだけでなく、勾配MCMCとギブスサンプリング遷移の設計を容易にすることが示された。
  論文  参考訳（メタデータ） (2020-10-02T17:43:20Z)
• Non-convex Learning via Replica Exchange Stochastic Gradient MCMC [25.47669573608621]
  本稿では,適応的複製交換SGMCMC(reSGMCMC)を提案し,バイアスを自動的に補正し,対応する特性について検討する。 実験では,様々な設定の広範囲な実験を通じてアルゴリズムを検証し,その結果を得た。
  論文  参考訳（メタデータ） (2020-08-12T15:02:59Z)
• Involutive MCMC: a Unifying Framework [64.46316409766764]
  iMCMCでは,幅広いMCMCアルゴリズムについて述べる。 我々は、新しいMCMCアルゴリズムを開発するための設計原則として使用できる多くのトリックを定式化する。 後者は、既知の可逆MCMCアルゴリズムをより効率的な可逆アルゴリズムに変換する2つの例で示す。
  論文  参考訳（メタデータ） (2020-06-30T10:21:42Z)
• MetFlow: A New Efficient Method for Bridging the Gap between Markov Chain Monte Carlo and Variational Inference [20.312106392307406]
  変分推論(VI)とマルコフ・チェイン・モンテカルロ(MCMC)を組み合わせた計算効率の良い新しい手法を提案する。 このアプローチは汎用MCMCカーネルで使用することができるが,提案するMCMCアルゴリズムの新たなファミリである textitMetFlow に特に適している。
  論文  参考訳（メタデータ） (2020-02-27T16:50:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。