論文の概要: Nonreversible MCMC from conditional invertible transforms: a complete recipe with convergence guarantees

• arxiv url: http://arxiv.org/abs/2012.15550v2
• Date: Mon, 29 Mar 2021 12:30:47 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-17 17:01:11.296240
• Title: Nonreversible MCMC from conditional invertible transforms: a complete recipe with convergence guarantees
• Title（参考訳）: 条件付き可逆変換からの非可逆的mcmc:収束保証付き完全レシピ
• Authors: Achille Thin, Nikita Kotelevskii, Christophe Andrieu, Alain Durmus, Eric Moulines, Maxim Panov
• Abstract要約: MCMCは複素および高次元確率分布をサンプリングするアルゴリズムのクラスである。 可逆性はトラクタブルな性質であり、ここではあまりトラクタブルではないが必須の性質、不変性を意味する。 本稿では,非可逆マルコフカーネルのクラスが所望の不変性を持つことを保証するため,汎用ツールを開発することでギャップを埋める。
• 参考スコア（独自算出の注目度）: 16.889031401821754
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Markov Chain Monte Carlo (MCMC) is a class of algorithms to sample complex and high-dimensional probability distributions. The Metropolis-Hastings (MH) algorithm, the workhorse of MCMC, provides a simple recipe to construct reversible Markov kernels. Reversibility is a tractable property that implies a less tractable but essential property here, invariance. Reversibility is however not necessarily desirable when considering performance. This has prompted recent interest in designing kernels breaking this property. At the same time, an active stream of research has focused on the design of novel versions of the MH kernel, some nonreversible, relying on the use of complex invertible deterministic transforms. While standard implementations of the MH kernel are well understood, the aforementioned developments have not received the same systematic treatment to ensure their validity. This paper fills the gap by developing general tools to ensure that a class of nonreversible Markov kernels, possibly relying on complex transforms, has the desired invariance property and leads to convergent algorithms. This leads to a set of simple and practically verifiable conditions.
• Abstract（参考訳）: マルコフ・チェイン・モンテカルロ (MCMC) は複素および高次元確率分布をサンプリングするアルゴリズムのクラスである。 MCMCのワークホースであるMetropolis-Hastings (MH)アルゴリズムは、可逆的なマルコフカーネルを構築するための簡単なレシピを提供する。 可逆性は扱いやすい性質であり、ここでは扱いにくいが本質的な性質、不変性を意味する。 しかし、性能を考えるとき、可逆性は必ずしも必要ではない。 このことが最近のカーネル設計への関心を呼び起こした。 同時に、アクティブな研究の流れは、複雑な可逆決定論的変換の使用に依存するいくつかの可逆的でないmhカーネルの新しいバージョンの設計に焦点を当てている。 MHカーネルの標準実装はよく理解されているが、上記の開発はそれらの妥当性を保証するため、同じ体系的な処理を受けていない。 本稿では,可逆なマルコフカーネルのクラスが,おそらく複素変換に依存し,所望の不変性を持ち,収束アルゴリズムにつながることを確実にするために,汎用ツールを開発することでギャップを埋める。 これは単純で実際に検証可能な条件の集合につながる。

関連論文リスト

• SpreadNUTS -- Moderate Dynamic Extension of Paths for No-U-Turn Sampling & Partitioning Visited Regions [0.0]
  本稿では,no-U-turn sampler (NUTS) として知られる特定のハミルトンモンテカルロ (HMC) アルゴリズムの変更を紹介する。 NUTS は NUTS よりも早くサンプル空間を探索することを目的としており、真分布への収束が NUTS より高速なサンプリング器を提供する。
  論文  参考訳（メタデータ） (2023-07-09T05:00:25Z)
• Deciphering RNA Secondary Structure Prediction: A Probabilistic K-Rook Matching Perspective [63.3632827588974]
  RFoldは、与えられたシーケンスから最もよく一致するK-Rook解を予測する方法である。 RFoldは、最先端のアプローチよりも競争性能とおよそ8倍の推論効率を達成する。
  論文  参考訳（メタデータ） (2022-12-02T16:34:56Z)
• Scalable Stochastic Parametric Verification with Stochastic Variational Smoothed Model Checking [1.5293427903448025]
  平滑モデル検査 (smMC) は, パラメータ空間全体の満足度関数を, 限られた観測値から推定することを目的としている。 本稿では,確率論的機械学習の最近の進歩を利用して,この限界を推し進める。 構成された満足度関数のスケーラビリティ,計算効率,精度を調べた結果,smMCとSV-smMCの性能を比較した。
  論文  参考訳（メタデータ） (2022-05-11T10:43:23Z)
• Improving the Sample-Complexity of Deep Classification Networks with Invariant Integration [77.99182201815763]
  変換によるクラス内分散に関する事前知識を活用することは、ディープニューラルネットワークのサンプル複雑性を改善するための強力な方法である。 そこで本研究では,アプリケーションの複雑な問題に対処するために,プルーニング法に基づく新しい単項選択アルゴリズムを提案する。 本稿では,Rotated-MNIST,SVHN,CIFAR-10データセットにおけるサンプルの複雑さの改善について述べる。
  論文  参考訳（メタデータ） (2022-02-08T16:16:11Z)
• Structured Stochastic Gradient MCMC [20.68905354115655]
  近似した後方関数形式を仮定しない新しい非パラメトリック変分近似を提案する。 完全なSGMCMCよりも優れた予測可能性と有効試料サイズが得られる。
  論文  参考訳（メタデータ） (2021-07-19T17:18:10Z)
• What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
  ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。 また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
  論文  参考訳（メタデータ） (2021-04-29T15:38:46Z)
• Continual Learning with Fully Probabilistic Models [70.3497683558609]
  機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。 生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。 我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2021-04-19T12:26:26Z)
• Towards interpretability of Mixtures of Hidden Markov Models [0.0]
  隠れマルコフモデル(MHMM)の混合は、シーケンシャルデータのクラスタリングに頻繁に使用される。 MHMMの解釈可能性に対する情報理論的尺度(エントロピー)を提案する。 解釈性を改善するために,エントロピー規則化期待最大化(EM)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-03-23T14:25:03Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• Orbital MCMC [82.54438698903775]
  任意の微分同相写像から周期軌道を構築するための2つの実用的なアルゴリズムを提案する。 また,両カーネルの実用的メリットを実証した実証的研究を行った。
  論文  参考訳（メタデータ） (2020-10-15T22:25:52Z)
• Non-convex Learning via Replica Exchange Stochastic Gradient MCMC [25.47669573608621]
  本稿では,適応的複製交換SGMCMC(reSGMCMC)を提案し,バイアスを自動的に補正し,対応する特性について検討する。 実験では,様々な設定の広範囲な実験を通じてアルゴリズムを検証し,その結果を得た。
  論文  参考訳（メタデータ） (2020-08-12T15:02:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。