論文の概要: Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC
- arxiv url: http://arxiv.org/abs/2102.02374v1
- Date: Thu, 4 Feb 2021 02:21:08 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-05 22:31:04.428468
- Title: Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC
- Title(参考訳): SurVAE Flow Augmented MCMCによる組合せ空間のサンプリング
- Authors: Priyank Jaini, Didrik Nielsen and Max Welling
- Abstract要約: ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
- 参考スコア(独自算出の注目度): 83.48593305367523
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hybrid Monte Carlo is a powerful Markov Chain Monte Carlo method for sampling
from complex continuous distributions. However, a major limitation of HMC is
its inability to be applied to discrete domains due to the lack of gradient
signal. In this work, we introduce a new approach based on augmenting Monte
Carlo methods with SurVAE Flows to sample from discrete distributions using a
combination of neural transport methods like normalizing flows and variational
dequantization, and the Metropolis-Hastings rule. Our method first learns a
continuous embedding of the discrete space using a surjective map and
subsequently learns a bijective transformation from the continuous space to an
approximately Gaussian distributed latent variable. Sampling proceeds by
simulating MCMC chains in the latent space and mapping these samples to the
target discrete space via the learned transformations. We demonstrate the
efficacy of our algorithm on a range of examples from statistics, computational
physics and machine learning, and observe improvements compared to alternative
algorithms.
- Abstract(参考訳): ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
しかし、HMCの主な制限は、勾配信号の欠如のために離散ドメインに適用できないことである。
本研究では,SurVAE Flowsを用いたモンテカルロ法を,正規化フローと変分非量子化といったニューラルトランスポート法とメトロポリス-ヘイスティングス法を組み合わせ,離散分布からサンプルを得るための新たな手法を提案する。
本手法は,まず全射写像を用いて離散空間の連続埋め込みを学習し,その後,連続空間から約ガウス分布潜在変数への単射変換を学習する。
サンプリングは、潜在空間におけるmcmc鎖をシミュレートし、これらのサンプルを学習変換によって対象の離散空間にマッピングすることで進行する。
統計学,計算物理学,機械学習など幅広い分野において,本アルゴリズムの有効性を実証し,代替アルゴリズムと比較して改善点を観察した。
関連論文リスト
- Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Metropolis Monte Carlo sampling: convergence, localization transition
and optimality [0.0]
目標定常分布からの偏差は局所化遷移を特徴とすることを示す。
局所化移行前後の緩和は拡散率と拒絶率によってそれぞれ制限されていると論じる。
論文 参考訳(メタデータ) (2022-07-21T14:06:04Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Sampling Approximately Low-Rank Ising Models: MCMC meets Variational
Methods [35.24886589614034]
一般相互作用が$J$である超キューブ上の二次定値イジングモデルを考える。
我々の一般的な結果は、低ランクのIsingモデルに対する最初のサンプリングアルゴリズムを示唆している。
論文 参考訳(メタデータ) (2022-02-17T21:43:50Z) - Sampling from multimodal distributions using tempered Hamiltonian
transitions [0.0]
ハミルトニアン・モンテカルロ法は、正規化されていないターゲット密度からサンプルを引き出すのに広く用いられている。
我々は、構築された経路が高ポテンシャルエネルギー障壁を通過することができるハミルトニアンモンテカルロ法を開発した。
論文 参考訳(メタデータ) (2021-11-12T18:48:36Z) - Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。
我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
論文 参考訳(メタデータ) (2021-06-18T15:36:09Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-11-18T16:40:45Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳(メタデータ) (2020-11-08T17:09:37Z) - Stochastic Normalizing Flows [2.323220706791067]
単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。
サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。
いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
論文 参考訳(メタデータ) (2020-02-16T23:29:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。