論文の概要: Invertible Flow Non Equilibrium sampling
- arxiv url: http://arxiv.org/abs/2103.10943v1
- Date: Wed, 17 Mar 2021 09:09:06 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-22 14:23:49.721282
- Title: Invertible Flow Non Equilibrium sampling
- Title(参考訳): 逆流非平衡サンプリング
- Authors: Achille Thin (CMAP), Yazid Janati (IP Paris, TIPIC-SAMOVAR, CITI),
Sylvain Le Corff (IP Paris, TIPIC-SAMOVAR, CITI), Charles Ollion (CMAP),
Arnaud Doucet, Alain Durmus (CMLA), Eric Moulines (CMAP), Christian Robert
(CEREMADE)
- Abstract要約: 逆流非平衡サンプリング(InFine)
InFine は期待値、特に定数の正規化の偏りのない推定器を構成する。
Evidence Lower Bound (ELBO) を構築するために使用でき、新しい変分オートエンコーダ (VAE) クラスにつながります。
- 参考スコア(独自算出の注目度): 10.068677972360318
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Simultaneously sampling from a complex distribution with intractable
normalizing constant and approximating expectations under this distribution is
a notoriously challenging problem. We introduce a novel scheme, Invertible Flow
Non Equilibrium Sampling (InFine), which departs from classical Sequential
Monte Carlo (SMC) and Markov chain Monte Carlo (MCMC) approaches. InFine
constructs unbiased estimators of expectations and in particular of normalizing
constants by combining the orbits of a deterministic transform started from
random initializations.When this transform is chosen as an appropriate
integrator of a conformal Hamiltonian system, these orbits are optimization
paths. InFine is also naturally suited to design new MCMC sampling schemes by
selecting samples on the optimization paths.Additionally, InFine can be used to
construct an Evidence Lower Bound (ELBO) leading to a new class of Variational
AutoEncoders (VAE).
- Abstract(参考訳): 難解な正規化定数を持つ複素分布から同時にサンプリングし、この分布の下で期待を近似することは、非常に難しい問題である。
本稿では,古典的連続モンテカルロ (SMC) とマルコフ連鎖モンテカルロ (MCMC) のアプローチから離れる新しいスキーム,Invertible Flow Non Equilibrium Sampling (InFine) を紹介する。
infine は期待の偏りのない推定子、特にランダム初期化から始まった決定論的変換の軌道を組み合わせることで定数を正規化する。
InFineは、最適化パス上のサンプルを選択することで、新しいMCMCサンプリングスキームを設計するのにも自然に適しているが、同時に、新しい変分オートエンコーダ(VAE)のクラスにつながるエビデンスローバウンド(ELBO)を構築するためにも使用できる。
関連論文リスト
- Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - Continual Repeated Annealed Flow Transport Monte Carlo [93.98285297760671]
我々はCRAFT(Continuous Repeated Annealed Flow Transport Monte Carlo)を提案する。
シーケンシャルなモンテカルロサンプリングと正規化フローを用いた変分推論を組み合わせる。
CRAFTは格子場の実例で驚くほど正確な結果が得られることを示す。
論文 参考訳(メタデータ) (2022-01-31T10:58:31Z) - Stochastic Normalizing Flows for Inverse Problems: a Markov Chains
Viewpoint [0.45119235878273]
マルコフ連鎖の観点からのフローの正規化を考える。
遷移密度を一般マルコフ核に置き換え、ラドン-ニコディム微分による証明を確立する。
提案した条件付き正規化フローの性能を数値例で示す。
論文 参考訳(メタデータ) (2021-09-23T13:44:36Z) - Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。
我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
論文 参考訳(メタデータ) (2021-06-18T15:36:09Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Efficient MCMC Sampling for Bayesian Matrix Factorization by Breaking
Posterior Symmetries [1.3858051019755282]
本稿では、これらの対称性を確実に破り、精度を維持/改善する事前選択に対する簡単な修正を提案する。
非ゼロ線形独立先行手段を用いることで,MCMC試料の自己相関が著しく低下し,再建誤差の低減につながる可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-08T00:25:48Z) - Gaussianization Flows [113.79542218282282]
そこで本研究では,サンプル生成における効率のよい繰り返しと効率のよい逆変換を両立できる新しい型正規化フローモデルを提案する。
この保証された表現性のため、サンプル生成の効率を損なうことなく、マルチモーダルなターゲット分布をキャプチャできる。
論文 参考訳(メタデータ) (2020-03-04T08:15:06Z) - Stochastic Normalizing Flows [2.323220706791067]
単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。
サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。
いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
論文 参考訳(メタデータ) (2020-02-16T23:29:32Z) - Semi-Supervised Learning with Normalizing Flows [54.376602201489995]
FlowGMMは、フローの正規化を伴う生成半教師付き学習におけるエンドツーエンドのアプローチである。
我々は AG-News や Yahoo Answers のテキストデータなど,幅広いアプリケーションに対して有望な結果を示す。
論文 参考訳(メタデータ) (2019-12-30T17:36:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。