論文の概要: Sampling Constrained Continuous Probability Distributions: A Review
- arxiv url: http://arxiv.org/abs/2209.12403v1
- Date: Mon, 26 Sep 2022 03:59:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-27 17:16:56.826280
- Title: Sampling Constrained Continuous Probability Distributions: A Review
- Title(参考訳): サンプリング制約付き連続確率分布:一考察
- Authors: Shiwei Lan and Lulu Kang
- Abstract要約: Hamilton Monte Carlo (HMC) と関連するアプローチは、計算効率の点で大きな利点を示している。
本稿では,まずHMCと拡張サンプリング法について概説し,さらに3つの制約されたHMCに基づくサンプリング法について具体的に説明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The problem of sampling constrained continuous distributions has frequently
appeared in many machine/statistical learning models. Many Monte Carlo Markov
Chain (MCMC) sampling methods have been adapted to handle different types of
constraints on the random variables. Among these methods, Hamilton Monte Carlo
(HMC) and the related approaches have shown significant advantages in terms of
computational efficiency compared to other counterparts. In this article, we
first review HMC and some extended sampling methods, and then we concretely
explain three constrained HMC-based sampling methods, reflection,
reformulation, and spherical HMC. For illustration, we apply these methods to
solve three well-known constrained sampling problems, truncated multivariate
normal distributions, Bayesian regularized regression, and nonparametric
density estimation. In this review, we also connect constrained sampling with
another similar problem in the statistical design of experiments of constrained
design space.
- Abstract(参考訳): 制約付き連続分布をサンプリングする問題は、多くの機械・統計学習モデルに頻繁に現れる。
多くのモンテカルロ・マルコフ・チェイン(MCMC)サンプリング法は、確率変数の異なる種類の制約を扱うように適応されている。
これらの手法の中で、ハミルトン・モンテカルロ(HMC)と関連するアプローチは、他の手法と比較して計算効率の面で大きな利点を示している。
本稿ではまず, HMCと拡張サンプリング法について概説し, そして, 3つの制約された HMC に基づくサンプリング法, 反射法, 再構成法, 球状 HMC について具体的に解説する。
例えば、これらの手法を3つのよく知られた制約付きサンプリング問題、切断された多変量正規分布、ベイズ正規化回帰、非パラメトリック密度推定に適用する。
本稿では,制約付きサンプリングを,制約付き設計空間の実験の統計的設計における類似の問題と結びつける。
関連論文リスト
- On diffusion models for amortized inference: Benchmarking and improving
stochastic control and sampling [96.7808454149545]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z) - Diffusive Gibbs Sampling [14.922372667945163]
Diffusive Gibbs Sampling (DiGS) は、遠隔モードと非接続モードを特徴とする分布から効果的にサンプリングする方法である。
提案手法は, 並列テンパリングなどの最先端手法よりも, マルチモーダル分布のサンプリングに優れた混合特性を示す。
我々は, ガウス, ベイズニューラルネットワーク, 分子動力学の混合など, 様々なタスクにおいて, サンプルが大幅に改善されることを実証した。
論文 参考訳(メタデータ) (2024-02-05T13:47:41Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - Comparison of Markov chains via weak Poincar\'e inequalities with
application to pseudo-marginal MCMC [0.0]
マルコフ連鎖の平衡への有界収束に対する弱ポアンカーの不等式として知られるある種の機能的不等式の使用について検討する。
本研究では, 独立メトロポリス・ハスティングス・サンプリング法や, 難易度を求める疑似マルジナル手法などの手法に対して, サブ幾何学的収束境界の導出を可能にすることを示す。
論文 参考訳(メタデータ) (2021-12-10T15:36:30Z) - Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。
我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
論文 参考訳(メタデータ) (2021-06-18T15:36:09Z) - Nonlinear Independent Component Analysis for Continuous-Time Signals [85.59763606620938]
このプロセスの混合物の観察から多次元音源過程を復元する古典的問題を考察する。
このリカバリは、この混合物が十分に微分可能で可逆な関数によって与えられる場合、多くの一般的なプロセスのモデル(座標の順序と単調スケーリングまで)に対して可能であることを示す。
論文 参考訳(メタデータ) (2021-02-04T20:28:44Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Stein Variational Gaussian Processes [1.6114012813668934]
ガウス過程(GP)モデルにおいて,非ガウス的確率と大規模データ量を持つモデルにおいて,Stein variational descent (SVGD) を用いて推論を行う方法を示す。
本手法は, 回帰と分類の両面でのベンチマーク問題, 多モード後部, 550,134 回観測による空気品質の例で実証された。
論文 参考訳(メタデータ) (2020-09-25T11:47:44Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。