論文の概要: Sampling Constrained Continuous Probability Distributions: A Review
- arxiv url: http://arxiv.org/abs/2209.12403v1
- Date: Mon, 26 Sep 2022 03:59:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-27 17:16:56.826280
- Title: Sampling Constrained Continuous Probability Distributions: A Review
- Title(参考訳): サンプリング制約付き連続確率分布:一考察
- Authors: Shiwei Lan and Lulu Kang
- Abstract要約: Hamilton Monte Carlo (HMC) と関連するアプローチは、計算効率の点で大きな利点を示している。
本稿では,まずHMCと拡張サンプリング法について概説し,さらに3つの制約されたHMCに基づくサンプリング法について具体的に説明する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The problem of sampling constrained continuous distributions has frequently
appeared in many machine/statistical learning models. Many Monte Carlo Markov
Chain (MCMC) sampling methods have been adapted to handle different types of
constraints on the random variables. Among these methods, Hamilton Monte Carlo
(HMC) and the related approaches have shown significant advantages in terms of
computational efficiency compared to other counterparts. In this article, we
first review HMC and some extended sampling methods, and then we concretely
explain three constrained HMC-based sampling methods, reflection,
reformulation, and spherical HMC. For illustration, we apply these methods to
solve three well-known constrained sampling problems, truncated multivariate
normal distributions, Bayesian regularized regression, and nonparametric
density estimation. In this review, we also connect constrained sampling with
another similar problem in the statistical design of experiments of constrained
design space.
- Abstract(参考訳): 制約付き連続分布をサンプリングする問題は、多くの機械・統計学習モデルに頻繁に現れる。
多くのモンテカルロ・マルコフ・チェイン(MCMC)サンプリング法は、確率変数の異なる種類の制約を扱うように適応されている。
これらの手法の中で、ハミルトン・モンテカルロ(HMC)と関連するアプローチは、他の手法と比較して計算効率の面で大きな利点を示している。
本稿ではまず, HMCと拡張サンプリング法について概説し, そして, 3つの制約された HMC に基づくサンプリング法, 反射法, 再構成法, 球状 HMC について具体的に解説する。
例えば、これらの手法を3つのよく知られた制約付きサンプリング問題、切断された多変量正規分布、ベイズ正規化回帰、非パラメトリック密度推定に適用する。
本稿では,制約付きサンプリングを,制約付き設計空間の実験の統計的設計における類似の問題と結びつける。
関連論文リスト
- Constrained Sampling with Primal-Dual Langevin Monte Carlo [15.634831573546041]
この研究は、正規化定数まで既知の確率分布からサンプリングする問題を考察する。
一般非線形関数の期待値によって定義された統計的制約の集合を満たす。
我々は,目標分布とサンプルを同時に制約する離散時間原始二元Langevin Monte Carloアルゴリズム(PD-LMC)を提唱した。
論文 参考訳(メタデータ) (2024-11-01T13:26:13Z) - Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。
統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
論文 参考訳(メタデータ) (2024-08-25T04:07:18Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Dimension-free Relaxation Times of Informed MCMC Samplers on Discrete Spaces [5.075066314996696]
離散空間上でのメトロポリス・ハスティングスアルゴリズムに対する一般混合時間境界を開発する。
我々は,情報化メトロポリス・ハスティングスアルゴリズムのクラスに対して,問題次元に依存しない緩和時間を達成するための十分な条件を確立する。
論文 参考訳(メタデータ) (2024-04-05T02:40:45Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - Comparison of Markov chains via weak Poincar\'e inequalities with
application to pseudo-marginal MCMC [0.0]
マルコフ連鎖の平衡への有界収束に対する弱ポアンカーの不等式として知られるある種の機能的不等式の使用について検討する。
本研究では, 独立メトロポリス・ハスティングス・サンプリング法や, 難易度を求める疑似マルジナル手法などの手法に対して, サブ幾何学的収束境界の導出を可能にすることを示す。
論文 参考訳(メタデータ) (2021-12-10T15:36:30Z) - Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。
我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
論文 参考訳(メタデータ) (2021-06-18T15:36:09Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。