論文の概要: Path Integral Sampler: a stochastic control approach for sampling
- arxiv url: http://arxiv.org/abs/2111.15141v1
- Date: Tue, 30 Nov 2021 05:50:12 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-01 15:55:32.369120
- Title: Path Integral Sampler: a stochastic control approach for sampling
- Title(参考訳): Path Integral Sampler: サンプリングのための確率的制御手法
- Authors: Qinsheng Zhang, Yongxin Chen
- Abstract要約: 非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムであるPath Integral Sampler(PIS)を提案する。
PISは初期分布からサンプルを抽出し、シュリンガー橋を通じてサンプルを伝播して終端分布に達する。
我々は、準最適制御を用いる場合、ワッサーシュタイン距離の観点から、PSSのサンプリング品質を理論的に正当化する。
- 参考スコア(独自算出の注目度): 4.94950858749529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Path Integral Sampler~(PIS), a novel algorithm to draw samples
from unnormalized probability density functions. The PIS is built on the
Schr\"odinger bridge problem which aims to recover the most likely evolution of
a diffusion process given its initial distribution and terminal distribution.
The PIS draws samples from the initial distribution and then propagates the
samples through the Schr\"odinger bridge to reach the terminal distribution.
Applying the Girsanov theorem, with a simple prior diffusion, we formulate the
PIS as a stochastic optimal control problem whose running cost is the control
energy and terminal cost is chosen according to the target distribution. By
modeling the control as a neural network, we establish a sampling algorithm
that can be trained end-to-end. We provide theoretical justification of the
sampling quality of PIS in terms of Wasserstein distance when sub-optimal
control is used. Moreover, the path integrals theory is used to compute
importance weights of the samples to compensate for the bias induced by the
sub-optimality of the controller and time-discretization. We experimentally
demonstrate the advantages of PIS compared with other start-of-the-art sampling
methods on a variety of tasks.
- Abstract(参考訳): 非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムPath Integral Sampler~(PIS)を提案する。
PISは、初期分布と終端分布を考えると、拡散過程の最も可能性の高い進化を回復することを目的としたSchr\"odinger Bridge問題に基づいている。
pisは初期分布からサンプルを抽出し、その後schr\"odinger橋を介してサンプルを伝播して終端分布に到達する。
Girsanov の定理を適用すると、単純な事前拡散で PIS を確率的最適制御問題として定式化し、目標分布に応じてランニングコストが制御エネルギーであり、終端コストが選択される。
制御をニューラルネットワークとしてモデル化することにより,エンドツーエンドでトレーニング可能なサンプリングアルゴリズムを確立する。
サブオプティマ制御を用いた場合のwasserstein距離によるpiのサンプリング品質の理論的正当性を示す。
さらに、パス積分理論は、コントローラのサブ最適性と時間離散化によって引き起こされるバイアスを補うためにサンプルの重要性重みを計算するために用いられる。
PISの利点を,各種タスクにおける他の手法と比較して実験的に実証した。
関連論文リスト
- Soft-constrained Schrodinger Bridge: a Stochastic Control Approach [5.532178107057916]
シュル「オーディンガー橋」は、最適に制御された拡散過程を見つけることを目標とする連続時間制御問題と見なすことができる。
最適制御されたプロセスの終端分布は$mu_T$と他の分布の幾何混合であることを示す。
SSBの応用の1つは、堅牢な生成拡散モデルの開発である。
論文 参考訳(メタデータ) (2024-03-04T04:10:24Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Diffusion Generative Flow Samplers: Improving learning signals through
partial trajectory optimization [87.21285093582446]
Diffusion Generative Flow Samplers (DGFS) はサンプルベースのフレームワークであり、学習プロセスを短い部分的軌道セグメントに分解することができる。
生成フローネットワーク(GFlowNets)のための理論から着想を得た。
論文 参考訳(メタデータ) (2023-10-04T09:39:05Z) - Generalized Schr\"odinger Bridge Matching [57.40143569424158]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域に広く見られる。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は、効率的な変分近似を利用できる条件付き最適制御を解くのに役立てることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Plug-and-Play split Gibbs sampler: embedding deep generative priors in
Bayesian inference [12.91637880428221]
本稿では, 後方分布から効率的にサンプリングするために, 可変分割を利用したプラグアンドプレイサンプリングアルゴリズムを提案する。
後方サンプリングの課題を2つの単純なサンプリング問題に分割する。
その性能は最近の最先端の最適化とサンプリング手法と比較される。
論文 参考訳(メタデータ) (2023-04-21T17:17:51Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。