論文の概要: Path Integral Sampler: a stochastic control approach for sampling
- arxiv url: http://arxiv.org/abs/2111.15141v1
- Date: Tue, 30 Nov 2021 05:50:12 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-01 15:55:32.369120
- Title: Path Integral Sampler: a stochastic control approach for sampling
- Title(参考訳): Path Integral Sampler: サンプリングのための確率的制御手法
- Authors: Qinsheng Zhang, Yongxin Chen
- Abstract要約: 非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムであるPath Integral Sampler(PIS)を提案する。
PISは初期分布からサンプルを抽出し、シュリンガー橋を通じてサンプルを伝播して終端分布に達する。
我々は、準最適制御を用いる場合、ワッサーシュタイン距離の観点から、PSSのサンプリング品質を理論的に正当化する。
- 参考スコア(独自算出の注目度): 4.94950858749529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Path Integral Sampler~(PIS), a novel algorithm to draw samples
from unnormalized probability density functions. The PIS is built on the
Schr\"odinger bridge problem which aims to recover the most likely evolution of
a diffusion process given its initial distribution and terminal distribution.
The PIS draws samples from the initial distribution and then propagates the
samples through the Schr\"odinger bridge to reach the terminal distribution.
Applying the Girsanov theorem, with a simple prior diffusion, we formulate the
PIS as a stochastic optimal control problem whose running cost is the control
energy and terminal cost is chosen according to the target distribution. By
modeling the control as a neural network, we establish a sampling algorithm
that can be trained end-to-end. We provide theoretical justification of the
sampling quality of PIS in terms of Wasserstein distance when sub-optimal
control is used. Moreover, the path integrals theory is used to compute
importance weights of the samples to compensate for the bias induced by the
sub-optimality of the controller and time-discretization. We experimentally
demonstrate the advantages of PIS compared with other start-of-the-art sampling
methods on a variety of tasks.
- Abstract(参考訳): 非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムPath Integral Sampler~(PIS)を提案する。
PISは、初期分布と終端分布を考えると、拡散過程の最も可能性の高い進化を回復することを目的としたSchr\"odinger Bridge問題に基づいている。
pisは初期分布からサンプルを抽出し、その後schr\"odinger橋を介してサンプルを伝播して終端分布に到達する。
Girsanov の定理を適用すると、単純な事前拡散で PIS を確率的最適制御問題として定式化し、目標分布に応じてランニングコストが制御エネルギーであり、終端コストが選択される。
制御をニューラルネットワークとしてモデル化することにより,エンドツーエンドでトレーニング可能なサンプリングアルゴリズムを確立する。
サブオプティマ制御を用いた場合のwasserstein距離によるpiのサンプリング品質の理論的正当性を示す。
さらに、パス積分理論は、コントローラのサブ最適性と時間離散化によって引き起こされるバイアスを補うためにサンプルの重要性重みを計算するために用いられる。
PISの利点を,各種タスクにおける他の手法と比較して実験的に実証した。
関連論文リスト
- Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Harmonic Path Integral Diffusion [0.4527270266697462]
本稿では,連続多変量確率分布から抽出する新しい手法を提案する。
本手法では,状態空間の起点を中心とするデルタ関数を$t=0$とし,ターゲット分布に$t=1$で変換する。
これらのアルゴリズムは他のサンプリング手法、特にシミュレートおよびパス積分サンプリングと対比し、解析制御、精度、計算効率の点でそれらの利点を強調した。
論文 参考訳(メタデータ) (2024-09-23T16:20:21Z) - Amortized Posterior Sampling with Diffusion Prior Distillation [55.03585818289934]
逆問題の解法として, 後方分布からのサンプルの変分推論手法を提案する。
本手法はユークリッド空間の標準信号や多様体上の信号に適用可能であることを示す。
論文 参考訳(メタデータ) (2024-07-25T09:53:12Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Sampling for Model Predictive Trajectory Planning in Autonomous Driving using Normalizing Flows [1.2972104025246092]
本稿では,軌道生成のためのサンプリング手法について検討する。
変分推論の分野を起源とする正規化フローが検討される。
学習に基づく正規化フローモデルは、入力領域のより効率的な探索のために訓練される。
論文 参考訳(メタデータ) (2024-04-15T10:45:12Z) - Soft-constrained Schrodinger Bridge: a Stochastic Control Approach [4.922305511803267]
シュル「オーディンガー橋」は、最適に制御された拡散過程を見つけることを目標とする連続時間制御問題と見なすことができる。
本稿では,両分布間のKulback-Leiblerの相違を罰し,端末分布を目標と異なるものにすることで,この問題を一般化することを提案する。
1つの応用は、堅牢な生成拡散モデルの開発である。
論文 参考訳(メタデータ) (2024-03-04T04:10:24Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Plug-and-Play split Gibbs sampler: embedding deep generative priors in
Bayesian inference [12.91637880428221]
本稿では, 後方分布から効率的にサンプリングするために, 可変分割を利用したプラグアンドプレイサンプリングアルゴリズムを提案する。
後方サンプリングの課題を2つの単純なサンプリング問題に分割する。
その性能は最近の最先端の最適化とサンプリング手法と比較される。
論文 参考訳(メタデータ) (2023-04-21T17:17:51Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。