論文の概要: Heavy-tailed Sampling via Transformed Unadjusted Langevin Algorithm
- arxiv url: http://arxiv.org/abs/2201.08349v1
- Date: Thu, 20 Jan 2022 18:32:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-21 14:58:01.763928
- Title: Heavy-tailed Sampling via Transformed Unadjusted Langevin Algorithm
- Title(参考訳): 変換未調整ランゲヴィンアルゴリズムによる重み付きサンプリング
- Authors: Ye He and Krishnakumar Balasubramanian and Murat A. Erdogdu
- Abstract要約: 重み付きターゲット密度を劣化させるオラクルからのサンプリングの複雑さを解析した。
私たちが構成する閉形式変換写像の特定のクラスは微分同相写像であることが示される。
- 参考スコア(独自算出の注目度): 18.541857410928387
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We analyze the oracle complexity of sampling from polynomially decaying
heavy-tailed target densities based on running the Unadjusted Langevin
Algorithm on certain transformed versions of the target density. The specific
class of closed-form transformation maps that we construct are shown to be
diffeomorphisms, and are particularly suited for developing efficient
diffusion-based samplers. We characterize the precise class of heavy-tailed
densities for which polynomial-order oracle complexities (in dimension and
inverse target accuracy) could be obtained, and provide illustrative examples.
We highlight the relationship between our assumptions and functional
inequalities (super and weak Poincar\'e inequalities) based on non-local
Dirichlet forms defined via fractional Laplacian operators, used to
characterize the heavy-tailed equilibrium densities of certain stable-driven
stochastic differential equations.
- Abstract(参考訳): 対象密度の特定の変換版に基づくアンアダクテッド・ランゲヴィン・アルゴリズムの実行に基づいて,多項式減衰重み付きターゲット密度からサンプリングするオラクルの複雑さを解析した。
我々が構成する閉形式変換写像の特定のクラスは微分同相写像であり、効率的な拡散ベースのスプリマーを開発するのに特に適している。
多項式次オラクル複素数(次元および逆ターゲット精度)が得られた重み付き密度の正確なクラスを特徴付け、図示的な例を示す。
我々は、ある安定駆動確率微分方程式の重み付き平衡密度を特徴付ける分数的ラプラシアン作用素によって定義される非局所ディリクレ形式に基づく、我々の仮定と関数的不等式(超および弱ポアンカル(英語版)の不等式)との関係を強調する。
関連論文リスト
- Weak Generative Sampler to Efficiently Sample Invariant Distribution of Stochastic Differential Equation [8.67581853745823]
現在のディープラーニングに基づく手法は、定常フォッカー-プランク方程式を解き、ディープニューラルネットワークの形で不変確率密度関数を決定する。
本稿では, 弱い生成サンプル(WGS)を用いて, 独立かつ同一に分布したサンプルを直接生成するフレームワークを提案する。
提案した損失関数はFokker-Planck方程式の弱い形式に基づいており、正規化フローを統合して不変分布を特徴づける。
論文 参考訳(メタデータ) (2024-05-29T16:41:42Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling [17.415391025051434]
重み付きポインカーの不等式に関連する伊藤拡散の自然クラスを離散化することにより、重み付き分布のクラスからのサンプリングの複雑さを分析する。
平均二乗解析に基づいて、ワッサーシュタイン2計量のターゲット分布に近い分布が$epsilon$のサンプルを得るための反復複雑性を確立する。
論文 参考訳(メタデータ) (2023-03-01T15:16:03Z) - Variational Monte Carlo Approach to Partial Differential Equations with
Neural Networks [0.0]
我々は高次元確率分布の進化を規定する偏微分方程式を解くための変分的アプローチを開発する。
我々のアプローチは自然に非有界連続領域に作用し、その変動パラメータを通して全確率密度関数を符号化する。
検討されたベンチマークケースに対しては、従来の計算手法に到達できないレジームにおける解析解と同様に、数値解との優れた一致を観察する。
論文 参考訳(メタデータ) (2022-06-04T07:36:35Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Resampling Base Distributions of Normalizing Flows [0.0]
学習された拒絶サンプリングに基づいて,フローを正規化するためのベース分布を導入する。
ログライクリフの最大化と逆Kulback-Leibler分散の最適化の両方を用いて、適切な学習アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-10-29T14:44:44Z) - Learning Equivariant Energy Based Models with Equivariant Stein
Variational Gradient Descent [80.73580820014242]
本稿では,確率モデルに対称性を組み込むことにより,確率密度の効率的なサンプリングと学習の問題に焦点をあてる。
まず、等変シュタイン変分勾配Descentアルゴリズムを導入する。これは、対称性を持つ密度からサンプリングするスタインの同一性に基づく同変サンプリング法である。
我々はエネルギーベースモデルのトレーニングを改善し、スケールアップする新しい方法を提案する。
論文 参考訳(メタデータ) (2021-06-15T01:35:17Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳(メタデータ) (2020-12-09T20:19:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。