論文の概要: Sampling, Diffusions, and Stochastic Localization
- arxiv url: http://arxiv.org/abs/2305.10690v2
- Date: Tue, 02 Sep 2025 12:50:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 17:24:08.980541
- Title: Sampling, Diffusions, and Stochastic Localization
- Title(参考訳): サンプリング,拡散,確率的局在化
- Authors: Andrea Montanari,
- Abstract要約: 拡散は高次元の比例分布からサンプリングする手法として成功している。
拡散過程のドリフトは通常、ニューラルネットワークとして表現される。
マルコフ局所化のアルゴリズム版が、ある統計力学モデルから標本化するために最近提案された。
- 参考スコア(独自算出の注目度): 10.871336306134395
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusions are a successful technique to sample from high-dimensional distributions. The target distribution can be either explicitly given or learnt from a collection of samples. They implement a diffusion process whose endpoint is a sample from the target distribution. The drift of the diffusion process is typically represented as a neural network. Stochastic localization is a successful technique to prove mixing of Markov Chains and other functional inequalities in high dimension. An algorithmic version of stochastic localization was recently proposed in order to sample from certain statistical mechanics models. This expository article has three objectives: $(i)$~Generalize the algorithmic construction to other stochastic localization processes. This construction is both simple and broadly applicable; $(ii)$~Clarify the connection between diffusions and stochastic localization. This allows to derive several known sampling schemes in a unified fashion; $(iii)$~Describe the insights that follow from this unified viewpoint.
- Abstract(参考訳): 拡散は高次元分布からサンプリングする手法として成功している。
対象の分布は、明示的に与えられるか、サンプルの集合から学習される。
彼らは、エンドポイントが対象分布からのサンプルである拡散プロセスを実装する。
拡散過程のドリフトは通常、ニューラルネットワークとして表現される。
確率的ローカライゼーションはマルコフ連鎖と高次元における他の機能的不等式を混合する手法として成功している。
確率的ローカライゼーションのアルゴリズム版が、ある統計力学モデルから標本化するために最近提案された。
この解説記事には3つの目的がある。
(i)$~ アルゴリズム構成を他の確率的ローカライゼーションプロセスに一般化する。
この構成は単純かつ広く適用できる。
(ii)$~Clarify the connection between diffusions and stochastic Localization。
これにより、統一された方法でいくつかの既知のサンプリングスキームを導出できる。
(iii)$~この統一された視点から従う洞察を記述する。
関連論文リスト
- Sampling in High-Dimensions using Stochastic Interpolants and Forward-Backward Stochastic Differential Equations [8.509310102094512]
本稿では,高次元確率分布からサンプルを抽出する拡散型アルゴリズムのクラスを提案する。
我々の手法は、確率密度の時間インデクシングされたコレクションを定義するための補間フレームワークに依存している。
提案アルゴリズムは,従来の手法では処理が困難であった分布から,効果的にサンプルを抽出できることを実証する。
論文 参考訳(メタデータ) (2025-02-01T07:27:11Z) - Learned Reference-based Diffusion Sampling for multi-modal distributions [2.1383136715042417]
本稿では,学習参照に基づく拡散サンプリング(LRDS)について紹介する。
LRDSは、高密度空間領域にあるサンプルの参照拡散モデルを学ぶことによって、2段階で進行する。
LRDSは、様々な難解な分布上の競合するアルゴリズムと比較して、目標分布に関する事前知識を最大限に活用することが実験的に実証された。
論文 参考訳(メタデータ) (2024-10-25T10:23:34Z) - Unified Convergence Analysis for Score-Based Diffusion Models with Deterministic Samplers [49.1574468325115]
決定論的サンプリングのための統合収束分析フレームワークを提案する。
我々のフレームワークは$tilde O(d2/epsilon)$の反復複雑性を実現する。
また,Denoising Implicit Diffusion Models (DDIM) タイプのサンプルについて詳細な分析を行った。
論文 参考訳(メタデータ) (2024-10-18T07:37:36Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Conditional sampling within generative diffusion models [12.608803080528142]
生成拡散モデルにおける条件付きサンプリングに対する既存の計算手法について概説する。
共同分布を利用するか、あるいは明示的な可能性を持つ(事前訓練された)境界分布に依存する重要な手法を強調します。
論文 参考訳(メタデータ) (2024-09-15T07:48:40Z) - Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Stochastic Localization via Iterative Posterior Sampling [2.1383136715042417]
我々は、一般的なローカライゼーションフレームワークを検討し、フレキシブルなdenoisingスケジュールに関連する観察プロセスの明示的なクラスを導入する。
我々は、このダイナミクスの近似的なサンプルを得るために、SLIPS (Iterative Posterior Sampling$) による完全な方法論である $textitStochastic Localization を提供する。
SLIPSの利点と適用性について,数種類のマルチモーダル分布のベンチマークで論じる。例えば,増加次元の混合,ロジスティック回帰,統計力学からの高次元場システムなどである。
論文 参考訳(メタデータ) (2024-02-16T15:28:41Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces [0.0]
前方拡散過程における任意の離散状態マルコフ過程の理論的定式化を開発する。
例えばBlackout Diffusion'は、ノイズからではなく、空のイメージからサンプルを生成することを学習する。
論文 参考訳(メタデータ) (2023-05-18T16:24:12Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。