論文の概要: Efficient and Unbiased Sampling from Boltzmann Distributions via Variance-Tuned Diffusion Models

• arxiv url: http://arxiv.org/abs/2505.21005v1
• Date: Tue, 27 May 2025 10:37:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-28 17:05:58.584797
• Title: Efficient and Unbiased Sampling from Boltzmann Distributions via Variance-Tuned Diffusion Models
• Title（参考訳）: 可変変調拡散モデルによるボルツマン分布からの効率的・非バイアスサンプリング
• Authors: Fengzhe Zhang, Laurence I. Midgley, José Miguel Hernández-Lobato,
• Abstract要約: VT-DIS(Variance-Tuned Diffusion Smpling)は、事前学習したスコアベース拡散モデルのステップごとのノイズ共分散に適応する軽量な手法である。 VT-DISはDW-4, LJ-13, アラニン-ジペプチドベンチマークでそれぞれ80%, 35%, 3.5%の有効試料サイズを達成している。
• 参考スコア（独自算出の注目度）: 29.531531253864753
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Score-based diffusion models (SBDMs) are powerful amortized samplers for Boltzmann distributions; however, imperfect score estimates bias downstream Monte Carlo estimates. Classical importance sampling (IS) can correct this bias, but computing exact likelihoods requires solving the probability-flow ordinary differential equation (PF-ODE), a procedure that is prohibitively costly and scales poorly with dimensionality. We introduce Variance-Tuned Diffusion Importance Sampling (VT-DIS), a lightweight post-training method that adapts the per-step noise covariance of a pretrained SBDM by minimizing the $\alpha$-divergence ($\alpha=2$) between its forward diffusion and reverse denoising trajectories. VT-DIS assigns a single trajectory-wise importance weight to the joint forward-reverse process, yielding unbiased expectation estimates at test time with negligible overhead compared to standard sampling. On the DW-4, LJ-13, and alanine-dipeptide benchmarks, VT-DIS achieves effective sample sizes of approximately 80 %, 35 %, and 3.5 %, respectively, while using only a fraction of the computational budget required by vanilla diffusion + IS or PF-ODE-based IS.
• Abstract（参考訳）: スコアベース拡散モデル (SBDM) はボルツマン分布に対する強力なアモルト化サンプリングであるが、不完全なスコア推定はモンテカルロ下流の推定値を推定する。 古典的重要性サンプリング (IS) はこのバイアスを補正することができるが、正確な確率を計算するには確率フロー常微分方程式 (PF-ODE) を解く必要がある。 VT-DIS(Variance-Tuned Diffusion Importance Smpling)は、事前訓練されたSBDMのステップごとのノイズ共分散に適応する軽量なポストトレーニング手法であり、その前方拡散と逆消音軌跡間の$\alpha$-divergence(\alpha=2$)を最小化する。 VT-DISは、単軌道的に重要な重みをジョイント・フォワード・リバース・プロセスに割り当て、標準サンプリングよりも無視できるオーバーヘッドでテスト時に偏りのない予測推定値が得られる。 DW-4、LJ-13、アラニン-ジペプチドベンチマークでは、VT-DISは、バニラ拡散+ISまたはPF-ODEベースのISで必要とされる計算予算のごく一部を使用しながら、それぞれ約80%、35%、3.5%の有効試料サイズを達成している。

関連論文リスト

• Minimax Optimality of the Probability Flow ODE for Diffusion Models [8.15094483029656]
  この研究は、決定論的ODEベースのサンプリングのための最初のエンドツーエンド理論フレームワークを開発する。 L2$のスコア誤差と関連する平均ジャコビアン誤差の両方を同時に制御するスムーズな正規化スコア推定器を提案する。 得られたサンプルは全変動距離, 変調対数係数において最小値が得られることを示す。
  論文  参考訳（メタデータ） (2025-03-12T17:51:29Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• NETS: A Non-Equilibrium Transport Sampler [15.58993313831079]
  我々は、Non-Equilibrium Transport Sampler (NETS)と呼ばれるアルゴリズムを提案する。 NETSはJarzynskiの平等に基づいて、重要サンプリング(AIS)の亜種と見なすことができる。 このドリフトは、様々な目的関数の最小化であり、全て偏りのない方法で推定できることを示す。
  論文  参考訳（メタデータ） (2024-10-03T17:35:38Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• Star-Shaped Denoising Diffusion Probabilistic Models [5.167803438665587]
  星形DDPM(SSDDPM)について紹介する。 実装はhttps://github.com/andreyokhotin/star-shaped.comで公開しています。
  論文  参考訳（メタデータ） (2023-02-10T14:16:21Z)
• How Much is Enough? A Study on Diffusion Times in Score-based Generative Models [76.76860707897413]
  現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。 本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
  論文  参考訳（メタデータ） (2022-06-10T15:09:46Z)
• Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
  粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。 粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-06T16:58:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。