論文の概要: StAD: Stein Amortized Divergence for Fast Likelihoods with Diffusion and Flow

• arxiv url: http://arxiv.org/abs/2605.16486v1
• Date: Fri, 15 May 2026 18:00:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:46.509831
• Title: StAD: Stein Amortized Divergence for Fast Likelihoods with Diffusion and Flow
• Title（参考訳）: StAD: 拡散と流れを伴う高速な同種動物のためのステインアモータライズドディバージェンス
• Authors: Gurjeet Jagwani, Stephen Thorp, Sinan Deger, Hiranya Peiris,
• Abstract要約: StADは確率フロー常微分方程式(PF-ODE)の分岐を予測・学習するための新しい手法である 我々は,CIFAR-10,ImageNetなどの密度推定タスクにおいて,HutchinsonとHutch++と競合することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion and flow-based models are ubiquitously used for generative modelling and density estimation. They admit a deterministic probability flow ordinary differential equation (PF-ODE), analogous to continuous normalizing flows (CNFs), which describes the transport of the probability mass. Obtaining the likelihood from these models is of interest to many workflows, especially Bayesian analysis, and requires solving the trace of the Jacobian to compute the divergence of the learned PF-ODE, which is either $\mathcal{O}(D^2)$ to compute exactly or $\mathcal{O}(D)$ with a noisy estimate. We introduce StAD, a new distillation method to predict and learn the divergence of the PF-ODE using the Langevin-Stein operator without ever computing the Jacobian. We show that our method is competitive with the Hutchinson and Hutch++ on CIFAR-10, ImageNet and other density estimation tasks, consistently improving the variance and speed of the likelihood predictions compared to the Hutchinson. We additionally show our method will generalize to a varied class of generative models, and show that under some regularity conditions these learned vector fields can be made to satisfy the Stein class.
• Abstract（参考訳）: 拡散モデルとフローベースモデルは、生成的モデリングと密度推定にユビキタスに使用されている。 彼らは決定論的確率フロー常微分方程式 (PF-ODE) を認め、これは確率質量の輸送を記述する連続正規化フロー (CNFs) に類似している。 これらのモデルから可能性を得るには、多くのワークフロー、特にベイズ解析に興味があり、学習された PF-ODE の発散を計算するためにヤコビアンのトレースを解く必要がある(これは正確に計算するために$\mathcal{O}(D^2)$ または$\mathcal{O}(D)$ のどちらかである)。 本稿では, ジャコビアン演算子を用いてPF-ODEの分岐を予測し, 学習するための新しい蒸留法であるStADを紹介する。 我々は,CIFAR-10,ImageNetなどの密度推定タスクにおけるHutchinsonとHutch++との競合性を示し,Hutchinsonと比較して確率予測のばらつきと速度を一貫して改善した。 さらに、本手法が様々な生成モデルのクラスに一般化されることを示し、一定の規則性条件下でこれらの学習ベクトル場がスタイン類を満たすことができることを示す。

関連論文リスト

• Diffusion Density Estimators [0.0]
  本稿では,フローを解くことなくログ密度を計算できる新しい並列化手法を提案する。 我々のアプローチは、モンテカルロによる経路積分を、拡散モデルのシミュレーション不要な訓練と同一の方法で推定することに基づいている。
  論文  参考訳（メタデータ） (2024-10-09T15:21:53Z)
• A Sharp Convergence Theory for The Probability Flow ODEs of Diffusion Models [45.60426164657739]
  拡散型サンプリング器の非漸近収束理論を開発する。 我々は、$d/varepsilon$がターゲット分布を$varepsilon$トータル偏差距離に近似するのに十分であることを証明した。 我々の結果は、$ell$のスコア推定誤差がデータ生成プロセスの品質にどのように影響するかも特徴付ける。
  論文  参考訳（メタデータ） (2024-08-05T09:02:24Z)
• Injective flows for star-like manifolds [1.4623202528810306]
  我々は、星状多様体密度に対して、NFsと同じコストで、ジャコビアン行列式を正確かつ効率的に計算できることを示します。 これは特に、サンプルが入手できず、正規化されていないターゲットのみが知られているような変動推論設定に関係している。
  論文  参考訳（メタデータ） (2024-06-13T13:43:59Z)
• MGF: Mixed Gaussian Flow for Diverse Trajectory Prediction [72.70572835589158]
  本稿では,軌道予測のための正規化フローモデルに対して,混合ガウス前駆体を構築することを提案する。 提案手法は,一般的な UCY/ETH および SDD データセットにおける軌道アライメントと多様性の評価において,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2024-02-19T15:48:55Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Matching Normalizing Flows and Probability Paths on Manifolds [57.95251557443005]
  連続正規化フロー (Continuous Normalizing Flows, CNFs) は、常微分方程式(ODE)を解くことによって、先行分布をモデル分布に変換する生成モデルである。 我々は,CNFが生成する確率密度パスと目標確率密度パスとの間に生じる新たな分岐系であるPPDを最小化して,CNFを訓練することを提案する。 PPDの最小化によって得られたCNFは、既存の低次元多様体のベンチマークにおいて、その可能性とサンプル品質が得られることを示す。
  論文  参考訳（メタデータ） (2022-07-11T08:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。