論文の概要: Wavelet Score-Based Generative Modeling
- arxiv url: http://arxiv.org/abs/2208.05003v1
- Date: Tue, 9 Aug 2022 19:13:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-11 12:24:38.976743
- Title: Wavelet Score-Based Generative Modeling
- Title(参考訳): ウェーブレットスコアに基づく生成モデル
- Authors: Florentin Guth, Simon Coste, Valentin De Bortoli, Stephane Mallat
- Abstract要約: 本稿では、ウェーブレットスコアに基づく生成モデル(WSGM)が、全てのスケールで同じ時間ステップでウェーブレット係数を合成することを示す。
これはガウス分布上で数値的に証明され、相転移と自然画像データセットにおける物理過程上で示される。
- 参考スコア(独自算出の注目度): 4.243926243206826
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Score-based generative models (SGMs) synthesize new data samples from
Gaussian white noise by running a time-reversed Stochastic Differential
Equation (SDE) whose drift coefficient depends on some probabilistic score. The
discretization of such SDEs typically requires a large number of time steps and
hence a high computational cost. This is because of ill-conditioning properties
of the score that we analyze mathematically. We show that SGMs can be
considerably accelerated, by factorizing the data distribution into a product
of conditional probabilities of wavelet coefficients across scales. The
resulting Wavelet Score-based Generative Model (WSGM) synthesizes wavelet
coefficients with the same number of time steps at all scales, and its time
complexity therefore grows linearly with the image size. This is proved
mathematically over Gaussian distributions, and shown numerically over physical
processes at phase transition and natural image datasets.
- Abstract(参考訳): スコアベース生成モデル (sgms) は, ドリフト係数が確率的スコアに依存する時間反転確率微分方程式 (sde) を用いてガウス白色雑音からの新しいデータサンプルを合成する。
このようなSDEの離散化は典型的に多くの時間ステップを必要とするため、計算コストが高い。
これは、数学的に分析するスコアの不調性のためです。
本研究では,データ分布をウェーブレット係数の条件付き確率の積に分解することにより,SGMを著しく高速化できることを示す。
得られたウェーブレットスコアに基づく生成モデル(wsgm)は、すべてのスケールで同じ時間ステップのウェーブレット係数を合成し、その時間複雑性は画像サイズと線形に増加する。
これはガウス分布上で数学的に証明され、位相遷移や自然画像データセットでの物理過程上で数値的に示される。
関連論文リスト
- Score-based Generative Models with Adaptive Momentum [40.84399531998246]
変換過程を高速化する適応運動量サンプリング法を提案する。
提案手法は,2倍から5倍の速度で,より忠実な画像/グラフを小さなサンプリングステップで作成できることを示す。
論文 参考訳(メタデータ) (2024-05-22T15:20:27Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood
Estimation for Latent Gaussian Models [69.22568644711113]
我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。
理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。
シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
論文 参考訳(メタデータ) (2023-06-05T21:08:34Z) - Universal Smoothed Score Functions for Generative Modeling [3.626727150596421]
我々は、$mathbbRd$における未知の関心密度の平滑化に基づく生成モデルの問題を考える。
M-density (M-density) と呼ばれる$mathbbRMd$の滑らかな密度を学習する際の時間的複雑さを特徴付ける。
本稿では,CIFAR-10データセットを用いた生成モデルのサンプル品質について述べる。
論文 参考訳(メタデータ) (2023-03-21T08:23:37Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Scale Dependencies and Self-Similar Models with Wavelet Scattering
Spectra [1.5866079116942815]
複雑なウェーブレット変換は、各スケールで信号の変動を計算する。
スケール間の依存性は、ウェーブレット係数の時間とスケールのジョイント相関によって捉えられる。
このモーメントのベクトルは多スケールプロセスのガウス的でない幅広い性質を特徴付けることを示す。
論文 参考訳(メタデータ) (2022-04-19T22:31:13Z) - Score-Based Generative Modeling through Stochastic Differential
Equations [114.39209003111723]
複素データ分布を雑音を注入することによって既知の事前分布に変換する微分方程式を提案する。
対応する逆時間SDEは、ノイズを緩やかに除去し、先行分布をデータ分布に戻す。
スコアベース生成モデリングの進歩を活用することで、これらのスコアをニューラルネットワークで正確に推定することができる。
スコアベース生成モデルから1024×1024画像の高忠実度生成を初めて示す。
論文 参考訳(メタデータ) (2020-11-26T19:39:10Z) - Fast approximations in the homogeneous Ising model for use in scene
analysis [61.0951285821105]
我々は、推論に必要な量を数値計算できる正確な近似を提供する。
近似式はスケーラブルでマルコフランダム場の大きさに満足できないことを示す。
機能的磁気共鳴イメージングアクティベーション検出実験においてベイズ推論を行い, ピスタチオ樹収量の年次増加の空間パターンにおける異方性に対する確率比試験を行った。
論文 参考訳(メタデータ) (2017-12-06T14:24:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。