論文の概要: AdjointDEIS: Efficient Gradients for Diffusion Models
- arxiv url: http://arxiv.org/abs/2405.15020v1
- Date: Thu, 23 May 2024 19:51:33 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-27 19:07:30.388755
- Title: AdjointDEIS: Efficient Gradients for Diffusion Models
- Title(参考訳): AdjointDEIS:拡散モデルのための効率的な勾配
- Authors: Zander W. Blasingame, Chen Liu,
- Abstract要約: 本稿では,拡散モデルの潜在変数とパラメータを最適化する新しい手法を提案する。
我々は拡散SDEのユニークな構成を利用して、随伴拡散SDEの定式化をさらに単純化する。
共役拡散解法は確率フローODEと拡散SDEの両方の勾配を効率的に計算できる。
- 参考スコア(独自算出の注目度): 2.0795007613453445
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The optimization of the latents and parameters of diffusion models with respect to some differentiable metric defined on the output of the model is a challenging and complex problem. The sampling for diffusion models is done by solving either the probability flow ODE or diffusion SDE wherein a neural network approximates the score function or related quantity, allowing a numerical ODE/SDE solver to be used. However, na\"ive backpropagation techniques are memory intensive, requiring the storage of all intermediate states, and face additional complexity in handling the injected noise from the diffusion term of the diffusion SDE. We propose a novel method based on the stochastic adjoint sensitivity method to calculate the gradientwith respect to the initial noise, conditional information, and model parameters by solving an additional SDE whose solution is the gradient of the diffusion SDE. We exploit the unique construction of diffusion SDEs to further simplify the formulation of the adjoint diffusion SDE and use a change-of-variables to simplify the solution to an exponentially weighted integral. Using this formulation we derive a custom solver for the adjoint SDE as well as the simpler adjoint ODE. The proposed adjoint diffusion solvers can efficiently compute the gradients for both the probability flow ODE and diffusion SDE for latents and parameters of the model. Lastly, we demonstrate the effectiveness of the adjoint diffusion solvers onthe face morphing problem.
- Abstract(参考訳): モデルの出力で定義される微分可能な計量に関して、拡散モデルの潜在値とパラメータの最適化は困難で複雑な問題である。
拡散モデルのサンプリングは、ニューラルネットワークがスコア関数または関連量に近い確率フローODEまたは拡散SDEを解くことにより、数値ODE/SDEソルバを使用する。
しかし、na\\iveバックプロパゲーション技術はメモリ集約的であり、全ての中間状態の保存が必要であり、拡散SDEの拡散項から注入されたノイズを扱う際のさらなる複雑さに直面している。
拡散SDEの勾配を解き、初期雑音、条件情報、モデルパラメータに対する勾配を計算する確率的随伴感度法に基づく新しい手法を提案する。
我々は拡散SDEのユニークな構成を利用して、随伴拡散SDEの定式化をさらに単純化し、指数重み付き積分の解を単純化するために変数の変更を用いる。
この定式化を用いて、より単純な随伴ODEと同様に、随伴SDEのカスタムソルバを導出する。
提案した随伴拡散解法は, 確率フローODEの勾配と潜伏子とモデルのパラメータの拡散SDEの勾配を効率的に計算することができる。
最後に, 面変形問題に対する共役拡散解法の有効性を示す。
関連論文リスト
- Closing the ODE-SDE gap in score-based diffusion models through the
Fokker-Planck equation [0.562479170374811]
スコアベース拡散モデルのトレーニング時に生じる力学と近似の範囲を厳密に記述する。
従来のスコアベース拡散モデルでは, ODE-とSDE-誘導分布に有意な差が認められることを示す。
論文 参考訳(メタデータ) (2023-11-27T16:44:50Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Elucidating the solution space of extended reverse-time SDE for
diffusion models [54.23536653351234]
拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。
その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。
サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。
我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
論文 参考訳(メタデータ) (2023-09-12T12:27:17Z) - SA-Solver: Stochastic Adams Solver for Fast Sampling of Diffusion Models [66.67616086310662]
拡散確率モデル(DPM)は生成タスクでかなりの成功を収めた。
DPM からのサンプリングは、時間を要する拡散 SDE や ODE の解法と等価であるため、改良された微分方程式解法に基づく多数の高速サンプリング手法が提案されている。
拡散SDEを解くための効率の良いAdams法であるSA-of-rを提案する。
論文 参考訳(メタデータ) (2023-09-10T12:44:54Z) - Latent SDEs on Homogeneous Spaces [9.361372513858043]
偏微分方程式(SDE)の解によって観測された幾何学的過程が支配される潜在変数モデルにおける変分ベイズ推論の問題を考察する。
実験により,提案型の潜伏SDEを既存の一段階のオイラー・丸山スキームを用いて効率的に学習できることが示されている。
論文 参考訳(メタデータ) (2023-06-28T14:18:52Z) - Eliminating Lipschitz Singularities in Diffusion Models [51.806899946775076]
拡散モデルは、時間ステップの零点付近で無限のリプシッツをしばしば表すことを示す。
これは、積分演算に依存する拡散過程の安定性と精度に脅威をもたらす。
我々はE-TSDMと呼ばれる新しい手法を提案し、これは0に近い拡散モデルのリプシッツを除去する。
論文 参考訳(メタデータ) (2023-06-20T03:05:28Z) - A Variational Perspective on Solving Inverse Problems with Diffusion
Models [101.831766524264]
逆タスクは、データ上の後続分布を推測するものとして定式化することができる。
しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。
そこで我々は,真の後続分布を近似する設計手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T23:00:47Z) - Score-based Generative Modeling Through Backward Stochastic Differential
Equations: Inversion and Generation [6.2255027793924285]
提案したBSDEベースの拡散モデルは、機械学習における微分方程式(SDE)の適用を拡大する拡散モデリングの新しいアプローチを示す。
モデルの理論的保証、スコアマッチングにリプシッツネットワークを用いることの利点、および拡散反転、条件拡散、不確実性定量化など様々な分野への応用の可能性を示す。
論文 参考訳(メタデータ) (2023-04-26T01:15:35Z) - Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。
我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。
その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文 参考訳(メタデータ) (2021-06-01T19:21:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。