論文の概要: Stability and Generalizability in SDE Diffusion Models with Measure-Preserving Dynamics
- arxiv url: http://arxiv.org/abs/2406.13652v1
- Date: Wed, 19 Jun 2024 15:55:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-21 19:04:39.354349
- Title: Stability and Generalizability in SDE Diffusion Models with Measure-Preserving Dynamics
- Title(参考訳): 測定保存ダイナミクスを用いたSDE拡散モデルの安定性と一般化可能性
- Authors: Weitong Zhang, Chengqi Zang, Liu Li, Sarah Cechnicka, Cheng Ouyang, Bernhard Kainz,
- Abstract要約: 逆問題では、測定やデータから因果因子を推定する過程を記述する。
拡散モデルは、逆問題を解決する強力な生成ツールとして期待されている。
- 参考スコア(独自算出の注目度): 11.919291977879801
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inverse problems describe the process of estimating the causal factors from a set of measurements or data. Mapping of often incomplete or degraded data to parameters is ill-posed, thus data-driven iterative solutions are required, for example when reconstructing clean images from poor signals. Diffusion models have shown promise as potent generative tools for solving inverse problems due to their superior reconstruction quality and their compatibility with iterative solvers. However, most existing approaches are limited to linear inverse problems represented as Stochastic Differential Equations (SDEs). This simplification falls short of addressing the challenging nature of real-world problems, leading to amplified cumulative errors and biases. We provide an explanation for this gap through the lens of measure-preserving dynamics of Random Dynamical Systems (RDS) with which we analyse Temporal Distribution Discrepancy and thus introduce a theoretical framework based on RDS for SDE diffusion models. We uncover several strategies that inherently enhance the stability and generalizability of diffusion models for inverse problems and introduce a novel score-based diffusion framework, the \textbf{D}ynamics-aware S\textbf{D}E \textbf{D}iffusion \textbf{G}enerative \textbf{M}odel (D$^3$GM). The \textit{Measure-preserving property} can return the degraded measurement to the original state despite complex degradation with the RDS concept of \textit{stability}. Our extensive experimental results corroborate the effectiveness of D$^3$GM across multiple benchmarks including a prominent application for inverse problems, magnetic resonance imaging. Code and data will be publicly available.
- Abstract(参考訳): 逆問題では、測定やデータから因果因子を推定する過程を記述する。
しばしば不完全あるいは劣化したデータをパラメータにマッピングするのは不適切であるため、例えば、貧しい信号からクリーンなイメージを再構成する場合など、データ駆動の反復解が必要である。
拡散モデルは, 優れた再構成品質と反復解法との整合性から, 逆問題解決のための強力な生成ツールとして期待されている。
しかし、既存のほとんどのアプローチは確率微分方程式(SDE)として表される線形逆問題に限定されている。
この単純化は、現実世界の問題の挑戦的な性質に対処するに足りず、累積誤差とバイアスを増幅する。
本稿では,SDE拡散モデルのためのRDSに基づく理論的枠組みを導入し,時間分布の相違を分析するランダム力学系(RDS)の測度保存ダイナミクスのレンズを通して,このギャップを説明する。
逆問題に対する拡散モデルの安定性と一般化性を本質的に向上するいくつかの戦略を発見し、新しいスコアベースの拡散フレームワークであるS\textbf{D}E \textbf{D}iffusion \textbf{G}enerative \textbf{M}odel (D$3$GM)を導入する。
textit{Measure-serving property} は RDS の概念である \textit{stability} の複雑な分解にもかかわらず、劣化した測定値を元の状態に戻すことができる。
D$3$GM の逆問題に対する顕著な応用,磁気共鳴イメージングなどを含む複数のベンチマークにおける有効性について検討した。
コードとデータは公開されます。
関連論文リスト
- BlindDiff: Empowering Degradation Modelling in Diffusion Models for Blind Image Super-Resolution [52.47005445345593]
BlindDiff は SISR のブラインド劣化に対処するための DM ベースのブラインドSR 手法である。
BlindDiffはMAPベースの最適化をDMにシームレスに統合する。
合成データセットと実世界のデータセットの両方の実験は、BlindDiffが最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2024-03-15T11:21:34Z) - Denoising Diffusion Restoration Tackles Forward and Inverse Problems for
the Laplace Operator [3.8426297727671352]
本稿では,拡散復元モデル(DDRM)を用いたPDEの逆解と前方解に対する新しいアプローチを提案する。
DDRMは線形演算子の特異値分解(SVD)を利用して元のクリーン信号を復元するために線形逆問題に用いられた。
以上の結果から,拡散復元法を用いることで,解とパラメータの推算が大幅に向上することが示唆された。
論文 参考訳(メタデータ) (2024-02-13T16:04:41Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Convex Latent-Optimized Adversarial Regularizers for Imaging Inverse
Problems [8.33626757808923]
本稿では,新しいデータ駆動型パラダイムであるConvex Latent-d Adrial Regularizers (CLEAR)を紹介する。
CLEARは、ディープラーニング(DL)と変分正規化の融合を表す。
本手法は従来型のデータ駆動手法と従来型の正規化手法を一貫して上回っている。
論文 参考訳(メタデータ) (2023-09-17T12:06:04Z) - Solving Inverse Problems with Latent Diffusion Models via Hard Data Consistency [7.671153315762146]
画素空間におけるトレーニング拡散モデルは、データ集約的かつ計算的に要求される。
非常に低次元空間で動作する潜在拡散モデルは、これらの課題に対する解決策を提供する。
我々は,事前学習した潜在拡散モデルを用いて,一般的な逆問題を解決するアルゴリズムであるtextitReSampleを提案する。
論文 参考訳(メタデータ) (2023-07-16T18:42:01Z) - Hierarchical Integration Diffusion Model for Realistic Image Deblurring [71.76410266003917]
拡散モデル (DM) は画像劣化に導入され, 有望な性能を示した。
本稿では,階層型統合拡散モデル(HI-Diff)を提案する。
人工的および実世界のぼかしデータセットの実験は、HI-Diffが最先端の手法より優れていることを示した。
論文 参考訳(メタデータ) (2023-05-22T12:18:20Z) - A Variational Perspective on Solving Inverse Problems with Diffusion
Models [101.831766524264]
逆タスクは、データ上の後続分布を推測するものとして定式化することができる。
しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。
そこで我々は,真の後続分布を近似する設計手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T23:00:47Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - Denoising Diffusion Restoration Models [110.1244240726802]
Denoising Diffusion Restoration Models (DDRM) は効率的で教師なしの後方サンプリング手法である。
DDRMの汎用性を、超高解像度、デブロアリング、インペイント、カラー化のためにいくつかの画像データセットに示す。
論文 参考訳(メタデータ) (2022-01-27T20:19:07Z) - A framework for data-driven solution and parameter estimation of PDEs
using conditional generative adversarial networks [1.339230763466954]
この研究は、条件付き生成逆数ネットワーク(cGAN)に基づく画像から画像への変換の概念を初めて採用し、適応させたものである。
異種多孔質媒体における結合水-機械的プロセスの定常解に着目する。
論文 参考訳(メタデータ) (2021-05-27T13:30:17Z) - Unifying Theorems for Subspace Identification and Dynamic Mode
Decomposition [6.735657356113614]
本稿では,SID-DMDアルゴリズムを提案する。
我々は,映像データから直接動的モデルを構築することを目的としたケーススタディを用いて,その展開を実証する。
論文 参考訳(メタデータ) (2020-03-16T19:03:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。