論文の概要: Fast Diffusion Sampler for Inverse Problems by Geometric Decomposition
- arxiv url: http://arxiv.org/abs/2303.05754v1
- Date: Fri, 10 Mar 2023 07:42:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-13 15:38:25.515218
- Title: Fast Diffusion Sampler for Inverse Problems by Geometric Decomposition
- Title(参考訳): 幾何分解による逆問題に対する高速拡散サンプリング
- Authors: Hyungjin Chung, Suhyeon Lee, Jong Chul Ye
- Abstract要約: 本稿では, 拡散サンプリングの幾何学的分解を利用した新しい, 効率的な拡散サンプリング戦略を提案する。
提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
- 参考スコア(独自算出の注目度): 40.29497517960814
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have shown exceptional performance in solving inverse
problems. However, one major limitation is the slow inference time. While
faster diffusion samplers have been developed for unconditional sampling, there
has been limited research on conditional sampling in the context of inverse
problems. In this study, we propose a novel and efficient diffusion sampling
strategy that employs the geometric decomposition of diffusion sampling.
Specifically, we discover that the samples generated from diffusion models can
be decomposed into two orthogonal components: a ``denoised" component obtained
by projecting the sample onto the clean data manifold, and a ``noise" component
that induces a transition to the next lower-level noisy manifold with the
addition of stochastic noise. Furthermore, we prove that, under some conditions
on the clean data manifold, the conjugate gradient update for imposing
conditioning from the denoised signal belongs to the clean manifold, resulting
in a much faster and more accurate diffusion sampling. Our method is applicable
regardless of the parameterization and setting (i.e., VE, VP). Notably, we
achieve state-of-the-art reconstruction quality on challenging real-world
medical inverse imaging problems, including multi-coil MRI reconstruction and
3D CT reconstruction. Moreover, our proposed method achieves more than 80 times
faster inference time than the previous state-of-the-art method.
- Abstract(参考訳): 拡散モデルは逆問題を解く際、例外的な性能を示す。
しかし、1つの大きな制限は推論時間が遅いことである。
非条件サンプリングのための高速拡散サンプラーが開発されているが、逆問題における条件サンプリングの研究は限られている。
本研究では,拡散サンプリングの幾何学的分解を利用した新しい効率的な拡散サンプリング戦略を提案する。
具体的には,拡散モデルから生成されたサンプルを,サンプルをクリーンデータ多様体に射影した ` `denoized" 成分と,確率雑音を付加した次の下層雑音多様体への遷移を誘導する ``noise" 成分の2つの直交成分に分解することができる。
さらに, クリーンデータ多様体上の条件下では, 消音信号から条件付けを行う共役勾配更新がクリーン多様体に属することを証明し, より高速かつ正確な拡散サンプリングを実現する。
パラメータ化と設定(VE, VP)にかかわらず,本手法は適用可能である。
特に,マルチコイルMRI再構成や3次元CT再構成など,現実の医用逆画像の課題に対して,最先端の再現性を実現する。
さらに,提案手法は従来の最先端手法よりも80倍以上高速な推論時間を実現する。
関連論文リスト
- Sub-DM:Subspace Diffusion Model with Orthogonal Decomposition for MRI Reconstruction [13.418240070456987]
サブスペース拡散モデル (Sub-DM) は、k空間のデータ分布がノイズに向かって進化するにつれて、サブスペースへの射影による拡散過程を制限するサブスペース拡散モデルである。
k空間データのコンプレックスと高次元特性によって引き起こされる推論問題を回避する。
これにより、異なる空間における拡散過程が相互フィードバック機構を通じてモデルを洗練することができ、複雑なk空間データを扱う場合でも、アクカレートの事前学習が可能になる。
論文 参考訳(メタデータ) (2024-11-06T08:33:07Z) - Diffusion State-Guided Projected Gradient for Inverse Problems [82.24625224110099]
逆問題に対する拡散状態ガイド型射影勾配(DiffStateGrad)を提案する。
DiffStateGrad は拡散過程の中間状態の低ランク近似である部分空間に測定勾配を投影する。
DiffStateGradは、測定手順のステップサイズとノイズの選択によって拡散モデルのロバスト性を向上させる。
論文 参考訳(メタデータ) (2024-10-04T14:26:54Z) - Diffusion Prior-Based Amortized Variational Inference for Noisy Inverse Problems [12.482127049881026]
そこで本稿では, 償却変分推論の観点から, 拡散による逆問題の解法を提案する。
我々の償却推論は、測定結果を対応するクリーンデータの暗黙の後方分布に直接マッピングする関数を学習し、未知の計測でも単一ステップの後方サンプリングを可能にする。
論文 参考訳(メタデータ) (2024-07-23T02:14:18Z) - Unsupervised Discovery of Interpretable Directions in h-space of
Pre-trained Diffusion Models [63.1637853118899]
本稿では,事前学習した拡散モデルのh空間における解釈可能な方向を特定するための,教師なしおよび学習に基づく最初の手法を提案する。
我々は、事前訓練された拡散モデルのh-スペースで動作するシフト制御モジュールを用いて、サンプルをシフトしたバージョンに操作する。
それらを共同で最適化することで、モデルは自然に絡み合った、解釈可能な方向を発見する。
論文 参考訳(メタデータ) (2023-10-15T18:44:30Z) - Orthogonal Matrix Retrieval with Spatial Consensus for 3D Unknown-View
Tomography [58.60249163402822]
未知視トモグラフィ(UVT)は、未知のランダムな向きで2次元投影から3次元密度マップを再構成する。
提案したOMRはより堅牢で、従来の最先端のOMRアプローチよりも大幅に性能が向上している。
論文 参考訳(メタデータ) (2022-07-06T21:40:59Z) - Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。
この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。
本手法は理論上も経験上も従来の方法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-06-02T09:06:10Z) - Come-Closer-Diffuse-Faster: Accelerating Conditional Diffusion Models
for Inverse Problems through Stochastic Contraction [31.61199061999173]
拡散モデルには重要な欠点がある。純粋なガウスノイズから画像を生成するために数千ステップの反復を必要とするため、サンプリングが本質的に遅い。
ガウスノイズから始めることは不要であることを示す。代わりに、より優れた初期化を伴う単一前方拡散から始めると、逆条件拡散におけるサンプリングステップの数を大幅に減少させる。
ComeCloser-DiffuseFaster (CCDF)と呼ばれる新しいサンプリング戦略は、逆問題に対する既存のフィードフォワードニューラルネットワークアプローチが拡散モデルと相乗的に組み合わせられる方法について、新たな洞察を明らかにしている。
論文 参考訳(メタデータ) (2021-12-09T04:28:41Z) - Intermediate Layer Optimization for Inverse Problems using Deep
Generative Models [86.29330440222199]
ILOは、深層生成モデルを用いて逆問題を解決するための新しい最適化アルゴリズムである。
提案手法は,StyleGAN-2 や PULSE で導入した最先端手法よりも幅広い逆問題に対して優れていることを示す。
論文 参考訳(メタデータ) (2021-02-15T06:52:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。