論文の概要: Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse Problems

• arxiv url: http://arxiv.org/abs/2303.05754v3
• Date: Mon, 19 Feb 2024 14:34:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-21 07:08:31.520995
• Title: Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse Problems
• Title（参考訳）: 大規模逆問題加速のための分解拡散サンプラー
• Authors: Hyungjin Chung, Suhyeon Lee, Jong Chul Ye
• Abstract要約: 本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。 具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。 提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
• 参考スコア（独自算出の注目度）: 64.29491112653905
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Krylov subspace, which is generated by multiplying a given vector by the matrix of a linear transformation and its successive powers, has been extensively studied in classical optimization literature to design algorithms that converge quickly for large linear inverse problems. For example, the conjugate gradient method (CG), one of the most popular Krylov subspace methods, is based on the idea of minimizing the residual error in the Krylov subspace. However, with the recent advancement of high-performance diffusion solvers for inverse problems, it is not clear how classical wisdom can be synergistically combined with modern diffusion models. In this study, we propose a novel and efficient diffusion sampling strategy that synergistically combines the diffusion sampling and Krylov subspace methods. Specifically, we prove that if the tangent space at a denoised sample by Tweedie's formula forms a Krylov subspace, then the CG initialized with the denoised data ensures the data consistency update to remain in the tangent space. This negates the need to compute the manifold-constrained gradient (MCG), leading to a more efficient diffusion sampling method. Our method is applicable regardless of the parametrization and setting (i.e., VE, VP). Notably, we achieve state-of-the-art reconstruction quality on challenging real-world medical inverse imaging problems, including multi-coil MRI reconstruction and 3D CT reconstruction. Moreover, our proposed method achieves more than 80 times faster inference time than the previous state-of-the-art method. Code is available at https://github.com/HJ-harry/DDS
• Abstract（参考訳）: 与えられたベクトルを線型変換とその連続するパワーの行列で乗じて生成されるクリロフ部分空間は、古典的最適化文学において、大きな線形逆問題に対して素早く収束するアルゴリズムを設計するために広く研究されてきた。 例えば、最も人気のあるクリロフ部分空間法の一つである共役勾配法(CG)は、クリロフ部分空間の残差誤差を最小化するという考え方に基づいている。 しかし、近年の逆問題に対する高性能拡散解法の発展により、古典的知恵が現代拡散モデルと相乗的に組み合わせられるかは明らかでない。 本研究では,拡散サンプリング法とクリロフ部分空間法を組み合わせた新しい効率的な拡散サンプリング戦略を提案する。 具体的には、tweedie の公式による有界サンプルの接空間が krylov 部分空間を形成するならば、有界データで初期化された cg は、接空間にデータ一貫性の更新が残ることを保証する。 これにより、多様体制約勾配(MCG)を計算する必要がなくなり、より効率的な拡散サンプリング法が導かれる。 我々の方法は、パラメトリゼーションとセッティング(VE、VP)に関係なく適用可能である。 特に,マルチコイルMRI再構成や3次元CT再構成など,現実の医用逆画像の課題に対して,最先端の再現性を実現する。 さらに,提案手法は従来の最先端手法よりも80倍以上高速な推論時間を実現する。 コードはhttps://github.com/HJ-harry/DDSで入手できる。

関連論文リスト

• Sub-DM:Subspace Diffusion Model with Orthogonal Decomposition for MRI Reconstruction [13.418240070456987]
  サブスペース拡散モデル (Sub-DM) は、k空間のデータ分布がノイズに向かって進化するにつれて、サブスペースへの射影による拡散過程を制限するサブスペース拡散モデルである。 k空間データのコンプレックスと高次元特性によって引き起こされる推論問題を回避する。 これにより、異なる空間における拡散過程が相互フィードバック機構を通じてモデルを洗練することができ、複雑なk空間データを扱う場合でも、アクカレートの事前学習が可能になる。
  論文  参考訳（メタデータ） (2024-11-06T08:33:07Z)
• Diffusion State-Guided Projected Gradient for Inverse Problems [82.24625224110099]
  逆問題に対する拡散状態ガイド型射影勾配(DiffStateGrad)を提案する。 DiffStateGrad は拡散過程の中間状態の低ランク近似である部分空間に測定勾配を投影する。 DiffStateGradは、測定手順のステップサイズとノイズの選択によって拡散モデルのロバスト性を向上させる。
  論文  参考訳（メタデータ） (2024-10-04T14:26:54Z)
• Diffusion Prior-Based Amortized Variational Inference for Noisy Inverse Problems [12.482127049881026]
  そこで本稿では, 償却変分推論の観点から, 拡散による逆問題の解法を提案する。 我々の償却推論は、測定結果を対応するクリーンデータの暗黙の後方分布に直接マッピングする関数を学習し、未知の計測でも単一ステップの後方サンプリングを可能にする。
  論文  参考訳（メタデータ） (2024-07-23T02:14:18Z)
• Unsupervised Discovery of Interpretable Directions in h-space of Pre-trained Diffusion Models [63.1637853118899]
  本稿では,事前学習した拡散モデルのh空間における解釈可能な方向を特定するための,教師なしおよび学習に基づく最初の手法を提案する。 我々は、事前訓練された拡散モデルのh-スペースで動作するシフト制御モジュールを用いて、サンプルをシフトしたバージョンに操作する。 それらを共同で最適化することで、モデルは自然に絡み合った、解釈可能な方向を発見する。
  論文  参考訳（メタデータ） (2023-10-15T18:44:30Z)
• Orthogonal Matrix Retrieval with Spatial Consensus for 3D Unknown-View Tomography [58.60249163402822]
  未知視トモグラフィ(UVT)は、未知のランダムな向きで2次元投影から3次元密度マップを再構成する。 提案したOMRはより堅牢で、従来の最先端のOMRアプローチよりも大幅に性能が向上している。
  論文  参考訳（メタデータ） (2022-07-06T21:40:59Z)
• Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
  我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。 この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。 本手法は理論上も経験上も従来の方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-02T09:06:10Z)
• Come-Closer-Diffuse-Faster: Accelerating Conditional Diffusion Models for Inverse Problems through Stochastic Contraction [31.61199061999173]
  拡散モデルには重要な欠点がある。純粋なガウスノイズから画像を生成するために数千ステップの反復を必要とするため、サンプリングが本質的に遅い。 ガウスノイズから始めることは不要であることを示す。代わりに、より優れた初期化を伴う単一前方拡散から始めると、逆条件拡散におけるサンプリングステップの数を大幅に減少させる。 ComeCloser-DiffuseFaster (CCDF)と呼ばれる新しいサンプリング戦略は、逆問題に対する既存のフィードフォワードニューラルネットワークアプローチが拡散モデルと相乗的に組み合わせられる方法について、新たな洞察を明らかにしている。
  論文  参考訳（メタデータ） (2021-12-09T04:28:41Z)
• Intermediate Layer Optimization for Inverse Problems using Deep Generative Models [86.29330440222199]
  ILOは、深層生成モデルを用いて逆問題を解決するための新しい最適化アルゴリズムである。 提案手法は,StyleGAN-2 や PULSE で導入した最先端手法よりも幅広い逆問題に対して優れていることを示す。
  論文  参考訳（メタデータ） (2021-02-15T06:52:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。