論文の概要: Enhancing Diffusion Models for Inverse Problems with Covariance-Aware Posterior Sampling

• arxiv url: http://arxiv.org/abs/2412.20045v1
• Date: Sat, 28 Dec 2024 06:17:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:07:13.501399
• Title: Enhancing Diffusion Models for Inverse Problems with Covariance-Aware Posterior Sampling
• Title（参考訳）: 共分散を考慮した後方サンプリングによる逆問題に対する拡散モデルの強化
• Authors: Shayan Mohajer Hamidi, En-Hui Yang,
• Abstract要約: 例えば、コンピュータビジョンでは、インペイント、デブロアリング、超解像といったタスクは、逆問題として効果的にモデル化できる。 DDPMは、追加のタスク固有のトレーニングを必要とせずに、線形逆問題に対する有望な解決策を提供する。
• 参考スコア（独自算出の注目度）: 3.866047645663101
• License:
• Abstract: Inverse problems exist in many disciplines of science and engineering. In computer vision, for example, tasks such as inpainting, deblurring, and super resolution can be effectively modeled as inverse problems. Recently, denoising diffusion probabilistic models (DDPMs) are shown to provide a promising solution to noisy linear inverse problems without the need for additional task specific training. Specifically, with the prior provided by DDPMs, one can sample from the posterior by approximating the likelihood. In the literature, approximations of the likelihood are often based on the mean of conditional densities of the reverse process, which can be obtained using Tweedie formula. To obtain a better approximation to the likelihood, in this paper we first derive a closed form formula for the covariance of the reverse process. Then, we propose a method based on finite difference method to approximate this covariance such that it can be readily obtained from the existing pretrained DDPMs, thereby not increasing the complexity compared to existing approaches. Finally, based on the mean and approximated covariance of the reverse process, we present a new approximation to the likelihood. We refer to this method as covariance-aware diffusion posterior sampling (CA-DPS). Experimental results show that CA-DPS significantly improves reconstruction performance without requiring hyperparameter tuning. The code for the paper is put in the supplementary materials.
• Abstract（参考訳）: 逆問題は多くの科学と工学の分野に存在する。 例えば、コンピュータビジョンでは、インペイント、デブロアリング、超解像といったタスクは、逆問題として効果的にモデル化できる。 近年, 拡散確率モデル (DDPM) は, タスク固有の追加訓練を必要とせず, 雑音の線形逆問題に対する有望な解決法であることが示された。 具体的には、DDPMによって前者が提供された場合、確率を近似することで後部から試料を採取することができる。 文献では、確率の近似は、しばしば逆過程の条件密度の平均に基づいており、ツイーディーの公式を用いて得られる。 本論文ではまず, 逆過程の共分散に関する閉形式式を導出する。 そして,この共分散を近似する有限差分法に基づく手法を提案し,既存のDDPMから容易に得られるようにし,既存の手法と比較して複雑さを増大させない。 最後に、逆過程の平均的および近似的共分散に基づいて、その可能性に対する新しい近似を提示する。 本手法を共分散拡散後サンプリング(CA-DPS)と呼ぶ。 実験の結果,CA-DPSはハイパーパラメータチューニングを必要とせず,再建性能を著しく向上することがわかった。 補充材料に紙のコードを入れる。

関連論文リスト

• Geophysical inverse problems with measurement-guided diffusion models [0.4532517021515834]
  DPS(Diffusion Posterior Sampling)とPGDM(Pseudo-inverse Guided Diffusion Model)という2つのサンプリングアルゴリズムを提案する。 DPSでは、解の1ステップの denoising 推定から得られた残差に対して、モデリング演算子の随伴を応用して誘導項を得る。 一方、PGDMは擬逆演算子を用いており、これは一段階の分極解が決定論的でないことを起源としている。
  論文  参考訳（メタデータ） (2025-01-08T23:33:50Z)
• Gaussian is All You Need: A Unified Framework for Solving Inverse Problems via Diffusion Posterior Sampling [16.683393726483978]
  拡散モデルは、複雑なデータ分布をモデル化することによって、様々な高品質な画像を生成することができる。 既存の拡散法の多くは拡散逆サンプリングプロセスにデータ一貫性ステップを統合する。 既存の近似は不十分か計算的に非効率であることを示す。
  論文  参考訳（メタデータ） (2024-09-13T15:20:03Z)
• Think Twice Before You Act: Improving Inverse Problem Solving With MCMC [40.5682961122897]
  事前学習した拡散モデルを用いて逆問題を解決するためにtextbfDiffusion textbfPosterior textbfDPMC(textbfDPMC)を提案する。 提案アルゴリズムは,ほぼすべてのタスクにおいてDPSよりも性能が優れており,既存手法と競合する。
  論文  参考訳（メタデータ） (2024-09-13T06:10:54Z)
• Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
  機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。 非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
  論文  参考訳（メタデータ） (2024-08-20T19:06:02Z)
• Diffusion Prior-Based Amortized Variational Inference for Noisy Inverse Problems [12.482127049881026]
  そこで本稿では, 償却変分推論の観点から, 拡散による逆問題の解法を提案する。 我々の償却推論は、測定結果を対応するクリーンデータの暗黙の後方分布に直接マッピングする関数を学習し、未知の計測でも単一ステップの後方サンプリングを可能にする。
  論文  参考訳（メタデータ） (2024-07-23T02:14:18Z)
• Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
  近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。 この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
  論文  参考訳（メタデータ） (2024-02-03T13:35:39Z)
• AdjointDPM: Adjoint Sensitivity Method for Gradient Backpropagation of Diffusion Probabilistic Models [103.41269503488546]
  既存のカスタマイズ方法は、事前訓練された拡散確率モデルをユーザが提供する概念に合わせるために、複数の参照例にアクセスする必要がある。 本論文は、DPMカスタマイズの課題として、生成コンテンツ上で定義された差別化可能な指標が唯一利用可能な監督基準である場合に解決することを目的とする。 本稿では,拡散モデルから新しいサンプルを初めて生成するAdjointDPMを提案する。 次に、随伴感度法を用いて、損失の勾配をモデルのパラメータにバックプロパゲートする。
  論文  参考訳（メタデータ） (2023-07-20T09:06:21Z)
• A Variational Perspective on Solving Inverse Problems with Diffusion Models [101.831766524264]
  逆タスクは、データ上の後続分布を推測するものとして定式化することができる。 しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。 そこで我々は,真の後続分布を近似する設計手法を提案する。
  論文  参考訳（メタデータ） (2023-05-07T23:00:47Z)
• Diffusion Posterior Sampling for General Noisy Inverse Problems [50.873313752797124]
  我々は、後方サンプリングの近似により、雑音(非線形)逆問題に対処するために拡散解法を拡張した。 本手法は,拡散モデルが様々な計測ノイズ統計を組み込むことができることを示す。
  論文  参考訳（メタデータ） (2022-09-29T11:12:27Z)
• Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
  我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。 この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。 本手法は理論上も経験上も従来の方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-02T09:06:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。