論文の概要: Fast and Stable Diffusion Inverse Solver with History Gradient Update

• arxiv url: http://arxiv.org/abs/2307.12070v2
• Date: Mon, 11 Mar 2024 09:11:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 16:50:47.056441
• Title: Fast and Stable Diffusion Inverse Solver with History Gradient Update
• Title（参考訳）: 履歴勾配更新による高速かつ安定な拡散逆解法
• Authors: Linchao He, Hongyu Yan, Mengting Luo, Hongjie Wu, Kunming Luo, Wang Wang, Wenchao Du, Hu Chen, Hongyu Yang, Yi Zhang, Jiancheng Lv
• Abstract要約: ヒストリーグラディエント・アップデート(HGU)と呼ばれるこの最適化プロセスにヒストリーグラディエント・グラデーションの組み入れを導入する。 実験により,従来のサンプリングアルゴリズムと比較して,HGUを用いたサンプリングアルゴリズムは医用画像再構成における最先端の結果が得られることが示された。
• 参考スコア（独自算出の注目度）: 28.13197297970759
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models have recently been recognised as efficient inverse problem solvers due to their ability to produce high-quality reconstruction results without relying on pairwise data training. Existing diffusion-based solvers utilize Gradient Descent strategy to get a optimal sample solution. However, these solvers only calculate the current gradient and have not utilized any history information of sampling process, thus resulting in unstable optimization progresses and suboptimal solutions. To address this issue, we propose to utilize the history information of the diffusion-based inverse solvers. In this paper, we first prove that, in previous work, using the gradient descent method to optimize the data fidelity term is convergent. Building on this, we introduce the incorporation of historical gradients into this optimization process, termed History Gradient Update (HGU). We also provide theoretical evidence that HGU ensures the convergence of the entire algorithm. It's worth noting that HGU is applicable to both pixel-based and latent-based diffusion model solvers. Experimental results demonstrate that, compared to previous sampling algorithms, sampling algorithms with HGU achieves state-of-the-art results in medical image reconstruction, surpassing even supervised learning methods. Additionally, it achieves competitive results on natural images.
• Abstract（参考訳）: 拡散モデルは最近、ペアのデータトレーニングに頼らずに高品質な再構成結果が得られるため、効率的な逆問題解法として認識されている。 既存の拡散型解法では勾配降下戦略を用いて最適なサンプル解を得る。 しかしながら、これらの解法は現在の勾配のみを計算し、サンプリング過程の履歴情報を一切利用していないため、不安定な最適化の進行と亜最適解をもたらす。 そこで本研究では,拡散型逆解法の歴史情報を活用することを提案する。 本稿では,先行研究において,データ忠実性項を最適化するために勾配降下法を用いて収束することを示す。 これに基づいて,ヒストリーグラディエント・アップデート (HGU) と呼ばれる,この最適化プロセスに歴史的勾配を導入する。 また、HGUがアルゴリズム全体の収束を保証するという理論的証拠も提供する。 なお、HGUはピクセルベースの拡散モデルと潜在型の拡散モデルの両方に適用できる。 実験により,従来のサンプリングアルゴリズムと比較して,HGUを用いたサンプリングアルゴリズムは,医用画像再構成における最先端の結果を達成し,教師付き学習手法を超越していることが示された。 さらに、自然画像の競争結果も達成する。

関連論文リスト

• Improving Diffusion Inverse Problem Solving with Decoupled Noise Annealing [84.97865583302244]
  本稿では,新しいノイズアニーリングプロセスに依存するDAPS (Decoupled Annealing Posterior Sampling) 法を提案する。 DAPSは、複数の画像復元タスクにおけるサンプル品質と安定性を著しく改善する。 例えば、フェーズ検索のためのFFHQ 256データセット上で、PSNRが30.72dBである場合、既存の手法と比較して9.12dBの改善となる。
  論文  参考訳（メタデータ） (2024-07-01T17:59:23Z)
• Deep Data Consistency: a Fast and Robust Diffusion Model-based Solver for Inverse Problems [0.0]
  本研究では,拡散モデルを用いた逆問題解法において,データ一貫性ステップをディープラーニングモデルで更新するディープデータ一貫性(DDC)を提案する。 線形および非線形タスクにおける最先端手法と比較して、DDCは類似度と実性の両方の指標の優れた性能を示す。
  論文  参考訳（メタデータ） (2024-05-17T12:54:43Z)
• Deep Equilibrium Diffusion Restoration with Parallel Sampling [120.15039525209106]
  拡散モデルに基づく画像復元(IR)は、拡散モデルを用いて劣化した画像から高品質な(本社)画像を復元し、有望な性能を達成することを目的としている。 既存のほとんどの手法では、HQイメージをステップバイステップで復元するために長いシリアルサンプリングチェーンが必要であるため、高価なサンプリング時間と高い計算コストがかかる。 本研究では,拡散モデルに基づくIRモデルを異なる視点,すなわちDeqIRと呼ばれるDeQ(Deep equilibrium)固定点系で再考することを目的とする。
  論文  参考訳（メタデータ） (2023-11-20T08:27:56Z)
• Poisson-Gaussian Holographic Phase Retrieval with Score-based Image Prior [19.231581775644617]
  本稿では,スコア関数を先行生成関数とする高速化されたWirtinger Flow (AWF) を用いた新しいアルゴリズム"AWFS"を提案する。 PRの対数様関数の勾配を計算し、リプシッツ定数を決定する。 本稿では,提案アルゴリズムの臨界点収束保証を確立する理論的解析を行う。
  論文  参考訳（メタデータ） (2023-05-12T18:08:47Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Decomposed Diffusion Sampler for Accelerating Large-Scale Inverse Problems [64.29491112653905]
  本稿では, 拡散サンプリング法とクリロフ部分空間法を相乗的に組み合わせた, 新規で効率的な拡散サンプリング手法を提案する。 具体的には、ツイーディの公式による分母化標本における接空間がクリロフ部分空間を成すならば、その分母化データによるCGは、接空間におけるデータの整合性更新を確実に維持する。 提案手法は,従来の最先端手法よりも80倍以上高速な推論時間を実現する。
  論文  参考訳（メタデータ） (2023-03-10T07:42:49Z)
• Improving Diffusion Models for Inverse Problems using Manifold Constraints [55.91148172752894]
  我々は,現在の解法がデータ多様体からサンプルパスを逸脱し,エラーが蓄積することを示す。 この問題に対処するため、多様体の制約に着想を得た追加の補正項を提案する。 本手法は理論上も経験上も従来の方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-02T09:06:10Z)
• Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
  本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。 実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
  論文  参考訳（メタデータ） (2021-11-27T12:12:57Z)
• Score-based diffusion models for accelerated MRI [35.3148116010546]
  本研究では,画像中の逆問題を容易に解けるような条件分布からデータをサンプリングする方法を提案する。 我々のモデルは、訓練のためにのみ等級画像を必要とするが、複雑な値のデータを再構成することができ、さらに並列画像まで拡張できる。
  論文  参考訳（メタデータ） (2021-10-08T08:42:03Z)
• Learning regularization and intensity-gradient-based fidelity for single image super resolution [0.0]
  画像劣化の進行について検討し、強度と勾配空間の両方で劣化モデルを確立する。 復元には包括的データ一貫性制約が設定される。 提案した忠実度項と設計された正規化項は正規化フレームワークに組み込まれる。
  論文  参考訳（メタデータ） (2020-03-24T07:03:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。