論文の概要: Compensation Sampling for Improved Convergence in Diffusion Models

• arxiv url: http://arxiv.org/abs/2312.06285v1
• Date: Mon, 11 Dec 2023 10:39:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-12 16:07:18.207028
• Title: Compensation Sampling for Improved Convergence in Diffusion Models
• Title（参考訳）: 拡散モデルにおける収束性向上のための補償サンプリング
• Authors: Hui Lu, Albert ali Salah, Ronald Poppe
• Abstract要約: 拡散モデルは画像生成において顕著な品質を達成するが、コストはかかる。 反復 denoising は高忠実度画像を生成するために多くの時間ステップを必要とする。 対象データの初期的不正確な再構成による復元誤差の蓄積により,復調過程が著しく制限されていることを論じる。
• 参考スコア（独自算出の注目度）: 12.311434647047427
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models achieve remarkable quality in image generation, but at a cost. Iterative denoising requires many time steps to produce high fidelity images. We argue that the denoising process is crucially limited by an accumulation of the reconstruction error due to an initial inaccurate reconstruction of the target data. This leads to lower quality outputs, and slower convergence. To address this issue, we propose compensation sampling to guide the generation towards the target domain. We introduce a compensation term, implemented as a U-Net, which adds negligible computation overhead during training and, optionally, inference. Our approach is flexible and we demonstrate its application in unconditional generation, face inpainting, and face de-occlusion using benchmark datasets CIFAR-10, CelebA, CelebA-HQ, FFHQ-256, and FSG. Our approach consistently yields state-of-the-art results in terms of image quality, while accelerating the denoising process to converge during training by up to an order of magnitude.
• Abstract（参考訳）: 拡散モデルは画像生成において顕著な品質を達成するが、コストはかかる。 反復 denoising は高忠実度画像を生成するために多くの時間ステップを必要とする。 対象データの初期的不正確な再構成による再構成誤差の蓄積により, 雑音化過程が極めて制限されると主張している。 これにより、品質が低下し、収束が遅くなる。 この問題に対処するため,対象領域への生成誘導のための補償サンプリングを提案する。 U-Netとして実装された補償項を導入し、トレーニング中に無視可能な計算オーバーヘッドと任意に推論を追加する。 このアプローチは柔軟であり、ベンチマークデータセットであるcifar-10, celeba, celeba-hq, ffhq-256, fsgを用いて、無条件生成、顔の塗りつぶし、顔の切り離しに応用できることを実証する。 我々のアプローチは、画像品質の観点から、常に最先端の結果をもたらす一方で、トレーニング中に最大1桁の精度でデノナイジングプロセスを収束させる。

関連論文リスト

• Fast constrained sampling in pre-trained diffusion models [77.21486516041391]
  拡散モデルは、大規模な生成画像モデルの分野を支配してきた。 本研究では,大規模な事前学習拡散モデルにおける高速拘束サンプリングのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-24T14:52:38Z)
• CoDi: Conditional Diffusion Distillation for Higher-Fidelity and Faster Image Generation [49.3016007471979]
  大規模な生成拡散モデルは、テキスト・ツー・イメージ生成に革命をもたらし、条件付き生成タスクに大きな可能性を秘めている。 しかし、彼らの普及は高い計算コストによって妨げられ、リアルタイムの応用が制限される。 本稿では,事前学習した潜伏拡散モデルに付加的な画像条件入力を適応させるCoDiという新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-10-02T17:59:18Z)
• Reconstruct-and-Generate Diffusion Model for Detail-Preserving Image Denoising [16.43285056788183]
  再構成・生成拡散モデル(Reconstruct-and-Generate Diffusion Model, RnG)と呼ばれる新しい手法を提案する。 提案手法は, 再構成型復調ネットワークを利用して, 基礎となるクリーン信号の大半を復元する。 拡散アルゴリズムを用いて残留する高周波の詳細を生成し、視覚的品質を向上させる。
  論文  参考訳（メタデータ） (2023-09-19T16:01:20Z)
• Steerable Conditional Diffusion for Out-of-Distribution Adaptation in Medical Image Reconstruction [75.91471250967703]
  我々は、ステアブル条件拡散と呼ばれる新しいサンプリングフレームワークを導入する。 このフレームワークは、利用可能な測定によって提供される情報のみに基づいて、画像再構成と並行して拡散モデルを適用する。 様々な画像モダリティにまたがるアウト・オブ・ディストリビューション性能の大幅な向上を実現した。
  論文  参考訳（メタデータ） (2023-08-28T08:47:06Z)
• ACDMSR: Accelerated Conditional Diffusion Models for Single Image Super-Resolution [84.73658185158222]
  本稿では,ACDMSRと呼ばれる拡散モデルに基づく超解像法を提案する。 提案手法は, 決定論的反復分解過程を通じて超解像を行うために, 標準拡散モデルに適応する。 提案手法は,低解像度画像に対してより視覚的に現実的な表現を生成し,現実的なシナリオにおけるその有効性を強調した。
  論文  参考訳（メタデータ） (2023-07-03T06:49:04Z)
• Low-Light Image Enhancement with Wavelet-based Diffusion Models [50.632343822790006]
  拡散モデルは画像復元作業において有望な結果を得たが、時間を要する、過剰な計算資源消費、不安定な復元に悩まされている。 本稿では,DiffLLと呼ばれる高能率かつ高能率な拡散型低光画像強調手法を提案する。
  論文  参考訳（メタデータ） (2023-06-01T03:08:28Z)
• Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
  GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。 本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
  論文  参考訳（メタデータ） (2023-04-22T15:32:59Z)
• Inversion by Direct Iteration: An Alternative to Denoising Diffusion for Image Restoration [22.709205282657617]
  Inversion by Direct Iteration (InDI)は、教師付き画像復元のための新しい定式化である。 既存の回帰ベースの手法よりもリアルで詳細な画像を生成する。
  論文  参考訳（メタデータ） (2023-03-20T20:28:17Z)
• High Perceptual Quality Image Denoising with a Posterior Sampling CGAN [31.42883613312055]
  条件付き生成逆数ネットワーク(CGAN)を用いた画像認識の新しい手法を提案する。 私たちの目標は、許容できる歪みで高い知覚品質を達成することです。 提案手法は, 改質消音目標を達成し, 不動騒音レベルで鮮やかで多様な結果を生み出す, 斬新な消音アーキテクチャで紹介する。
  論文  参考訳（メタデータ） (2021-03-06T20:18:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。