論文の概要: Improved denoising diffusion probabilistic models with efficient non-diagonal covariance modeling

• arxiv url: http://arxiv.org/abs/2608.21972v1
• Date: Sat, 22 Aug 2026 14:21:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.547317
• Title: Improved denoising diffusion probabilistic models with efficient non-diagonal covariance modeling
• Title（参考訳）: 効率的な非対角共分散モデルによる拡散確率モデルの改善
• Authors: Rui Xia, Ayan Das, Artem Artemev, Andi Zhang, Guillaume Hennequin, Alberto Bernacchia,
• Abstract要約: 我々は,自然画像の特異な統計構造を捉える新しい共分散モデルを開発した。 従来のSOTA復調法に比べて性能が向上した。
• 参考スコア（独自算出の注目度）: 33.785721262421
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The sampling process of Denoising Diffusion Probabilistic Models (DDPMs) can be accelerated by leveraging second-order information in the form of approximations to the denoising posterior covariance -- allowing samples of acceptable quality to be produced in fewer but larger sampling steps. Previous attempts at using such information have used drastic (e.g.\ diagonal) simplifications of the covariance. These do not do justice to the peculiar statistical structure of natural images, which exhibit strong non-diagonal correlations between pixels and color channels, and a slow-decaying power-law frequency spectrum. Here, we develop a novel covariance model that captures these features. Our Kronecker-DCT (K-DCT) model uses a Kronecker-factored decomposition of inter-color covariances and spatial covariances modeled in the frequency domain using the Discrete Cosine Transform (DCT). The use of the DCT reduces the computational complexity from quadratic to log-linear, resulting in negligible computational and memory overhead in each denoising step. By learning K-DCT-structured amortizations of the denoising posterior covariance using pre-trained score models on CIFAR-10, Celeb-A, ImageNet and LSUN datasets, we show improved performance compared to previous SOTA denoising samplers, both in terms of FID and likelihoods, especially in the regime of few denoising steps.
• Abstract（参考訳）: Denoising Diffusion Probabilistic Models (DDPM) のサンプリングプロセスは、復調後共分散に対する近似の形で2次情報を活用することにより、より少ないが大きなサンプリングステップで許容品質のサンプルを作成できる。 このような情報を利用する以前の試みでは、共分散の劇的な(e g \ 対角)単純化が用いられてきた。 これらは、ピクセルとカラーチャネルの間に強い非対角相関を示す自然画像の特異な統計構造と、ゆっくりと縮退するパワー・ロー周波数スペクトルに公平ではない。 本稿では,これらの特徴を捉える新しい共分散モデルを提案する。 我々のKronecker-DCT(K-DCT)モデルは、離散コサイン変換(DCT)を用いて周波数領域でモデル化された色間共分散と空間共分散のクロネッカー分解を用いる。 DCTの使用は、計算の複雑さを2次から対数線形に減らし、各デノナイジングステップの計算とメモリオーバーヘッドを無視する結果となる。 CIFAR-10, Celeb-A, ImageNet, LSUNデータセットの事前学習スコアモデルを用いて, 後側共分散のK-DCT構造的補正を学習することにより, FID, 可能性の両面において, 従来のSOTA復調サンプルよりも優れた性能を示した。

関連論文リスト

• Elucidating the SNR-t Bias of Diffusion Probabilistic Models [28.312988944419516]
  拡散モデルは、しばしば信号対雑音比時間ステップ(SNR-t)バイアスに悩まされる。 本稿では,SNR-tバイアスを軽減するための簡易かつ効果的な差分補正法を提案する。 提案手法は,様々な拡散モデルの生成品質を著しく向上させる。
  論文  参考訳（メタデータ） (2026-04-17T13:16:15Z)
• Noise Conditional Variational Score Distillation [60.38982038894823]
  騒音条件変化スコア蒸留(NCVSD)は, 予混合拡散モデルから生成消音剤を蒸留する新しい方法である。 この知見を変分スコア蒸留フレームワークに組み込むことで、生成的デノイザのスケーラブルな学習を可能にする。
  論文  参考訳（メタデータ） (2025-06-11T06:01:39Z)
• PartDiff: Image Super-resolution with Partial Diffusion Models [3.8435187580887717]
  拡散確率モデル(DDPM)は,様々な画像生成タスクにおいて顕著な性能を達成している。 DDPMは、ランダムノイズから反復的にデノイングすることで、新しいデータを生成する。 しかし、拡散に基づく生成モデルは、多くのデノナイジングステップのために高い計算コストに悩まされる。 本稿では,部分拡散モデル (PartDiff) を提案する。
  論文  参考訳（メタデータ） (2023-07-21T22:11:23Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• CoreDiff: Contextual Error-Modulated Generalized Diffusion Model for Low-Dose CT Denoising and Generalization [41.64072751889151]
  低線量CT(LDCT)画像は光子飢餓と電子ノイズによりノイズやアーティファクトに悩まされる。 本稿では,低用量CT (LDCT) 用新しいCOntextual eRror-modulated gEneralized Diffusion Model(CoreDiff)を提案する。
  論文  参考訳（メタデータ） (2023-04-04T14:13:13Z)
• Noise Reduction in X-ray Photon Correlation Spectroscopy with Convolutional Neural Networks Encoder-Decoder Models [0.0]
  2時間相関関数における信号対雑音比を改善するための計算手法を提案する。 CNN-EDモデルは、畳み込みニューラルネットワークデコーダ(CNN-ED)モデルに基づいている。 実世界の実験データに基づいて訓練されたCNN-EDモデルにより,2時間相関関数から平衡力学パラメータを効果的に抽出できることが実証された。
  論文  参考訳（メタデータ） (2021-02-07T18:38:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。