論文の概要: Statistical guarantees for denoising reflected diffusion models

• arxiv url: http://arxiv.org/abs/2411.01563v1
• Date: Sun, 03 Nov 2024 13:26:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 14:46:33.660909
• Title: Statistical guarantees for denoising reflected diffusion models
• Title（参考訳）: 反射拡散モデルの統計的保証
• Authors: Asbjørn Holk, Claudia Strauch, Lukas Trottner,
• Abstract要約: 近年,進化するAIの領域が急速に拡大しているため,拡散モデルの認知化が重要な研究領域となっている。 本稿では,反射拡散モデルの統計的保証について検討する。 本研究の主な貢献は, 反射拡散モデルに基づく新しいクラスを統計的に解析することと, 時間と空間の両方における精密なスコア近似法である。
• 参考スコア（独自算出の注目度）: 1.9116784879310031
• License:
• Abstract: In recent years, denoising diffusion models have become a crucial area of research due to their abundance in the rapidly expanding field of generative AI. While recent statistical advances have delivered explanations for the generation ability of idealised denoising diffusion models for high-dimensional target data, implementations introduce thresholding procedures for the generating process to overcome issues arising from the unbounded state space of such models. This mismatch between theoretical design and implementation of diffusion models has been addressed empirically by using a \emph{reflected} diffusion process as the driver of noise instead. In this paper, we study statistical guarantees of these denoising reflected diffusion models. In particular, we establish minimax optimal rates of convergence in total variation, up to a polylogarithmic factor, under Sobolev smoothness assumptions. Our main contributions include the statistical analysis of this novel class of denoising reflected diffusion models and a refined score approximation method in both time and space, leveraging spectral decomposition and rigorous neural network analysis.
• Abstract（参考訳）: 近年,進化するAIの領域が急速に拡大しているため,拡散モデルの認知化が重要な研究領域となっている。 近年の統計学の進歩により,高次元対象データに対する理想的な微分拡散モデルの生成能力が説明される一方で,そのようなモデルの非有界状態空間から生じる問題を克服するために,生成プロセスのしきい値化手順が導入されている。 この理論設計と拡散モデルの実装のミスマッチは、代わりに音の駆動子として \emph{reflected} 拡散過程を用いて経験的に解決されている。 本稿では,これらのデノイング反射拡散モデルの統計的保証について検討する。 特に、ソボレフの滑らかさの仮定の下で、全変量における収束の極小最大速度をポリ対数因子まで確立する。 本研究の主な貢献は, スペクトル分解と厳密なニューラルネットワーク解析を生かして, 時間と空間の両方で高精細なスコア近似法と, 反射拡散モデルを用いた新しいクラスを統計的に解析することである。

関連論文リスト

• Provable Statistical Rates for Consistency Diffusion Models [87.28777947976573]
  最先端の性能にもかかわらず、拡散モデルは、多くのステップが伴うため、遅いサンプル生成で知られている。 本稿では, 整合性モデルに関する最初の統計理論に寄与し, 分散不整合最小化問題としてトレーニングを定式化している。
  論文  参考訳（メタデータ） (2024-06-23T20:34:18Z)
• Physics-Informed Diffusion Models [0.0]
  本稿では,モデル学習中に生成されたサンプルに対して,基礎となる制約の拡散モデルに通知する枠組みを提案する。 提案手法は, 提案した制約付きサンプルのアライメントを改良し, 既存手法を著しく上回っている。
  論文  参考訳（メタデータ） (2024-03-21T13:52:55Z)
• Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
  条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。 経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。 本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
  論文  参考訳（メタデータ） (2024-03-18T17:08:24Z)
• Soft Mixture Denoising: Beyond the Expressive Bottleneck of Diffusion Models [76.46246743508651]
  我々は,現在の拡散モデルが後方認知において表現力のあるボトルネックを持っていることを示した。 本稿では,後方復調のための表現的かつ効率的なモデルであるソフトミキシング・デノナイジング(SMD)を導入する。
  論文  参考訳（メタデータ） (2023-09-25T12:03:32Z)
• A prior regularized full waveform inversion using generative diffusion models [0.5156484100374059]
  フルウェーブフォームインバージョン(FWI)は高分解能地下モデル推定を提供する可能性がある。 観測の限界、例えば、地域雑音、限られたショットや受信機、帯域制限データなどにより、FWIで所望の高解像度モデルを得るのは難しい。 生成拡散モデルにより正規化されたFWIの新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-06-22T10:10:34Z)
• To smooth a cloud or to pin it down: Guarantees and Insights on Score Matching in Denoising Diffusion Models [20.315727650065007]
  微分拡散モデル(Denoising diffusion model)は、最近多くの領域で最先端の結果を得た生成モデルのクラスである。 我々は、F"ollmer flow"に似た既知の接続を利用して、F"ollmer drift"の確立されたニューラルネットワーク近似結果を拡張し、拡散モデルとサンプリング器をデノナイズする。
  論文  参考訳（メタデータ） (2023-05-16T16:56:19Z)
• Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
  拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。 実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:31:55Z)
• Information-Theoretic Diffusion [18.356162596599436]
  拡散モデルのデノイングは密度モデリングや画像生成において大きな進歩をもたらした。 情報理論における古典的な結果にインスパイアされた拡散モデルのための新しい数学的基礎を導入する。
  論文  参考訳（メタデータ） (2023-02-07T23:03:07Z)
• Diffusion Models in Vision: A Survey [80.82832715884597]
  拡散モデルは、前方拡散段階と逆拡散段階の2つの段階に基づく深層生成モデルである。 拡散モデルは、既知の計算負荷にもかかわらず、生成したサンプルの品質と多様性に対して広く評価されている。
  論文  参考訳（メタデータ） (2022-09-10T22:00:30Z)
• How Much is Enough? A Study on Diffusion Times in Score-based Generative Models [76.76860707897413]
  現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。 本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
  論文  参考訳（メタデータ） (2022-06-10T15:09:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。