論文の概要: The Emergence of Reproducibility and Generalizability in Diffusion Models

• arxiv url: http://arxiv.org/abs/2310.05264v4
• Date: Mon, 10 Jun 2024 14:37:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-12 04:57:43.003489
• Title: The Emergence of Reproducibility and Generalizability in Diffusion Models
• Title（参考訳）: 拡散モデルにおける再現性と一般化可能性の創発
• Authors: Huijie Zhang, Jinfan Zhou, Yifu Lu, Minzhe Guo, Peng Wang, Liyue Shen, Qing Qu,
• Abstract要約: 同じスタートノイズ入力と決定論的サンプリングが与えられた場合、異なる拡散モデルはしばしば驚くほど類似した出力が得られる。 拡散モデルはトレーニングデータサイズの影響を受けやすい分布を学習していることを示す。 この価値ある性質は、条件付き使用、逆問題解決、モデル微調整など、拡散モデルの多くの変種に一般化される。
• 参考スコア（独自算出の注目度）: 10.188731323681575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we investigate an intriguing and prevalent phenomenon of diffusion models which we term as "consistent model reproducibility": given the same starting noise input and a deterministic sampler, different diffusion models often yield remarkably similar outputs. We confirm this phenomenon through comprehensive experiments, implying that different diffusion models consistently reach the same data distribution and scoring function regardless of diffusion model frameworks, model architectures, or training procedures. More strikingly, our further investigation implies that diffusion models are learning distinct distributions affected by the training data size. This is supported by the fact that the model reproducibility manifests in two distinct training regimes: (i) "memorization regime", where the diffusion model overfits to the training data distribution, and (ii) "generalization regime", where the model learns the underlying data distribution. Our study also finds that this valuable property generalizes to many variants of diffusion models, including those for conditional use, solving inverse problems, and model fine-tuning. Finally, our work raises numerous intriguing theoretical questions for future investigation and highlights practical implications regarding training efficiency, model privacy, and the controlled generation of diffusion models.
• Abstract（参考訳）: 本研究では,拡散モデルが「一貫性のあるモデル再現性」と呼ばれる興味深い現象を考察する:同じ開始音入力と決定論的サンプリング器が与えられた場合,拡散モデルが異なる場合,非常によく似た出力が得られる。 この現象を包括的実験により確認し、拡散モデルフレームワーク、モデルアーキテクチャ、トレーニング手順にかかわらず、異なる拡散モデルが同一のデータ分布とスコアリング関数に一貫して到達することを示唆する。 より顕著な研究は、拡散モデルがトレーニングデータサイズの影響を受けやすい分布を学習していることを示唆している。 これは、モデル再現性が2つの異なる訓練体制に現れるという事実に支えられている。 一 拡散モデルが訓練データ配信に適合する「記憶体制」及び (2)モデルが基礎となるデータ分布を学習する「一般化体制」。 また, この性質は, 条件付き使用, 逆問題解決, モデル微調整など, 拡散モデルの多くの変種に一般化されることが示唆された。 最後に,本研究は今後の研究に多くの興味深い理論的疑問を提起し,トレーニング効率,モデルのプライバシ,制御された拡散モデルの生成に関する実践的意味を強調した。

関連論文リスト

• Constrained Diffusion Models via Dual Training [80.03953599062365]
  拡散プロセスは、トレーニングデータセットのバイアスを反映したサンプルを生成する傾向がある。 所望の分布に基づいて拡散制約を付与し,制約付き拡散モデルを構築する。 本稿では,制約付き拡散モデルを用いて,目的と制約の最適なトレードオフを実現する混合データ分布から新しいデータを生成することを示す。
  論文  参考訳（メタデータ） (2024-08-27T14:25:42Z)
• Diffusion Models in Low-Level Vision: A Survey [82.77962165415153]
  拡散モデルに基づくソリューションは、優れた品質と多様性のサンプルを作成する能力で広く称賛されている。 本稿では,3つの一般化拡散モデリングフレームワークを提案し,それらと他の深層生成モデルとの相関関係について検討する。 医療、リモートセンシング、ビデオシナリオなど、他のタスクに適用された拡張拡散モデルについて要約する。
  論文  参考訳（メタデータ） (2024-06-17T01:49:27Z)
• An Overview of Diffusion Models: Applications, Guided Generation, Statistical Rates and Optimization [59.63880337156392]
  拡散モデルはコンピュータビジョン、オーディオ、強化学習、計算生物学において大きな成功を収めた。 経験的成功にもかかわらず、拡散モデルの理論は非常に限定的である。 本稿では,前向きな理論や拡散モデルの手法を刺激する理論的露光について述べる。
  論文  参考訳（メタデータ） (2024-04-11T14:07:25Z)
• Guided Diffusion from Self-Supervised Diffusion Features [49.78673164423208]
  ガイダンスは拡散モデルにおいて重要な概念として機能するが、その効果は追加のデータアノテーションや事前学習の必要性によって制限されることが多い。 本稿では,拡散モデルからガイダンスを抽出するフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-14T11:19:11Z)
• Renormalizing Diffusion Models [0.7252027234425334]
  拡散モデルを用いて、統計および量子場理論の逆再正規化群フローを学習する。 我々の研究は、多スケール拡散モデルの解釈を提供し、新しい性質を持つべき拡散モデルに対する物理的に着想を得た提案を与える。
  論文  参考訳（メタデータ） (2023-08-23T18:02:31Z)
• Diff-Instruct: A Universal Approach for Transferring Knowledge From Pre-trained Diffusion Models [77.83923746319498]
  本稿では,任意の生成モデルの学習を指導するDiff-Instructというフレームワークを提案する。 Diff-Instructは、最先端の単一ステップ拡散モデルであることを示す。 GANモデルの精製実験により、Diff-InstructはGANモデルの事前訓練されたジェネレータを一貫して改善できることが示されている。
  論文  参考訳（メタデータ） (2023-05-29T04:22:57Z)
• On the Generalization of Diffusion Model [42.447639515467934]
  生成したデータとトレーニングセットの相互情報によって測定される生成モデルの一般化を定義する。 実験的最適拡散モデルでは, 決定論的サンプリングによって生成されたデータは, すべてトレーニングセットに強く関連しており, 一般化が不十分であることを示す。 本稿では,経験的最適解が一般化問題を持たない別の学習目標を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:57Z)
• Diffusion Models in Vision: A Survey [80.82832715884597]
  拡散モデルは、前方拡散段階と逆拡散段階の2つの段階に基づく深層生成モデルである。 拡散モデルは、既知の計算負荷にもかかわらず、生成したサンプルの品質と多様性に対して広く評価されている。
  論文  参考訳（メタデータ） (2022-09-10T22:00:30Z)
• Diffusion Models: A Comprehensive Survey of Methods and Applications [10.557289965753437]
  拡散モデル(英: Diffusion model)は、密度理論の確立を伴う様々なタスクにおいて印象的な結果を示す深層生成モデルのクラスである。 近年,拡散モデルの性能向上への熱意が高まっている。
  論文  参考訳（メタデータ） (2022-09-02T02:59:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。