論文の概要: One Step Diffusion via Shortcut Models

• arxiv url: http://arxiv.org/abs/2410.12557v1
• Date: Wed, 16 Oct 2024 13:34:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:43:32.408971
• Title: One Step Diffusion via Shortcut Models
• Title（参考訳）: ショートカットモデルによる1ステップ拡散
• Authors: Kevin Frans, Danijar Hafner, Sergey Levine, Pieter Abbeel,
• Abstract要約: 単一ネットワークとトレーニングフェーズを用いて高品質なサンプルを生成する,生成モデルのファミリであるショートカットモデルを導入する。 ショートカットモデルは、現在のノイズレベルと所望のステップサイズにネットワークを条件付け、生成プロセスでモデルをスキップすることができる。 蒸留と比較して、ショートカットモデルは複雑性を1つのネットワークとトレーニングフェーズに減らし、推論時に様々なステップ予算を許容する。
• 参考スコア（独自算出の注目度）: 109.72495454280627
• License:
• Abstract: Diffusion models and flow-matching models have enabled generating diverse and realistic images by learning to transfer noise to data. However, sampling from these models involves iterative denoising over many neural network passes, making generation slow and expensive. Previous approaches for speeding up sampling require complex training regimes, such as multiple training phases, multiple networks, or fragile scheduling. We introduce shortcut models, a family of generative models that use a single network and training phase to produce high-quality samples in a single or multiple sampling steps. Shortcut models condition the network not only on the current noise level but also on the desired step size, allowing the model to skip ahead in the generation process. Across a wide range of sampling step budgets, shortcut models consistently produce higher quality samples than previous approaches, such as consistency models and reflow. Compared to distillation, shortcut models reduce complexity to a single network and training phase and additionally allow varying step budgets at inference time.
• Abstract（参考訳）: 拡散モデルとフローマッチングモデルは、ノイズをデータに転送することを学ぶことによって、多様な現実的な画像を生成することができる。 しかしながら、これらのモデルからのサンプリングは、多くのニューラルネットワークパスを反復的にデノベーションすることで、生成が遅くてコストがかかる。 サンプリングを高速化するための従来のアプローチでは、複数のトレーニングフェーズ、複数のネットワーク、脆弱なスケジューリングなど、複雑なトレーニング体制が必要だった。 我々は,1つのネットワークとトレーニングフェーズを用いて,1つないし複数のサンプリングステップで高品質なサンプルを生成する,生成モデルのファミリーであるショートカットモデルを紹介した。 ショートカットモデルでは、現在のノイズレベルだけでなく、所望のステップサイズでもネットワークを条件にすることで、生成プロセスでモデルをスキップすることができる。 幅広いサンプリングステップ予算の中で、ショートカットモデルは、一貫性モデルやリフローなど、以前のアプローチよりも一貫して高品質なサンプルを生成します。 蒸留と比較して、ショートカットモデルは複雑性を1つのネットワークとトレーニングフェーズに減らし、推論時に様々なステップ予算を許容する。

関連論文リスト

• Truncated Consistency Models [57.50243901368328]
  トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。 このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。 整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
  論文  参考訳（メタデータ） (2024-10-18T22:38:08Z)
• A Simple Approach to Unifying Diffusion-based Conditional Generation [63.389616350290595]
  多様な条件生成タスクを処理するための、シンプルで統一されたフレームワークを導入します。 提案手法は,異なる推論時間サンプリング方式による多目的化を実現する。 我々のモデルは、非親密なアライメントや粗い条件付けのような追加機能をサポートしています。
  論文  参考訳（メタデータ） (2024-10-15T09:41:43Z)
• Provable Statistical Rates for Consistency Diffusion Models [87.28777947976573]
  最先端の性能にもかかわらず、拡散モデルは、多くのステップが伴うため、遅いサンプル生成で知られている。 本稿では, 整合性モデルに関する最初の統計理論に寄与し, 分散不整合最小化問題としてトレーニングを定式化している。
  論文  参考訳（メタデータ） (2024-06-23T20:34:18Z)
• Multistep Distillation of Diffusion Models via Moment Matching [29.235113968156433]
  本稿では,拡散モデルをより高速にサンプル化するための新しい手法を提案する。 本手法は,クリーンデータの条件付き期待値に適合して,多段階拡散モデルを数段階モデルに蒸留する。 我々は、Imagenetデータセット上で、最先端の新たな結果を得る。
  論文  参考訳（メタデータ） (2024-06-06T14:20:21Z)
• Multistep Consistency Models [24.443707181138553]
  1ステップの一貫性モデルは従来の一貫性モデルであるが、$infty$ステップの一貫性モデルは拡散モデルである。 サンプル予算を1ステップから2～8ステップに増やすことで、より高い品質のサンプルを生成するモデルをより簡単にトレーニングすることが可能になります。 提案手法はテキストから画像への拡散モデルにスケールし,元のモデルの品質に近いサンプルを生成する。
  論文  参考訳（メタデータ） (2024-03-11T15:26:34Z)
• One-Step Diffusion Distillation via Deep Equilibrium Models [64.11782639697883]
  本稿では,拡散モデルを初期雑音から得られた画像に直接蒸留する簡易かつ効果的な方法を提案する。 本手法は,拡散モデルからノイズ/イメージペアのみによる完全オフライントレーニングを可能にする。 GET は FID スコアの点で 5 倍の ViT と一致するので,DEC アーキテクチャがこの能力に不可欠であることを示す。
  論文  参考訳（メタデータ） (2023-12-12T07:28:40Z)
• Consistency Models [89.68380014789861]
  ノイズを直接データにマッピングすることで,高品質なサンプルを生成する新しいモデル群を提案する。 設計によって高速なワンステップ生成をサポートしながら、マルチステップサンプリングによって、サンプル品質の計算を交換することができる。 イメージインペイント、カラー化、超高解像度といったゼロショットデータ編集も、明示的なトレーニングを必要とせずサポートしている。
  論文  参考訳（メタデータ） (2023-03-02T18:30:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。