論文の概要: Dreamguider: Improved Training free Diffusion-based Conditional Generation

• arxiv url: http://arxiv.org/abs/2406.02549v1
• Date: Tue, 4 Jun 2024 17:59:32 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-05 14:50:37.007051
• Title: Dreamguider: Improved Training free Diffusion-based Conditional Generation
• Title（参考訳）: Dreamguider: 自由拡散型コンディショナルジェネレーションの改良
• Authors: Nithin Gopalakrishnan Nair, Vishal M Patel,
• Abstract要約: Dreamguiderは、拡散ネットワークを介して計算量の多いバックプロパゲーションを伴わない推論時ガイダンスを可能にする手法である。 提案するモジュールの有効性を示すために,複数のデータセットやモデルにまたがる複数のタスクに対してDreamguiderを用いて実験を行った。
• 参考スコア（独自算出の注目度）: 31.68823843900196
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models have emerged as a formidable tool for training-free conditional generation.However, a key hurdle in inference-time guidance techniques is the need for compute-heavy backpropagation through the diffusion network for estimating the guidance direction. Moreover, these techniques often require handcrafted parameter tuning on a case-by-case basis. Although some recent works have introduced minimal compute methods for linear inverse problems, a generic lightweight guidance solution to both linear and non-linear guidance problems is still missing. To this end, we propose Dreamguider, a method that enables inference-time guidance without compute-heavy backpropagation through the diffusion network. The key idea is to regulate the gradient flow through a time-varying factor. Moreover, we propose an empirical guidance scale that works for a wide variety of tasks, hence removing the need for handcrafted parameter tuning. We further introduce an effective lightweight augmentation strategy that significantly boosts the performance during inference-time guidance. We present experiments using Dreamguider on multiple tasks across multiple datasets and models to show the effectiveness of the proposed modules. To facilitate further research, we will make the code public after the review process.
• Abstract（参考訳）: 拡散モデル(拡散モデル)は, 学習自由条件生成の強力なツールとして現れてきたが, 推論時間誘導技術における重要なハードルは, 誘導方向を推定するための拡散ネットワークによる計算重大バックプロパゲーションの必要性である。 さらに、これらの手法はケースバイケースで手作りのパラメータチューニングを必要とすることが多い。 近年、線形逆問題に対する最小限の計算手法を導入している研究もあるが、線形および非線形誘導問題に対する汎用的な軽量ガイダンスソリューションはいまだに欠落している。 この目的のために,Dreamguiderを提案する。Dreamguiderは,拡散ネットワークを介して計算量の多いバックプロパゲーションを伴わずに,推論時のガイダンスを可能にする手法である。 鍵となる考え方は、時間的変化による勾配の流れを調節することである。 さらに,多種多様なタスクに有効である経験的指導尺度を提案し,手作りパラメータチューニングの必要性を排除した。 さらに、推論時ガイダンスにおける性能を大幅に向上させる効果的な軽量化戦略を導入する。 提案するモジュールの有効性を示すために,複数のデータセットやモデルにまたがる複数のタスクに対してDreamguiderを用いて実験を行った。 さらなる研究を容易にするため、レビュープロセスの後にコードを公開します。

関連論文リスト

• Prompt Tuning with Diffusion for Few-Shot Pre-trained Policy Generalization [55.14484317645865]
  我々は,オフライン強化学習タスクにおいて,例外的な品質向上を促す条件拡散モデルを構築した。 本稿では,Promptディフューザがプロンプトチューニングプロセスの堅牢かつ効果的なツールであることを示し,メタRLタスクにおいて高い性能を示す。
  論文  参考訳（メタデータ） (2024-11-02T07:38:02Z)
• Reference Trustable Decoding: A Training-Free Augmentation Paradigm for Large Language Models [79.41139393080736]
  大規模言語モデル(LLM)は急速に進歩し、印象的な機能を示している。 In-Context Learning (ICL) など。 効率的なファインチューニング(PEFT)は、現在2つの主要な拡張方法である。 下流タスクへのLLM。 我々は、モデルが微調整なしで新しいタスクに迅速に適応できるパラダイムである参照信頼復号(RTD)を提案する。
  論文  参考訳（メタデータ） (2024-09-30T10:48:20Z)
• Adding Conditional Control to Diffusion Models with Reinforcement Learning [59.295203871547336]
  拡散モデルは、生成されたサンプルの特性を正確に制御できる強力な生成モデルである。 本研究では、オフラインデータセットを活用した強化学習(RL)に基づく新しい制御手法を提案する。
  論文  参考訳（メタデータ） (2024-06-17T22:00:26Z)
• Diffusion-ES: Gradient-free Planning with Diffusion for Autonomous Driving and Zero-Shot Instruction Following [21.81411085058986]
  Reward-gradient guided denoisingは、微分可能報酬関数と拡散モデルによって捕捉されたデータ分布下での確率の両方を最大化する軌道を生成する。 そこで我々は,勾配のない最適化と軌道デノゲーションを組み合わせたDiffusionESを提案する。 DiffusionESは、自動運転のための確立されたクローズドループ計画ベンチマークであるnuPlan上で、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2024-02-09T17:18:33Z)
• Manifold Preserving Guided Diffusion [121.97907811212123]
  条件付き画像生成は、コスト、一般化可能性、タスク固有のトレーニングの必要性といった課題に直面している。 トレーニング不要な条件生成フレームワークであるManifold Preserving Guided Diffusion (MPGD)を提案する。
  論文  参考訳（メタデータ） (2023-11-28T02:08:06Z)
• Elucidating The Design Space of Classifier-Guided Diffusion Generation [17.704873767509557]
  そこで本研究では,市販の分類器をトレーニング不要の手法で活用することにより,既存の指導方式よりも大幅な性能向上を実現することができることを示す。 提案手法は大きな可能性を秘めており,テキスト・画像生成タスクに容易にスケールアップできる。
  論文  参考訳（メタデータ） (2023-10-17T14:34:58Z)
• Unsupervised Discovery of Interpretable Directions in h-space of Pre-trained Diffusion Models [63.1637853118899]
  本稿では,事前学習した拡散モデルのh空間における解釈可能な方向を特定するための,教師なしおよび学習に基づく最初の手法を提案する。 我々は、事前訓練された拡散モデルのh-スペースで動作するシフト制御モジュールを用いて、サンプルをシフトしたバージョンに操作する。 それらを共同で最適化することで、モデルは自然に絡み合った、解釈可能な方向を発見する。
  論文  参考訳（メタデータ） (2023-10-15T18:44:30Z)
• Training-free Linear Image Inverses via Flows [17.291903204982326]
  本研究では,事前学習フローモデルを用いて,線形逆問題に対する学習自由度を求める手法を提案する。 提案手法では,高次元データセット上でのノイズの多い線形逆問題に対して,問題固有のチューニングは不要である。
  論文  参考訳（メタデータ） (2023-09-25T22:13:16Z)
• Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
  我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。 本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
  論文  参考訳（メタデータ） (2020-06-10T08:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。