Fugu-MT 論文翻訳(概要): Diffusion-Sharpening: Fine-tuning Diffusion Models with Denoising Trajectory Sharpening

論文の概要: Diffusion-Sharpening: Fine-tuning Diffusion Models with Denoising Trajectory Sharpening

arxiv url: http://arxiv.org/abs/2502.12146v1
Date: Mon, 17 Feb 2025 18:57:26 GMT
ステータス: 翻訳完了
システム内更新日: 2025-02-18 14:10:28.208030
Title: Diffusion-Sharpening: Fine-tuning Diffusion Models with Denoising Trajectory Sharpening
Title（参考訳）: 拡散シャープ化:軌道シャープ化を考慮した微調整拡散モデル
Authors: Ye Tian, Ling Yang, Xinchen Zhang, Yunhai Tong, Mengdi Wang, Bin Cui,
Abstract要約: 拡散シャープニング(Diffusion-Sharpening)は、サンプリング軌道を最適化することで下流のアライメントを向上させる微調整手法である。提案手法は, NFEを必要とせず, より高速に収束し, 最高の推論効率を示す。
参考スコア（独自算出の注目度）: 56.99266993852532
License:
Abstract: We propose Diffusion-Sharpening, a fine-tuning approach that enhances downstream alignment by optimizing sampling trajectories. Existing RL-based fine-tuning methods focus on single training timesteps and neglect trajectory-level alignment, while recent sampling trajectory optimization methods incur significant inference NFE costs. Diffusion-Sharpening overcomes this by using a path integral framework to select optimal trajectories during training, leveraging reward feedback, and amortizing inference costs. Our method demonstrates superior training efficiency with faster convergence, and best inference efficiency without requiring additional NFEs. Extensive experiments show that Diffusion-Sharpening outperforms RL-based fine-tuning methods (e.g., Diffusion-DPO) and sampling trajectory optimization methods (e.g., Inference Scaling) across diverse metrics including text alignment, compositional capabilities, and human preferences, offering a scalable and efficient solution for future diffusion model fine-tuning. Code: https://github.com/Gen-Verse/Diffusion-Sharpening
Abstract（参考訳）: サンプリング軌道の最適化により下流のアライメントを向上させる細調整手法であるDiffusion-Sharpeningを提案する。既存のRLベースファインチューニング手法は、単一トレーニング時間ステップと軌道レベルのアライメントを無視することに焦点を当て、最近のサンプリング軌道最適化手法は、かなりのNFEコストを発生させる。 Diffusion-Sharpeningは、パス積分フレームワークを使用してトレーニング中に最適な軌道を選択し、報酬フィードバックを活用し、推論コストを償却することで、これを克服する。提案手法は, NFEを必要とせず, より高速に収束し, 最高の推論効率を示す。拡散シャープ化はRLに基づく微調整法(例:拡散DPO)とサンプリング軌道最適化法(例:推論スケーリング)を、テキストアライメント、構成能力、人間の嗜好を含む様々なメトリクスにわたって改善し、将来の拡散モデル微調整のためのスケーラブルで効率的なソリューションを提供する。コード:https://github.com/Gen-Verse/Diffusion-Sharpening

関連論文リスト

Efficient Diffusion as Low Light Enhancer [63.789138528062225]
RATR(Reflectance-Aware Trajectory Refinement)は、イメージの反射成分を用いて教師の軌跡を洗練するための、シンプルで効果的なモジュールである。 textbfReDDiT (textbfDistilled textbfTrajectory) は低照度画像強調(LLIE)に適した効率的で柔軟な蒸留フレームワークである。
論文参考訳（メタデータ） (2024-10-16T08:07:18Z)
Training-free Diffusion Model Alignment with Sampling Demons [15.400553977713914]
提案手法は,報酬関数やモデル再学習を介さずに,推論時の復調過程を導出するための最適化手法である。提案手法は,高報酬に対応する領域の密度を最適化することにより,雑音分布の制御を行う。我々の知る限り、提案手法は拡散モデルに対する最初の推論時間、バックプロパゲーションフリーな選好アライメント法である。
論文参考訳（メタデータ） (2024-10-08T07:33:49Z)
Optimizing Diffusion Models for Joint Trajectory Prediction and Controllable Generation [49.49868273653921]
拡散モデルは、自律運転における共同軌道予測と制御可能な生成を約束する。最適ガウス拡散(OGD)と推定クリーンマニフォールド(ECM)誘導を導入する。提案手法は生成過程の合理化を図り,計算オーバーヘッドを低減した実用的な応用を実現する。
論文参考訳（メタデータ） (2024-08-01T17:59:59Z)
FIND: Fine-tuning Initial Noise Distribution with Policy Optimization for Diffusion Models [10.969811500333755]
本稿では,FIND(Fincent-tuning Initial Noise Distribution)フレームワークのポリシー最適化について紹介する。提案手法はSOTA法よりも10倍高速である。
論文参考訳（メタデータ） (2024-07-28T10:07:55Z)
Diffusion Models as Optimizers for Efficient Planning in Offline RL [47.0835433289033]
拡散モデルはオフラインの強化学習タスクにおいて強い競争力を示している。本稿では,より高速な自己回帰モデルを提案する。これにより、能力を犠牲にすることなく、より効率的な計画を達成することができます。
論文参考訳（メタデータ） (2024-07-23T03:00:01Z)
Understanding Reinforcement Learning-Based Fine-Tuning of Diffusion Models: A Tutorial and Review [63.31328039424469]
このチュートリアルは、下流の報酬関数を最適化するための微調整拡散モデルのための方法を網羅的に調査する。 PPO,微分可能最適化,報酬重み付きMLE,値重み付きサンプリング,経路整合性学習など,様々なRLアルゴリズムの適用について説明する。
論文参考訳（メタデータ） (2024-07-18T17:35:32Z)
Diffusion-ES: Gradient-free Planning with Diffusion for Autonomous Driving and Zero-Shot Instruction Following [21.81411085058986]
Reward-gradient guided denoisingは、微分可能報酬関数と拡散モデルによって捕捉されたデータ分布下での確率の両方を最大化する軌道を生成する。そこで我々は,勾配のない最適化と軌道デノゲーションを組み合わせたDiffusionESを提案する。 DiffusionESは、自動運転のための確立されたクローズドループ計画ベンチマークであるnuPlan上で、最先端のパフォーマンスを実現する。
論文参考訳（メタデータ） (2024-02-09T17:18:33Z)
Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文参考訳（メタデータ） (2020-06-10T08:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。