論文の概要: PAST: Prompt-Adaptive Sampling Termination for Efficient Diffusion Model
- arxiv url: http://arxiv.org/abs/2608.06794v1
- Date: Fri, 07 Aug 2026 04:35:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.359991
- Title: PAST: Prompt-Adaptive Sampling Termination for Efficient Diffusion Model
- Title(参考訳): PAST:効率的な拡散モデルのためのプロンプト適応サンプリング終端
- Abstract要約: PASTは既存のRL微調整法の計算効率を66.7%向上させる。
また、デュアル適応制御機構により、好みの最適化品質を最大29.5%向上させる。
- 参考スコア(独自算出の注目度): 11.180362540642689
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: While diffusion models have made significant progress in text-to-image tasks, they still exhibit limitations when directly optimizing downstream objectives. Although Reinforcement Learning (RL) enables targeted optimization, existing methods are generally constrained by low-efficiency fine-tuning and sparse rewards. To address these challenges, we propose PAST, which provides differentiated rewards while adaptively regulating training episode length by jointly perceiving denoising progress and prompt difficulty. Specifically, we design an intrinsic reward paradigm to compensate for sparse extrinsic rewards and guide the model to explore paths that diverge more efficiently from noise patterns. We further provide theoretical justification for intrinsic rewards. Then, PAST dynamically monitors denoising completion and semantic alignment between image structures and prompt semantics. When both metrics satisfy generation requirements, the system adaptively terminates training. This enables appropriate allocation of episode lengths based on prompt difficulty and the current generation process. Finally, based on the predicted residual noise level, we establish a dual adaptive coordination mechanism. Specifically, it not only balances the extrinsic and intrinsic rewards but also balances the exploration and convergence. Experimental results demonstrate that PAST enhances computational efficiency of existing RL fine-tuning methods by up to 66.7%, while improving preference optimization quality by up to 29.5% through its dual adaptive regulation mechanism.
- Abstract(参考訳): 拡散モデルは、テキストと画像のタスクにおいて大きな進歩を遂げてきたが、下流の目的を直接最適化する際の制限がまだ示されている。
強化学習(Reinforcement Learning, RL)は、目標とする最適化を可能にするが、既存の手法は、通常、低効率な微調整とスパース報酬によって制約される。
これらの課題に対処するため,学習エピソードの長さを適応的に調節しつつ,難易度と難易度を両立させながら報酬の差分を提供するPASTを提案する。
具体的には、疎外報酬を補償する本質的な報酬パラダイムを設計し、ノイズパターンからより効率的に分岐する経路を探索する。
また、本質的な報酬の理論的正当性についても論じる。
そして、PASTは動的に、画像構造とプロンプトのセマンティックスの間の完了とセマンティックアライメントを識別する。
両方のメトリクスが生成要求を満たすと、システムは適応的にトレーニングを終了する。
これにより、急激な困難と現在の生成プロセスに基づいて、エピソードの長さを適切に割り当てることができる。
最後に、予測残音レベルに基づいて、二重適応調整機構を確立する。
具体的には、外在的な報酬と内在的な報酬のバランスをとるだけでなく、探索と収束のバランスをとる。
実験の結果、PASTは既存のRLファインチューニング手法の計算効率を最大66.7%向上し、最適化性能は最大29.5%向上した。
関連論文リスト
- Explore or Converge? Stage-Guided Per-Step Optimization for Diffusion Models [11.180362540642689]
拡散モデルにおける選好アライメントのための強化学習は有望だが、報酬空間によって制限される。
拡散モデルのためのステージ誘導パーステップ最適化(SGPO)を提案する。
本手法は, 生成品質が26.7%, 収束速度が36.7%向上した。
論文 参考訳(メタデータ) (2026-08-07T03:41:58Z) - Do Less, Achieve More: Do We Need Every-Step Optimization for RL Fine-tuning of Diffusion Models? [30.438505697106496]
ほとんどの研究は、RLをフルデノナイジング軌道に適用し、計算的にコストがかかり、選好アライメントが弱まる。
計算コストを低減しつつ生成品質を向上させるRL拡張プラグインであるAdaScopeを提案する。
最先端の手法と比較して、AdaScopeは計算コストを59%削減しながら、パフォーマンスを66%向上させる。
論文 参考訳(メタデータ) (2026-05-15T11:14:13Z) - TMPO: Trajectory Matching Policy Optimization for Diverse and Efficient Diffusion Alignment [52.570581883709345]
本稿では,報酬を人間レベルの報酬分布マッチングに置き換えるトラジェクティブマッチングポリシバランス最適化(TMPO)を提案する。
TMPOは最先端の手法に対する生成的多様性を9.1%向上させ、下流および効率の指標で競合性能を達成する。
大規模フロープレフィックスのマルチトラックトレーニング時間を短縮するため、TMPOはDynamic Tree Smplingモデルを導入し、動的にスケジュールされたステップでトラジェクトリがdenoisingとブランチを共有する。
論文 参考訳(メタデータ) (2026-05-09T04:41:02Z) - HyperAlign: Hypernetwork for Efficient Test-Time Alignment of Diffusion Models [23.070399327132737]
本稿では,効率的なテスト時間アライメントのためにハイパーネットワークをトレーニングする新しいフレームワークを提案する。
潜在状態を変更する代わりに、HyperAlignは拡散モデルの生成演算子を変調するために、動的に低ランク適応重みを生成する。
セマンティック一貫性と視覚的魅力を高めるために、既存の微調整とテストタイムのスケーリングベースラインを著しく上回る。
論文 参考訳(メタデータ) (2026-01-22T13:49:47Z) - SynCast: Synergizing Contradictions in Precipitation Nowcasting via Diffusion Sequential Preference Optimization [62.958457694151384]
本研究では,大規模な言語モデルにおける人的フィードバックからの強化学習の成功を動機として,降水量の最適化を初めて導入する。
第一段階では、フレームワークはFARを減らすことに焦点を当て、誤報を効果的に抑えるためにモデルを訓練する。
論文 参考訳(メタデータ) (2025-10-22T16:11:22Z) - Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories [58.988535279557546]
適応推論トラジェクトリを用いたtextbf sycophancy Mitigation を提案する。
SMARTは,分布外の入力に対して強い性能を維持しながら,サイコファンティクスの挙動を著しく低下させることを示した。
論文 参考訳(メタデータ) (2025-09-20T17:09:14Z) - Reward-Guided Iterative Refinement in Diffusion Models at Test-Time with Applications to Protein and DNA Design [87.58981407469977]
進化的アルゴリズムにインスパイアされた拡散モデルを用いた推論時間報酬最適化のための新しいフレームワークを提案する。
当社のアプローチでは,各イテレーションにおける2つのステップ – ノイズ発生と報酬誘導という,反復的な改善プロセスを採用しています。
論文 参考訳(メタデータ) (2025-02-20T17:48:45Z) - Inference-Time Alignment of Diffusion Models with Direct Noise Optimization [45.77751895345154]
拡散モデルのサンプリング過程において, 直接雑音最適化 (DNO) と呼ばれる新しいアライメント手法を提案する。
設計上、DNOは推論時に動作し、チューニングが不要で、即席で、アライメントは世代毎にオンラインに行われる。
我々は,いくつかの重要な報酬関数について広範な実験を行い,提案したDNOアプローチが,適切な時間予算で,最先端の報酬スコアを達成できることを実証した。
論文 参考訳(メタデータ) (2024-05-29T08:39:39Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。
本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文 参考訳(メタデータ) (2020-06-10T08:22:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。