論文の概要: Temporal Difference Learning for Diffusion Models

• arxiv url: http://arxiv.org/abs/2606.15048v1
• Date: Sat, 13 Jun 2026 01:34:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:32.739211
• Title: Temporal Difference Learning for Diffusion Models
• Title（参考訳）: 拡散モデルの時間差学習
• Authors: Qizhen Ying, Yangchen Pan, Victor Adrian Prisacariu, Junfeng Wen,
• Abstract要約: 本稿では,モデルの多段階進行の不整合を抑えるための時間差(TD)手法を提案する。 そこで本研究では,トレーニングを安定化するサンプルベース再重み付け手法を提案する。
• 参考スコア（独自算出の注目度）: 19.82560792699663
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models are typically trained with objectives that focus on local denoising targets at individual time steps (or adjacent pairs), which do not enforce consistency between predictions along the denoising trajectory. This lack of cross-time consistency can degrade performance, especially for few-step samplers. We introduce a temporal difference (TD) objective that penalizes inconsistency of the model's multi-step progress along the denoising path. By reformulating the diffusion process as a Markov reward process and casting denoising as a policy evaluation problem in reinforcement learning, we derive a unified TD approach that applies to both discrete- and continuous-time diffusion formulations. We further propose a principled sample-based reweighting method that stabilizes training. Empirically, we show that using our TD training can significantly improve sample quality measured by FID, with stronger advantages when the number of sampling steps is small, highlighting its practical utility under low-computation-budget scenarios. We provide ablation studies to justify our design choices, including pairwise loss reweighting, regularization weight, and one-step stride. Overall, our TD approach can be a general drop-in that enforces cross-time consistency and improves generation quality across different diffusion generative models.
• Abstract（参考訳）: 拡散モデルは典型的には、個々の時間ステップ(または隣接するペア)における局所的な視覚的目標に焦点を絞った目標で訓練される。 このようなクロスタイム一貫性の欠如はパフォーマンスを低下させる可能性がある。 本稿では,モデルの多段階進行の不整合を抑えるための時間差(TD)手法を提案する。 マルコフ報酬過程として拡散過程を再構成し、強化学習における政策評価問題としてデノナイジングを鋳造することにより、離散時間と連続時間の両方の拡散定式化に適用可能な統一的なTDアプローチを導出する。 また,本研究では,トレーニングを安定化する原則的サンプルベース再重み付け手法を提案する。 実験により,本研究のTDトレーニングは,FIDによって測定されたサンプル品質を大幅に向上させることが可能であり,サンプリングステップの数が小さい場合にはより有利であり,低計算予算シナリオ下での実用性を強調した。 我々は、ペアワイズ損失再重み付け、正規化重み付け、ワンステップストライドを含む設計選択を正当化するためのアブレーション研究を提供する。 全体として、我々のTDアプローチは、クロスタイム一貫性を強制し、異なる拡散生成モデルにおける生成品質を改善する一般的なドロップインとなり得る。

関連論文リスト

• Memorization Control in Diffusion Models from Denoising-centric Perspective [0.6741942263052466]
  拡散モデルにおける記憶の制御は、トレーニング分布によく適合するために生成されたデータを必要とするアプリケーションにとって重要である。 その結果,信号と雑音の比の差により,一様時間ステップサンプリングが学習に不等な寄与をもたらすことが明らかとなった。 本稿では,学習経路に沿って学習が行われる場所を明示的に制御する時間ステップサンプリング戦略を提案する。
  論文  参考訳（メタデータ） (2026-01-29T07:16:54Z)
• Data Unlearning Beyond Uniform Forgetting via Diffusion Time and Frequency Selection [5.350009804371616]
  データアンラーニングは、トレーニングされたモデルから特定のトレーニングサンプルの影響を、完全なリトレーニングを必要とせずに取り除くことを目的としている。 私たちは、モデルやシナリオによって、時間と頻度で忘れることが不均等に起こると論じます。 トレーニング中の特定の時間周波数範囲に選択的に焦点を合わせることで,審美的品質と低雑音のサンプルが得られる。
  論文  参考訳（メタデータ） (2025-10-20T02:00:12Z)
• From discrete-time policies to continuous-time diffusion samplers: Asymptotic equivalences and faster training [16.299508349934754]
  本研究では,Boltzmann分布から対象サンプルにアクセスすることなく,ニューラルネットワークの微分方程式(拡散モデル)を学習する問題について検討する。 このようなモデルの既存の訓練方法は、生成過程とノイズ発生過程の時間反転を強制する。 トレーニング中の粗い時間離散化の適切な選択は、サンプル効率と時間局所目標の使用を大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2025-01-10T18:18:25Z)
• Your Diffusion Model is Secretly a Noise Classifier and Benefits from Contrastive Training [20.492630610281658]
  拡散モデルはデータをノイズ化することを学び、訓練されたデノイザを使用してデータ分布から新しいサンプルを生成する。 サンプルに追加される雑音のレベルを識別する,新たな自己教師型学習目標を提案する。 提案手法は逐次的および並列的な設定に有効であることを示す。
  論文  参考訳（メタデータ） (2024-07-12T03:03:50Z)
• Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [53.27596811146316]
  拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。 本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。 そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
  論文  参考訳（メタデータ） (2024-01-17T07:58:18Z)
• Adaptive Training Meets Progressive Scaling: Elevating Efficiency in Diffusion Models [52.1809084559048]
  TDCトレーニングと呼ばれる新しい2段階分割型トレーニング戦略を提案する。 タスクの類似性と難易度に基づいてタイムステップをグループ化し、高度にカスタマイズされた復調モデルを各グループに割り当て、拡散モデルの性能を向上させる。 2段階のトレーニングでは、各モデルを個別にトレーニングする必要がなくなるが、総トレーニングコストは、単一の統合されたデノナイジングモデルをトレーニングするよりもさらに低い。
  論文  参考訳（メタデータ） (2023-12-20T03:32:58Z)
• One More Step: A Versatile Plug-and-Play Module for Rectifying Diffusion Schedule Flaws and Enhancing Low-Frequency Controls [77.42510898755037]
  One More Step (OMS) は、推論中に単純だが効果的なステップを付加したコンパクトネットワークである。 OMSは画像の忠実度を高め、トレーニングと推論の二分法を調和させ、元のモデルパラメータを保存する。 トレーニングが完了すると、同じ潜在ドメインを持つ様々な事前訓練された拡散モデルが同じOMSモジュールを共有することができる。
  論文  参考訳（メタデータ） (2023-11-27T12:02:42Z)
• Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
  Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。 具体的には、対照的な学習方法でネットワークをトレーニングする。 各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
  論文  参考訳（メタデータ） (2021-03-24T07:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。