論文の概要: Navigating the Exploration-Exploitation Tradeoff in Inference-Time Scaling of Diffusion Models

• arxiv url: http://arxiv.org/abs/2508.12361v1
• Date: Sun, 17 Aug 2025 13:35:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-19 14:49:10.704534
• Title: Navigating the Exploration-Exploitation Tradeoff in Inference-Time Scaling of Diffusion Models
• Title（参考訳）: 拡散モデルの推測時間スケーリングにおける探索・探索トレードオフのナビゲート
• Authors: Xun Su, Jianming Huang, Yang Yusen, Zhongxi Fang, Hiroyuki Kasai,
• Abstract要約: 推論時間スケーリングは言語モデルにおいて顕著に成功したが、拡散モデルへの適応は未解明のままである。 スケジュールと適応温度の2つの戦略を提案する。 提案手法は, 騒音評価の総数を増やすことなく, 試料品質を著しく向上させる。
• 参考スコア（独自算出の注目度）: 11.813933389519358
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inference-time scaling has achieved remarkable success in language models, yet its adaptation to diffusion models remains underexplored. We observe that the efficacy of recent Sequential Monte Carlo (SMC)-based methods largely stems from globally fitting the The reward-tilted distribution, which inherently preserves diversity during multi-modal search. However, current applications of SMC to diffusion models face a fundamental dilemma: early-stage noise samples offer high potential for improvement but are difficult to evaluate accurately, whereas late-stage samples can be reliably assessed but are largely irreversible. To address this exploration-exploitation trade-off, we approach the problem from the perspective of the search algorithm and propose two strategies: Funnel Schedule and Adaptive Temperature. These simple yet effective methods are tailored to the unique generation dynamics and phase-transition behavior of diffusion models. By progressively reducing the number of maintained particles and down-weighting the influence of early-stage rewards, our methods significantly enhance sample quality without increasing the total number of Noise Function Evaluations. Experimental results on multiple benchmarks and state-of-the-art text-to-image diffusion models demonstrate that our approach outperforms previous baselines.
• Abstract（参考訳）: 推論時間スケーリングは言語モデルにおいて顕著に成功したが、拡散モデルへの適応は未解明のままである。 近年のSMC(Sequential Monte Carlo)に基づく手法の有効性は,マルチモーダル探索における多様性を本質的に保存する報奨型分布のグローバルな適合に大きく影響している。 しかし、SMCの拡散モデルへの現在の応用は基本的なジレンマに直面している: 早期ノイズサンプルは改善の可能性が高いが、正確な評価は困難であるが、後期ノイズサンプルは確実に評価できるが、ほとんど不可逆である。 この探索・探索トレードオフに対処するため,探索アルゴリズムの観点からこの問題にアプローチし,Funnel ScheduleとAdaptive Temperatureの2つの戦略を提案する。 これらの単純で効果的な方法は拡散モデルのユニークな生成力学と相転移挙動に適合する。 維持粒子数を段階的に減らし,早期報奨の影響を減らし,ノイズ関数評価の総数を増やすことなく試料品質を著しく向上させる。 複数のベンチマークと最先端のテキスト・画像拡散モデルによる実験結果から,提案手法が従来のベースラインより優れていることが示された。

関連論文リスト

• Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [62.640128548633946]
  離散拡散モデルに対する粒子ギブズサンプリングに基づく新しい推論時間スケーリング手法を提案する。 提案手法は,報酬誘導テキスト生成タスクにおける事前推定時間戦略を常に上回る。
  論文  参考訳（メタデータ） (2025-07-11T08:00:47Z)
• Training-free Diffusion Model Alignment with Sampling Demons [15.400553977713914]
  提案手法は,報酬関数やモデル再学習を介さずに,推論時の復調過程を導出するための最適化手法である。 提案手法は,高報酬に対応する領域の密度を最適化することにより,雑音分布の制御を行う。 実験の結果,提案手法は平均的美学のテキスト・ツー・イメージ生成を著しく改善することがわかった。
  論文  参考訳（メタデータ） (2024-10-08T07:33:49Z)
• Learning Diffusion Priors from Observations by Expectation Maximization [6.224769485481242]
  不完全および雑音のみから拡散モデルをトレーニングするための予測最大化アルゴリズムに基づく新しい手法を提案する。 提案手法は,非条件拡散モデルに対する改良された後続サンプリング方式の提案と動機付けである。
  論文  参考訳（メタデータ） (2024-05-22T15:04:06Z)
• Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [53.27596811146316]
  拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。 本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。 そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
  論文  参考訳（メタデータ） (2024-01-17T07:58:18Z)
• ShiftDDPMs: Exploring Conditional Diffusion Models by Shifting Diffusion Trajectories [144.03939123870416]
  本稿では,前処理に条件を導入することで,新しい条件拡散モデルを提案する。 いくつかのシフト規則に基づいて各条件に対して排他的拡散軌跡を割り当てるために、余剰潜在空間を用いる。 我々は textbfShiftDDPMs と呼ぶメソッドを定式化し、既存のメソッドの統一的な視点を提供する。
  論文  参考訳（メタデータ） (2023-02-05T12:48:21Z)
• How Much is Enough? A Study on Diffusion Times in Score-based Generative Models [76.76860707897413]
  現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。 本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
  論文  参考訳（メタデータ） (2022-06-10T15:09:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。