論文の概要: Budget-Constrained Step-Level Diffusion Caching
- arxiv url: http://arxiv.org/abs/2606.13496v1
- Date: Thu, 11 Jun 2026 15:45:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-12 15:55:27.891456
- Title: Budget-Constrained Step-Level Diffusion Caching
- Title(参考訳): Budget-Constrained Step-Level Diffusion Caching
- Authors: Mingkun Lei, Tong Zhao, Liangyu Yuan, Chi Zhang,
- Abstract要約: 既存の方法は、最終的な出力品質を直接最適化することなく、閾値ベースのステップごとのキャッシュ決定を行う。
計算予算を事前に修正し,最終出力を最もよく保存するキャッシュポリシを検索するBudCacheを提案する。
BudCacheは同じ推論予算の下で決定論的キャッシュベースラインよりも優れた生成品質を実現する。
- 参考スコア(独自算出の注目度): 9.784100090561045
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Step-level caching accelerates diffusion models by exploiting temporal redundancy across denoising steps. Existing methods make per-step cache decisions using threshold-based heuristics, without directly optimizing for final output quality. As a result, their inference latency varies across inputs and is difficult to control at deployment. In this work, we propose BudCache, which inverts this formulation: rather than letting per-step error thresholds dictate the runtime cost, we fix the compute budget in advance and search for the cache policy that best preserves the final output. To tackle the combinatorial complexity of step selection, we combine Simulated Annealing with deterministic Hill Climbing. This offline search identifies high-quality cache policies within minutes and introduces no online search or thresholding overhead during inference. When the compute budget is very tight, we further introduce cache-aware schedule alignment, which adapts the time discretization to the selected cache policy to reduce cache-induced trajectory mismatch. Experiments on FLUX.1-dev and Wan2.1 show that BudCache achieves better generation quality than heuristic caching baselines under the same inference budgets. Code is available at https://github.com/Westlake-AGI-Lab/BudCache
- Abstract(参考訳): ステップレベルのキャッシュは、デノナイジングステップ間の時間的冗長性を利用して拡散モデルを加速する。
既存の手法では、最終的な出力品質を直接最適化することなく、しきい値に基づくヒューリスティックを用いてステップごとのキャッシュ決定を行う。
その結果、推論のレイテンシは入力によって異なり、デプロイ時に制御するのは困難である。
本研究では,この定式化を逆転するBudCacheを提案する。ステップ毎のエラーしきい値に実行時コストを規定させるのではなく,計算予算を事前に修正し,最終的な出力を最もよく保存するキャッシュポリシを検索する。
ステップ選択の組合せ複雑性に対処するために、シミュレート・アナリングと決定論的ヒルクライミングを組み合わせる。
このオフライン検索は、数分以内に高品質なキャッシュポリシーを特定し、オンライン検索や推論時のしきい値のオーバヘッドを導入しない。
計算予算が非常に厳しい場合,選択したキャッシュポリシーに時間離散化を適用し,キャッシュによるトラジェクトリミスマッチを低減するキャッシュ対応スケジュールアライメントを導入する。
FLUX.1-devとWan2.1の実験では、BudCacheは同じ推論予算の下でヒューリスティックなキャッシュベースラインよりも優れた世代品質を実現している。
コードはhttps://github.com/Westlake-AGI-Lab/BudCacheで入手できる。
関連論文リスト
- ReCache: Learning Budget-Aware Caching Schedules for Diffusion Models via REINFORCE [40.4732814295941]
ReCacheは、生成品質を最大化する再計算スケジュールを学ぶ。
政策勾配を通し、完全な拡散推論を通じてバックペーストを横取りする。
スケジュールベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-06-04T11:59:56Z) - PreciseCache: Precise Feature Caching for Efficient and High-fidelity Video Generation [35.47114707080758]
高い計算コストと遅い推論は、ビデオ生成モデルの実践的応用を妨げる。
我々は,真に冗長な計算を正確に検出し,スキップするプラグイン・アンド・プレイ・フレームワークである textbfPreciseCache を提案する。
論文 参考訳(メタデータ) (2026-03-01T08:08:49Z) - SenCache: Accelerating Diffusion Model Inference via Sensitivity-Aware Caching [75.02865981328509]
キャッシュは、以前計算されたモデル出力をタイムステップで再利用することで計算を減らす。
本稿では,動的キャッシュポリシーであるSensitivity-Aware Caching(SenCache)を提案する。
SenCacheは、同様の計算予算の下で、既存のキャッシュメソッドよりも視覚的品質が向上する。
論文 参考訳(メタデータ) (2026-02-27T17:36:09Z) - MeanCache: From Instantaneous to Average Velocity for Accelerating Flow Matching Inference [11.934900617930774]
MeanCacheは、効率的なフローマッチング推論のためのトレーニング不要のキャッシュフレームワークである。
我々は,MeanCacheがそれぞれ4.12X,4.56X,3.59Xのアクセラレーションを達成したことを実証した。
論文 参考訳(メタデータ) (2026-01-27T08:35:50Z) - DiCache: Let Diffusion Model Determine Its Own Cache [62.954717254728166]
DiCacheは、実行時に拡散モデルを加速するためのトレーニング不要のアダプティブキャッシュ戦略である。
Online Probe Profiling Schemeは浅層オンラインプローブを利用して,キャッシュエラーのオンザフライインジケータをリアルタイムで取得する。
Dynamic Cache Trajectory Alignmentは、マルチステップの履歴キャッシュから出力されるディープ層の特徴を近似する。
論文 参考訳(メタデータ) (2025-08-24T13:30:00Z) - Timestep Embedding Tells: It's Time to Cache for Video Diffusion Model [55.64316746098431]
Timestep Embedding Aware Cache (TeaCache)は、タイムステップ間のモデルアウトプットの変動を推定し、活用する、トレーニング不要なキャッシュアプローチである。
TeaCacheはOpen-Sora-Plan上で最大4.41倍の高速化を実現している。
論文 参考訳(メタデータ) (2024-11-28T12:50:05Z) - Accelerating Deep Learning Classification with Error-controlled
Approximate-key Caching [72.50506500576746]
我々は、近似キーキャッシングと名付けた新しいキャッシングパラダイムを提案する。
近似キャッシュはDL推論の負荷を軽減し、システムのスループットを向上するが、近似誤差を導入する。
我々は古典的なLRUと理想的なキャッシュのキャッシュシステム性能を解析的にモデル化し、期待される性能のトレース駆動評価を行い、提案手法の利点を最先端の類似キャッシュと比較した。
論文 参考訳(メタデータ) (2021-12-13T13:49:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。