論文の概要: OnlineCache: Learning Dynamic Caching Policies with Error Correction for Efficient Diffusion Inference
- arxiv url: http://arxiv.org/abs/2607.29398v1
- Date: Fri, 31 Jul 2026 13:17:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.752639
- Title: OnlineCache: Learning Dynamic Caching Policies with Error Correction for Efficient Diffusion Inference
- Title（参考訳）: オンラインキャッシュ:効率的な拡散推論のための誤り訂正による動的キャッシングポリシーの学習
- Abstract要約: 拡散モデルは生成的タスクに革命をもたらしたが、反復的妄想による遅延の増大を招いた。
OnlineCacheは動的キャッシュフレームワークで、いつキャッシュするか、どのように近似エラーを修正するのかを共同で学習する。
提案手法は,サンプルとタイムステップの両方で自動的に計算資源を割り当て,全体の生成品質を向上する。
- 参考スコア（独自算出の注目度）: 21.088549125949548
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have revolutionized generative tasks but incur high latency due to iterative denoising. While cache-based strategies accelerate inference by reusing intermediate features, they largely rely on static, sample-agnostic schedules. We argue that this rigidity overlooks two facts empirically validated in this paper: (i) generation difficulty varies across prompts, requiring adaptive resource allocation--complex inputs demand more computation while simpler ones require less; (ii) error sensitivity fluctuates across timesteps, where static policies may cache high-error steps or waste computation on low-error ones. We therefore propose OnlineCache, a dynamic caching framework that jointly learns when to cache and how to correct approximation errors. We leverage policy gradient to train a lightweight network for adaptive speed-quality trade-offs, and incorporate a learnable corrector to mitigate caching-induced errors. Both modules are jointly optimized under a bilevel optimization framework, with the policy targeting global generation quality and the corrector minimizing local errors. Our method automatically allocates computational resources across both samples and timesteps, improving overall generation quality. Extensive experiments demonstrate clear superiority. On FLUX.1-dev model, OnlineCache achieves nearly 3 speedup while preserving generation fidelity. On DiT and CogVideoX, it similarly delivers competitive acceleration without compromising quality; across all scenarios, it consistently outperforms existing cache-based acceleration baselines.
- Abstract（参考訳）: 拡散モデルは生成的タスクに革命をもたらしたが、反復的妄想による遅延の増大を招いた。
キャッシュベースの戦略は中間機能を再利用することで推論を加速するが、静的でサンプルに依存しないスケジュールに大きく依存している。
我々は、この剛性は、この論文で実証的に検証された2つの事実を見落としていると論じる。
(i) プロンプト毎に生成の困難さが異なり、適応的なリソース割り当てが要求される。
静的ポリシーは、ハイエラーステップをキャッシュしたり、低エラーステップのムダ計算を行うことができる。
そこで我々は,キャッシュのタイミングと近似誤差の修正方法を共同で学習する動的キャッシュフレームワークであるOnlineCacheを提案する。
我々は、ポリシー勾配を利用して、適応的なスピード品質のトレードオフのために軽量ネットワークをトレーニングし、キャッシュによるエラーを軽減するために学習可能な修正器を組み込む。
両方のモジュールは、グローバルな生成品質を目標とするポリシーと、局所的なエラーを最小限に抑える修正器と、双方向の最適化フレームワークの下で共同最適化されている。
提案手法は,サンプルとタイムステップの両方で自動的に計算資源を割り当て,全体の生成品質を向上する。
大規模な実験は明らかな優位性を示している。
FLUX.1-devモデルでは、OnlineCacheはジェネレーションの忠実さを維持しながら、ほぼ3つのスピードアップを実現している。
DiTとCagVideoXでは、同様に、品質を損なうことなく、競争力のあるアクセラレーションを提供する。
関連論文リスト
- From Local Mismatch to Global Impact: Optimizing Cache Reuse Policy for Efficient Diffusion [29.046432574690602]
キャッシュベースのアクセラレーションが有望なソリューションとして登場したが、ローカルの類似性に関する既存のポリシーは、最終世代の品質と不一致である。
この違いは、一様でない伝播と、騒音の軌跡に沿った誤差の蓄積に由来する。
この問題に対処するため,Global Cache Cache (GCache)を提案する。
GCacheは、ビデオおよび画像生成の両方において、事前キャッシュ戦略を一貫して上回っている。
論文 参考訳（メタデータ） (2026-08-13T10:08:47Z) - Motion-Aware Caching for Efficient Autoregressive Video Generation [73.27762884730272]
MotionCacheは、ピクセルレベルのモーション特性の軽量プロキシとして、フレーム間の差異を利用する。
SkyReels-V2やMAGI-1のような最先端モデルの実験では、MotionCacheが大幅なスピードアップを実現している。
論文 参考訳（メタデータ） (2026-05-03T05:49:27Z) - WorldCache: Content-Aware Caching for Accelerated Video World Models [50.7543797435026]
我々はPerception-Constrained Dynamic CaCacheフレームワークであるtextbfWorldCacheを紹介する。
WorldCacheは、機能をいつ、どのように再利用するかを改善します。
PAI-Benchで評価されたCosmos-2.5-2Bでは、WorldCacheはtextbf$2.3times$推論スピードアップを実現し、textbf99.4%のベースライン品質を維持している。
論文 参考訳（メタデータ） (2026-03-23T17:59:54Z) - SenCache: Accelerating Diffusion Model Inference via Sensitivity-Aware Caching [75.02865981328509]
キャッシュは、以前計算されたモデル出力をタイムステップで再利用することで計算を減らす。
本稿では,動的キャッシュポリシーであるSensitivity-Aware Caching(SenCache)を提案する。
SenCacheは、同様の計算予算の下で、既存のキャッシュメソッドよりも視覚的品質が向上する。
論文 参考訳（メタデータ） (2026-02-27T17:36:09Z) - MeanCache: From Instantaneous to Average Velocity for Accelerating Flow Matching Inference [11.934900617930774]
MeanCacheは、効率的なフローマッチング推論のためのトレーニング不要のキャッシュフレームワークである。
我々は,MeanCacheがそれぞれ4.12X,4.56X,3.59Xのアクセラレーションを達成したことを実証した。
論文 参考訳（メタデータ） (2026-01-27T08:35:50Z) - H2-Cache: A Novel Hierarchical Dual-Stage Cache for High-Performance Acceleration of Generative Diffusion Models [7.8812023976358425]
H2-cacheは、現代的な生成拡散モデルアーキテクチャ用に設計された新しい階層型キャッシュ機構である。
本手法は,デノナイジングプロセスが構造決定段階と細部精製段階に機能的に分離できるという重要な知見に基づいて構築されている。
Fluxアーキテクチャの実験では、H2-cacheはベースラインとほぼ同じ画質を維持しながら、大きな加速(最大5.08倍)を達成することが示された。
論文 参考訳（メタデータ） (2025-10-31T04:47:14Z) - ERTACache: Error Rectification and Timesteps Adjustment for Efficient Diffusion [30.897215456167753]
拡散モデルは、本質的に反復的推論プロセスのため、かなりの計算オーバーヘッドに悩まされる。
我々は、両方のエラータイプを共同で修正する原則的なキャッシュフレームワークであるERTACacheを提案する。
ERTACacheは最大2倍の推論スピードアップを実現します。
論文 参考訳（メタデータ） (2025-08-27T10:37:24Z) - DiCache: Let Diffusion Model Determine Its Own Cache [62.954717254728166]
DiCacheは、実行時に拡散モデルを加速するためのトレーニング不要のアダプティブキャッシュ戦略である。
Online Probe Profiling Schemeは浅層オンラインプローブを利用して,キャッシュエラーのオンザフライインジケータをリアルタイムで取得する。
Dynamic Cache Trajectory Alignmentは、マルチステップの履歴キャッシュから出力されるディープ層の特徴を近似する。
論文 参考訳（メタデータ） (2025-08-24T13:30:00Z) - Less is Enough: Training-Free Video Diffusion Acceleration via Runtime-Adaptive Caching [57.7533917467934]
EasyCacheは、ビデオ拡散モデルのためのトレーニング不要のアクセラレーションフレームワークである。
我々は,OpenSora,Wan2.1,HunyuanVideoなどの大規模ビデオ生成モデルについて包括的な研究を行っている。
提案手法は,従来のベースラインと比較して推定時間を最大2.1-3.3$times$に短縮する。
論文 参考訳（メタデータ） (2025-07-03T17:59:54Z) - CacheQuant: Comprehensively Accelerated Diffusion Models [3.78219736760145]
CacheQuantは、モデルキャッシングと量子化の技術を共同で最適化することで、拡散モデルを包括的に高速化する、新しいトレーニング不要のパラダイムである。
実験の結果、CacheQuantはMS-COCO上の安定拡散のために5.18のスピードアップと4の圧縮を実現しており、CLIPスコアは0.02しか失われていない。
論文 参考訳（メタデータ） (2025-03-03T09:04:51Z) - vCache: Verified Semantic Prompt Caching [95.16654660556975]
本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。
オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。
我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
論文 参考訳（メタデータ） (2025-02-06T04:16:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。