論文の概要: SoftCache: Adaptive Step Size Caching for Diffusion Transformers
- arxiv url: http://arxiv.org/abs/2610.22369v1
- Date: Thu, 15 Oct 2026 17:59:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.284277
- Title: SoftCache: Adaptive Step Size Caching for Diffusion Transformers
- Title（参考訳）: SoftCache: 拡散変換器の適応的なステップサイズキャッシング
- Abstract要約: 拡散モデルとフローモデルは反復的なステップ上でサンプルを生成し、それぞれが大きなネットワークをフルパスする。
動的キャッシュ手法は、ネットワーク入力の安価なプローブを安定化信号に蓄積することで、いつリフレッシュするかを決定する。
我々は、ソフトキャッシュを行うSoftCacheを提案します。バイナリスイッチの代わりに、ヘッドルームは、キャッシュされた各ステップがどれくらい遠いかを設定します。
- 参考スコア（独自算出の注目度）: 24.434428482071635
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion and flow models generate a sample over iterative steps, each a full pass through a large network, and that pass dominates generation cost. Training-free caching accelerates them by reusing activations from recent evaluations instead of recomputing them. Dynamic caching methods decide when to refresh by accumulating a cheap probe of the network input into a staleness signal and spending a fresh evaluation once it crosses a threshold. They perform hard caching: the signal is a binary switch between refresh and reuse, and every step, fresh or cached, advances by the prescribed step size. We observe that the signal carries much more than this switch. How far it sits below the threshold, its headroom, predicts the error induced by reuse. We propose SoftCache, which performs soft caching: instead of a binary switch, the headroom sets how far each cached step goes. Where the headroom is large, the sampler jumps past several scheduled nodes, and as a refresh nears, its steps shrink back toward the original step. These adaptive jumps may land between the scheduled nodes, taking the sampler off its fixed grid. SoftCache requires no training and adds no per-backbone settings: on FLUX for images and on HunyuanVideo and Wan2.1 for video, at speedups from $3.5\times$ to $6.9\times$, it is ahead of every baseline on all four fidelity metrics.
- Abstract（参考訳）: 拡散と流れのモデルが反復的なステップの上にサンプルを生成し、それぞれが大きなネットワークをフルパスし、そのパスが生成コストを支配します。
トレーニング不要のキャッシュは、それを再計算する代わりに、最近の評価からアクティベーションを再利用することで、それらを加速する。
動的キャッシュ手法は、ネットワーク入力の安価なプローブを安定度信号に蓄積し、しきい値を超えたときに新しい評価をすることで、いつリフレッシュするかを決定する。
信号はリフレッシュとリユースの間のバイナリスイッチであり、すべてのステップは、所定のステップサイズによって更新またはキャッシュされる。
我々はこの信号がこのスイッチよりもずっと大きいことを観察する。
どれくらい低い位置にあるか、そのヘッドルームは、再利用によって引き起こされるエラーを予測する。
我々は、ソフトキャッシュを行うSoftCacheを提案します。バイナリスイッチの代わりに、ヘッドルームは、キャッシュされた各ステップがどれくらい遠いかを設定します。
ヘッドルームが大きい場合は、サンプルがいくつかのスケジュールされたノードを通り過ぎ、リフレッシュが近づくと、元のステップに向かってステップが縮小する。
これらの適応的なジャンプは、スケジュールされたノードの間に着地し、サンプルを固定されたグリッドから外すことができる。
画像のFLUXやビデオのHunyuanVideo、Wan2.1では3.5ドルから6.9ドルまでのスピードアップで、4つのフィデリティメトリクスのベースラインを上回ります。
関連論文リスト
- EpaCache: Error-Propagation-Aware Caching for Accelerating Diffusion-Based Visual Generation [30.438361624564553]
キャッシングに基づく手法は、隣接する時間ステップで中間計算を再利用することで、推論遅延を低減する。
EpaCacheはトレーニング不要のキャッシュポリシーで、ダウンストリームの影響の少ないタイムステップで再利用予算を適応的に割り当てる。
EpaCacheは、既存のキャッシュメソッドに対するレイテンシーのトレードオフを一貫して改善する。
論文 参考訳（メタデータ） (2026-08-29T13:38:11Z) - LaCache: Exact Caching and Precision-Adaptive Inference for Diffusion Large Language Models [9.146969118551167]
DLLMは、テキスト生成におけるSAR(Semi-Autoregressive Decoding)による並列生成を可能にする。
現在の方法は、オペレータレベルの深刻な冗長性に悩まされている。
トレーニング不要なアクセラレーションフレームワークであるLaCacheを提案する。
論文 参考訳（メタデータ） (2026-07-16T10:49:15Z) - Decouple and Cache: KV Cache Construction for Streaming Video Understanding [53.55135022958052]
ストリーミングビデオ理解には、限られたメモリと計算量で無制限のビデオストリームを処理する必要がある。
トレーニング不要なキャッシュ構築機構であるDecoupled Streaming Cache(DSCache)を提案する。
Streaming Video QAベンチマークの実験では、DSCacheの最先端のパフォーマンスが実証され、従来の手法よりも平均2.5%精度が向上した。
論文 参考訳（メタデータ） (2026-05-03T13:02:44Z) - Motion-Aware Caching for Efficient Autoregressive Video Generation [73.27762884730272]
MotionCacheは、ピクセルレベルのモーション特性の軽量プロキシとして、フレーム間の差異を利用する。
SkyReels-V2やMAGI-1のような最先端モデルの実験では、MotionCacheが大幅なスピードアップを実現している。
論文 参考訳（メタデータ） (2026-05-03T05:49:27Z) - WorldCache: Content-Aware Caching for Accelerated Video World Models [50.7543797435026]
我々はPerception-Constrained Dynamic CaCacheフレームワークであるtextbfWorldCacheを紹介する。
WorldCacheは、機能をいつ、どのように再利用するかを改善します。
PAI-Benchで評価されたCosmos-2.5-2Bでは、WorldCacheはtextbf$2.3times$推論スピードアップを実現し、textbf99.4%のベースライン品質を維持している。
論文 参考訳（メタデータ） (2026-03-23T17:59:54Z) - SenCache: Accelerating Diffusion Model Inference via Sensitivity-Aware Caching [75.02865981328509]
キャッシュは、以前計算されたモデル出力をタイムステップで再利用することで計算を減らす。
本稿では,動的キャッシュポリシーであるSensitivity-Aware Caching(SenCache)を提案する。
SenCacheは、同様の計算予算の下で、既存のキャッシュメソッドよりも視覚的品質が向上する。
論文 参考訳（メタデータ） (2026-02-27T17:36:09Z) - DiCache: Let Diffusion Model Determine Its Own Cache [62.954717254728166]
DiCacheは、実行時に拡散モデルを加速するためのトレーニング不要のアダプティブキャッシュ戦略である。
Online Probe Profiling Schemeは浅層オンラインプローブを利用して,キャッシュエラーのオンザフライインジケータをリアルタイムで取得する。
Dynamic Cache Trajectory Alignmentは、マルチステップの履歴キャッシュから出力されるディープ層の特徴を近似する。
論文 参考訳（メタデータ） (2025-08-24T13:30:00Z) - Accelerating Diffusion Transformers with Dual Feature Caching [25.36988865752475]
拡散変換器(DiT)は画像およびビデオ生成において支配的な手法となっているが、依然としてかなりの計算コストを被っている。
DiTアクセラレーションの効果的なアプローチとして、機能キャッシング手法は、以前のタイムステップでDiTの特徴をキャッシュするように設計されている。
以前のタイムステップでキャッシュされたすべての機能を積極的に再利用することで、世代品質が大幅に低下する。
論文 参考訳（メタデータ） (2024-12-25T14:00:14Z) - Learning-to-Cache: Accelerating Diffusion Transformer via Layer Caching [56.286064975443026]
拡散変圧器内の多数の層をキャッシュ機構で計算することで、モデルパラメータを更新しなくても容易に除去できる。
本稿では,拡散変圧器の動的手法でキャッシングを学習するL2C(Learningto-Cache)を提案する。
実験の結果,L2C は DDIM や DPM-r など,キャッシュベースの従来の手法と同等の推論速度で性能を向上することがわかった。
論文 参考訳（メタデータ） (2024-06-03T18:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。