論文の概要: LayerCache: Exploiting Layer-wise Velocity Heterogeneity for Efficient Flow Matching Inference
- arxiv url: http://arxiv.org/abs/2604.16492v1
- Date: Mon, 13 Apr 2026 15:44:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.025978
- Title: LayerCache: Exploiting Layer-wise Velocity Heterogeneity for Efficient Flow Matching Inference
- Title（参考訳）: レイヤキャッシュ:効率的なフローマッチング推論のためのレイヤワイズ速度不均一性の爆発
- Abstract要約: Flow Matching Modelは、最先端の画像生成の品質を実現するが、大きなTransformerネットワークを反復的にデノイングすることで、かなりの推論コストを発生させる。
トランスフォーマーをレイヤグループに分割し、各denoisingステップで独立したグループごとのキャッシュ決定を行う、レイヤ対応のキャッシュフレームワークであるLayerCacheを提案する。
Qwen-Image (1024x1024, 50 steps)では、LayerCacheはPSNR 37.46 dB (+5.38 dB over MeanCache)、SSIM 0.9834、LPIPS 0.0178 (MeanCacheの70%削減)を1.37倍のスピードアップで達成している。
- 参考スコア（独自算出の注目度）: 11.772150619675527
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Flow Matching models achieve state-of-the-art image generation quality but incur substantial inference cost due to iterative denoising through large Transformer networks. We observe that different layer groups within a Transformer exhibit markedly heterogeneous velocity dynamics: shallow layers are highly stable and amenable to aggressive caching, while deep layers undergo large velocity changes that demand full computation. Existing caching methods, however, treat the entire Transformer as a monolithic unit, applying a single caching decision per timestep and thus failing to exploit this heterogeneity. Based on this finding, we propose LayerCache, a layer-aware caching framework that partitions the Transformer into layer groups and makes independent, per-group caching decisions at each denoising step. LayerCache introduces an adaptive JVP span K selection mechanism that leverages per-group stability measurements to balance estimation accuracy and computational savings. We formulate a three-dimensional scheduling problem over timesteps, layer groups, and JVP span, and solve it with a greedy budget allocation algorithm. On Qwen-Image (1024x1024, 50 steps), LayerCache achieves PSNR 37.46 dB (+5.38 dB over MeanCache), SSIM 0.9834, and LPIPS 0.0178 (a 70% reduction over MeanCache) at 1.37x speedup, dominating all prior caching methods on the quality-speed Pareto frontier.
- Abstract（参考訳）: Flow Matching Modelは、最先端の画像生成の品質を実現するが、大きなTransformerネットワークを反復的にデノイングすることにより、かなりの推論コストを発生させる。
我々はトランスフォーマー内の異なる層群が著しく不均一な速度ダイナミクスを示すことを観察する: 浅い層は高度に安定し、攻撃的なキャッシングが可能であり、深い層は大きな速度変化を受け、完全な計算を必要とする。
しかし、既存のキャッシングメソッドは、Transformer全体をモノリシックなユニットとして扱い、タイムステップ毎に単一のキャッシング決定を適用し、その結果、この不均一性を悪用することができない。
この発見に基づいて、Transformerをレイヤグループに分割し、各denoisingステップで独立したグループごとのキャッシュ決定を行うレイヤ対応キャッシュフレームワークであるLayerCacheを提案する。
LayerCacheは適応的なJVPスパンK選択機構を導入し、グループごとの安定性の測定を活用して、推定精度と計算保存のバランスを取る。
時間ステップ, 層群, JVPスパンの3次元スケジューリング問題を定式化し, 細かな予算割当アルゴリズムを用いて解決する。
Qwen-Image (1024x1024, 50 steps)では、LayerCacheはPSNR 37.46 dB (+5.38 dB over MeanCache)、SSIM 0.9834、LPIPS 0.0178 (MeanCacheの70%の削減)を1.37倍のスピードアップで達成し、品質速度のParetoフロンティア上のすべての以前のキャッシュメソッドを支配している。
関連論文リスト
- OmniCache: Multidimensional Hierarchical Feature Caching For Diffusion Models [8.344012950413108]
SD3、FLUX、最近のビデオ拡散変換器を含む高解像度画像およびビデオ拡散モデルは、生成品質を大幅に改善したが、推論時には高価である。
モデル重みの変更や再トレーニングではなく,中間拡散特性の冗長性を活用することで,この非効率性に対処する。
多次元機能再利用を実現する階層型キャッシュフレームワークであるOmniCacheを提案する。
論文 参考訳（メタデータ） (2026-07-26T21:14:48Z) - LaCache: Exact Caching and Precision-Adaptive Inference for Diffusion Large Language Models [9.146969118551167]
DLLMは、テキスト生成におけるSAR(Semi-Autoregressive Decoding)による並列生成を可能にする。
現在の方法は、オペレータレベルの深刻な冗長性に悩まされている。
トレーニング不要なアクセラレーションフレームワークであるLaCacheを提案する。
論文 参考訳（メタデータ） (2026-07-16T10:49:15Z) - WorldCache: Content-Aware Caching for Accelerated Video World Models [50.7543797435026]
我々はPerception-Constrained Dynamic CaCacheフレームワークであるtextbfWorldCacheを紹介する。
WorldCacheは、機能をいつ、どのように再利用するかを改善します。
PAI-Benchで評価されたCosmos-2.5-2Bでは、WorldCacheはtextbf$2.3times$推論スピードアップを実現し、textbf99.4%のベースライン品質を維持している。
論文 参考訳（メタデータ） (2026-03-23T17:59:54Z) - Frequency-Aware Error-Bounded Caching for Accelerating Diffusion Transformers [11.772150619675527]
ディフュージョントランスフォーマー(DiT)は高品質な画像生成とビデオ生成の主要なアーキテクチャとして登場してきた。
既存のキャッシュ手法は、タイムステップ間で中間計算を再利用することで、DiTを加速するが、それらは共通の制限を共有している。
本稿では、時間認識動的スケジューリング(TADS)、累積誤差予算(CEB)、周波数分解キャッシング(FDC)からなる統合キャッシュフレームワークであるSpectralCacheを提案する。
論文 参考訳（メタデータ） (2026-03-05T15:58:06Z) - SenCache: Accelerating Diffusion Model Inference via Sensitivity-Aware Caching [75.02865981328509]
キャッシュは、以前計算されたモデル出力をタイムステップで再利用することで計算を減らす。
本稿では,動的キャッシュポリシーであるSensitivity-Aware Caching(SenCache)を提案する。
SenCacheは、同様の計算予算の下で、既存のキャッシュメソッドよりも視覚的品質が向上する。
論文 参考訳（メタデータ） (2026-02-27T17:36:09Z) - MeanCache: From Instantaneous to Average Velocity for Accelerating Flow Matching Inference [11.934900617930774]
MeanCacheは、効率的なフローマッチング推論のためのトレーニング不要のキャッシュフレームワークである。
我々は,MeanCacheがそれぞれ4.12X,4.56X,3.59Xのアクセラレーションを達成したことを実証した。
論文 参考訳（メタデータ） (2026-01-27T08:35:50Z) - LLMCache: Layer-Wise Caching Strategies for Accelerated Reuse in Transformer Inference [0.0]
トランスフォーマーベースの言語モデルは、幅広いタスクで顕著なパフォーマンスを達成したが、その高い推論レイテンシは、リアルタイムおよび大規模デプロイメントにおいて大きな課題となっている。
LLMCacheは,入力シーケンスのセマンティックな類似性に基づいて中間的アクティベーションを再利用することで,トランスフォーマー推論を高速化する新しいレイヤワイドキャッシュフレームワークである。
論文 参考訳（メタデータ） (2025-12-18T18:18:57Z) - DiCache: Let Diffusion Model Determine Its Own Cache [62.954717254728166]
DiCacheは、実行時に拡散モデルを加速するためのトレーニング不要のアダプティブキャッシュ戦略である。
Online Probe Profiling Schemeは浅層オンラインプローブを利用して,キャッシュエラーのオンザフライインジケータをリアルタイムで取得する。
Dynamic Cache Trajectory Alignmentは、マルチステップの履歴キャッシュから出力されるディープ層の特徴を近似する。
論文 参考訳（メタデータ） (2025-08-24T13:30:00Z) - MixCache: Mixture-of-Cache for Video Diffusion Transformer Acceleration [15.22288174114487]
キャッシングは、DiTモデルで広く採用されている最適化手法である。
効率的なビデオDiT推論のためのトレーニング不要なキャッシュベースのフレームワークであるMixCacheを提案する。
論文 参考訳（メタデータ） (2025-08-18T07:49:33Z) - MagCache: Fast Video Generation with Magnitude-Aware Cache [91.2771453279713]
我々は、様々なモデルとプロンプトで観察される統一等級法則という、新しく頑健な発見を導入する。
我々は、エラーモデリング機構と適応キャッシュ戦略を用いて、重要でないタイムステップを適応的にスキップするMagnitude-aware Cache(MagCache)を導入する。
実験の結果、MagCacheはOpen-Sora、CogVideoX、Wan 2.1、HunyuanVideoで2.10x-2.68倍のスピードアップを達成した。
論文 参考訳（メタデータ） (2025-06-10T17:59:02Z) - QuantCache: Adaptive Importance-Guided Quantization with Hierarchical Latent and Layer Caching for Video Generation [84.91431271257437]
Diffusion Transformers (DiTs) はビデオ生成において支配的なアーキテクチャとして登場した。
DiTには、計算コストやメモリコストの増大など、大きな欠点がある。
我々は,新しいトレーニングフリー推論アクセラレーションフレームワークQuantCacheを提案する。
論文 参考訳（メタデータ） (2025-03-09T10:31:51Z) - Learning-to-Cache: Accelerating Diffusion Transformer via Layer Caching [56.286064975443026]
拡散変圧器内の多数の層をキャッシュ機構で計算することで、モデルパラメータを更新しなくても容易に除去できる。
本稿では,拡散変圧器の動的手法でキャッシングを学習するL2C(Learningto-Cache)を提案する。
実験の結果,L2C は DDIM や DPM-r など,キャッシュベースの従来の手法と同等の推論速度で性能を向上することがわかった。
論文 参考訳（メタデータ） (2024-06-03T18:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。