論文の概要: LightCache: Memory-Efficient, Training-Free Acceleration for Video Generation

• arxiv url: http://arxiv.org/abs/2510.05367v1
• Date: Mon, 06 Oct 2025 20:54:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-08 17:57:07.980013
• Title: LightCache: Memory-Efficient, Training-Free Acceleration for Video Generation
• Title（参考訳）: LightCache: ビデオ生成のためのメモリ効率が高く、トレーニング不要なアクセラレーション
• Authors: Yang Xiao, Gen Li, Kaiyuan Deng, Yushu Wu, Zheng Zhan, Yanzhi Wang, Xiaolong Ma, Bo Hui,
• Abstract要約: 拡散モデルに基づくビデオ生成の先進的な研究領域として、トレーニングフリー加速が出現している。 本稿では,推論過程を符号化・復号化・復号化段階に分解する。 本稿では,メモリ消費を減らすためのステージ固有の戦略を提案する。
• 参考スコア（独自算出の注目度）: 40.968338980157846
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training-free acceleration has emerged as an advanced research area in video generation based on diffusion models. The redundancy of latents in diffusion model inference provides a natural entry point for acceleration. In this paper, we decompose the inference process into the encoding, denoising, and decoding stages, and observe that cache-based acceleration methods often lead to substantial memory surges in the latter two stages. To address this problem, we analyze the characteristics of inference across different stages and propose stage-specific strategies for reducing memory consumption: 1) Asynchronous Cache Swapping. 2) Feature chunk. 3) Slicing latents to decode. At the same time, we ensure that the time overhead introduced by these three strategies remains lower than the acceleration gains themselves. Compared with the baseline, our approach achieves faster inference speed and lower memory usage, while maintaining quality degradation within an acceptable range. The Code is available at https://github.com/NKUShaw/LightCache .
• Abstract（参考訳）: 拡散モデルに基づくビデオ生成の先進的な研究領域として、トレーニングフリー加速が出現している。 拡散モデル推論における潜伏剤の冗長性は、加速度の自然なエントリポイントを提供する。 本稿では,推論過程を符号化,復号化,復号化段階に分解し,キャッシュベースの高速化手法が後半2段階のメモリ急増の原因となる場合が多いことを観察する。 この問題に対処するために、異なる段階にわたる推論の特徴を分析し、メモリ消費を減らすためのステージ固有の戦略を提案する。 1)非同期キャッシュスワッピング。 2)特徴チャンク。 3) 遅延を復号化するためのスライシング。 同時に、これらの3つの戦略によってもたらされる時間オーバーヘッドが加速よりも低いことを保証します。 ベースラインと比較すると,提案手法は許容範囲内で品質劣化を維持しつつ,推論速度の向上とメモリ使用量の削減を実現している。 コードはhttps://github.com/NKUShaw/LightCacheで入手できる。

関連論文リスト

• ERTACache: Error Rectification and Timesteps Adjustment for Efficient Diffusion [30.897215456167753]
  拡散モデルは、本質的に反復的推論プロセスのため、かなりの計算オーバーヘッドに悩まされる。 我々は、両方のエラータイプを共同で修正する原則的なキャッシュフレームワークであるERTACacheを提案する。 ERTACacheは最大2倍の推論スピードアップを実現します。
  論文  参考訳（メタデータ） (2025-08-27T10:37:24Z)
• DiCache: Let Diffusion Model Determine Its Own Cache [62.954717254728166]
  DiCacheは、実行時に拡散モデルを加速するためのトレーニング不要のアダプティブキャッシュ戦略である。 Online Probe Profiling Schemeは浅層オンラインプローブを利用して,キャッシュエラーのオンザフライインジケータをリアルタイムで取得する。 Dynamic Cache Trajectory Alignmentは、マルチステップの履歴キャッシュから出力されるディープ層の特徴を近似する。
  論文  参考訳（メタデータ） (2025-08-24T13:30:00Z)
• Less is Enough: Training-Free Video Diffusion Acceleration via Runtime-Adaptive Caching [57.7533917467934]
  EasyCacheは、ビデオ拡散モデルのためのトレーニング不要のアクセラレーションフレームワークである。 我々は,OpenSora,Wan2.1,HunyuanVideoなどの大規模ビデオ生成モデルについて包括的な研究を行っている。 提案手法は,従来のベースラインと比較して推定時間を最大2.1-3.3$times$に短縮する。
  論文  参考訳（メタデータ） (2025-07-03T17:59:54Z)
• dKV-Cache: The Cache for Diffusion Language Models [53.85291644298835]
  Diffusion Language Models (DLMs) は自己回帰型言語モデルにとって有望な競合と見なされている。 本稿では,DLMの復調過程に対するKVキャッシュ機構,遅延KVキャッシュを提案する。 我々のアプローチは、異なるトークンが拡散過程を通して異なる表現力学を持つという観察によって動機付けられている。
  論文  参考訳（メタデータ） (2025-05-21T17:32:10Z)
• FasterCache: Training-Free Video Diffusion Model Acceleration with High Quality [58.80996741843102]
  FasterCacheは、高品質な生成を伴うビデオ拡散モデルの推論を高速化するために設計された、トレーニング不要の戦略である。 我々は、FasterCacheがビデオの質をベースラインと同等に保ちながら、ビデオ生成を著しく加速できることを示した。
  論文  参考訳（メタデータ） (2024-10-25T07:24:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。