論文の概要: Carnator: Fast Text-to-Video Generation with Generation-Native Compatibility-Guided Cross-Request Reuse
- arxiv url: http://arxiv.org/abs/2609.32420v1
- Date: Sat, 26 Sep 2026 09:47:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 09:19:32.37446
- Title: Carnator: Fast Text-to-Video Generation with Generation-Native Compatibility-Guided Cross-Request Reuse
- Title(参考訳): Carnator: ジェネレーションNative Compatibility-Guided Cross-Request Reuseによる高速テキスト・ビデオ生成
- Abstract要約: ビデオ拡散変換器は高品質なビデオを生成するが、反復的にノイズを発生させるとかなりの遅延が発生する。
最近のクロス・リクエスト・リユース(英語版)は追加の貯蓄源を提供するが、既存のアプローチは、しばしば粗いセマンティックな類似性から再利用可能性を予測する。
本稿では,この課題に対処するクロスリクエストアクセラレーションフレームワークであるemphCarnatorについて,世代固有の互換性エビデンスを抽出し,使用することによって紹介する。
- 参考スコア(独自算出の注目度): 16.061473396289312
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Video diffusion transformers produce high-quality videos, yet iterative denoising incurs substantial inference latency, limiting interactive and large-scale serving. Most existing acceleration methods focus on individual requests, thereby restricting efficiency gains to redundancy within a single generation trajectory. Recent cross-request reuse offers an additional source of savings, but existing approaches often infer reusability from coarse semantic similarity. This conflates semantic relatedness with generation-level computational compatibility, so aggressive reuse may accept incompatible historical computation while conservative reuse leaves substantial acceleration unrealized. We present \emph{Carnator}, a cross-request acceleration framework that addresses this challenge by extracting and using generation-native compatibility evidence directly from the model's evolving internal states. Specifically, \emph{Carnator} performs a lightweight early probe to construct an Early Signature from internal diffusion states, assessing reuse validity through risk-aware compatibility decisions. The same evidence characterizes reuse scope by localizing target-specific computation and guiding joint reuse of historical latent trajectories and sparse attention connectivity. Across three text-to-video backbones, Carnator consistently achieves higher cache-hit end-to-end acceleration than the evaluated cross-request baselines despite more selective cache acceptance, reaching up to 2.17$\times$ speedup while maintaining competitive generation quality.
- Abstract(参考訳): ビデオ拡散トランスフォーマーは高品質なビデオを生成するが、反復的なデノベーションは相当な推論遅延を引き起こし、対話性と大規模サービスを制限する。
既存の加速度法の多くは個々の要求に焦点をあてており、これにより1世代の軌道内での冗長性に対する効率性の向上が制限される。
最近のクロス・リクエスト・リユース(英語版)は追加の貯蓄源を提供するが、既存のアプローチは、しばしば粗いセマンティックな類似性から再利用可能性を予測する。
このことは、世代レベルの計算互換性と意味的関連性が混ざり合っているため、積極的な再利用は非互換な歴史的計算を受け入れ、保守的な再利用は実質的な加速を未実現に残す。
本稿では,モデルの進化する内部状態から直接,世代固有の互換性証拠を抽出し,使用することによって,この問題に対処するクロスリクエストアクセラレーションフレームワークである \emph{Carnator} を提案する。
具体的には、emph{Carnator}は、内部拡散状態から早期署名を構築するための軽量な早期プローブを実行し、リスク認識互換性決定による再利用の有効性を評価する。
同じエビデンスでは、ターゲット固有の計算をローカライズし、歴史的潜在軌道のジョイントリユースを誘導し、スパースアテンション・コネクティビティ(sparse attention connection)を導くことで、再利用範囲を特徴づけている。
3つのテキストとビデオのバックボーンで、Carnatorは、より選択的なキャッシュ受け入れにもかかわらず、評価されたクロスリクエストベースラインよりも高いキャッシュヒットのエンドツーエンドアクセラレーションを実現し、競争力のある生成品質を維持しながら最大2.17$\times$スピードアップに達する。
関連論文リスト
- Surprise Forcing: What to Remember, When to Skip in Long Video Generation [65.0022589149937]
自己回帰拡散をストリーミングすることで、ミニスケールのビデオ合成が実用的になるが、そのコンテキスト境界と固定化スケジュールはリソースを均一に割り当てる。
我々は、両方の制限をオンラインリソース割り当て問題として扱う、トレーニング不要のフレームワークであるSurprise Forcingを紹介した。
VBench、VBench-Long、VBench-2.0の実験では、提案されたアロケーション戦略は、リアルタイムストリーミングスループットを維持しながら、長時間の一貫性と視覚的品質を改善する。
論文 参考訳(メタデータ) (2026-07-20T18:37:58Z) - DySink: Dynamic Frame Sinks for Autoregressive Long Video Generation [51.58559206569209]
我々は,コンパクトなメモリバンクを保守し,動的フレームシンクとして視覚的に関連する歴史的フレームを選択する検索ベースのフレームワークであるDySinkを提案する。
分長ビデオの実験では、DySinkは強いベースラインよりもダイナミックな度合いを一貫して改善し、同時に時間的品質も向上している。
論文 参考訳(メタデータ) (2026-05-20T11:01:01Z) - Accelerating Diffusion-based Video Editing via Heterogeneous Caching: Beyond Full Computing at Sampled Denoising Timestep [37.62908191585867]
HetCacheは、ビデオ・ツー・ビデオ(MV2V)の生成と編集のためのトレーニング不要な拡散加速フレームワークである。
編集の一貫性と忠実さを維持しながら、冗長な注意操作を低減する。
実験によると、HetCacheは2.67$times$レイテンシのスピードアップやFLOPの削減など、目立った加速を実現している。
論文 参考訳(メタデータ) (2026-03-25T12:53:31Z) - REST: Diffusion-based Real-time End-to-end Streaming Talking Head Generation via ID-Context Caching and Asynchronous Streaming Distillation [41.34425148954312]
RESTは、トーキングヘッドジェネレーションのための自動回帰と拡散ベースのアプローチのギャップを埋めます。
RESTは、生成速度と全体的なパフォーマンスの両方において最先端のメソッドよりも優れています。
論文 参考訳(メタデータ) (2025-12-12T02:28:52Z) - SpeCa: Accelerating Diffusion Transformers with Speculative Feature Caching [17.724549528455317]
拡散モデルは高忠実度画像とビデオ合成に革命をもたらしたが、リアルタイムアプリケーションでは計算要求は禁じられている。
本稿では,両制約を効果的に対処する新しい「予測検証」アクセラレーションフレームワークであるSpeCaを提案する。
提案手法では,予測信頼性を効率よく評価するパラメータフリー検証機構を実装し,各予測に対するリアルタイム決定の受け入れや拒否を可能にする。
論文 参考訳(メタデータ) (2025-09-15T06:46:22Z) - Lightning Fast Caching-based Parallel Denoising Prediction for Accelerating Talking Head Generation [50.04968365065964]
拡散に基づく音声ヘッドモデルは高品質でフォトリアリスティックなビデオを生成するが、推論が遅い。
我々はLightning-fast Caching-based Parallel Denoising Prediction (LightningCP)を紹介する。
また,より高速な注意計算を実現するために,DFA(Decoupled Foreground Attention)を提案する。
論文 参考訳(メタデータ) (2025-08-25T02:58:39Z) - PromptTea: Let Prompts Tell TeaCache the Optimal Threshold [1.0665410339553834]
一般的な加速戦略は、一定の間隔でキャッシング機構を介してモデル出力を再利用することである。
本稿では,入力プロンプトから直接推定されるシーンの複雑さに基づいて,再利用しきい値を自動的に調整する手法であるPrompt-Complexity-Aware(PCA)キャッシングを提案する。
論文 参考訳(メタデータ) (2025-07-09T10:53:05Z) - FastCar: Cache Attentive Replay for Fast Auto-Regressive Video Generation on the Edge [60.000984252907195]
自動回帰(AR)モデルは、サンプリング効率が優れているため、近年、視覚生成タスクにおいて有望であることが示されている。
ビデオ生成は、コヒーレントな時間フレームを生成するために、かなり多くのトークンを必要とする。
我々は,時間的冗長性を探究して,ARビデオ生成のデコードフェーズを高速化する textbfFastCar フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-17T05:00:39Z) - QuantCache: Adaptive Importance-Guided Quantization with Hierarchical Latent and Layer Caching for Video Generation [84.91431271257437]
Diffusion Transformers (DiTs) はビデオ生成において支配的なアーキテクチャとして登場した。
DiTには、計算コストやメモリコストの増大など、大きな欠点がある。
我々は,新しいトレーニングフリー推論アクセラレーションフレームワークQuantCacheを提案する。
論文 参考訳(メタデータ) (2025-03-09T10:31:51Z) - Distortion-Aware Network Pruning and Feature Reuse for Real-time Video
Segmentation [49.17930380106643]
本稿では,リアルタイム視覚タスクのスキップ接続によるアーキテクチャの高速化を目的とした新しいフレームワークを提案する。
具体的には、各フレームの到着時に、前のフレームから特徴を変換し、特定の空間的ビンで再利用する。
次に、現在のフレームの領域におけるバックボーンネットワークの部分計算を行い、現在のフレームと前のフレームの時間差をキャプチャする。
論文 参考訳(メタデータ) (2022-06-20T07:20:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。