論文の概要: CacheScope: Exact-Compute Allocation for Training-Free Diffusion Acceleration
- arxiv url: http://arxiv.org/abs/2610.12530v1
- Date: Thu, 08 Oct 2026 10:19:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.216774
- Title: CacheScope: Exact-Compute Allocation for Training-Free Diffusion Acceleration
- Title（参考訳）: CacheScope: トレーニング不要な拡散加速のためのエクササイズアロケーション
- Abstract要約: 訓練不要な機能の再利用は拡散トランスフォーマー推論を加速させる。
本稿では,ハイリスクな再利用手順をオンラインで識別し,フルデノゲーション計算に選択的にフォールバックするCacheScopeを提案する。
- 参考スコア（独自算出の注目度）: 16.363246397280157
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Training-free feature reuse accelerates diffusion transformer inference by replacing full denoising computation at selected steps with cached approximations. Existing methods mainly improve the reconstruction of skipped features, but we find that once a stable first-order reconstructor is used, increasing reconstruction complexity brings limited gains, whereas the placement of exact-computation steps has a much larger effect on fidelity. More importantly, absolute shallow-probe variation is jointly affected by input-trajectory displacement and network response strength, and therefore does not directly reflect cache risk. We address this confounding by normalizing probe-output variation with the corresponding input displacement, yielding a directional gain per unit trajectory movement. Based on this signal, we propose CacheScope, which identifies high-risk reuse steps online and selectively falls back to full denoising computation while leaving the underlying cache reconstructor unchanged. CacheScope requires no additional training, gradients, auxiliary networks, or prompt-specific offline schedule optimization. Across FLUX.1-dev, Wan2.1-T2V-1.3B, and Open-Sora 1.2, CacheScope achieves up to 3.57x acceleration and reduces median LPIPS by up to 70.1% over the strongest probe-based baseline.
- Abstract（参考訳）: 学習不要な機能の再利用は、選択したステップでのフルデノナイジング計算をキャッシュ近似に置き換えることで、拡散トランスフォーマー推論を加速する。
既存の手法は主にスキップされた特徴の再構成を改善するが、安定な一階構造体を一度使うと、再構成の複雑さが増大すると利得が制限されるのに対し、正確な計算ステップの配置は忠実度にはるかに大きな影響を及ぼす。
さらに重要なことは、絶対浅度プローブ変動は入力-軌道変位とネットワーク応答強度によって連関されるため、キャッシュリスクを直接反映しない。
本研究では, プローブ出力変動と対応する入力変位とを正規化することにより, 単位軌道運動当たりの方向ゲインを導出する。
この信号に基づいて、高リスク再利用ステップをオンラインで識別し、基盤となるキャッシュ再構成子をそのまま残しながら、完全な復調処理に選択的にフォールバックするCacheScopeを提案する。
CacheScopeは、追加のトレーニング、グラデーション、補助ネットワーク、あるいはプロンプト固有のオフラインスケジュール最適化を必要としない。
FLUX.1-dev、Wan2.1-T2V-1.3B、Open-Sora 1.2の他、CacheScopeは最大3.57倍の加速を実現し、最強のプローブベースラインよりも70.1%の中央値LPIPSを削減している。
関連論文リスト
- Structured Residual Connectivity Matters for Diffusion Transformers [91.88563792356344]
Diffusion Transformers (DiTs) は、高忠実度画像合成のためのスケーラブルなバックボーンとしての地位を確立している。
本稿では,DiTの残差接続を画像復調に最適化した能動的検索機構に変換することを提案する。
論文 参考訳（メタデータ） (2026-09-27T04:42:36Z) - CRISP: Cliff-awaRe Input-adaptive Sparse Prefilling with Structural-Mass-Motivated Routing [90.63350360476294]
本稿ではCRISP(Cliff-awaRe Input-adaptive Sparse Prefilling)を提案する。
ルーティング決定は、プロキシアテンションマップの構造から直接読み取ることができることを示す。
ソフトマックス後の質量崖を定式化し、厳密な累積被覆閾値が長い文脈でO(n)バックグラウンドノイズを蓄積することを理論的に示す。
論文 参考訳（メタデータ） (2026-09-01T22:49:46Z) - Scaling Parallel Sequence Models to Foundation-Scale Vision Encoders [123.58723804218151]
ビジョンファウンデーションモデルは、自己注意の二次的なコストによってボトルネックとなる。
2次元空間伝搬伝搬に基づくC-GSPNを提案する。
論文 参考訳（メタデータ） (2026-05-30T14:29:43Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳（メタデータ） (2026-05-21T16:45:31Z) - Accelerating Rectified Flow Models via Trajectory-Aware Caching [35.13071059415995]
我々は,スキップ・then-compensateパラダイムに従って,トレーニング不要なアクセラレーションフレームワークであるTACacheを提案する。
Trajectory-Aware Cacheは、テキスト・ツー・イメージ・ジェネレーションで最大4.14スピードアップ、テキスト・ツー・ビデオ・ジェネレーションで2.11スピードアップを達成する。
論文 参考訳（メタデータ） (2026-05-16T03:44:58Z) - ProCache: Constraint-Aware Feature Caching with Selective Computation for Diffusion Transformer Acceleration [14.306565517230775]
Diffusion Transformer (DiTs) は、生成モデリングにおいて最先端のパフォーマンスを達成したが、その高い計算コストは、リアルタイムデプロイメントを妨げている。
既存の手法では,(1) 均一なキャッシング間隔がDiTの非一様時間ダイナミクスと一致しないこと,(2) 過大なキャッシング間隔によるナイーブな機能再利用が重大なエラーの蓄積につながること,の2つの重要な制限が課されている。
ProCacheはトレーニング不要な動的機能キャッシュフレームワークで、2つのコアコンポーネントを介してこれらの問題に対処する。
論文 参考訳（メタデータ） (2025-12-19T07:27:19Z) - InvarDiff: Cross-Scale Invariance Caching for Accelerated Diffusion Models [2.6735992385049663]
InvarDiffは、時間ステップスケールと層スケールの相対時間的不変性を利用する、トレーニング不要な加速度法である。
実験によると、InvarDiffは標準品質の指標に最小限の影響を伴って、エンドツーエンドのスピードアップで2～3ドルを達成している。
論文 参考訳（メタデータ） (2025-11-29T02:34:23Z) - Accelerating Diffusion Transformer via Gradient-Optimized Cache [18.32157920050325]
時間的特徴再利用を通じて拡散トランスフォーマー(DiT)サンプリングを高速化するための効果的な戦略として機能キャッシングが登場した。
キャッシュされたブロックからのプログレッシブエラーの蓄積は生成品質を著しく低下させるため、これは難しい問題である。
本稿では,2つの重要なイノベーションを生かしたGradient-Perturbationd Cache (GOC)を提案する。
GOCはIS 216.28 (26.3%上)とFID 3.907 (43%下)をベースラインのDiTと比較して達成し、計算コストは同じである。
論文 参考訳（メタデータ） (2025-03-07T05:31:47Z) - Learning-to-Cache: Accelerating Diffusion Transformer via Layer Caching [56.286064975443026]
拡散変圧器内の多数の層をキャッシュ機構で計算することで、モデルパラメータを更新しなくても容易に除去できる。
本稿では,拡散変圧器の動的手法でキャッシングを学習するL2C(Learningto-Cache)を提案する。
実験の結果,L2C は DDIM や DPM-r など,キャッシュベースの従来の手法と同等の推論速度で性能を向上することがわかった。
論文 参考訳（メタデータ） (2024-06-03T18:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。