論文の概要: InvarDiff: Cross-Scale Invariance Caching for Accelerated Diffusion Models

• arxiv url: http://arxiv.org/abs/2512.05134v1
• Date: Sat, 29 Nov 2025 02:34:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-13 22:40:56.746729
• Title: InvarDiff: Cross-Scale Invariance Caching for Accelerated Diffusion Models
• Title（参考訳）: InvarDiff: 加速拡散モデルのためのクロススケール不変キャッシング
• Authors: Zihao Wu,
• Abstract要約: InvarDiffは、時間ステップスケールと層スケールの相対時間的不変性を利用する、トレーニング不要な加速度法である。 実験によると、InvarDiffは標準品質の指標に最小限の影響を伴って、エンドツーエンドのスピードアップで2～3ドルを達成している。
• 参考スコア（独自算出の注目度）: 2.6735992385049663
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models deliver high-fidelity synthesis but remain slow due to iterative sampling. We empirically observe there exists feature invariance in deterministic sampling, and present InvarDiff, a training-free acceleration method that exploits the relative temporal invariance across timestep-scale and layer-scale. From a few deterministic runs, we compute a per-timestep, per-layer, per-module binary cache plan matrix and use a re-sampling correction to avoid drift when consecutive caches occur. Using quantile-based change metrics, this matrix specifies which module at which step is reused rather than recomputed. The same invariance criterion is applied at the step scale to enable cross-timestep caching, deciding whether an entire step can reuse cached results. During inference, InvarDiff performs step-first and layer-wise caching guided by this matrix. When applied to DiT and FLUX, our approach reduces redundant compute while preserving fidelity. Experiments show that InvarDiff achieves $2$-$3\times$ end-to-end speed-ups with minimal impact on standard quality metrics. Qualitatively, we observe almost no degradation in visual quality compared with full computations.
• Abstract（参考訳）: 拡散モデルは高忠実性合成を提供するが、反復サンプリングのため遅いままである。 InvarDiffは、時間スケールと層スケールの相対時間的不変性を利用する訓練自由加速法である。 いくつかの決定論的実行から,時間ステップ毎,レイヤ毎,モジュール毎のバイナリキャッシュ計画行列を計算し,連続キャッシュ発生時のドリフトを回避するために再サンプリング補正を用いる。 Quantileベースの変更メトリクスを使用して、このマトリックスは、再計算されるのではなく、どのステップが再利用されるかを指定する。 同じ不変条件がステップスケールで適用され、クロスタイムのキャッシュが可能になり、ステップ全体がキャッシュされた結果を再利用できるかどうかが決定される。 推論中、InvarDiffは、このマトリックスによってガイドされるステップファーストとレイヤワイドのキャッシュを実行する。 DiT や FLUX に適用すると,本手法は忠実さを維持しながら冗長な計算を削減できる。 実験によると、InvarDiffは標準品質の指標に最小限の影響を伴って、2-3\times$ end-to-endのスピードアップを達成する。 定性的には、フル計算に比べて視力の劣化はほとんどない。

関連論文リスト

• Predictive Feature Caching for Training-free Acceleration of Molecular Geometry Generation [67.20779609022108]
  フローマッチングモデルは、高忠実度分子ジオメトリを生成するが、推論中にかなりの計算コストを発生させる。 本研究は,分子幾何生成を加速する学習自由キャッシング戦略について論じる。 GEOM-Drugsデータセットの実験は、キャッシングがウォールクロックの推測時間の2倍の削減を実現することを示した。
  論文  参考訳（メタデータ） (2025-10-06T09:49:14Z)
• ERTACache: Error Rectification and Timesteps Adjustment for Efficient Diffusion [30.897215456167753]
  拡散モデルは、本質的に反復的推論プロセスのため、かなりの計算オーバーヘッドに悩まされる。 我々は、両方のエラータイプを共同で修正する原則的なキャッシュフレームワークであるERTACacheを提案する。 ERTACacheは最大2倍の推論スピードアップを実現します。
  論文  参考訳（メタデータ） (2025-08-27T10:37:24Z)
• ODE$_t$(ODE$_l$): Shortcutting the Time and Length in Diffusion and Flow Models for Faster Sampling [33.87434194582367]
  本研究では,品質・複雑さのトレードオフを動的に制御できる相補的な方向について検討する。 我々は,フローマッチングトレーニング中に時間と長さの整合性項を用い,任意の時間ステップでサンプリングを行うことができる。 従来の技術と比較すると、CelebA-HQとImageNetのイメージ生成実験は、最も効率的なサンプリングモードで最大3$times$のレイテンシの低下を示している。
  論文  参考訳（メタデータ） (2025-06-26T18:59:59Z)
• MagCache: Fast Video Generation with Magnitude-Aware Cache [91.2771453279713]
  我々は、様々なモデルとプロンプトで観察される統一等級法則という、新しく頑健な発見を導入する。 我々は、エラーモデリング機構と適応キャッシュ戦略を用いて、重要でないタイムステップを適応的にスキップするMagnitude-aware Cache(MagCache)を導入する。 実験の結果、MagCacheはOpen-Sora、CogVideoX、Wan 2.1、HunyuanVideoで2.10x-2.68倍のスピードアップを達成した。
  論文  参考訳（メタデータ） (2025-06-10T17:59:02Z)
• Neural Flow Samplers with Shortcut Models [19.81513273510523]
  連続フローベースのニューラルサンプリングは、非正規化された密度からサンプルを生成するための有望なアプローチを提供する。 速度駆動型Sequential Monte Carlo法を用いて,これらの課題量に対する改良された推定器を提案する。 提案するニューラルフローショートカットサンプリングは,合成データセットと複雑なnボディシステムターゲットの両方において,既存のフローベースニューラルサンプリングよりも経験的に優れている。
  論文  参考訳（メタデータ） (2025-02-11T07:55:41Z)
• Learning-to-Cache: Accelerating Diffusion Transformer via Layer Caching [56.286064975443026]
  拡散変圧器内の多数の層をキャッシュ機構で計算することで、モデルパラメータを更新しなくても容易に除去できる。 本稿では,拡散変圧器の動的手法でキャッシングを学習するL2C(Learningto-Cache)を提案する。 実験の結果,L2C は DDIM や DPM-r など,キャッシュベースの従来の手法と同等の推論速度で性能を向上することがわかった。
  論文  参考訳（メタデータ） (2024-06-03T18:49:57Z)
• Low-rank extended Kalman filtering for online learning of neural networks from streaming data [71.97861600347959]
  非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。 この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。 変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
  論文  参考訳（メタデータ） (2023-05-31T03:48:49Z)
• Nesterov Accelerated ADMM for Fast Diffeomorphic Image Registration [63.15453821022452]
  ディープラーニングに基づくアプローチの最近の発展は、DiffIRのサブ秒間実行を実現している。 本稿では,中間定常速度場を機能的に構成する簡易な反復スキームを提案する。 次に、任意の順序の正規化項を用いて、これらの速度場に滑らかさを課す凸最適化モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-26T19:56:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。