論文の概要: HiCache: Training-free Acceleration of Diffusion Models via Hermite Polynomial-based Feature Caching

• arxiv url: http://arxiv.org/abs/2508.16984v1
• Date: Sat, 23 Aug 2025 10:35:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-26 18:43:45.281916
• Title: HiCache: Training-free Acceleration of Diffusion Models via Hermite Polynomial-based Feature Caching
• Title（参考訳）: HiCache: Hermite Polynomial-based Feature Cachingによる拡散モデルのトレーニング不要加速
• Authors: Liang Feng, Shikang Zheng, Jiacheng Liu, Yuqi Lin, Qinming Zhou, Peiliang Cai, Xinyu Wang, Junjie Chen, Chang Zou, Yue Ma, Linfeng Zhang,
• Abstract要約: HiCacheはトレーニング不要のアクセラレーションフレームワークで、機能予測を改善する。 本稿では,予測精度を保ちながら数値安定性を確保する二重スケーリング機構を提案する。
• 参考スコア（独自算出の注目度）: 19.107716099809707
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models have achieved remarkable success in content generation but suffer from prohibitive computational costs due to iterative sampling. While recent feature caching methods tend to accelerate inference through temporal extrapolation, these methods still suffer from server quality loss due to the failure in modeling the complex dynamics of feature evolution. To solve this problem, this paper presents HiCache, a training-free acceleration framework that fundamentally improves feature prediction by aligning mathematical tools with empirical properties. Our key insight is that feature derivative approximations in Diffusion Transformers exhibit multivariate Gaussian characteristics, motivating the use of Hermite polynomials-the potentially theoretically optimal basis for Gaussian-correlated processes. Besides, We further introduce a dual-scaling mechanism that ensures numerical stability while preserving predictive accuracy. Extensive experiments demonstrate HiCache's superiority: achieving 6.24x speedup on FLUX.1-dev while exceeding baseline quality, maintaining strong performance across text-to-image, video generation, and super-resolution tasks. Core implementation is provided in the appendix, with complete code to be released upon acceptance.
• Abstract（参考訳）: 拡散モデルはコンテンツ生成において顕著な成功を収めてきたが、反復サンプリングによる計算コストの禁止に悩まされている。 最近の機能キャッシング手法は時間外挿によって推論を加速する傾向にあるが、これらの手法は複雑な機能進化のダイナミクスをモデル化できないため、サーバ品質の低下に悩まされている。 そこで本稿では, 数学的ツールと経験的特性を整合させることにより, 特徴予測を根本的に改善する, 学習不要な加速フレームワークであるHiCacheを提案する。 我々の重要な洞察は、拡散変換器における特徴微分近似は多変量ガウス特性を示し、エルミート多項式の使用を動機付け、ガウス関連プロセスの理論的に最適である可能性がある。 さらに,予測精度を保ちながら数値安定性を確保する二重スケーリング機構を導入する。 FLUX.1-devで6.24倍のスピードアップを達成し、ベースライン品質を超え、テキスト・ツー・イメージ、ビデオ生成、超高解像度タスクにおける強力なパフォーマンスを維持している。 コア実装は付録で提供され、受け入れ時に完全なコードがリリースされる。

関連論文リスト

• DiCache: Let Diffusion Model Determine Its Own Cache [63.73224201922458]
  実行時に拡散モデルを高速化するためのトレーニング不要な適応型キャッシュ戦略であるDiCacheを提案する。 Online Probe Profiling Schemeは、浅層オンラインプローブを利用して、キャッシュエラーに対する安定した事前をリアルタイムで取得する。 Dynamic Cache Trajectory Alignmentは、浅層プローブ機能トラジェクトリに基づくマルチステップキャッシュを組み合わせて、現在の機能をよりよく近似する。
  論文  参考訳（メタデータ） (2025-08-24T13:30:00Z)
• Noise Hypernetworks: Amortizing Test-Time Compute in Diffusion Models [57.49136894315871]
  テストタイムスケーリングの新しいパラダイムは、推論モデルと生成視覚モデルにおいて驚くべきブレークスルーをもたらした。 本稿では,テスト時間スケーリングの知識をモデルに組み込むことの課題に対する1つの解決策を提案する。 拡散モデルにおいて、初期入力ノイズを変調するノイズハイパーネットワークにより、報酬誘導試験時間雑音の最適化を行う。
  論文  参考訳（メタデータ） (2025-08-13T17:33:37Z)
• AB-Cache: Training-Free Acceleration of Diffusion Models via Adams-Bashforth Cached Feature Reuse [19.13826316844611]
  拡散モデルは生成的タスクにおいて顕著に成功したが、反復的認知過程は推論を遅くする。 本稿では,第2次Adams-Bashforth法を用いて認知過程を解析することにより理論的に理解する。 キャッシュされた結果を直接再利用する代わりに,拡散モデルに対するキャッシングに基づく新しい高速化手法を提案する。
  論文  参考訳（メタデータ） (2025-04-13T08:29:58Z)
• Model Reveals What to Cache: Profiling-Based Feature Reuse for Video Diffusion Models [41.11005178050448]
  ProfilingDiTは、フォアグラウンドとバックグラウンドに焦点を当てたブロックを明示的にアンタングルする、新しいアダプティブキャッシュ戦略である。 当社のフレームワークは,総合的な品質指標間の視覚的忠実度を維持しながら,大幅な加速を実現している。
  論文  参考訳（メタデータ） (2025-04-04T03:30:15Z)
• Implicit Neural Differential Model for Spatiotemporal Dynamics [5.1854032131971195]
  In-PiNDiffは、安定時間力学のための新しい暗黙の物理積分型ニューラル微分可能解法である。 深い平衡モデルにインスパイアされたIm-PiNDiffは、暗黙の固定点層を用いて状態を前進させ、堅牢な長期シミュレーションを可能にする。 Im-PiNDiffは優れた予測性能、数値安定性の向上、メモリとコストの大幅な削減を実現している。
  論文  参考訳（メタデータ） (2025-04-03T04:07:18Z)
• Towards Scalable and Deep Graph Neural Networks via Noise Masking [59.058558158296265]
  グラフニューラルネットワーク(GNN)は多くのグラフマイニングタスクで顕著に成功している。 計算とストレージのコストが高いため、大きなグラフにスケールすることは困難です。 既存のモデル単純化作業と互換性のあるプラグアンドプレイモジュールであるノイズマスキング(RMask)を用いたランダムウォークを提案する。
  論文  参考訳（メタデータ） (2024-12-19T07:48:14Z)
• Temporal Feature Matters: A Framework for Diffusion Model Quantization [105.3033493564844]
  拡散モデルはマルチラウンド・デノナイジングの時間ステップに依存している。 3つの戦略を含む新しい量子化フレームワークを導入する。 このフレームワークは時間情報のほとんどを保存し、高品質なエンドツーエンド生成を保証する。
  論文  参考訳（メタデータ） (2024-07-28T17:46:15Z)
• DiffuSeq-v2: Bridging Discrete and Continuous Text Spaces for Accelerated Seq2Seq Diffusion Models [58.450152413700586]
  ガウス空間に基づく離散突然変異を再構成する学習において拡散モデルを容易にする軟吸収状態を導入する。 我々は、サンプリングプロセスの高速化のために、連続空間内で最先端のODEソルバを用いている。 提案手法は, トレーニング収束率を4倍に向上させ, 類似品質のサンプルを800倍高速に生成する。
  論文  参考訳（メタデータ） (2023-10-09T15:29:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。