論文の概要: SpecKCast: Spectral Kalman Forecasting for Diffusion Acceleration
- arxiv url: http://arxiv.org/abs/2610.26837v1
- Date: Mon, 19 Oct 2026 17:58:04 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:38:04.045631
- Title: SpecKCast: Spectral Kalman Forecasting for Diffusion Acceleration
- Title(参考訳): SpecKCast:拡散加速のためのスペクトルカルマン予測
- Abstract要約: 拡散変換器(DiT)は高忠実度画像と映像生成を実現する。
DiTは、多くのデノナイジングステップにわたる反復的なトランスフォーマー評価により、相当な推論コストに悩まされる。
最近の予測手法では、この機能を再利用せずにスキップステップに外挿することで、このアイデアを拡張している。
本稿では、周波数領域におけるモデル出力を予測できる訓練不要なSpecKCastを提案する。
- 参考スコア(独自算出の注目度): 26.376862235834732
- License:
- Abstract: Diffusion Transformers (DiTs) achieve high-fidelity image and video generation, but they suffer from substantial inference costs due to repeated transformer evaluations across many denoising steps. Feature caching reduces this cost by reusing features across denoising steps. Recent forecasting methods extend this idea by extrapolating features to skipped steps instead of reusing them. However, existing forecasting methods extrapolate the features they predict uniformly, even though the spatial-frequency components of these features change most at different stages of denoising. They also overlook that denoising progresses nonuniformly, so equal step intervals can correspond to very different amounts of change. These mismatches amplify forecast errors as more steps are skipped, limiting the achievable acceleration. We propose SpecKCast, a training-free method that forecasts the model output in the frequency domain. SpecKCast applies a 2D discrete cosine transform (DCT) to the output and tracks each coefficient with a lightweight Kalman filter along a band-specific time coordinate derived from the noise schedule. The filter tracks each coefficient's value and rate of change, and the transformer is evaluated only when the filter's forecast uncertainty exceeds a threshold. Experiments on FLUX.1-dev, Qwen-Image, Wan2.1-14B, and HunyuanVideo show that SpecKCast achieves a better trade-off between acceleration and fidelity than existing caching and forecasting methods, reaching up to 6x speedup with less than 0.05 GiB of additional memory.
- Abstract(参考訳): 拡散変換器(DiT)は高忠実度画像と映像生成を実現するが,多くのデノナイジングステップで繰り返し変形器の評価を行うため,相当な推論コストを被る。
機能キャッシングは、デノナイジングステップをまたいだ機能再利用によって、このコストを削減する。
最近の予測手法では、この機能を再利用せずにスキップステップに外挿することで、このアイデアを拡張している。
しかし、これらの特徴の空間周波数成分が様々な段階で変化しても、既存の予測手法はそれらが均一に予測する特徴を外挿する。
また、デノイングは不均一に進行するので、同じステップ間隔は、非常に異なる量の変化に対応することができる。
これらのミスマッチは、より多くのステップがスキップされると予測エラーを増幅し、達成可能な加速度を制限する。
本稿では、周波数領域におけるモデル出力を予測できる訓練不要なSpecKCastを提案する。
SpecKCastは出力に2次元離散コサイン変換(DCT)を適用し、ノイズスケジュールから導出される帯域固有の時間座標に沿って、軽量なカルマンフィルタを用いて各係数を追跡する。
フィルタは、各係数の値と変化率を追跡し、フィルタの予測不確かさが閾値を超えた場合にのみ、変圧器を評価する。
FLUX.1-dev、Qwen-Image、Wan2.1-14B、HunyuanVideoの実験では、SpecKCastは既存のキャッシュや予測手法よりも加速と忠実さのトレードオフが良く、0.05 GiB未満のメモリで最大6倍のスピードアップを達成した。
関連論文リスト
- Tikhonov-Stabilized Bezier Representation Forecasting for Training-free Diffusion Acceleration [23.092340396565366]
トレーニング不要な拡散加速フレームワークである textbfBeziCast を提案する。
低次B'ezier軌道を用いた出力-近近分解表現の予測を行う。
BeziCastがFLUX.1を最大(4.79タイム)、HunyuanVideoを最大(4.11タイム)高速化
論文 参考訳(メタデータ) (2026-10-12T09:14:55Z) - TGuide: Faster Autoregressive Video Diffusion via Historical Trajectory Guidance [69.22347589094333]
本稿では,Anchor-Transport-Correct(ATC)予測器を通じて自動回帰ビデオ拡散を高速化するフレームワークであるTGuideを紹介する。
現在のチャンクの前段特徴は空間構造を保ち、前のチャンクの同段特徴は目標認知段階の情報を提供する。
Self Forcing、Causal Forcing、HY-WorldPlayの実験では、TGuideは生成品質を保ちながら、オリジナルの4ステップジェネレータよりも最大1.89タイムの速度アップを実現している。
論文 参考訳(メタデータ) (2026-10-10T07:16:40Z) - Test-time Sparsity for Extreme Fast Action Diffusion [15.679362579177267]
アクション拡散は、高忠実なアクション生成において優れるが、反復的なデノイングの性質のため、計算コストが重い。
この課題に対処するために,テスト時間間隔を提案する。これは,各モデルに対する動的に予測可能な残差計算をテスト時に前方に進めることで,動作拡散を加速することを目的としている。
論文 参考訳(メタデータ) (2026-05-13T10:28:50Z) - Adaptive Spectral Feature Forecasting for Diffusion Sampling Acceleration [58.19554276924402]
スペクトル拡散特徴予測器(Spectrum)を提案する。
我々はFLUX.1で4.79$times$スピードアップ、Wan2.1-14Bで4.67$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-02T08:59:11Z) - Predict to Skip: Linear Multistep Feature Forecasting for Efficient Diffusion Transformers [10.751183015853863]
拡散変換器(DiT)は高忠実度画像とビデオ生成のバックボーンとして広く採用されている。
線形多段階問題として特徴予測を定式化する,トレーニング不要なアクセラレーションフレームワークである textbfPrediT を提案する。
提案手法は,DiTベースの画像およびビデオ生成モデル間で最大5.54タイムのレイテンシ低減を実現し,品質劣化を生じさせる。
論文 参考訳(メタデータ) (2026-02-20T09:33:59Z) - FreqCa: Accelerating Diffusion Models via Frequency-Aware Caching [13.999620910665612]
拡散モデルの特徴の異なる周波数帯域は、時間経過によって異なるダイナミクスを示すことを示す。
本稿では、周波数対応キャッシング(FreqCa)を提案し、その類似性に基づいて低周波成分の特徴を直接再利用する。
また、すべてのレイヤの機能の代わりにCRF(Cumulative Residual Feature)をキャッシュすることを提案し、この機能キャッシングのメモリフットプリントを99%削減する。
論文 参考訳(メタデータ) (2025-10-09T17:22:23Z) - Towards More Accurate Diffusion Model Acceleration with A Timestep Tuner [112.99126045081046]
数千のデノナイジングステップを用いて画像を生成するために定式化された拡散モデルは通常、遅い推論速度に悩まされる。
最小コストで特定の区間に対してより正確な積分方向を求めるのに役立つtextbftimestep tunerを提案する。
実験により,我々のプラグイン設計を効率的に訓練し,様々な最先端加速度法の推論性能を向上できることが示された。
論文 参考訳(メタデータ) (2023-10-14T02:19:07Z) - CARD: Channel Aligned Robust Blend Transformer for Time Series
Forecasting [50.23240107430597]
本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。
まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。
第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。
第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
論文 参考訳(メタデータ) (2023-05-20T05:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。