論文の概要: BRACE: Taming Sharp Irregularities via Barycentric Rational Forecasting for Fast Diffusion Transformers Inference
- arxiv url: http://arxiv.org/abs/2608.07572v1
- Date: Tue, 04 Aug 2026 11:24:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.442713
- Title: BRACE: Taming Sharp Irregularities via Barycentric Rational Forecasting for Fast Diffusion Transformers Inference
- Title(参考訳): BRACE:高速拡散変圧器推論のためのバリセントリレーショナル予測によるシャープ不規則性の評価
- Authors: Jinlong Yang, Jinke Wu, Lizilin, Yao Zhou,
- Abstract要約: 拡散変換器(DiT)は高忠実度画像とビデオ生成において例外的な性能を示した。
計算オーバーヘッドを大幅に軽減するため、冗長な計算をバイパスするために時間的特徴キャッシングが提案されている。
本稿では,このボトルネックに対処するため,Barycentric Forecasting with Chebyshev Enhancement (BRACE)を提案する。
- 参考スコア(独自算出の注目度): 7.024073219145713
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion Transformers (DiTs) have demonstrated exceptional performance in high-fidelity image and video generation. To alleviate their massive computational overhead, temporal feature caching has been proposed to bypass redundant computations. However, existing cache-then-forecast methods driven by derivative-based polynomials often cause severe quality degradation under high acceleration due to unstable long-step predictions. To address this bottleneck, we propose Barycentric Rational Forecasting with Chebyshev Enhancement (BRACE). Motivated by the observation that DiT feature trajectories are globally smooth yet frequently exhibit sharp irregularities and local non-smoothness, BRACE shifts the paradigm from derivative-driven polynomial extrapolation to feature-driven rational forecasting. Specifically, it maintains a local sliding window to cache sparse historical features and leverages adapted Chebyshev weights to formulate a barycentric rational function, directly aggregating these raw features to ensure numerical stability. Extensive experiments demonstrate that BRACE achieves state-of-the-art quality-efficiency trade-offs across various DiT architectures with negligible computational overhead.
- Abstract(参考訳): 拡散変換器(DiT)は高忠実度画像とビデオ生成において例外的な性能を示した。
計算オーバーヘッドを大幅に軽減するため、冗長な計算をバイパスするために時間的特徴キャッシングが提案されている。
しかしながら、デリバティブベースの多項式によって駆動される既存のキャッシュ列予測法は、不安定な長期予測により、高加速度下で深刻な品質劣化を引き起こすことが多い。
このボトルネックに対処するため,Barycentric Rational Forecasting with Chebyshev Enhancement (BRACE)を提案する。
BRACEは、DiT特徴軌道が全世界的に滑らかであるが、急激な不規則性と局所的な非平滑性を示すという観察により、微分駆動多項式外挿から特徴駆動的有理予測へとパラダイムをシフトさせる。
具体的には、緩やかな歴史的特徴をキャッシュするために局所的なスライディングウィンドウを保持し、適応されたチェビシェフ重みを利用して、偏心有理関数を定式化し、これらの生の特徴を直接集約し、数値的な安定性を確保する。
広範囲にわたる実験により、BRACE は様々な DiT アーキテクチャ間の最先端の品質効率トレードオフを実現し、計算オーバーヘッドを無視できることを示した。
関連論文リスト
- ResilPhase: Plug-and-Play Phase Mapping and Noise-Resilient Macro-Trajectory Extrapolation for Diffusion Acceleration [10.972902209477844]
導関数の不安定性と近似誤差をバイパスする導関数のないバリ中心ラグランジュ外挿器を導入する。
FLUX.1-devとHunyuanVideoの実験は、アグレッシブ加速比下での最先端の忠実さを実証している。
論文 参考訳(メタデータ) (2026-06-25T08:54:17Z) - Taming Curvature: Architecture Warm-Up for Stable Transformer Training [52.6838951211596]
本稿では,Hessian-vector製品を用いた暖かくスタートした変種に基づく最大(プレコンディション付き)Hessian固有値(曲率)の高速オンライン推定手法を提案する。
トレーニングの不安定性は、事前条件付き曲率の急激な上昇と一致し、曲率の深さが増加する。
大規模変圧器の実験により,本手法が効率的な曲率追跡を可能にし,不安定性を低減できることを確認した。
論文 参考訳(メタデータ) (2026-06-15T14:16:56Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - Ride the Wave: Precision-Allocated Sparse Attention for Smooth Video Generation [9.132288507881592]
ビデオ拡散変換器は高忠実度ビデオ生成に革命をもたらしたが、自己注意の膨大な計算負担に悩まされている。
PASA(Precision-Allocated Sparse Attention)は,高効率かつ時間的にスムーズなビデオ生成を目的としたトレーニングフリーフレームワークである。
論文 参考訳(メタデータ) (2026-04-14T02:51:52Z) - Adaptive Spectral Feature Forecasting for Diffusion Sampling Acceleration [58.19554276924402]
スペクトル拡散特徴予測器(Spectrum)を提案する。
我々はFLUX.1で4.79$times$スピードアップ、Wan2.1-14Bで4.67$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-02T08:59:11Z) - GTS: Inference-Time Scaling of Latent Reasoning with a Learnable Gaussian Thought Sampler [54.10960908347221]
我々は、学習可能な密度から条件付きサンプリングとして潜在思考探索をモデル化し、このアイデアをガウス思想サンプリング(GTS)としてインスタンス化する。
GTSは、連続的推論状態における文脈依存摂動分布を予測し、バックボーンを凍結させながらGRPOスタイルのポリシー最適化を訓練する。
論文 参考訳(メタデータ) (2026-02-15T09:57:47Z) - Forecast the Principal, Stabilize the Residual: Subspace-Aware Feature Caching for Efficient Diffusion Transformers [9.698781486878206]
Diffusion Transformer (DiT) モデルは画像およびビデオ生成において前例のない品質を達成したが、反復サンプリングプロセスは計算的に禁止されている。
Singular Value Decomposition (SVD)を介して拡散機能を分解するサブスペース対応キャッシュフレームワークであるSVD-Cacheを提案する。
私たちのコードは補足的な素材で、Githubでリリースされます。
論文 参考訳(メタデータ) (2026-01-12T10:30:12Z) - HiCache: Training-free Acceleration of Diffusion Models via Hermite Polynomial-based Feature Caching [19.107716099809707]
HiCacheはトレーニング不要のアクセラレーションフレームワークで、機能予測を改善する。
本稿では,予測精度を保ちながら数値安定性を確保する二重スケーリング機構を提案する。
論文 参考訳(メタデータ) (2025-08-23T10:35:16Z) - Sortblock: Similarity-Aware Feature Reuse for Diffusion Model [9.749736545966694]
Diffusion Transformer (DiTs) は顕著な生成能を示した。
DiTのシーケンシャルな denoising プロセスは、高い推論遅延をもたらす。
トレーニング不要な推論アクセラレーションフレームワークであるSoltblockを提案する。
論文 参考訳(メタデータ) (2025-08-01T08:10:54Z) - Towards Stabilized and Efficient Diffusion Transformers through Long-Skip-Connections with Spectral Constraints [51.83081671798784]
Diffusion Transformers (DiT) は、画像およびビデオ生成のための強力なアーキテクチャとして登場し、優れた品質とスケーラビリティを提供している。
DiTの実用アプリケーションは本質的に動的特徴不安定性に悩まされており、キャッシュされた推論中にエラーを増幅する。
我々は,Long-Skip-Connections (LSCs) で拡張された画像およびビデオ生成型DiTであるSkip-DiTを提案する。
論文 参考訳(メタデータ) (2024-11-26T17:28:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。