論文の概要: ChebBooster: A Training-Free Approach for Efficient Diffusion Transformer Inference via Chebyshev-Inspired Extrapolation
- arxiv url: http://arxiv.org/abs/2608.23429v1
- Date: Mon, 24 Aug 2026 16:06:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:44.192779
- Title: ChebBooster: A Training-Free Approach for Efficient Diffusion Transformer Inference via Chebyshev-Inspired Extrapolation
- Title(参考訳): ChebBooster: Chebyshevにインスパイアされた外挿による効率的な拡散変圧器推論のための訓練不要アプローチ
- Abstract要約: 拡散変換器(DiT)は高忠実度画像生成において高い性能を示すが,全モデル実行が毎回行われるため,サンプリング処理は計算集約的に続けられている。
そこで我々はChebyshev理論に基づくトレーニングフリーな外挿フレームワークChebBoosterを提案する。
- 参考スコア(独自算出の注目度): 6.871887763122593
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion Transformers (DiTs) have shown strong performance in high-fidelity image generation, but their sampling process remains computationally intensive due to full model execution at every timestep. While cache-based acceleration has been explored to mitigate inference cost, naive reuse schemes suffer from low accuracy over long intervals, and Taylor-series-based extrapolation methods often face instability caused by Runge oscillations. In this paper, we propose ChebBooster, a training-free extrapolation framework based on Chebyshev polynomial theory that achieves stable and efficient acceleration for DiTs. Specifically, we adopt the Barycentric formulation to evaluate Chebyshev approximants with high numerical stability and minimal overhead, and further decouple the extrapolation into an offline weight precomputation phase and a lightweight online application stage. Extensive experiments across three representative DiT-based models, including DiT-XL/2, PixArt-$Σ$, and FLUX.1-dev, demonstrate that ChebBooster achieves consistent improvements in visual quality and inference efficiency, reaching up to $3.68\times$ latency speedup and $5.12\times$ FLOPs reduction, outperforming existing training-free baselines under diverse generation tasks and resolutions.
- Abstract(参考訳): 拡散変換器(DiT)は高忠実度画像生成において高い性能を示すが,全モデル実行が毎回行われるため,サンプリング処理は計算集約的に続けられている。
キャッシュベースの加速度は推論コストを軽減するために検討されているが、単純再利用スキームは長い間隔で低い精度に悩まされ、テイラーシリーズベースの外挿法は、しばしばルンジュ振動による不安定に直面する。
本稿では,Chebyshev多項式理論に基づくトレーニングフリーな外挿フレームワークであるChebBoosterを提案する。
具体的には、Barycentricの定式化を用いて、チェビシェフ近似を高い数値安定性と最小オーバーヘッドで評価し、さらに外挿をオフライン重み前計算フェーズと軽量オンラインアプリケーションステージに分離する。
DiT-XL/2、PixArt-$Σ$、FLUX.1-devを含む3つの代表的なDiTベースのモデルに対する大規模な実験は、ChebBoosterが視覚的品質と推論効率を一貫した改善を達成し、最大で3.68\times$遅延スピードアップと5.12\times$FLOPsの削減を実現し、様々な生成タスクと解像度で既存のトレーニングフリーベースラインを上回っていることを示した。
関連論文リスト
- Memory-Efficient Training-Free Acceleration of Diffusion Transformers with BaryCache [23.178001584385544]
Barycentric Extrapolator を用いたDiTサンプリングの段階的予測を行う訓練不要加速法を提案する。
当社のアプローチでは,メモリ使用量と知覚品質のトレードオフを良好に実現しつつ,最大3.30倍のエンドツーエンドサンプリング高速化を実現しています。
論文 参考訳(メタデータ) (2026-08-24T16:11:56Z) - BRACE: Taming Sharp Irregularities via Barycentric Rational Forecasting for Fast Diffusion Transformers Inference [7.024073219145713]
拡散変換器(DiT)は高忠実度画像とビデオ生成において例外的な性能を示した。
計算オーバーヘッドを大幅に軽減するため、冗長な計算をバイパスするために時間的特徴キャッシングが提案されている。
本稿では,このボトルネックに対処するため,Barycentric Forecasting with Chebyshev Enhancement (BRACE)を提案する。
論文 参考訳(メタデータ) (2026-08-04T11:24:53Z) - Flash-BoN: Instant Drafts for Inference-Time Scaling in Diffusion Models [91.19049123903137]
テキストから画像への推論時間のスケーリングは、単純なBest-of-N$サンプリングからガイド付き検索方法まで進歩している。
これらのアプローチは、いつ、どの程度の頻度でデノベーションを行うかに焦点が当てられているが、生成自体のコストを固定として扱うのがほとんどである。
ウォールクロック評価では、単純なBoNが既にいくつかのガイド付き検索手法に適合または優れていたことを示す。
論文 参考訳(メタデータ) (2026-07-05T19:02:32Z) - Precise: SDE-Consistent Stochastic Sampling for RL Post-Training of Flow-Matching Models [56.67321805551389]
Reinforcement Learning (RL) は, 拡散・流れマッチングジェネレータにおいて, 迅速なアライメントと知覚品質の向上に有効な方法となっている。
探索行動の制御と力学のデノベーションを行うサンプルは、この方針の一部である。
有効探査と安定性のバランスをとる新しいサンプリング器を提案する。
論文 参考訳(メタデータ) (2026-05-22T11:37:22Z) - DyWeight: Dynamic Gradient Weighting for Few-Step Diffusion Sampling [18.524470249911232]
Dynamic Gradient Weighting (DyWeight)は、軽量で学習ベースのマルチステップソルバである。
DyWeightは、歴史的勾配を適応的に集約する制約のない時間変化パラメータを学習する。
CIFAR-10、FFHQ、AFHQv2、ImageNet64、LSUN-Bedroom、Stable Diffusion、FLUX.1-devの実験は、DyWeightが優れた視力と安定性を達成することを示した。
論文 参考訳(メタデータ) (2026-03-12T07:01:44Z) - Adaptive Spectral Feature Forecasting for Diffusion Sampling Acceleration [58.19554276924402]
スペクトル拡散特徴予測器(Spectrum)を提案する。
我々はFLUX.1で4.79$times$スピードアップ、Wan2.1-14Bで4.67$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-03-02T08:59:11Z) - FREE: Uncertainty-Aware Autoregression for Parallel Diffusion Transformers [12.17745708847535]
FREEは、並列検証で機能レベルの自動回帰を実行するために軽量なドラフトラを使用する、新しいフレームワークである。
ImageNet-$5122$の実験では、FREEは最大1.86倍の加速を実現し、FREE(relax)はさらに2.25倍のスピードアップを達成した。
論文 参考訳(メタデータ) (2025-11-25T15:12:10Z) - Predictive Feature Caching for Training-free Acceleration of Molecular Geometry Generation [67.20779609022108]
フローマッチングモデルは、高忠実度分子ジオメトリを生成するが、推論中にかなりの計算コストを発生させる。
本研究は,分子幾何生成を加速する学習自由キャッシング戦略について論じる。
GEOM-Drugsデータセットの実験は、キャッシングがウォールクロックの推測時間の2倍の削減を実現することを示した。
論文 参考訳(メタデータ) (2025-10-06T09:49:14Z) - RAPID^3: Tri-Level Reinforced Acceleration Policies for Diffusion Transformer [86.57077884971478]
ディフュージョントランスフォーマー(DiT)は、視覚発生時に優れるが、遅いサンプリングによって妨げられる。
本稿では,RAPID3: Tri-Level Reinforced Acceleration Policies for Diffusion Transformersを紹介する。
ベースジェネレータの更新をゼロにするイメージワイドアクセラレーションを提供する。
競合する生成品質でサンプリングを3倍近く高速化する。
論文 参考訳(メタデータ) (2025-09-26T13:20:52Z) - DiffusionNFT: Online Diffusion Reinforcement with Forward Process [99.94852379720153]
Diffusion Negative-aware FineTuning (DiffusionNFT) は、フローマッチングを通じて前方プロセス上で直接拡散モデルを最適化する新しいオンラインRLパラダイムである。
DiffusionNFTは、CFGフリーのFlowGRPOよりも25倍効率が高い。
論文 参考訳(メタデータ) (2025-09-19T16:09:33Z) - EconProver: Towards More Economical Test-Time Scaling for Automated Theorem Proving [64.15371139980802]
大規模言語モデル(LLM)は、最近、自動定理証明(ATP)の分野を進歩させた。
ATPモデルに対する異なるテスト時間スケーリング戦略は、推論にかなりの計算オーバーヘッドをもたらすことを示す。
本稿では,統一EconRLパイプラインに統合可能な2つの補完手法を提案する。
論文 参考訳(メタデータ) (2025-09-16T03:00:13Z) - SADA: Stability-guided Adaptive Diffusion Acceleration [24.250318487331228]
拡散モデルは生成的タスクにおいて顕著な成功を収めたが、高い計算コストに悩まされている。
既存のトレーニングフリー加速戦略は、ステップごとの計算コストを削減しつつ、サンプリング時間を効果的に削減し、信頼性を低下させる。
本稿では, ODE に基づく生成モデルのサンプリングを高速化する新しいパラダイムとして, 安定誘導型適応拡散加速法 (SADA) を提案する。
論文 参考訳(メタデータ) (2025-07-23T02:15:45Z) - Stochastic Runge-Kutta Methods: Provable Acceleration of Diffusion Models [21.961189407928853]
我々は,KL Runge-Kutta法に基づいて,SDEスタイルの拡散サンプリングのための学習自由加速アルゴリズムを提案し,解析する。
提案したサンプルは、$widetilde O(d3/2 / varepsilon)$ score function Evaluationsを用いて、確実に$varepsilon2$エラー(ばらつきで測定)を得る。
論文 参考訳(メタデータ) (2024-10-07T05:34:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。