論文の概要: TamedFlow: Trajectory-Aware Distillation\\for Teacher-Assisted Diffusion Sampling

• arxiv url: http://arxiv.org/abs/2610.26025v1
• Date: Mon, 19 Oct 2026 08:48:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.331619
• Title: TamedFlow: Trajectory-Aware Distillation\\for Teacher-Assisted Diffusion Sampling
• Title（参考訳）: TamedFlow: 教師支援拡散サンプリングのための軌道対応蒸留
• Abstract要約: 拡散変換器(DiT)は高忠実度画像と映像を生成する。 適応推論は、再利用、予測、投機的実行を通じて選択された教師の計算を避ける。 我々は、このデプロイされたロールに対して圧縮DiTをトレーニングするtextbfTamedFlowを提案する。
• 参考スコア（独自算出の注目度）: 32.55215024159599
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion Transformers (DiTs) deliver high-fidelity image and video generation, but inference requires many sequential model evaluations. Two acceleration strategies are increasingly important: model compression makes each evaluation cheaper, while adaptive inference avoids selected teacher computation through reuse, forecasting, or speculative execution. Their combination, however, is brittle: directly applying the evaluated adaptive methods to a compressed student can degrade quality, an observed failure mode we call the \textbf{Combination Gap}. We link this gap to a mismatch between pointwise distillation and short-horizon execution: a student trained at teacher states need not remain reliable when its own predictions are chained. We propose \textbf{TamedFlow}, which trains a compressed DiT for this deployed role through cross-architecture feature alignment, a near-identity Velocity Alignment Head, and randomized rollout supervision. At inference, a lightweight Learnable Trajectory Estimator routes completed drafts: accepted drafts bypass the teacher, while rejected drafts roll back and receive one teacher rescue step. Distilling DiT-XL/2 into DiT-B/2, TamedFlow reaches FID $2.58$ at $2.25\times$ measured speedup over DDIM-50 on ImageNet $256\times256$. Ablations support trajectory supervision, and routing controls favor LTE over random decisions at nearly matched latency. Evaluations on ImageNet $512\times512$, MS-COCO, and Latte/FaceForensics extend the empirical scope.
• Abstract（参考訳）: 拡散変換器(DiT)は高忠実度画像とビデオ生成を提供するが、推論には多くの逐次モデル評価が必要である。 モデル圧縮は、各評価を安価にし、適応推論は、再利用、予測、投機的実行を通じて選択された教師の計算を避ける。 しかし、それらの組み合わせは不安定であり、評価された適応メソッドを圧縮された学生に直接適用すると、品質が劣化し、観察された障害モードが \textbf{Combination Gap} と呼ばれる。 我々は、このギャップを、ポイントワイド蒸留と短期水平実行のミスマッチにリンクする:教師国家で訓練された学生は、彼ら自身の予測が連鎖しているときに、信頼性を保つ必要はない。 本稿では, クロスアーキテクチャ機能アライメント, ほぼ同一のベロシティアライメントヘッド, ランダムなロールアウト監視を通じて, 圧縮DiTをトレーニングする。 推論では、軽量のLearningable Trajectory Estimatorが、完成したドラフトをルートする。 DiT-XL/2 を DiT-B/2 に蒸留し、TyadFlow は FID $2.58$ at $2.25\times$ measured speedup over DDIM-50 on ImageNet $256\times256$ に到達した。 アブレーションは軌道監視をサポートし、ルーティング制御は、ほぼ一致したレイテンシでランダムな決定よりもLTEを好む。 ImageNetの512\times512$、MS-COCO、Latte/FaceForensicsによる評価は、経験的スコープを拡張している。

関連論文リスト

• E$^2$-OPSD: Taming Entropy Overshoot in On-Policy Self-Distillation [31.08813672185829]
  模範指導は、現在の答えを解決された隣り合う問題に置き換える。 E$2$-OPSDは、OPSDよりも平均4.3ポイントの数学推論を改善する。
  論文  参考訳（メタデータ） (2026-10-04T08:32:33Z)
• VDOT++: Unified Few-Step Video Generation via Unbalanced Optimal Transport Distillation [68.00823860612421]
  ビデオ作成は、テキスト・トゥ・ビデオ(T2V)、画像・トゥ・ビデオ(I2V)、条件ベースの生成にまたがる。 3つのタスクファミリ用のジェネレータに対して,同じトレーニングレシピを別々に適用する統合蒸留フレームワークであるVDOT++を提案する。
  論文  参考訳（メタデータ） (2026-10-02T12:37:55Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• x-Prediction Is All You Need:Training-Free Accelerated Generation via Endpoint Decodability [7.28668585578288]
  拡散およびフローマッチングモデルは高品質なサンプルを生成するが、そのODEサンプルは数十万のニューラルファンクション評価(NFE)を必要とすることが多い。 多くの加速器は再訓練、蒸留、軌道再設計を通じて追加の設計選択と訓練コストを必要とするため、これはリリースされたチェックポイントにとって実用的な課題である。 我々は$x$-predictionに基づいて異なる経路を探索する。 SDXL、SD3.5M、Z-Image-Turbo、および3つのクラス条件ベンチマークで、NFEをほぼ一致した品質で20-70%削減する。
  論文  参考訳（メタデータ） (2026-07-07T10:24:38Z)
• From Patches to Trajectories: Privileged Process Supervision for Software-Engineering Agents [56.31499185764872]
  教師の長い軌道上の監督された微調整(SFT)は、オープンソフトウェアエンジニアリング(SWE)エージェントに調査と推論を浸透させる主要な方法である。 本稿では,P2T (Patches-to-Trajectories) を提案する。P2T (Patches-to-Trajectories) は,P2T (Patches-to-Trajectories) において,P2T (Patches-to-Trajectories) とP2T (Patches-to-Trajectories) の2つの最適化法である。
  論文  参考訳（メタデータ） (2026-05-21T04:54:55Z)
• Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation [50.55853275866995]
  リアルタイムのインタラクティブなビデオ生成には、低レイテンシ、ストリーミング、コントロール可能なロールアウトが必要である。 本稿では,フレームワイドの自己回帰を1～2ステップのサンプリングで行うという,よりアグレッシブな設定について検討する。 原理的かつスケーラブルなパイプラインである textbfCausal Forcing++ を提案する。
  論文  参考訳（メタデータ） (2026-05-14T17:46:36Z)
• TAD: Temporal-Aware Trajectory Self-Distillation for Fast and Accurate Diffusion LLM [18.69783590125584]
  拡散大言語モデル(dLLM)は、並列テキスト生成に有望なパラダイムを提供する。 彼らは精度のパラレルなトレードオフに直面しており、1フォワード当たりのトークンの増加は世代品質を劣化させることが多い。 既存の加速法は精度を犠牲にして速度を上げることが多い。 本稿では, 時間認識型自己蒸留フレームワークTADを提案する。
  論文  参考訳（メタデータ） (2026-05-10T13:38:53Z)
• Sprint: Sparse-Dense Residual Fusion for Efficient Diffusion Transformers [91.02299679350834]
  Diffusion Transformer (DiTs) は最先端の生成性能を提供するが、シークエンス長の2次トレーニングコストは大規模な事前訓練を不当に高価にする。 本稿では,高効率拡散変換器のためのスパース-デンス残差核融合法を提案する。
  論文  参考訳（メタデータ） (2025-10-24T19:29:55Z)
• REPA Works Until It Doesn't: Early-Stopped, Holistic Alignment Supercharges Diffusion Training [58.33728862521732]
  Diffusion Transformer (DiTs)は最先端の画像品質を提供するが、訓練は依然として遅い。 最近の治療 -- DiT の隠された特徴と非生成的教師(例えば DINO)の特徴とを一致させる表現アライメント(REPA) -- は、初期のエポックを劇的に加速させるが、その後パフォーマンスを低下させる。 生成学習者が共同データ分布をモデル化し始めると、教師の低次元埋め込みと注意パターンがガイドではなくストラトジャケットになる。 HASTEを紹介する
  論文  参考訳（メタデータ） (2025-05-22T15:34:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。