論文の概要: TriTD: Tri-Partite Trajectory-Distribution Distillation for Real-Time Autoregressive Video Generation
- arxiv url: http://arxiv.org/abs/2610.26165v1
- Date: Mon, 19 Oct 2026 10:56:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 19:20:40.58733
- Title: TriTD: Tri-Partite Trajectory-Distribution Distillation for Real-Time Autoregressive Video Generation
- Title(参考訳): TriTD:リアルタイム自己回帰ビデオ生成のための三成分トラジェクトリ分散蒸留
- Abstract要約: 自己回帰(AR)ビデオ拡散は、効率的なビデオ生成の先駆的パラダイムとして現れてきたが、その実践的展開はいまだにボトルネックとなっている。
我々は,このボトルネックをARロールアウトにおける3つのエラー源として,ベースモデルエラー,トレイン-推論分布ミスマッチ,上流エラー伝搬を挙げる。
3つの相補的なモジュールを持つTri-Partite Trajectory-Distribution共最適化蒸留フレームワークTriTDを提案する。
- 参考スコア(独自算出の注目度): 19.302505992898215
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autoregressive (AR) video diffusion has emerged as a leading paradigm for efficient video generation, yet its practical deployment remains bottlenecked by the trade-off between generation quality and inference efficiency. We attribute this bottleneck to three error sources in AR rollouts: the base model error, the train-inference distribution mismatch, and the upstream error propagation. Building on this decomposition, we derive closed-form upper bounds on the per-step and cumulative errors, providing a principled basis for jointly optimizing generation quality and inference efficiency. Guided by this analysis, we propose TriTD, a Tri-Partite Trajectory-Distribution co-optimized distillation framework with three complementary modules. First, for ODE initialization, we adopt a Next-Node Trajectory Distillation (NTD) objective, which shortens the supervision horizon and admits a lower regression-error floor. Second, we introduce Chunk-Graded Noising (CGN), a monotonically non-decreasing per-chunk noising schedule that helps narrow the expected train-inference noise mismatch and removes redundant KV-cache updates, yielding substantial speedups at no quality cost. Third, we propose Orthogonal-Parallel DMD (OP-DMD), a distribution-matching loss that retains the original DMD supervision while introducing an additional regression constraint in the orthogonal subspace to suppress off-axis drift, improving both training stability and final generation quality. Extensive experiments show that TriTD consistently surpasses existing baselines in visual quality while reaching a real-time throughput of 26.8 FPS on a single H100 GPU, delivering a balanced quality-efficiency solution for interactive streaming video generation.
- Abstract(参考訳): 自己回帰的(AR)ビデオ拡散は、効率的なビデオ生成の先駆的パラダイムとして浮上しているが、その実践的展開は、生成品質と推論効率のトレードオフによってボトルネックになっている。
我々は,このボトルネックをARロールアウトにおける3つのエラー源として,ベースモデルエラー,トレイン-推論分布ミスマッチ,上流エラー伝搬を挙げる。
この分解に基づいて、ステップ毎および累積誤差の閉形式上界を導出し、生成品質と推論効率を協調的に最適化するための基本となる。
本稿では,3つの相補モジュールを用いた三成分トラジェクトリ・ディストリビューション共最適化蒸留フレームワークTriTDを提案する。
まず、ODE初期化のために、Next-Node Trajectory Distillation (NTD) の目的を採用し、監督の地平線を短くし、低い回帰エラーフロアを許容する。
第二に、Chunk-Graded Noising (CGN)を導入し、単調に非減少するチャンクノイズ発生スケジュールを導入し、予測される列車干渉ノイズのミスマッチを狭め、冗長なKV-cache更新を除去し、実質的なスピードアップを品質なコストで達成する。
第三にOrthogonal-Parallel DMD(OP-DMD)を提案する。この分散マッチング損失は、元のDMDの監督を維持しつつ、オフ軸ドリフトを抑制するために直交部分空間に追加の回帰制約を導入し、トレーニング安定性と最終生成品質を改善している。
大規模な実験によると、TriTDは1つのH100 GPU上で26.8FPSのリアルタイムスループットを実現し、インタラクティブなストリーミングビデオ生成のためのバランスのとれた品質効率ソリューションを提供する一方で、視覚的品質の既存のベースラインを一貫して上回っている。
関連論文リスト
- ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation [24.773587278828675]
ViRDMは教師と批評家のいないポストトレーニングのレシピである。
3ネットワーク蒸留を発電機のみのポストトレーニングに変換する。
ジェネレータの更新はわずか20回で、公式のVBench評価では84.87回に達した。
論文 参考訳(メタデータ) (2026-09-24T02:07:07Z) - Diff-Instruct with Diffused Reward: Towards Principled One-step Generator RL [16.321536102397733]
ワンステップのテキスト・ツー・イメージ生成により、顕著な効率と品質でリアルタイムな合成が可能になった。
画像空間報酬最適化と拡散雑音空間分布マッチングを組み合わせた1ステップジェネレータの事前強化学習法について検討した。
KL最小化から導かれるデータフリーな軌道レベルのアライメントフレームワークであるDiff-Instruct with Diffused Reward (DIDR)を提案する。
論文 参考訳(メタデータ) (2026-05-18T21:26:33Z) - Stream-R1: Reliability-Perplexity Aware Reward Distillation for Streaming Video Generation [52.10062792673558]
自動ストリーミングビデオ拡散モデルを実用化するために、蒸留ベースの加速が基礎となっている。
既存の方法は、すべてのロールアウト、フレーム、ピクセルを同様に信頼できる監視として扱う。
本稿では,信頼性に配慮したリワード蒸留フレームワークStream-R1を提案する。
論文 参考訳(メタデータ) (2026-05-05T15:15:30Z) - Salt: Self-Consistent Distribution Matching with Cache-Aware Training for Fast Video Generation [27.698320788533405]
軌道式整合蒸留(DMD)は、鋭いモード探索サンプルを回収することができるが、その局所的な訓練信号は、時間経過で更新がどのように構成されるかを明確に定めていない。
本稿では,連続的なデノナイジング更新の終端一致合成を明示的に規則化する自己持続分布マッチング蒸留(SC-DMD)を提案する。
論文 参考訳(メタデータ) (2026-04-03T15:43:21Z) - Deep Doubly Debiased Longitudinal Effect Estimation with ICE G-Computation [13.1234934131475]
シーケンシャルな意思決定には縦断的治療効果の推定が不可欠であるが, 共同ファウンダーのフィードバックにより困難である。
D3-Netは,ICEトレーニングにおける誤りの伝播を軽減し,堅牢な最終補正を行うフレームワークである。
我々のモデルであるD3-Netは、異なる地平線、反事実、時間的差異の偏りと分散を頑健に低減します。
論文 参考訳(メタデータ) (2026-02-12T20:16:27Z) - Adversarial Distribution Matching for Diffusion Distillation Towards Efficient Image and Video Synthesis [65.77083310980896]
本稿では, 実測値と偽測値の間に潜時予測を整列させる適応分布マッチング (ADM) を提案する。
提案手法は,DMD2と比較してSDXLの1ステップ性能に優れ,GPU時間が少ない。
SD3-Medium, SD3.5-Large, CogVideoX に多段階の ADM 蒸留を適用した実験では, 画像と映像の効率的な合成に向けた新しいベンチマークが設定された。
論文 参考訳(メタデータ) (2025-07-24T16:45:05Z) - Self Forcing: Bridging the Train-Test Gap in Autoregressive Video Diffusion [67.94300151774085]
本稿では,自己回帰ビデオ拡散モデルのための新しい訓練パラダイムであるSelf Forcingを紹介する。
露光バイアスの長年の問題に対処し、地道的な文脈で訓練されたモデルは、自身の不完全な出力で条件付けられたシーケンスを生成する必要がある。
論文 参考訳(メタデータ) (2025-06-09T17:59:55Z) - Acc3D: Accelerating Single Image to 3D Diffusion Models via Edge Consistency Guided Score Distillation [49.202383675543466]
本稿では,単一画像から3次元モデルを生成する拡散過程の高速化に取り組むために,Acc3Dを提案する。
数段階の推論によって高品質な再構成を導出するため,ランダムノイズ状態におけるスコア関数の学習を規則化する上で重要な課題を強調した。
論文 参考訳(メタデータ) (2025-03-20T09:18:10Z) - Rethinking Video Tokenization: A Conditioned Diffusion-based Approach [58.164354605550194]
新しいトークン化ツールであるDiffusion Conditioned-based Gene Tokenizerは、GANベースのデコーダを条件付き拡散モデルで置き換える。
再建に基本的MSE拡散損失とKL項,LPIPSを併用した訓練を行った。
CDTのスケールダウン版(3$times inference speedup)でさえ、トップベースラインと互換性がある。
論文 参考訳(メタデータ) (2025-03-05T17:59:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。