論文の概要: Enhancing Autoregressive Video Generation via Representation Adversarial Distillation
- arxiv url: http://arxiv.org/abs/2609.40037v1
- Date: Wed, 30 Sep 2026 16:09:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.027191
- Title: Enhancing Autoregressive Video Generation via Representation Adversarial Distillation
- Title(参考訳): Representation Adversarial Distillation による自己回帰ビデオ生成の促進
- Abstract要約: 本稿では, DMD を実データで補完する表現空間逆蒸留フレームワーク Radian を紹介する。
トレーニング中、Radianは自己回帰的な学生ロールアウトからフレームを疎結合にデコードし、マルチレベルな視覚表現を抽出し、軽量な識別器ヘッドを適用した。
Wan2.1-1.3Bの実験は、4段階のチャンクワイド、1段階のフレームワイド、1分間の自己回帰生成をカバーしている。
- 参考スコア(独自算出の注目度): 26.854311556030655
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-step autoregressive video generation enables efficient streaming synthesis, but errors introduced in early temporal blocks are reused as context and can propagate through subsequent rollouts, leading to detail degradation, structural drift, and unstable motion. Existing distribution matching distillation (DMD) primarily aligns student and teacher distributions in diffusion latent space, but provides no direct supervision over the perceptual quality of decoded videos. We introduce Radian, a representation-space adversarial distillation framework that complements on-policy DMD with real-data adversarial supervision in the feature space defined by a frozen visual foundation model (VFM). During training, Radian sparsely decodes frames from autoregressive student rollouts, extracts multi-level visual representations, and applies lightweight discriminator heads to distinguish generated outputs from real video frames. The DMD objective anchors the student to the pretrained teacher, while the representation-space adversarial objective supplies complementary perceptual and semantic gradients that promote high-quality modes. These additional components are discarded after training, leaving the generator architecture and inference-time denoising budget unchanged. Experiments on Wan2.1-1.3B cover four-step chunk-wise, one-step frame-wise, and minute-long autoregressive generation. Our method achieves a VBench Total of 0.8444 and a VideoAlign Total of 0.8033 under four-step generation, and improves VBench-Long from 0.7805 to 0.8041 over Rolling Forcing while using fewer denoising steps. Controlled comparisons across image, video, and diffusion representations further indicate that the choice of representation spaces induces distinct adversarial signals, and external VFM gradients complement DMD more effectively than adversarial supervision derived from diffusion-internal features.
- Abstract(参考訳): 数ステップの自己回帰ビデオ生成は効率的なストリーミング合成を可能にするが、初期時間ブロックで発生するエラーはコンテキストとして再利用され、その後のロールアウトを通じて伝播し、詳細劣化、構造的ドリフト、不安定な動きをもたらす。
既存の分散マッチング蒸留(DMD)は、主に拡散遅延空間における生徒と教師の分布を調整するが、復号化ビデオの知覚的品質を直接監督するものではない。
我々は,凍結視覚基盤モデル(VFM)で定義された特徴空間において,実データでDMDを補完する表現空間逆蒸留フレームワークであるRadianを紹介する。
トレーニング中、Radianは、自己回帰的な学生のロールアウトからフレームを疎にデコードし、マルチレベルな視覚表現を抽出し、軽量な判別器ヘッドを適用して、実際のビデオフレームから生成された出力を区別する。
DMDの目的は、事前訓練された教師に学生を固定し、表現空間の敵対的目的は、高品質なモードを促進する補完的な知覚的および意味的な勾配を提供する。
これらの追加コンポーネントは、トレーニング後に破棄され、ジェネレータアーキテクチャと推論時のデノベーション予算は変わらない。
Wan2.1-1.3Bの実験は、4段階のチャンクワイド、1段階のフレームワイド、1分間の自己回帰生成をカバーしている。
VBench-Long は転がり力よりも 0.7805 から 0.8041 に向上し, より少ないデノイングステップを用いて, VBench トータル 0.8444 と VideoAlign Total 0.8033 が得られる。
画像, ビデオ, 拡散表現の相互比較により, 表現空間の選択は異なる対角信号を誘導し, 外部のVFM勾配は拡散-内部特徴から導かれる対角的監督よりも効率的にMDDを補完することが示された。
関連論文リスト
- Where and When to Force: Routed Forcing for Streaming Avatars [77.2784423144136]
Self Forcingは双方向ビデオ拡散モデルを、リアルタイムストリーミングのための因果的、数ステップのジェネレータに蒸留する。
本研究では, 蒸留目標をセマンティック領域とノイズステージにルートするルータ強制法を提案する。
実験によると、Routed Forcingは動的に最大45%改善し、多様性は7~25%向上している。
論文 参考訳(メタデータ) (2026-09-25T08:15:11Z) - ViRDM: Taming Representation Distribution Matching for Few-Step Causal Video Generation [24.773587278828675]
ViRDMは教師と批評家のいないポストトレーニングのレシピである。
3ネットワーク蒸留を発電機のみのポストトレーニングに変換する。
ジェネレータの更新はわずか20回で、公式のVBench評価では84.87回に達した。
論文 参考訳(メタデータ) (2026-09-24T02:07:07Z) - Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout [28.90854720290184]
DMD(Distribution Matching Distillation)を通して、訓練済み双方向ビデオ拡散モデルから因果AR学生を抽出する最近の方法
生成されたビデオは、しばしば過飽和と過スムースな問題に悩まされ、視覚的品質とリアリズムが制限される。
本研究では,モード崩壊を緩和するために,AR学生の自己ロールアウトを妨害するデュアルノイズマスキング・ロールアウト戦略であるマスクフォーシングを提案する。
論文 参考訳(メタデータ) (2026-09-08T17:50:05Z) - Generative Video Compression with Adaptive Score Distillation [27.528262844772993]
我々は、圧縮のためにスクラッチからトレーニングされたビデオ拡散モデルに基づいて構築されたジェネラティブビデオコーデック(GenVC)を紹介する。
実験結果から,GenVCは超低FIDで最先端の知覚品質を実現することが示された。
論文 参考訳(メタデータ) (2026-07-24T05:28:30Z) - Causal-rCM: A Unified Teacher-Forcing and Self-Forcing Open Recipe for Autoregressive Diffusion Distillation in Streaming Video Generation and Interactive World Models [49.369312232769154]
本稿では,拡散蒸留と因果訓練のための,先進的で統一的でスケーラブルなアルゴリズム非構造オープンレシピであるCausal-rCMを紹介する。
我々は,学習用合成データのみを用いて,フレームワイドおよびチャンクワイドの両方で最先端のストリーミングビデオ生成性能を実現する。
論文 参考訳(メタデータ) (2026-06-24T06:58:02Z) - Data-Forcing Distillation: Restoring Diversity and Fidelity in Few-Step Video Generation [25.352409052792122]
単行のコード変更だけでMDDの多様性と忠実性を回復する単純なポストトレーニングフレームワークであるData-Forcing Distillation (DFD)を提案する。
我々は,我々のフレームワークの詳細な理論的分析を行い,テキスト・ツー・ビデオ,画像・ツー・ビデオ,自動回帰ビデオ生成に対する我々のアプローチを検証する。
論文 参考訳(メタデータ) (2026-06-16T20:38:30Z) - AAD-1: Asymmetric Adversarial Distillation for One-Step Autoregressive Video Generation [66.55343616132005]
AAD-1は、一段階の自己回帰画像-ビデオ生成のための非対称な対数蒸留フレームワークである。
AAD-1は1ステップの自己回帰ビデオ生成において最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-06-02T17:55:30Z) - Stream-R1: Reliability-Perplexity Aware Reward Distillation for Streaming Video Generation [52.10062792673558]
自動ストリーミングビデオ拡散モデルを実用化するために、蒸留ベースの加速が基礎となっている。
既存の方法は、すべてのロールアウト、フレーム、ピクセルを同様に信頼できる監視として扱う。
本稿では,信頼性に配慮したリワード蒸留フレームワークStream-R1を提案する。
論文 参考訳(メタデータ) (2026-05-05T15:15:30Z) - Temporal-Consistent Video Restoration with Pre-trained Diffusion Models [51.47188802535954]
ビデオ復元(VR)は、劣化したビデオから高品質なビデオを復元することを目的としている。
事前訓練拡散モデル(DM)を用いた最近のゼロショットVR法は,逆拡散時の近似誤差と時間的整合性の欠如に悩まされている。
本稿では,DMのシード空間におけるビデオフレームを直接パラメータ化し,近似誤差を排除した新しいMAP(Posterior Maximum)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-03-19T03:41:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。