論文の概要: HPSD: Hybrid-Policy Self-Distillation for Text-Image-to-Video Diffusion Models
- arxiv url: http://arxiv.org/abs/2608.13205v1
- Date: Thu, 13 Aug 2026 13:08:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.533979
- Title: HPSD: Hybrid-Policy Self-Distillation for Text-Image-to-Video Diffusion Models
- Title(参考訳): HPSD:テキスト・画像・ビデオ拡散モデルのためのハイブリッド・ポリシィ自己蒸留
- Abstract要約: テキスト・イメージ・トゥ・ビデオ(TI2V)モデルは、テキスト・トゥ・ビデオ(T2V)と画像・トゥ・ビデオ(I2V)の生成を同時にサポートする新しい統一アーキテクチャである。
特権条件によって引き起こされる能力は、モデル自身のベースジェネレーション能力に内部化できますか?
本稿では,教師と学生の両方に単一のTI2Vモデルが作用する新しい自己蒸留フレームワークであるHybrid-Policy Self-Distillation (HPSD)を提案する。
- 参考スコア(独自算出の注目度): 75.5006119773992
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text-Image-to-Video (TI2V) models are an emerging unified architecture, where a single model simultaneously supports text-to-video (T2V) and image-to-video (I2V) generation. Given a high-quality first frame or a detailed textual prompt, TI2V models unlock substantially better visual quality than their T2V mode, raising a natural question: can the capability elicited by such privileged conditions be internalized into the model's own base generation ability? A common approach toward this goal is model self-distillation. However, the most straightforward solution, supervised fine-tuning, follows an off-policy strategy: its supervision is confined to teacher-generated endpoints from a fixed offline distribution rather than student-visited states, lacking precise correction tailored to the evolving policy. Recent on-policy distillation methods instead suffer from condition-state mismatch, where supervision is steered toward the given first frame instead of the student's actual content, misleading the correction. To achieve self-distillation that absorbs the teacher's privileged prior while retaining precise policy correction, in this work, we propose Hybrid-Policy Self-Distillation (HPSD), a novel self-distillation framework where a single TI2V model acts as both teacher and student under different conditions: the teacher operates in TI2V mode with a high-quality first frame and an enhanced prompt, while the student runs in the base T2V mode with only the vanilla prompt. Specifically, the student inherits off-policy teacher trajectory points as anchors, locally refines them toward its own policy, and finally receives velocity-level supervision on these self-generated roll-outs. Extensive experiments demonstrate that HPSD significantly improves T2V performance while also delivering notable TI2V gains, effectively strengthening the model's base generation ability.
- Abstract(参考訳): テキスト・イメージ・トゥ・ビデオ(TI2V)モデルは、テキスト・トゥ・ビデオ(T2V)と画像・トゥ・ビデオ(I2V)の生成を同時にサポートする新しい統一アーキテクチャである。
高品質な第1フレームや詳細なテキストプロンプトがあれば、TI2VモデルはT2Vモードよりも視覚的品質が大幅に向上する。
この目標に対する一般的なアプローチは、自己蒸留のモデルである。
しかし、最も単純な解決策は、教師による微調整であり、その監督は、学生が訪問する状態ではなく、固定されたオフライン分布から教師が生成したエンドポイントに限られており、進化する政策に合わせた正確な修正が欠如している。
近年のオンライン蒸留法は、学生の実際の内容ではなく、与えられた第1フレームに対して監督が執り行われる状態のミスマッチに悩まされている。
本研究は,教師の厳密な政策修正を維持しつつ,教師の特権を吸収する自己蒸留を実現するために,教師が高品質な第1フレームと強化プロンプトでTI2Vモードで動作し,生徒はベースT2Vモードでバニラプロンプトのみを実行しながら,単一のTI2Vモデルが教師と生徒の両方に作用する新しい自己蒸留フレームワークであるHybrid-Policy Self-Distillation (HPSD)を提案する。
具体的には、学校外の教師の軌跡をアンカーとして受け継ぎ、地元で独自の方針に磨き上げ、最終的にこれらの自己生成ロールアウトのベロシティレベルの監督を受ける。
大規模な実験により、HPSDはT2Vの性能を著しく向上し、TI2Vの優れたゲインを提供し、モデルの基本生成能力を効果的に強化することを示した。
関連論文リスト
- DanceOPD: On-Policy Generative Field Distillation [62.31008793798276]
本研究では,フローマッチングモデルのためのオンライン生成フィールド蒸留フレームワークであるDanceOPDを紹介する。
各サンプルを1つの機能フィールドにルーティングし、1つの低雑音の学生が引き起こした状態をクエリし、単純な速度MSE目的のトレーニングを行う。
T2I, 編集, リアリズム-フィールド吸収, CFG吸収に関する総合的な実験により, 提案手法は多機能化を図っている。
論文 参考訳(メタデータ) (2026-06-25T17:59:58Z) - D-OPSD: On-Policy Self-Distillation for Continuously Tuning Step-Distilled Diffusion Models [27.90064267850009]
ステップ蒸留拡散モデルのための新しい訓練パラダイムであるD-OPSDを提案する。
D-OPSDにより、モデルは元の数ステップのキャパシティを犠牲にすることなく、新しい概念、スタイルなどを学ぶことができる。
論文 参考訳(メタデータ) (2026-05-06T17:59:34Z) - Few-Step Distillation for Text-to-Image Generation: A Practical Guide [60.99392100471019]
拡散蒸留はクラス条件画像合成を劇的に加速させたが、T2I生成への適用性はまだ不明である。
本稿では,T2I 教師モデル FLUX.1-lite を用いて,最先端の蒸留技術を適用し,比較する最初の体系的研究について述べる。
論文 参考訳(メタデータ) (2025-12-15T05:58:36Z) - VOLD: Reasoning Transfer from LLMs to Vision-Language Models via On-Policy Distillation [67.98620973023709]
VOLDは、テキストのみの教師モデルからVLMの学生モデルに推論機能を移行するためのフレームワークである。
VOLDはベースラインモデルよりも大幅に優れ,最先端技術よりもマージンが向上していることを示す。
論文 参考訳(メタデータ) (2025-10-27T16:32:12Z) - V.I.P. : Iterative Online Preference Distillation for Efficient Video Diffusion Models [14.301804388786469]
本稿では, DPO と SFT を統合した有効蒸留法 ReDPO を提案する。
提案手法はDPOを利用して,教師を受動的に模倣するのではなく,対象物のみを回収することに集中するよう学生モデルに誘導する。
さらに、高品質なペアデータセットのフィルタリングとキュレーションのための新しいフレームワークであるV.I.P.と、校正トレーニングのためのステップバイステップオンラインアプローチを提案する。
論文 参考訳(メタデータ) (2025-08-05T09:31:54Z) - PhyT2V: LLM-Guided Iterative Self-Refinement for Physics-Grounded Text-to-Video Generation [4.98706730396778]
我々は、現在のT2Vモデルによるビデオ生成能力をアウト・オブ・ディストリビューション領域に拡張する、データに依存しない新しいT2V技術であるPhyT2Vを提案する。
実験の結果,PhyT2Vは既存のT2Vモデルと実世界の物理規則との適合性を2.3倍改善し,T2Vプロンプトエンハンサーに比べて35%改善した。
論文 参考訳(メタデータ) (2024-11-30T22:02:12Z) - T2V-Turbo-v2: Enhancing Video Generation Model Post-Training through Data, Reward, and Conditional Guidance Design [84.03286690283747]
提案手法であるT2V-Turbo-v2は、様々な監視信号を統合することにより、大幅な進歩をもたらす。
特定の学習目標に対するデータセットの調整の重要性を強調した。
トレーニングデータセットから動作ガイダンスを抽出し,ODEソルバに組み込むことにより,このアプローチの可能性を示す。
論文 参考訳(メタデータ) (2024-10-08T04:30:06Z) - MiniLM: Deep Self-Attention Distillation for Task-Agnostic Compression
of Pre-Trained Transformers [117.67424061746247]
本稿では,大規模トランスフォーマーをベースとした事前学習モデルの簡易かつ効率的な圧縮手法を提案する。
本稿では,教師の最後のトランスフォーマー層の自己保持モジュールを蒸留することを提案する。
実験結果から, 単言語モデルでは, 学生モデルのパラメータサイズの違いにより, 最先端のベースラインよりも優れた結果が得られた。
論文 参考訳(メタデータ) (2020-02-25T15:21:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。