論文の概要: Uncertainty-Aware Consistency Distillation for Few-Step Video Generation
- arxiv url: http://arxiv.org/abs/2609.39132v1
- Date: Wed, 30 Sep 2026 07:03:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.305283
- Title: Uncertainty-Aware Consistency Distillation for Few-Step Video Generation
- Title(参考訳): 数ステップビデオ生成における不確かさを考慮した不確かさの良さ
- Abstract要約: 我々は,数段階のビデオ生成,すなわち多段階のビデオ生成装置を数段階の学生に蒸留することを研究する。
一貫性は一般的なレシピであり、複数ステップの教師が数ステップの生徒に一貫性の目標を提供する。
監視の信頼性は,内容の局所的な難しさに追従する。
- 参考スコア(独自算出の注目度): 25.677744104220853
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study few-step video generation, i.e., distilling a multi-step video generator, which typically requires tens of sampling steps, incurring substantial latency and compute, into a few-step student. Consistency distillation is a common recipe, in which a multi-step teacher provides the consistency targets for a few-step student. However, these teacher-guided targets are not equally trustworthy, and the content is harder to learn where it varies rapidly over time, e.g., moving foliage shadows or flowing water. We observe that supervision reliability follows the local difficulty of the content rather than semantic complexity: regions that change little yield consistent endpoint predictions, whereas regions with large temporal variation produce larger discrepancies that coincide with the largest perceptual errors. Motivated by this observation, we propose Uncertainty-Aware Consistency Distillation (UACD), which reweights consistency supervision at each spatiotemporal region using a local, parameter-free uncertainty estimate. Specifically, we construct two independently perturbed teacher-guided consistency paths, whose student endpoint predictions provide a consensus target; the discrepancy between the student's direct prediction and this target is the uncertainty proxy. We then relax the consistency penalty on high-uncertainty regions through an exponential weight, while keeping the full penalty elsewhere, since the student cannot be expected to match targets that are hard to learn. To preserve perceptual quality under aggressive step reduction, we integrate feature-space adversarial training with semantic alignment. With parameter-efficient LoRA adaptation of the 50-step Wan model, our method achieves state-of-the-art 4-step generation on VBench 2.0 (0.556 mean score) and is preferred over competing methods in a user study.
- Abstract(参考訳): 数段ビデオ生成,すなわち,何段かのサンプリングステップを必要とする多段ビデオ生成装置を,かなりのレイテンシと計算時間を要する数段ビデオ生成装置を,数段の学生に蒸留する。
一貫性の蒸留は一般的なレシピであり、多段階の教師が数段階の生徒に一貫性の目標を提供する。
しかし、これらの教師が指導するターゲットは等しく信頼できないため、時間とともに急速に変化する場所、例えば葉の影や水の流れなどを学ぶことは困難である。
一方、時間的変化が大きい領域は、最大の知覚的誤りと一致する大きな相違を生じさせる。
本研究の目的は, 局所的パラメータフリーな不確実性推定値を用いて, 各時空間における整合性管理を再重み付けする不確実性意識持続蒸留(UACD)を提案することである。
具体的には、学生のエンドポイント予測がコンセンサスターゲットを提供する教師誘導型一貫性パスを2つ構築し、学生の直接予測とこのターゲットとの相違が不確実性プロキシであることを示す。
そして,高不確実性領域の一貫性のペナルティを指数的な重みで緩和すると同時に,学習が難しいターゲットにマッチすることが期待できないため,全ペナルティを他の場所で保持する。
積極的段階減少下での知覚品質を維持するために,特徴空間の対角訓練と意味的アライメントを統合した。
VBench 2.0(0.556平均スコア)上では,パラメータ効率のよいLoRAモデルを用いて,最先端の4段階生成を実現し,ユーザスタディにおいて競合する手法よりも好まれる。
関連論文リスト
- TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。
しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。
凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。
MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
論文 参考訳(メタデータ) (2026-08-18T23:40:28Z) - BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。
Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
論文 参考訳(メタデータ) (2026-08-09T15:32:16Z) - Beyond Trajectory Matching: Reflow with Marginal Distribution Alignment [7.13416637929041]
拡散および連続フロー生成モデルは高品質な生成を実現する。
リフローに基づく蒸留は、教師のODE軌道を単純化し、生徒モデルが教師の移動を少ないステップで近似できるようにする。
本稿では,各蒸留間隔の終点において,学生が引き起こした限界値とそれに対応する教師の限界値との差分をペナライズする境界アライメント正規化器を提案する。
論文 参考訳(メタデータ) (2026-06-28T09:19:44Z) - Does "Do Differentiable Simulators Give Better Policy Gradients?'' Give Better Policy Gradients? [25.53040167917892]
不連続力学はバイアスを引き起こし、1階推定器の有効性を損なう。
非滑らかな領域で推定器を切り替える軽量なテストであるDDCGを導入する。
また,各ステップ毎の逆分散実装であるIVW-Hについて,明示的な不連続検出を伴わずに分散を安定化する。
論文 参考訳(メタデータ) (2026-04-20T12:23:48Z) - How Is Uncertainty Propagated in Knowledge Distillation? [7.132728938560163]
3つの代表的なモデルクラスにわたる知識蒸留を通して不確実性がいかに伝播するかを示す。
複数の教師の回答を平均化する分散対応戦略と,教師と学生の見積を組み合わせた分散重み付けという2つの戦略を導入する。
これらの結果から,教師の不確実性を反映した分散型蒸留により,より安定した学生が生まれることが示唆された。
論文 参考訳(メタデータ) (2026-01-26T19:18:50Z) - Stable On-Policy Distillation through Adaptive Target Reformulation [7.361248172930405]
ベト (Veto) は、ロジット空間に幾何学的ブリッジを構築する客観的なレベルの再構成である。
ベトは監督された微調整と既存の政治のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-01-12T02:57:39Z) - Uncertainty-boosted Robust Video Activity Anticipation [72.14155465769201]
ビデオアクティビティの予測は、ロボットビジョンから自動運転まで幅広い応用可能性を受け入れることで、将来何が起こるかを予測することを目的としている。
近年の進展にもかかわらず、コンテンツ進化過程やイベントラベルの動的相関として反映されたデータ不確実性問題は、何らかの形で無視されている。
本研究では,予測結果の信頼性を示す不確実な値を生成する,不確実性を考慮した頑健なビデオアクティビティ予測フレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-29T12:31:38Z) - MDFlow: Unsupervised Optical Flow Learning by Reliable Mutual Knowledge
Distillation [12.249680550252327]
現在のアプローチでは、継続的な自己スーパービジョンの強化正則化項が課せられている。
本稿では,教師と学生のネットワーク間で信頼ある知識を相互に伝達する新たな相互蒸留フレームワークを提案する。
我々のアプローチはMDFlowと呼ばれ、挑戦的なベンチマーク上で最先端のリアルタイム精度と一般化能力を実現する。
論文 参考訳(メタデータ) (2022-11-11T05:56:46Z) - Adversarial Robustness under Long-Tailed Distribution [93.50792075460336]
敵対的ロバスト性はディープネットワークの脆弱性と本質的特徴を明らかにすることで近年広く研究されている。
本研究では,長尾分布下における敵対的脆弱性と防御について検討する。
我々は、スケール不変とデータ再分散という2つの専用モジュールからなるクリーンで効果的なフレームワークであるRoBalを提案する。
論文 参考訳(メタデータ) (2021-04-06T17:53:08Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳(メタデータ) (2020-10-08T02:10:54Z) - Off-policy Evaluation in Infinite-Horizon Reinforcement Learning with
Latent Confounders [62.54431888432302]
無限水平エルゴードマルコフ決定過程におけるOPE問題について考察する。
我々は、状態と行動の潜在変数モデルのみを考慮すれば、政策値が政治外のデータから特定できることを示す。
論文 参考訳(メタデータ) (2020-07-27T22:19:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。