論文の概要: Disen-Forcing: Disentangling Semantic Anchoring from Motion for Autoregressive Video Diffusion
- arxiv url: http://arxiv.org/abs/2611.02822v1
- Date: Mon, 02 Nov 2026 09:22:39 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:26:40.777207
- Title: Disen-Forcing: Disentangling Semantic Anchoring from Motion for Autoregressive Video Diffusion
- Title(参考訳): Disen-Forcing:自己回帰的ビデオ拡散のための運動からのセマンティックアンカリングの遠ざかる
- Abstract要約: 我々は、初期フレームがAR-VDMの長距離一貫性を安定させるメカニズムは、LLMスタイルの注目シンクではないと論じる。
本研究では,AR-VDM用蒸留時間プラグインであるDisen-Forcingを提案する。
- 参考スコア(独自算出の注目度): 34.930990132507866
- License:
- Abstract: Autoregressive video diffusion models (AR-VDMs) enable real-time, long-horizon video generation but degrade rapidly once the inference horizon outruns the training horizon, due to compounding exposure bias. To stabilize long rollouts, recent methods heuristically adopt frame sink, keeping initial frames as a persistent model context, inspired by attention sinks in LLMs. We revisit this design and find that the mechanism by which initial frames stabilize long-range consistency in AR-VDMs is not an LLM-style attention sink; instead, long-range consistency is anchored through a sparse subset of attention heads, while the majority of heads predominantly capture local temporal dynamics. This observation reveals an over-conditioning pathology in existing frame-sink strategies: by universally exposing every head to the pinned initial-frame context, the model becomes prone to collapsing motion toward the low-dynamic modes of the teacher during model distillation. We propose Disen-Forcing, a distillation-time plug-in for AR-VDMs that disentangles and reinforces this head specialization through disentangled context routing and motion-disentangling regularization. On long-horizon video generation benchmarks, Disen-Forcing simultaneously improves long-range consistency and motion dynamics of base AR-VDMs, a trade-off that sink-based methods fail to balance.
- Abstract(参考訳): 自己回帰ビデオ拡散モデル(AR-VDM)は、リアルタイムな長水平ビデオ生成を可能にするが、複雑な露出バイアスのため、推論の地平線がトレーニング地平線を超えると急速に劣化する。
長時間のロールアウトを安定させるために、最近の手法ではフレームシンクをヒューリスティックに採用し、初期フレームをLLMの注意シンクにインスパイアされた永続的なモデルコンテキストとして保持している。
我々はこの設計を再考し、初期フレームがAR-VDMの長距離一貫性を安定化させるメカニズムはLLMスタイルの注意シンクではなく、より小さな注意ヘッドのサブセットを介して長距離一貫性を固定する。
本研究は, すべての頭部をピン付き初期フレームコンテキストに普遍的に露出させることで, モデル蒸留時の教師の低ダイナミックモードに対する動きが崩壊する傾向にあることを示す。
本研究では,AR-VDM用蒸留時間プラグインであるDisen-Forcingを提案する。
長距離ビデオ生成ベンチマークでは、Disen-ForcingはベースAR-VDMの長距離一貫性とモーションダイナミクスを同時に改善する。
関連論文リスト
- COMET: Contrastive Motion-Enhanced Temporal Reasoning for Video Multimodal Large Language Models [15.39037309359101]
ビデオ多モーダル大言語モデルは大幅に進歩しているが、微粒な動き・時間的理解は脆弱である。
本稿では,ビデオMLLMを明示的な時間的表現によって体系的に強化する,時間的基盤のフレームワークであるCOMETを提案する。
最適化のために、COMETは時間的事前蒸留と時間的順序を直接学習信号に変換する前方逆TC-GRPOステージを組み合わせる。
論文 参考訳(メタデータ) (2026-08-21T12:28:36Z) - Steady-Forcing: Balancing Spatial Persistence and Motion Continuity in Long-Horizon Nature Video Diffusion [1.1666234644810893]
自動回帰ビデオ拡散モデルはストリーミング生成を可能にするが、長時間のロールアウトでは劣化することが多い。
本研究では,この安定移動トレードオフを,固定カメラによる長距離自然映像生成において検討する。
本稿では,永続的視覚アンカー(V-Sink),指数的移動平均運動メモリ(EMA-Sink),ブロック相対時間符号化,周期的キャッシュの浄化,Wan2.1-14B教師の蒸留を組み合わせたメモリ・トレーニングフレームワークであるSteady-Forcingを提案する。
論文 参考訳(メタデータ) (2026-06-02T07:11:50Z) - Natural Human Motion Recovery by Aligning High-Order Temporal Dynamics from Monocular Videos [65.51845732149306]
本稿では,HTD-Refineについて紹介する。HTD-Refineは人体運動回復(HMR)パイプラインを高次時間ダイナミクスを用いて拡張する後処理フレームワークである。
システムの中心となるPVA-Netは,モノクロ映像から直接接合部2次元位置,3次元速度,3次元加速度を推定する時間変換器である。
論文 参考訳(メタデータ) (2026-05-26T11:38:36Z) - SoLAR: Error-Resilient Streamable Long-Horizon Free-Viewpoint Video Reconstruction with Anchor Activation and Latent Recalibration [57.159190580279585]
ビット割り当て理論により、速度歪み最適化フレームワーク内で動的アンカーベースのボリュームビデオ表現を解析する。
我々は,長いシーケンスの復元品質を安定的に維持する,エラー回復性の最初のFVVフレームワークである textbfSoLAR を提案する。
論文 参考訳(メタデータ) (2026-05-08T06:48:59Z) - Can Video Diffusion Models Predict Past Frames? Bidirectional Cycle Consistency for Reversible Interpolation [25.677744104220853]
ビデオフレームは、特定の動作セマンティクスに固執しながら、所定のエンドポイント間で現実的な中間フレームを合成することを目的としている。
本稿では,前向きと後向きの軌跡の対称性を強制する新しい双方向フレームワークを提案する。
本手法は,37フレームと73フレームの両方のタスクにおいて,画像品質,運動の滑らかさ,動的制御における最先端性能を実現する。
論文 参考訳(メタデータ) (2026-04-02T06:58:46Z) - DCARL: A Divide-and-Conquer Framework for Autoregressive Long-Trajectory Video Generation [10.575655795360937]
DCARLは、分割・変換方式の構造安定性と高忠実度VDMの生成を結合した、新規な分割・変換型自己回帰フレームワークである。
提案手法は,最先端の自己回帰的・分割型ベースラインと比較して,視覚的品質とカメラの密着性の両方において優れた性能を実現する。
論文 参考訳(メタデータ) (2026-03-25T22:07:09Z) - Relax Forcing: Relaxed KV-Memory for Consistent Long Video Generation [73.84423888025171]
オートレグレッシブ(AR)ビデオ拡散は,近年,長大なビデオ生成において有望なパラダイムとして浮上している。
時間的劣化が進行しているため, 生成から微小スケールの地平線への延長は依然として困難であることを示す。
本稿では,AR拡散のための時間記憶機構であるRelax Forcingを紹介する。
論文 参考訳(メタデータ) (2026-03-22T18:59:24Z) - LoL: Longer than Longer, Scaling Video Generation to Hour [50.945885467651216]
この研究は、品質劣化の少ないリアルタイム、ストリーミング、無限長のビデオ生成の最初のデモンストレーションを実現する。
実例として、最大12時間までの連続ビデオを生成し、私たちの知る限り、ストリーミングビデオ生成において最も長く実証された結果の1つである。
論文 参考訳(メタデータ) (2026-01-23T17:21:35Z) - Real-Time Motion-Controllable Autoregressive Video Diffusion [79.32730467857535]
本稿では,AR-Dragを提案する。このAR-Dragは,多様なモーション制御を備えたリアルタイム画像・ビデオ生成のための,RLで拡張された最初の数ステップのARビデオ拡散モデルである。
まず,基本動作制御をサポートするためのベースI2Vモデルを微調整し,さらに軌道ベース報酬モデルによる強化により改良する。
本設計では、自己学習機構を通じてマルコフ特性を保存し、ステップを選択的に分解することで訓練を加速する。
論文 参考訳(メタデータ) (2025-10-09T12:17:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。