論文の概要: STAR: Spatial-Temporal Augmentation with Text-to-Video Models for Real-World Video Super-Resolution

• arxiv url: http://arxiv.org/abs/2501.02976v1
• Date: Mon, 06 Jan 2025 12:36:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:06:58.483023
• Title: STAR: Spatial-Temporal Augmentation with Text-to-Video Models for Real-World Video Super-Resolution
• Title（参考訳）: STAR:リアルタイムビデオスーパーリゾリューションのためのテキスト・ツー・ビデオモデルによる時空間拡張
• Authors: Rui Xie, Yinhong Liu, Penghao Zhou, Chen Zhao, Jun Zhou, Kai Zhang, Zhenyu Zhang, Jian Yang, Zhenheng Yang, Ying Tai,
• Abstract要約: 画像拡散モデルは、GAN法における過平滑化問題に対処するために、実世界のビデオ超解像に適応している。 これらのモデルは静的イメージでトレーニングされるため、時間的一貫性を維持するのに苦労する。 我々は,現実的な空間的詳細と強靭な時間的整合性を達成し,T2Vモデルを現実の超解像に活用する新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 42.859188375578604
• License:
• Abstract: Image diffusion models have been adapted for real-world video super-resolution to tackle over-smoothing issues in GAN-based methods. However, these models struggle to maintain temporal consistency, as they are trained on static images, limiting their ability to capture temporal dynamics effectively. Integrating text-to-video (T2V) models into video super-resolution for improved temporal modeling is straightforward. However, two key challenges remain: artifacts introduced by complex degradations in real-world scenarios, and compromised fidelity due to the strong generative capacity of powerful T2V models (\textit{e.g.}, CogVideoX-5B). To enhance the spatio-temporal quality of restored videos, we introduce\textbf{~\name} (\textbf{S}patial-\textbf{T}emporal \textbf{A}ugmentation with T2V models for \textbf{R}eal-world video super-resolution), a novel approach that leverages T2V models for real-world video super-resolution, achieving realistic spatial details and robust temporal consistency. Specifically, we introduce a Local Information Enhancement Module (LIEM) before the global attention block to enrich local details and mitigate degradation artifacts. Moreover, we propose a Dynamic Frequency (DF) Loss to reinforce fidelity, guiding the model to focus on different frequency components across diffusion steps. Extensive experiments demonstrate\textbf{~\name}~outperforms state-of-the-art methods on both synthetic and real-world datasets.
• Abstract（参考訳）: 画像拡散モデルは、GAN方式のオーバー・スムーシング問題に対処するために、現実世界の超解像に適応している。 しかし、これらのモデルは静的イメージでトレーニングされているため、時間的一貫性を維持するのに苦労し、時間的ダイナミクスを効果的に捉える能力を制限する。 時間的モデリングを改善するために、テキスト・トゥ・ビデオ(T2V)モデルをビデオ超解像に統合することは簡単である。 しかし、現実のシナリオで複雑な分解によって導入されたアーティファクトと、強力なT2Vモデル(\textit{e g }, CogVideoX-5B)の強力な生成能力によって、忠実性が損なわれている。 再生ビデオの時空間的品質を高めるために,現実の空間的細部と強靭な時間的一貫性を実現するために,T2Vモデルを利用したT2Vモデルを導入した新しい手法である\textbf{~\name} (\textbf{S}patial-\textbf{T}emporal \textbf{A}ugmentation for \textbf{R}eal-world video super- resolution)を導入する。 具体的には、グローバルアテンションブロックの前にローカル情報拡張モジュール(LIEM)を導入し、局所的な詳細を充実させ、分解物を緩和する。 さらに,拡散過程の異なる周波数成分に焦点を合わせることによって,忠実度を向上する動的周波数損失(DF損失)を提案する。 Extensive experiment demonstrate\textbf{~\name}~outperforms state-of-the-art method on both synthetic and real-world datasets。

関連論文リスト

• VideoDirector: Precise Video Editing via Text-to-Video Models [45.53826541639349]
  現在のビデオ編集法は、時間的コヒーレンス生成能力を欠くテキスト・ツー・ビデオ(T2V)モデルに依存している。 本稿では、より正確なピボットインバージョンを実現するために、時空間デカップリングガイダンス(STDG)と複数フレームのヌルテキスト最適化戦略を提案する。 実験結果から,本手法はT2Vモデルの強力な時間生成能力を効果的に活用できることが示唆された。
  論文  参考訳（メタデータ） (2024-11-26T16:56:53Z)
• MotionAura: Generating High-Quality and Motion Consistent Videos using Discrete Diffusion [3.7270979204213446]
  ビデオ処理の課題に対処するための4つの重要なコントリビューションを提示する。 まず,3次元逆ベクトル量子化バリエンコエンコオートコーダを紹介する。 次に,テキスト・ビデオ生成フレームワークであるMotionAuraを紹介する。 第3に,スペクトル変換器を用いたデノナイジングネットワークを提案する。 第4に,Sketch Guided Videopaintingのダウンストリームタスクを導入する。
  論文  参考訳（メタデータ） (2024-10-10T07:07:56Z)
• VideoGuide: Improving Video Diffusion Models without Training Through a Teacher's Guide [48.22321420680046]
  VideoGuideは、事前訓練されたテキスト・ツー・ビデオ(T2V)モデルの時間的一貫性を高める新しいフレームワークである。 ガイドモデルの復調標本をサンプリングモデルの復調過程に補間することにより、時間的品質を向上させる。 提案手法は時間的一貫性と画像の忠実度を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-10-06T05:46:17Z)
• E2HQV: High-Quality Video Generation from Event Camera via Theory-Inspired Model-Aided Deep Learning [53.63364311738552]
  バイオインスパイアされたイベントカメラやダイナミックビジョンセンサーは、高時間分解能と高ダイナミックレンジでピクセルごとの明るさ変化(イベントストリームと呼ばれる)を捉えることができる。 イベントストリームを入力として取り出し、直感的な視覚化のために高品質なビデオフレームを生成する、イベント間ビデオ(E2V)ソリューションを求めている。 イベントから高品質なビデオフレームを生成するために設計された新しいE2VパラダイムであるtextbfE2HQVを提案する。
  論文  参考訳（メタデータ） (2024-01-16T05:10:50Z)
• Upscale-A-Video: Temporal-Consistent Diffusion Model for Real-World Video Super-Resolution [65.91317390645163]
  Upscale-A-Videoは、ビデオアップスケーリングのためのテキストガイド付き遅延拡散フレームワークである。 ローカルでは、一時的なレイヤをU-NetとVAE-Decoderに統合し、短いシーケンス内で一貫性を維持する。 また、テキストプロンプトによってテクスチャ生成と調整可能なノイズレベルをガイドし、復元と生成のバランスを取ることで、柔軟性も向上する。
  論文  参考訳（メタデータ） (2023-12-11T18:54:52Z)
• Hierarchical Spatio-temporal Decoupling for Text-to-Video Generation [49.298187741014345]
  テクスト・ツー・ビデオ生成(T2V)の複雑さの増大につながる空間的内容と時間的ダイナミクスを相互に結合する現在の方法 ビデオの空間的要因と時間的要因を2つの視点から分離することで性能を向上する拡散モデルに基づくHiGenを提案する。
  論文  参考訳（メタデータ） (2023-12-07T17:59:07Z)
• Blur Interpolation Transformer for Real-World Motion from Blur [52.10523711510876]
  本稿では, ボケの時間的相関を解き明かすために, 符号化されたブラー変換器(BiT)を提案する。 マルチスケール残留スウィン変圧器ブロックに基づいて、両端の時間的監督と時間対称なアンサンブル戦略を導入する。 さらに,1対1のぼやけたビデオペアの最初の実世界のデータセットを収集するハイブリッドカメラシステムを設計する。
  論文  参考訳（メタデータ） (2022-11-21T13:10:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。