論文の概要: CamI2V: Camera-Controlled Image-to-Video Diffusion Model

• arxiv url: http://arxiv.org/abs/2410.15957v3
• Date: Wed, 04 Dec 2024 12:54:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:04:55.466084
• Title: CamI2V: Camera-Controlled Image-to-Video Diffusion Model
• Title（参考訳）: CamI2V:カメラによる画像とビデオの拡散モデル
• Authors: Guangcong Zheng, Teng Li, Rui Jiang, Yehao Lu, Tao Wu, Xi Li,
• Abstract要約: 統合カメラポーズは、ビデオ拡散モデルにおけるユーザフレンドリーで物理インフォームド条件であり、正確なカメラ制御を可能にする。 重要な課題の1つは、幾何学的整合性とカメラ制御性を高めるために、ノイズの多いクロスフレーム相互作用を効果的にモデル化することである。 我々は,条件の品質と不確実性を低減し,ノイズのあるクロスフレーム特徴をノイズのある状態の形で解釈する能力とを革新的に関連付ける。
• 参考スコア（独自算出の注目度）: 11.762824216082508
• License:
• Abstract: Recent advancements have integrated camera pose as a user-friendly and physics-informed condition in video diffusion models, enabling precise camera control. In this paper, we identify one of the key challenges as effectively modeling noisy cross-frame interactions to enhance geometry consistency and camera controllability. We innovatively associate the quality of a condition with its ability to reduce uncertainty and interpret noisy cross-frame features as a form of noisy condition. Recognizing that noisy conditions provide deterministic information while also introducing randomness and potential misguidance due to added noise, we propose applying epipolar attention to only aggregate features along corresponding epipolar lines, thereby accessing an optimal amount of noisy conditions. Additionally, we address scenarios where epipolar lines disappear, commonly caused by rapid camera movements, dynamic objects, or occlusions, ensuring robust performance in diverse environments. Furthermore, we develop a more robust and reproducible evaluation pipeline to address the inaccuracies and instabilities of existing camera control metrics. Our method achieves a 25.64% improvement in camera controllability on the RealEstate10K dataset without compromising dynamics or generation quality and demonstrates strong generalization to out-of-domain images. Training and inference require only 24GB and 12GB of memory, respectively, for 16-frame sequences at 256x256 resolution. We will release all checkpoints, along with training and evaluation code. Dynamic videos are best viewed at https://zgctroy.github.io/CamI2V.
• Abstract（参考訳）: 近年,ビデオ拡散モデルにおけるユーザフレンドリで物理インフォームド条件として,カメラのポーズが統合化され,正確なカメラ制御が可能になった。 本稿では,ノイズの多いクロスフレーム相互作用を効果的にモデル化し,幾何整合性とカメラの可制御性を向上する上で重要な課題の1つを取り上げる。 我々は,条件の品質と不確実性を低減し,ノイズのあるクロスフレーム特徴をノイズのある状態の形で解釈する能力とを革新的に関連付ける。 雑音が加わったことによるランダム性や潜在的な誤認を伴い、雑音条件が決定論的情報を提供することを認識し、対応するエピポーラ線に沿った集合的特徴のみにエピポーラ的注意を適用させることにより、最適なノイズ条件の量にアクセスすることを提案する。 さらに,急激なカメラの動き,ダイナミックな物体,あるいは閉塞が原因でエピポーラ線が消失するシナリオに対処し,多様な環境下での堅牢な性能を確保する。 さらに,既存のカメラ制御指標の不正確さや不安定性に対処するために,より堅牢で再現可能な評価パイプラインを開発する。 提案手法は,RealEstate10Kデータセットのダイナミックスや生成品質を損なうことなく,25.64%のカメラ制御性の向上を実現し,ドメイン外画像への強力な一般化を示す。 トレーニングと推論は、256x256解像度の16フレームシーケンスに対してそれぞれ24GBと12GBのメモリしか必要としない。 トレーニングと評価コードとともに、すべてのチェックポイントをリリースします。 ダイナミックビデオはhttps://zgctroy.github.io/CamI2Vでよく見られる。

関連論文リスト

• RealCam-I2V: Real-World Image-to-Video Generation with Interactive Complex Camera Control [10.939379611590333]
  RealCam-I2Vは拡散型ビデオ生成フレームワークである。 単分子距離深度推定を統合し、前処理ステップで3次元シーン再構成を確立する。 トレーニング中、再構成された3Dシーンは、絶対値に対するカメラパラメータのスケーリングを可能にする。 RealCam-I2Vは、RealEstate10Kおよびドメイン外画像の制御性とビデオ品質を大幅に改善する。
  論文  参考訳（メタデータ） (2025-02-14T10:21:49Z)
• FlexEvent: Event Camera Object Detection at Arbitrary Frequencies [45.82637829492951]
  イベントカメラは、動的環境におけるリアルタイムの知覚に相容れないアドバンテージを提供する。 既存のイベントベースのオブジェクト検出方法は固定周波数パラダイムによって制限される。 任意の周波数で検出できる新しいイベントカメラオブジェクト検出フレームワークFlexEventを提案する。
  論文  参考訳（メタデータ） (2024-12-09T17:57:14Z)
• Latent-Reframe: Enabling Camera Control for Video Diffusion Model without Training [51.851390459940646]
  我々は、微調整なしで事前訓練されたビデオ拡散モデルでカメラ制御が可能なLatent-Reframeを紹介した。 Latent-Reframeはサンプリング段階で動作し、オリジナルのモデル分布を維持しながら効率を維持する。 当社のアプローチでは,ビデオフレームの潜在コードを再設計し,タイムアウェアな点雲を通して入力カメラ軌跡と整合する。
  論文  参考訳（メタデータ） (2024-12-08T18:59:54Z)
• AC3D: Analyzing and Improving 3D Camera Control in Video Diffusion Transformers [66.29824750770389]
  カメラの動きを第一原理の観点から分析し、正確な3Dカメラ操作を可能にする洞察を明らかにする。 これらの知見を合成して、高度な3Dカメラ制御(AC3D)アーキテクチャを設計する。
  論文  参考訳（メタデータ） (2024-11-27T18:49:13Z)
• DATAP-SfM: Dynamic-Aware Tracking Any Point for Robust Structure from Motion in the Wild [85.03973683867797]
  本稿では,スムーズなカメラ軌跡を推定し,野生のカジュアルビデオのための高密度点雲を得るための,簡潔でエレガントでロバストなパイプラインを提案する。 提案手法は,複雑な動的課題シーンにおいても,カメラポーズ推定による最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-11-20T13:01:16Z)
• Redundancy-Aware Camera Selection for Indoor Scene Neural Rendering [54.468355408388675]
  カメラの空間的多様性と画像の意味的変動の両方を取り入れた類似度行列を構築した。 カメラ選択を最適化するために,多様性に基づくサンプリングアルゴリズムを適用した。 IndoorTrajという新しいデータセットも開発しています。仮想屋内環境で人間が捉えた、長くて複雑なカメラの動きが含まれています。
  論文  参考訳（メタデータ） (2024-09-11T08:36:49Z)
• VICAN: Very Efficient Calibration Algorithm for Large Camera Networks [49.17165360280794]
  ポースグラフ最適化手法を拡張する新しい手法を提案する。 我々は、カメラを含む二部グラフ、オブジェクトの動的進化、各ステップにおけるカメラオブジェクト間の相対変換について考察する。 我々のフレームワークは従来のPGOソルバとの互換性を維持しているが、その有効性はカスタマイズされた最適化方式の恩恵を受けている。
  論文  参考訳（メタデータ） (2024-03-25T17:47:03Z)
• E2HQV: High-Quality Video Generation from Event Camera via Theory-Inspired Model-Aided Deep Learning [53.63364311738552]
  バイオインスパイアされたイベントカメラやダイナミックビジョンセンサーは、高時間分解能と高ダイナミックレンジでピクセルごとの明るさ変化(イベントストリームと呼ばれる)を捉えることができる。 イベントストリームを入力として取り出し、直感的な視覚化のために高品質なビデオフレームを生成する、イベント間ビデオ(E2V)ソリューションを求めている。 イベントから高品質なビデオフレームを生成するために設計された新しいE2VパラダイムであるtextbfE2HQVを提案する。
  論文  参考訳（メタデータ） (2024-01-16T05:10:50Z)
• Monitoring and Adapting the Physical State of a Camera for Autonomous Vehicles [10.490646039938252]
  本稿では,データおよび物理モデルに基づくカメラの汎用的・タスク指向型自己維持フレームワークを提案する。 このフレームワークを現実世界の地上車両に実装し、カメラが粗悪な状況に対応するためにパラメータを調整できることを実証する。 われわれのフレームワークは、カメラの健康状態を監視し維持するための実用的なソリューションを提供するだけでなく、より高度な問題に対処するための拡張の基盤としても機能する。
  論文  参考訳（メタデータ） (2021-12-10T11:14:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。