論文の概要: In Defense of Clip-based Video Relation Detection

• arxiv url: http://arxiv.org/abs/2307.08984v1
• Date: Tue, 18 Jul 2023 05:42:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-19 16:20:27.341020
• Title: In Defense of Clip-based Video Relation Detection
• Title（参考訳）: クリップによる映像関係検出の防御
• Authors: Meng Wei, Long Chen, Wei Ji, Xiaoyu Yue, Roger Zimmermann
• Abstract要約: ビデオ視覚関係検出(VidVRD)は、空間的境界ボックスと時間的境界を用いて、ビデオ内の視覚的関係三重項を検出することを目的としている。 ビデオクリップに基づくオブジェクトベースの空間コンテキストと関係ベースの時間コンテキストを豊かにする階層型コンテキストモデル(HCM)を提案する。 我々のHCMは、クリップベースパラダイムに高度な空間的・時間的コンテキストモデリングを組み込むことの有効性を強調し、新しい最先端性能を実現する。
• 参考スコア（独自算出の注目度）: 32.05021939177942
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Video Visual Relation Detection (VidVRD) aims to detect visual relationship triplets in videos using spatial bounding boxes and temporal boundaries. Existing VidVRD methods can be broadly categorized into bottom-up and top-down paradigms, depending on their approach to classifying relations. Bottom-up methods follow a clip-based approach where they classify relations of short clip tubelet pairs and then merge them into long video relations. On the other hand, top-down methods directly classify long video tubelet pairs. While recent video-based methods utilizing video tubelets have shown promising results, we argue that the effective modeling of spatial and temporal context plays a more significant role than the choice between clip tubelets and video tubelets. This motivates us to revisit the clip-based paradigm and explore the key success factors in VidVRD. In this paper, we propose a Hierarchical Context Model (HCM) that enriches the object-based spatial context and relation-based temporal context based on clips. We demonstrate that using clip tubelets can achieve superior performance compared to most video-based methods. Additionally, using clip tubelets offers more flexibility in model designs and helps alleviate the limitations associated with video tubelets, such as the challenging long-term object tracking problem and the loss of temporal information in long-term tubelet feature compression. Extensive experiments conducted on two challenging VidVRD benchmarks validate that our HCM achieves a new state-of-the-art performance, highlighting the effectiveness of incorporating advanced spatial and temporal context modeling within the clip-based paradigm.
• Abstract（参考訳）: video visual relations detection (vidvrd) は、空間境界ボックスと時間境界を用いて映像中の視覚関係三重項を検出することを目的としている。 既存のVidVRD手法は、関係を分類するアプローチによって、ボトムアップパラダイムとトップダウンパラダイムに広く分類することができる。 ボトムアップ手法はクリップベースのアプローチに従い、短いクリップチューブレットペアの関係を分類し、長いビデオ関係にマージする。 一方,トップダウン方式では長尺ビデオチューブレット対を直接分類する。 ビデオチューブを用いた最近のビデオベース手法は有望な結果を示しているが、クリップチューブとビデオチューブの選択よりも、空間的・時間的文脈の効果的なモデリングが重要な役割を担っていると論じている。 このことは、クリップベースのパラダイムを再考し、VidVRDの重要な成功要因を探る動機となります。 本稿では,オブジェクトベースの空間的コンテキストと,クリップに基づく関係に基づく時間的コンテキストを充実させる階層型コンテキストモデルを提案する。 クリップチューブを用いることで,ほとんどのビデオベース手法と比較して優れた性能が得られることを示す。 さらに、クリップチューブレットを使用することで、モデル設計の柔軟性が向上し、長期オブジェクト追跡問題や長期的なチューブレット特徴圧縮における時間情報の喪失など、ビデオチューブレットに関連する制限が緩和される。 2つの挑戦的なVidVRDベンチマークで実施された大規模な実験により、我々のHCMが新しい最先端性能を実現し、クリップベースパラダイムに高度な空間的・時間的コンテキストモデリングを組み込むことの有効性を強調した。

関連論文リスト

• HAVANA: Hierarchical stochastic neighbor embedding for Accelerated Video ANnotAtions [59.71751978599567]
  本稿では,時間的ビデオアノテーションプロセスの高速化のために,事前抽出した特徴量と次元減少量を用いた新しいアノテーションパイプラインを提案する。 従来のリニア手法と比較して,アノテーションの取り組みが大幅に改善され,12時間以上のビデオのアノテートに要するクリック数が10倍以上に短縮された。
  論文  参考訳（メタデータ） (2024-09-16T18:15:38Z)
• Revisiting Kernel Temporal Segmentation as an Adaptive Tokenizer for Long-form Video Understanding [57.917616284917756]
  実世界のビデオは、しばしば数分間の長さであり、意味的に一貫した長さのセグメントがある。 長いビデオを処理するための一般的なアプローチは、一定時間の長さの一様にサンプリングされたクリップにショートフォームビデオモデルを適用することである。 このアプローチは、固定長のクリップがしばしば冗長または非形式的であるため、長いビデオの基本的な性質を無視する。
  論文  参考訳（メタデータ） (2023-09-20T18:13:32Z)
• FODVid: Flow-guided Object Discovery in Videos [12.792602427704395]
  我々は、個々の複雑さに過度に適合しないように、一般化可能なソリューションを構築することに注力する。 教師なしの環境でビデオオブジェクト(VOS)を解決するために,セグメント出力の導出に基づく新しいパイプライン(FODVid)を提案する。
  論文  参考訳（メタデータ） (2023-07-10T07:55:42Z)
• Video Demoireing with Relation-Based Temporal Consistency [68.20281109859998]
  カラー歪みのように見えるモアレパターンは、デジタルカメラでスクリーンを撮影する際に、画像と映像の画質を著しく劣化させる。 我々は、このような望ましくないモアレパターンをビデオで除去する方法を研究している。
  論文  参考訳（メタデータ） (2022-04-06T17:45:38Z)
• Controllable Augmentations for Video Representation Learning [34.79719112810065]
  本稿では,ローカルクリップとグローバルビデオを併用して,詳細な地域レベルの対応から学習し,時間的関係を最小化する枠組みを提案する。 我々のフレームワークは、アクション認識とビデオ検索の3つのビデオベンチマークよりも優れており、より正確な時間的ダイナミクスを捉えることができる。
  論文  参考訳（メタデータ） (2022-03-30T19:34:32Z)
• Video Salient Object Detection via Contrastive Features and Attention Modules [106.33219760012048]
  本稿では,注目モジュールを持つネットワークを用いて,映像の有意な物体検出のためのコントラスト特徴を学習する。 コアテンションの定式化は、低レベル特徴と高レベル特徴を組み合わせるために用いられる。 提案手法は計算量が少なく,最先端の手法に対して良好に動作することを示す。
  論文  参考訳（メタデータ） (2021-11-03T17:40:32Z)
• Temporal Context Aggregation for Video Retrieval with Contrastive Learning [81.12514007044456]
  フレームレベルの特徴間の時間的長距離情報を組み込んだビデオ表現学習フレームワークTCAを提案する。 提案手法は,映像レベルの特徴を持つ最先端の手法に対して,FIVR-200Kでは17% mAPの大幅な性能上の優位性を示す。
  論文  参考訳（メタデータ） (2020-08-04T05:24:20Z)
• Long Short-Term Relation Networks for Video Action Detection [155.13392337831166]
  本稿では,Long Short-Term Relation Networks (LSTR)について述べる。 LSTRは、ビデオアクション検出のための拡張機能と関連して集約し、伝播する。 4つのベンチマークデータセットで大規模な実験を行う。
  論文  参考訳（メタデータ） (2020-03-31T10:02:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。