論文の概要: Video Activity Localisation with Uncertainties in Temporal Boundary

• arxiv url: http://arxiv.org/abs/2206.12923v1
• Date: Sun, 26 Jun 2022 16:45:56 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-28 15:11:48.635104
• Title: Video Activity Localisation with Uncertainties in Temporal Boundary
• Title（参考訳）: 時間境界における不確かさによる映像活動の定位
• Authors: Jiabo Huang, Hailin Jin, Shaogang Gong, Yang Liu
• Abstract要約: 時間とともにビデオ活動のローカライゼーションを行う方法は、時間的境界が決定され正確であると暗黙的に仮定する。 無記述の自然ビデオでは、異なるアクティビティがスムーズに移動するため、アクティビティの開始と終了が時間とともに正確にラベル付けされることは本質的に曖昧である。 フレキシブルかつ適応的な活動時間境界に対応するための弾性モーメントバウンディング(EMB)を導入する。
• 参考スコア（独自算出の注目度）: 74.7263952414899
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Current methods for video activity localisation over time assume implicitly that activity temporal boundaries labelled for model training are determined and precise. However, in unscripted natural videos, different activities mostly transit smoothly, so that it is intrinsically ambiguous to determine in labelling precisely when an activity starts and ends over time. Such uncertainties in temporal labelling are currently ignored in model training, resulting in learning mis-matched video-text correlation with poor generalisation in test. In this work, we solve this problem by introducing Elastic Moment Bounding (EMB) to accommodate flexible and adaptive activity temporal boundaries towards modelling universally interpretable video-text correlation with tolerance to underlying temporal uncertainties in pre-fixed annotations. Specifically, we construct elastic boundaries adaptively by mining and discovering frame-wise temporal endpoints that can maximise the alignment between video segments and query sentences. To enable both more robust matching (segment content attention) and more accurate localisation (segment elastic boundaries), we optimise the selection of frame-wise endpoints subject to segment-wise contents by a novel Guided Attention mechanism. Extensive experiments on three video activity localisation benchmarks demonstrate compellingly the EMB's advantages over existing methods without modelling uncertainty.
• Abstract（参考訳）: ビデオ活動の時間的局所化の現在の方法は、モデルトレーニング用にラベル付けされた活動時間境界が決定的かつ正確であることを暗黙的に仮定している。 しかし、無記述の自然映像では、異なる活動がほとんどスムーズに流れるため、活動が時間とともに開始し終わるタイミングを正確にラベル付けすることは本質的に曖昧である。 このような時間的ラベリングの不確実性は、モデルトレーニングでは無視され、テストの一般化の貧弱さとミスマッチしたビデオテキスト相関の学習に繋がる。 本研究では, 動的かつ適応的な時間的境界に適合する弾力的モーメントバウンディング(EMB)を導入し, 予め固定されたアノテーションの時間的不確実性に対する耐性と普遍的に解釈可能なビデオテキスト相関をモデル化する。 具体的には、ビデオセグメントと問合せ文のアライメントを最大化できるフレームワイズ時間エンドポイントをマイニングし、発見することにより、弾性境界を適応的に構築する。 よりロバストなマッチング(セグメントコンテンツの注目)とより正確な局所化(セグメントの弾性境界)の両方を可能にするため、新しい誘導注意機構により、セグメントコンテンツのフレーム毎のエンドポイントの選択を最適化する。 3つのビデオアクティビティローカライゼーションベンチマークに関する大規模な実験は、不確実性をモデル化せずに既存の手法に対するEMBの利点を大いに示している。

関連論文リスト

• FMI-TAL: Few-shot Multiple Instances Temporal Action Localization by Probability Distribution Learning and Interval Cluster Refinement [2.261014973523156]
  本稿では,確率学習とクラスタリファインメントを備えた空間チャネル関係変換器を提案する。 この方法は,クエリビデオ中のアクションの開始と終了の境界を正確に識別することができる。 本モデルでは,ベンチマークデータセットである ActivityNet1.3 と THUMOS14 を用いて,厳密な実験を行うことで,競争性能を実現する。
  論文  参考訳（メタデータ） (2024-08-25T08:17:25Z)
• Transform-Equivariant Consistency Learning for Temporal Sentence Grounding [66.10949751429781]
  ビデオ毎により差別的な表現を学習するために,新しい同変一貫性規則学習フレームワークを導入する。 私たちのモチベーションは、クエリ誘導アクティビティの時間的境界を一貫して予測することにある。 特に,ビデオの完全性と滑らか性を高めるために,自己教師付き一貫性損失モジュールを考案した。
  論文  参考訳（メタデータ） (2023-05-06T19:29:28Z)
• Boundary-Denoising for Video Activity Localization [57.9973253014712]
  本稿では,映像活動のローカライゼーション問題について,認知的視点から検討する。 具体的には,DenoiseLocというエンコーダデコーダモデルを提案する。 実験によると、DenoiseLocはいくつかのビデオアクティビティ理解タスクで%前進している。
  論文  参考訳（メタデータ） (2023-04-06T08:48:01Z)
• Temporal Transductive Inference for Few-Shot Video Object Segmentation [27.140141181513425]
  Few-shot Object segmentation (FS-VOS) は、初期訓練中に見えないクラスのラベル付き例を用いて、ビデオフレームのセグメンテーションを目的としている。 我々のアプローチの鍵は、グローバルな時間的制約とローカルな時間的制約の両方を使用することである。 経験的に、我々のモデルは、YouTube-VIS上の組合間の平均交点を2.8%上回る、最先端のメタラーニングアプローチより優れている。
  論文  参考訳（メタデータ） (2022-03-27T14:08:30Z)
• Transferable Knowledge-Based Multi-Granularity Aggregation Network for Temporal Action Localization: Submission to ActivityNet Challenge 2021 [33.840281113206444]
  本報告では,2021 HACS 時空間行動ローカライゼーションチャレンジの提出に使用したソリューションの概要について述べる。 我々は、TCANet(Temporal Context Aggregation Network)を用いて、高品質なアクション提案を生成する。 また、トリミングされたビデオから未トリミングされたビデオに知識を移すための追加モジュールも採用しています。 提案手法は, 教師付きおよび弱教師付き時間的行動局所化トラックを用いて, 39.91 と 29.78 の平均 mAP をそれぞれ達成する。
  論文  参考訳（メタデータ） (2021-07-27T06:18:21Z)
• Cross-Sentence Temporal and Semantic Relations in Video Activity Localisation [79.50868197788773]
  我々は、クロスセンスリレーショナルマイニングを導入して、より正確な教師付きソリューションを開発する。 本稿では,(1)トリミング順序付けと(2)ビデオ活動の段落記述における文間の意味的一貫性の2つの横断的関係性制約について検討する。 2つのパブリックなアクティビティローカライゼーションデータセットの実験は、最先端の弱い教師付き手法に対する我々のアプローチの利点を示している。
  論文  参考訳（メタデータ） (2021-07-23T20:04:01Z)
• Learning Salient Boundary Feature for Anchor-free Temporal Action Localization [81.55295042558409]
  時間的行動のローカライゼーションはビデオ理解において重要な課題である。 純粋にアンカーフリーな時間的定位法を初めて提案する。 このモデルには,(i)エンドツーエンドのトレーニング可能な基本予測器,(ii)サリエンシベースのリファインメントモジュール,(iii)いくつかの一貫性制約が含まれている。
  論文  参考訳（メタデータ） (2021-03-24T12:28:32Z)
• Boundary-sensitive Pre-training for Temporal Localization in Videos [124.40788524169668]
  本稿では,時間的局所化のためのモデル事前学習について,新しい境界感性プレテキスト(BSP)タスクを導入して検討する。 合成された境界により、BSPは境界型を分類することで簡単に実行できる。 大規模な実験により、提案したBSPは既存の行動分類に基づく事前学習法よりも優れ、相補的であることが示された。
  論文  参考訳（メタデータ） (2020-11-21T17:46:24Z)
• Frame-wise Cross-modal Matching for Video Moment Retrieval [32.68921139236391]
  ビデオモーメント検索は、与えられた言語クエリのためにビデオ中の瞬間を検索するターゲットである。 本課題は,1)未編集ビデオにおける関連モーメントのローカライズの必要性,2)テキストクエリとビデオコンテンツ間のセマンティックなギャップを埋めることである。 本稿では,対話モデルに基づいて時間境界を予測できる注意的相互関連マッチングモデルを提案する。
  論文  参考訳（メタデータ） (2020-09-22T10:25:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。