論文の概要: SMC-NCA: Semantic-guided Multi-level Contrast for Semi-supervised
Temporal Action Segmentation
- arxiv url: http://arxiv.org/abs/2312.12347v2
- Date: Tue, 20 Feb 2024 08:57:50 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-21 19:48:46.130024
- Title: SMC-NCA: Semantic-guided Multi-level Contrast for Semi-supervised
Temporal Action Segmentation
- Title(参考訳): SMC-NCA : 半教師付き時間行動セグメンテーションのための意味誘導型マルチレベルコントラスト
- Authors: Feixiang Zhou, Zheheng Jiang, Huiyu Zhou and Xuelong Li
- Abstract要約: 本稿では,アクションセグメンテーションのための強力なフレームワイズ表現を抽出するために,近隣環境対応ユニット(SMC-NCA)を用いた新しいマルチレベルコントラスト方式を提案する。
我々のSMCは3つのベンチマークで他の最先端の手法よりも優れており、編集距離と精度の点で最大17.8%と12.6%の改善を提供している。
また,提案手法の有効性をパーキンソン病マウス行動データセットに示す。
- 参考スコア(独自算出の注目度): 57.9100732918114
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Semi-supervised temporal action segmentation aims to perform frame-wise
classification in long untrimmed videos, where only a fraction of videos in the
training set have labels. Recent studies have shown the potential of
contrastive learning in unsupervised representation learning using unlabelled
data. However, learning the representation of each frame by unsupervised
contrastive learning for action segmentation remains an open and challenging
problem. In this paper, we propose a novel Semantic-guided Multi-level Contrast
scheme with a Neighbourhood-Consistency-Aware unit (SMC-NCA) to extract strong
frame-wise representations for semi-supervised action segmentation.
Specifically, for representation learning, SMC is firstly used to explore
intra- and inter-information variations in a unified and contrastive way, based
on dynamic clustering process of the original input, encoded semantic and
temporal features. Then, the NCA module, which is responsible for enforcing
spatial consistency between neighbourhoods centered at different frames to
alleviate over-segmentation issues, works alongside SMC for semi-supervised
learning. Our SMC outperforms the other state-of-the-art methods on three
benchmarks, offering improvements of up to 17.8% and 12.6% in terms of edit
distance and accuracy, respectively. Additionally, the NCA unit results in
significant better segmentation performance against the others in the presence
of only 5% labelled videos. We also demonstrate the effectiveness of the
proposed method on our Parkinson's Disease Mouse Behaviour (PDMB) dataset. The
code and datasets will be made publicly available.
- Abstract(参考訳): 半教師付きテンポラルアクションセグメンテーションは、トレーニングセット内のビデオのほんの一部にラベルがある長い未トリミングビデオでフレーム単位で分類することを目的としている。
近年,ラベルなしデータを用いた教師なし表現学習におけるコントラスト学習の可能性が示されている。
しかしながら、アクションセグメンテーションのための教師なしコントラスト学習による各フレームの表現の学習は、オープンかつ挑戦的な問題である。
本稿では,SMC-NCA(Neighbourhood-Consistency-Aware Unit)を用いたSemantic-Guided Multi-level Contrastスキームを提案する。
特に、表現学習のために、smcは、最初の入力、エンコードされた意味的および時間的特徴の動的なクラスタリングプロセスに基づいて、情報内および情報間のバリエーションを統一的かつ対比的に探求するために最初に使用される。
次に,NCAモジュールは,半教師付き学習のためのSMCと連携して,異なるフレームを中心とした周辺地域間の空間的整合性を確保する。
当社のsmcは3つのベンチマークで他の最先端手法よりも優れており、編集距離と精度でそれぞれ17.8%と12.6%改善しています。
さらに、NAAユニットは、わずか5%のラベル付きビデオの存在下で、他との大きなセグメンテーション性能が向上する。
また,提案手法の有効性をParkinson's Disease Mouse Behaviour (PDMB) データセットに示す。
コードとデータセットは一般公開される予定だ。
関連論文リスト
- Multi-Scale Cross Contrastive Learning for Semi-Supervised Medical Image
Segmentation [14.536384387956527]
医用画像の構造を分割するマルチスケールクロススーパービジョンコントラスト学習フレームワークを開発した。
提案手法は,頑健な特徴表現を抽出するために,地上構造と横断予測ラベルに基づくマルチスケール特徴と対比する。
Diceでは最先端の半教師あり手法を3.0%以上上回っている。
論文 参考訳(メタデータ) (2023-06-25T16:55:32Z) - Proposal-Based Multiple Instance Learning for Weakly-Supervised Temporal
Action Localization [98.66318678030491]
微弱に監督された時間的行動ローカライゼーションは、トレーニング中にビデオレベルのカテゴリラベルのみを持つ未トリミングビデオのアクションをローカライズし、認識することを目的としている。
本稿では,提案手法をベースとしたP-MIL(Multiple Instance Learning)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-29T02:48:04Z) - C2F-TCN: A Framework for Semi and Fully Supervised Temporal Action
Segmentation [20.182928938110923]
時間的アクションセグメンテーションタグは、シーケンス内の複数のアクションを含む入力未トリミングビデオの各フレームに対するアクションラベルである。
我々は,デコーダ出力の粗大なアンサンブルを特徴とする,C2F-TCNというエンコーダ-デコーダスタイルのアーキテクチャを提案する。
アーキテクチャは教師付き学習と表現学習の両方に柔軟であることを示す。
論文 参考訳(メタデータ) (2022-12-20T14:53:46Z) - Solve the Puzzle of Instance Segmentation in Videos: A Weakly Supervised
Framework with Spatio-Temporal Collaboration [13.284951215948052]
ビデオにおけるtextbfS-patiotextbfTemporal textbfClaboration の例を示す。
提案手法は,TrackR-CNN と MaskTrack R-CNN の完全教師付き性能よりも優れる。
論文 参考訳(メタデータ) (2022-12-15T02:44:13Z) - Fine-grained Temporal Contrastive Learning for Weakly-supervised
Temporal Action Localization [87.47977407022492]
本稿では,シーケンス・ツー・シーケンスの区別を文脈的に比較することで学習が,弱い教師付き行動の局所化に不可欠な帰納的バイアスをもたらすことを論じる。
微分可能な動的プログラミングの定式化の下では、FSD(Fen-fine Sequence Distance)とLCS(Longest Common Subsequence)の2つの相補的コントラストが設計されている。
提案手法は,2つのベンチマークにおいて最先端の性能を実現する。
論文 参考訳(メタデータ) (2022-03-31T05:13:50Z) - Iterative Frame-Level Representation Learning And Classification For
Semi-Supervised Temporal Action Segmentation [25.08516972520265]
時間的アクションセグメンテーションは、各フレームのアクションを(長い)ビデオシーケンスで分類する。
時間的行動セグメント化のための第1の半教師付き手法を提案する。
論文 参考訳(メタデータ) (2021-12-02T16:47:24Z) - Flip Learning: Erase to Segment [65.84901344260277]
弱い教師付きセグメンテーション(WSS)は、時間と面倒な手作業のアノテーションを減らすのに役立ちます。
ボックスアノテーションのみを必要とするFlip Learningという,斬新で汎用的なWSSフレームワークを提案する。
提案手法は,完全教師付き学習と弱教師付き学習のギャップを狭める大きな可能性を示す。
論文 参考訳(メタデータ) (2021-08-02T09:56:10Z) - Unsupervised Action Segmentation with Self-supervised Feature Learning
and Co-occurrence Parsing [32.66011849112014]
時間的アクションセグメンテーションは、ビデオの各フレームをアクションラベルで分類するタスクである。
本研究では,ラベル付けされていないビデオのコーパスで動作する自己教師型手法を探索し,ビデオ全体にわたる時間的セグメントのセットを予測する。
我々は,行動の構造に基づくサブアクション間の相関を捉えるだけでなく,そのサブアクションの時間的軌跡を正確かつ一般的な方法で推定する,新しい共起動作解析アルゴリズムであるCAPを開発した。
論文 参考訳(メタデータ) (2021-05-29T00:29:40Z) - Temporally-Weighted Hierarchical Clustering for Unsupervised Action
Segmentation [96.67525775629444]
アクションセグメンテーションとは、ビデオにおける意味的に一貫した視覚概念の境界を推測することを指す。
ビデオ中のセグメンテーション動作に対して,トレーニングを必要としない完全自動かつ教師なしのアプローチを提案する。
提案手法は,ビデオの意味的に一貫性のあるフレームをグループ化できる効果的な時間重み付き階層クラスタリングアルゴリズムである。
論文 参考訳(メタデータ) (2021-03-20T23:30:01Z) - Semi-supervised Left Atrium Segmentation with Mutual Consistency
Training [60.59108570938163]
3次元MR画像からの半教師付き左房分割のための新しいMultual Consistency Network(MC-Net)を提案する。
我々のMC-Netは1つのエンコーダと2つのわずかに異なるデコーダから構成されており、2つのデコーダの予測誤差は教師なしの損失として変換される。
我々は,公開左心房(la)データベース上でmc-netを評価し,ラベルなしデータを効果的に活用することで印象的な性能向上を実現する。
論文 参考訳(メタデータ) (2021-03-04T09:34:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。