論文の概要: Self-supervising Action Recognition by Statistical Moment and Subspace Descriptors

• arxiv url: http://arxiv.org/abs/2001.04627v2
• Date: Thu, 5 Aug 2021 15:25:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-11 12:43:19.131702
• Title: Self-supervising Action Recognition by Statistical Moment and Subspace Descriptors
• Title（参考訳）: 統計的モーメントと部分空間記述子による自己監督行動認識
• Authors: Lei Wang and Piotr Koniusz
• Abstract要約: 我々は、RGBフレームを入力として、アクション概念とオブジェクト記述子の両方を予測することによって、自己スーパービジョンの概念を構築する。 いわゆる幻覚ストリームは、補助的な手がかりを予測するために訓練され、同時に分類層に供給され、テスト段階で幻覚してネットワークを補助する。
• 参考スコア（独自算出の注目度）: 38.27785891922479
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we build on a concept of self-supervision by taking RGB frames as input to learn to predict both action concepts and auxiliary descriptors e.g., object descriptors. So-called hallucination streams are trained to predict auxiliary cues, simultaneously fed into classification layers, and then hallucinated at the testing stage to aid network. We design and hallucinate two descriptors, one leveraging four popular object detectors applied to training videos, and the other leveraging image- and video-level saliency detectors. The first descriptor encodes the detector- and ImageNet-wise class prediction scores, confidence scores, and spatial locations of bounding boxes and frame indexes to capture the spatio-temporal distribution of features per video. Another descriptor encodes spatio-angular gradient distributions of saliency maps and intensity patterns. Inspired by the characteristic function of the probability distribution, we capture four statistical moments on the above intermediate descriptors. As numbers of coefficients in the mean, covariance, coskewness and cokurtotsis grow linearly, quadratically, cubically and quartically w.r.t. the dimension of feature vectors, we describe the covariance matrix by its leading n' eigenvectors (so-called subspace) and we capture skewness/kurtosis rather than costly coskewness/cokurtosis. We obtain state of the art on five popular datasets such as Charades and EPIC-Kitchens.
• Abstract（参考訳）: 本稿では,rgbフレームを入力として自己スーパービジョンの概念を構築し,アクション概念と補助記述子,例えばオブジェクト記述子の両方を予測する。 いわゆる幻覚ストリームは、補助的な手がかりを予測するために訓練され、同時に分類層に供給され、テストステージで幻覚によってネットワークを助ける。 我々は2つのディスクリプタを設計,提案する。1つは4つの人気のある物体検出器を訓練ビデオに適用し,もう1つは画像および映像レベルのサリエンシー検出器を活用した。 第1のディスクリプタは、ディテクターおよびimagenet-wiseクラス予測スコア、信頼度スコア、バウンディングボックスおよびフレームインデックスの空間的位置を符号化し、ビデオごとの特徴の時空間分布をキャプチャする。 別の記述子は、サリエンシマップと強度パターンの時空間勾配分布を符号化する。 確率分布の特徴関数に触発されて、上記の中間ディスクリプタ上で4つの統計モーメントをキャプチャする。 平均,共分散,コケネスおよびコクルトーシスの係数の数が線形,二次,立方的,四次的に増加するにつれて,特徴ベクトルの次元は,その主となる n' 固有ベクトル(いわゆる部分空間)によって共分散行列を記述し,コストのかかるコケネス/コクルトーシスよりもスキューネス/カルトーシスを捉える。 我々は、CharadesやEPIC-Kitchensといった5つの一般的なデータセット上で、この技術の状態を取得する。

関連論文リスト

• With a Little Help from your own Past: Prototypical Memory Networks for Image Captioning [47.96387857237473]
  我々は、他のトレーニングサンプルを処理しながら得られたアクティベーションに注意を向けるネットワークを考案した。 私たちのメモリは、プロトタイプベクトルの定義を通じて過去のキーと値の分布をモデル化します。 本研究では,エンコーダ・デコーダ変換器の性能を3.7 CIDErポイント向上できることを示す。
  論文  参考訳（メタデータ） (2023-08-23T18:53:00Z)
• Semantics Meets Temporal Correspondence: Self-supervised Object-centric Learning in Videos [63.94040814459116]
  自己教師付き手法は、高レベルの意味論と低レベルの時間対応の学習において顕著な進歩を見せている。 融合した意味特徴と対応地図の上に,意味認識型マスキングスロットアテンションを提案する。 我々は、時間的コヒーレントなオブジェクト中心表現を促進するために、セマンティックおよびインスタンスレベルの時間的一貫性を自己スーパービジョンとして採用する。
  論文  参考訳（メタデータ） (2023-08-19T09:12:13Z)
• Unsupervised learning of features and object boundaries from local prediction [0.0]
  本稿では,各因子が追加のバイナリ変数とペアリングされ,その因子をオン/オフに切り替える,ペアワイズマルコフ確率場モデルによる特徴写像の層を導入する。 マルコフ確率場要素の特徴とパラメータの両方を、さらなる監視信号なしで画像から学習することができる。 宇宙空間での計算予測はセグメンテーションと特徴学習の両方に役立ち、これらの予測を最適化するために訓練されたモデルは人間の視覚システムと類似性を示す。
  論文  参考訳（メタデータ） (2022-05-27T18:54:10Z)
• HighlightMe: Detecting Highlights from Human-Centric Videos [52.84233165201391]
  我々は,人間中心のビデオからハイライト可能な抜粋を検出するために,ドメインとユーザに依存しないアプローチを提案する。 本研究では,時空間グラフ畳み込みを用いたオートエンコーダネットワークを用いて,人間の活動やインタラクションを検出する。 我々は,最先端の手法に比べて,人手によるハイライトのマッチングの平均精度が4～12%向上したことを観察した。
  論文  参考訳（メタデータ） (2021-10-05T01:18:15Z)
• Spatial-Temporal Correlation and Topology Learning for Person Re-Identification in Videos [78.45050529204701]
  クロススケール空間時空間相関をモデル化し, 識別的, 堅牢な表現を追求する新しい枠組みを提案する。 CTLはCNNバックボーンとキーポイント推定器を使用して人体から意味的局所的特徴を抽出する。 グローバルな文脈情報と人体の物理的接続の両方を考慮して、多スケールグラフを構築するためのコンテキスト強化トポロジーを探求する。
  論文  参考訳（メタデータ） (2021-04-15T14:32:12Z)
• Scribble-Supervised Semantic Segmentation by Random Walk on Neural Representation and Self-Supervision on Neural Eigenspace [10.603823180750446]
  本研究の目的は, 補助情報や中間操作を使わずに, ラベルを直接スクリブルすることで, セマンティックセグメンテーションを実現することである。 我々は、ランダムウォークによる神経表現への拡散と、自己スーパービジョンによる神経固有空間への一貫性を課す。 その結果,提案手法の優位性が示され,フルラベルの教師付き手法に匹敵する結果が得られた。
  論文  参考訳（メタデータ） (2020-11-11T08:22:25Z)
• Self-supervised Video Representation Learning by Uncovering Spatio-temporal Statistics [74.6968179473212]
  本稿では,自己指導型学習問題に対処する新しい前提課題を提案する。 最大運動の空間的位置や支配的な方向など,分割的・時間的統計的な要約を連続して計算する。 ビデオフレームを入力として与えられた統計的要約を得るために、ニューラルネットワークを構築して訓練する。
  論文  参考訳（メタデータ） (2020-08-31T08:31:56Z)
• Self-Supervised Tuning for Few-Shot Segmentation [82.32143982269892]
  Few-shotのセグメンテーションは、アノテートされたサンプルがほとんどない各画像ピクセルにカテゴリラベルを割り当てることを目的としている。 既存のメタラーニング手法では, 画像から抽出した視覚的特徴を埋め込み空間に埋め込むと, カテゴリー別識別記述子の生成に失敗する傾向にある。 本稿では,複数のエピソードにまたがる潜在特徴の分布を,自己分割方式に基づいて動的に調整する適応型フレームワークチューニングを提案する。
  論文  参考訳（メタデータ） (2020-04-12T03:53:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。