論文の概要: OPERA: Omni-Supervised Representation Learning with Hierarchical Supervisions

• arxiv url: http://arxiv.org/abs/2210.05557v1
• Date: Tue, 11 Oct 2022 15:51:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-12 13:42:17.255728
• Title: OPERA: Omni-Supervised Representation Learning with Hierarchical Supervisions
• Title（参考訳）: OPERA: 階層的スーパービジョンによるOmni-Supervised Representation Learning
• Authors: Chengkun Wang, Wenzhao Zheng, Zheng Zhu, Jie Zhou, Jiwen Lu
• Abstract要約: 我々は,Omni-suPErvised Representation leArning withhierarchical supervisions (OPERA) を解法として提案する。 画像ごとに階層的なプロキシ表現の集合を抽出し、対応するプロキシ表現に自己および全監督を課す。 畳み込みニューラルネットワークと視覚変換器の両方の実験は、画像分類、セグメンテーション、オブジェクト検出におけるOPERAの優位性を実証している。
• 参考スコア（独自算出の注目度）: 94.31804364707575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The pretrain-finetune paradigm in modern computer vision facilitates the success of self-supervised learning, which tends to achieve better transferability than supervised learning. However, with the availability of massive labeled data, a natural question emerges: how to train a better model with both self and full supervision signals? In this paper, we propose Omni-suPErvised Representation leArning with hierarchical supervisions (OPERA) as a solution. We provide a unified perspective of supervisions from labeled and unlabeled data and propose a unified framework of fully supervised and self-supervised learning. We extract a set of hierarchical proxy representations for each image and impose self and full supervisions on the corresponding proxy representations. Extensive experiments on both convolutional neural networks and vision transformers demonstrate the superiority of OPERA in image classification, segmentation, and object detection. Code is available at: https://github.com/wangck20/OPERA.
• Abstract（参考訳）: 現代のコンピュータビジョンにおける事前訓練と細分化のパラダイムは、自己教師あり学習の成功を促進する。 しかし、大量のラベル付きデータが利用可能になると、自然に疑問が生まれます: 自己と完全な監視信号の両方で、よりよいモデルをトレーニングする方法? 本稿では,Omni-suPErvised Representation leArning(OPERA)を解決策として提案する。 ラベル付きデータとラベル付きデータからの監督の統一的な視点を提供し,教師付き学習と自己教師付き学習の統一的な枠組みを提案する。 画像ごとに階層的なプロキシ表現の集合を抽出し、対応するプロキシ表現に自己および全監督を課す。 畳み込みニューラルネットワークとビジョントランスフォーマーの併用実験は、画像分類、セグメンテーション、オブジェクト検出においてOPERAの優位性を実証している。 コードは、https://github.com/wangck20/OPERA.comで入手できる。

関連論文リスト

• MOCA: Self-supervised Representation Learning by Predicting Masked Online Codebook Assignments [72.6405488990753]
  自己教師付き学習は、ビジョントランスフォーマーネットワークの欲求を軽減できる。 所望のプロパティを統一する単段および単段のMOCAを提案する。 我々は,様々な評価プロトコルにおいて,低照度設定と強力な実験結果に対して,最先端の新たな結果を得る。
  論文  参考訳（メタデータ） (2023-07-18T15:46:20Z)
• Unsupervised Learning of Structured Representations via Closed-Loop Transcription [21.78655495464155]
  本稿では,識別目的と生成目的の両方を兼ね備えた統一表現を学習するための教師なし手法を提案する。 統一表現は、両方を持つことの相互利益を享受できることが示される。 これらの構造化された表現は、最先端の教師なし識別表現に近い分類を可能にする。
  論文  参考訳（メタデータ） (2022-10-30T09:09:05Z)
• Pretraining the Vision Transformer using self-supervised methods for vision based Deep Reinforcement Learning [0.0]
  いくつかの最先端の自己教師型手法を用いて視覚変換器の事前学習を行い、学習した表現の質を評価する。 その結果,すべての手法が有用な表現を学習し,表現の崩壊を避けるのに有効であることが示唆された。 時間順序検証タスクで事前訓練されたエンコーダは、すべての実験で最高の結果を示す。
  論文  参考訳（メタデータ） (2022-09-22T10:18:59Z)
• Masked Unsupervised Self-training for Zero-shot Image Classification [98.23094305347709]
  Masked Unsupervised Self-Training (MUST)は、疑似ラベルと生画像という2つの異なる、補完的な監督源を活用する新しいアプローチである。 MUSTはCLIPを大きなマージンで改善し、教師なしと教師なしの分類のパフォーマンスギャップを狭める。
  論文  参考訳（メタデータ） (2022-06-07T02:03:06Z)
• Curious Representation Learning for Embodied Intelligence [81.21764276106924]
  近年,自己指導型表現学習は顕著な成功を収めている。 しかし、真にインテリジェントなエージェントを構築するためには、環境から学習できる表現学習アルゴリズムを構築する必要がある。 本稿では,強化学習方針と視覚的表現モデルを同時に学習する,好奇心をそそる表現学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-05-03T17:59:20Z)
• Can Semantic Labels Assist Self-Supervised Visual Representation Learning? [194.1681088693248]
  近隣環境におけるコントラスト調整(SCAN)という新しいアルゴリズムを提案する。 一連のダウンストリームタスクにおいて、SCANは従来の完全教師付きおよび自己教師付きメソッドよりも優れたパフォーマンスを達成する。 本研究は, セマンティックラベルが自己指導的手法の補助に有用であることを明らかにする。
  論文  参考訳（メタデータ） (2020-11-17T13:25:00Z)
• SHERLock: Self-Supervised Hierarchical Event Representation Learning [22.19386609894017]
  本研究では,長時間の視覚的実演データから時間的表現を学習するモデルを提案する。 提案手法は,人間による注釈付きイベントとより緊密に一致した表現階層を生成する。
  論文  参考訳（メタデータ） (2020-10-06T09:04:01Z)
• Self-Supervised Learning for Large-Scale Unsupervised Image Clustering [8.142434527938535]
  自己教師付き表現に基づく教師なし分類のための簡易なスキームを提案する。 提案手法は,画像ネット分類における競合的な結果が得られることを示す,近年の自己教師型手法を用いて評価する。 自己教師型学習のための標準ベンチマークに教師なし評価を加えることを提案する。
  論文  参考訳（メタデータ） (2020-08-24T10:39:19Z)
• Self-Supervised Viewpoint Learning From Image Collections [116.56304441362994]
  本稿では,解析・合成パラダイムを取り入れた新たな学習フレームワークを提案する。 提案手法は,人間の顔,車,バス,電車など,複数の対象カテゴリに対して,完全に教師されたアプローチに対して競争力を発揮することを示す。
  論文  参考訳（メタデータ） (2020-04-03T22:01:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。