論文の概要: A Survey on Self-Supervised Representation Learning
- arxiv url: http://arxiv.org/abs/2308.11455v1
- Date: Tue, 22 Aug 2023 14:05:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-23 17:47:51.707407
- Title: A Survey on Self-Supervised Representation Learning
- Title(参考訳): 自己監督型表現学習に関する調査研究
- Authors: Tobias Uelwer, Jan Robine, Stefan Sylvius Wagner, Marc H\"oftmann,
Eric Upschulte, Sebastian Konietzny, Maike Behrendt, Stefan Harmeling
- Abstract要約: 画像表現を監督せずに学習できる多くの方法が導入された。
これらの表現の質は教師付き学習に近いが、ラベル付き画像は必要ない。
本稿では,これらの手法を統一表記法で包括的に検証し,類似点と相違点を指摘し,それらの手法を相互に関連づけた分類法を提案する。
- 参考スコア(独自算出の注目度): 2.5442795971328307
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning meaningful representations is at the heart of many tasks in the
field of modern machine learning. Recently, a lot of methods were introduced
that allow learning of image representations without supervision. These
representations can then be used in downstream tasks like classification or
object detection. The quality of these representations is close to supervised
learning, while no labeled images are needed. This survey paper provides a
comprehensive review of these methods in a unified notation, points out
similarities and differences of these methods, and proposes a taxonomy which
sets these methods in relation to each other. Furthermore, our survey
summarizes the most-recent experimental results reported in the literature in
form of a meta-study. Our survey is intended as a starting point for
researchers and practitioners who want to dive into the field of representation
learning.
- Abstract(参考訳): 意味のある表現を学習することは、現代の機械学習分野における多くのタスクの中心である。
近年,監視なしで画像表現を学習できる手法が数多く導入されている。
これらの表現は、分類やオブジェクト検出といった下流タスクで使用できる。
これらの表現の品質は教師あり学習に近いが、ラベル付き画像は必要ない。
本稿では,これらの手法を統一表記法で包括的に検証し,類似点と相違点を指摘し,それらの手法を相互に関連づけた分類法を提案する。
さらに,本研究ではメタスタディとして文献に報告された最近の実験結果を要約した。
我々の調査は、表現学習の分野に飛び込みたい研究者や実践者の出発点となることを意図している。
関連論文リスト
- Revisiting Self-supervised Learning of Speech Representation from a
Mutual Information Perspective [68.20531518525273]
我々は、情報理論の観点から、既存の自己教師型音声の手法を詳しく検討する。
我々は線形プローブを用いて、対象情報と学習された表現の間の相互情報を推定する。
我々は、ラベルを使わずに、データの異なる部分間の相互情報を見積もる自己教師型の表現を評価する可能性を探る。
論文 参考訳(メタデータ) (2024-01-16T21:13:22Z) - A Comprehensive Review of Image Line Segment Detection and Description: Taxonomies, Comparisons, and Challenges [36.888654238348416]
本研究では,2次元イメージラインセグメントの検出と記述に関する関連研究を網羅的にレビューする。
主要な問題、コアアイデア、既存のメソッドの利点とデメリット、そしてそれらの潜在的な応用について分析する。
いくつかの最先端のセグメント検出と記述アルゴリズムはバイアスなく評価され、評価コードが公開される。
論文 参考訳(メタデータ) (2023-04-29T13:59:50Z) - Visualizing and Understanding Contrastive Learning [22.553990823550784]
一対のイメージから類似性学習タスクを理解するのに寄与する視覚的説明法を設計する。
また、画像分類システムの視覚的説明を評価するために用いられる既存のメトリクスを、一対の説明に適合させる。
論文 参考訳(メタデータ) (2022-06-20T13:01:46Z) - An Empirical Investigation of Representation Learning for Imitation [76.48784376425911]
視覚、強化学習、NLPにおける最近の研究は、補助的な表現学習の目的が、高価なタスク固有の大量のデータの必要性を減らすことを示している。
本稿では,表現学習アルゴリズムを構築するためのモジュラーフレームワークを提案する。
論文 参考訳(メタデータ) (2022-05-16T11:23:42Z) - Empirical Evaluation and Theoretical Analysis for Representation
Learning: A Survey [25.5633960013493]
表現学習により、データセットからジェネリックな特徴表現を自動的に抽出して、別の機械学習タスクを解決することができます。
近年,表現学習アルゴリズムと単純な予測器によって抽出された特徴表現は,複数の機械学習タスクにおいて最先端の性能を示す。
論文 参考訳(メタデータ) (2022-04-18T09:18:47Z) - Do Self-Supervised and Supervised Methods Learn Similar Visual
Representations? [3.1594831736896025]
コンストラシティブな自己教師付きアルゴリズム(SimCLR)と、共通アーキテクチャにおける単純な画像データの監視を比較した。
両手法は相似的な方法で類似の中間表現を学習し,最後の数層で表現が急速に発散することがわかった。
我々の研究は特に、学習した中間表現の重要性を強調し、補助的なタスク設計において重要な疑問を提起する。
論文 参考訳(メタデータ) (2021-10-01T16:51:29Z) - Co$^2$L: Contrastive Continual Learning [69.46643497220586]
近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。
本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-06-28T06:14:38Z) - Reinforcement Learning with Prototypical Representations [114.35801511501639]
Proto-RLは、プロトタイプ表現を通じて表現学習と探索を結び付ける自己監督型フレームワークである。
これらのプロトタイプは、エージェントの探索経験の要約と同時に、観察を表す基盤としても機能する。
これにより、困難な連続制御タスクのセットで最新の下流ポリシー学習が可能になります。
論文 参考訳(メタデータ) (2021-02-22T18:56:34Z) - Recent Progress in Appearance-based Action Recognition [73.6405863243707]
アクション認識は、ビデオ内の様々な人間の行動を特定するタスクである。
最近の外見に基づく手法は、正確な行動認識に向けて有望な進歩を遂げている。
論文 参考訳(メタデータ) (2020-11-25T10:18:12Z) - Region Comparison Network for Interpretable Few-shot Image
Classification [97.97902360117368]
新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。
本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。
また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
論文 参考訳(メタデータ) (2020-09-08T07:29:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。