論文の概要: A Survey of Self-Supervised Learning from Multiple Perspectives: Algorithms, Theory, Applications and Future Trends

• arxiv url: http://arxiv.org/abs/2301.05712v1
• Date: Fri, 13 Jan 2023 14:41:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-18 19:20:00.267439
• Title: A Survey of Self-Supervised Learning from Multiple Perspectives: Algorithms, Theory, Applications and Future Trends
• Title（参考訳）: 複数の視点から学ぶ自己指導型学習:アルゴリズム,理論,応用,今後の展望
• Authors: Jie Gui, Tuo Chen, Qiong Cao, Zhenan Sun, Hao Luo, Dacheng Tao
• Abstract要約: ラベル付きラベルなしでラベルなしの例から良い特徴を学ぶために、自己教師付き学習が提案された。 本稿では,アルゴリズム,理論,応用,3つの主要なトレンド,オープンな質問の観点から,さまざまなSSLメソッドのレビューを行う。
• 参考スコア（独自算出の注目度）: 103.84131582660905
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep supervised learning algorithms generally require large numbers of labeled examples to attain satisfactory performance. To avoid the expensive cost incurred by collecting and labeling too many examples, as a subset of unsupervised learning, self-supervised learning (SSL) was proposed to learn good features from many unlabeled examples without any human-annotated labels. SSL has recently become a hot research topic, and many related algorithms have been proposed. However, few comprehensive studies have explained the connections among different SSL variants and how they have evolved. In this paper, we attempt to provide a review of the various SSL methods from the perspectives of algorithms, theory, applications, three main trends, and open questions. First, the motivations of most SSL algorithms are introduced in detail, and their commonalities and differences are compared. Second, the theoretical issues associated with SSL are investigated. Third, typical applications of SSL in areas such as image processing and computer vision (CV), as well as natural language processing (NLP), are discussed. Finally, the three main trends of SSL and the open research questions are discussed. A collection of useful materials is available at https://github.com/guijiejie/SSL.
• Abstract（参考訳）: 深い教師付き学習アルゴリズムは一般に、十分な性能を得るために多くのラベル付き例を必要とする。 教師なし学習(unsupervised learning)のサブセットとして、人間が注釈付きラベルを付けずに、多くのラベルなしの例から良い特徴を学ぶための自己教師付き学習(ssl)が提案されている。 SSLは最近ホットな研究トピックとなり、関連する多くのアルゴリズムが提案されている。 しかし、様々なssl変種間の接続とそれらがどのように進化したかについての包括的な研究はほとんどない。 本稿では,アルゴリズム,理論,応用,3つの主要なトレンド,オープンな質問の観点から,さまざまなSSL手法のレビューを試みる。 まず、ほとんどのSSLアルゴリズムのモチベーションを詳細に紹介し、共通点と相違点を比較した。 次に,SSLに関する理論的問題について検討した。 第3に、画像処理やコンピュータビジョン(CV)、自然言語処理(NLP)といった分野におけるSSLの典型的な応用について論じる。 最後に、SSLの主な3つのトレンドとオープンな研究課題について論じる。 有用な資料のコレクションはhttps://github.com/guijiejie/sslで入手できる。

関連論文リスト

• Self-Supervised Learning for Time Series Analysis: Taxonomy, Progress, and Prospects [84.6945070729684]
  自己教師付き学習(SSL)は、最近、様々な時系列タスクで印象的なパフォーマンスを達成した。 この記事では、時系列データに対する最先端のSSLメソッドについてレビューする。
  論文  参考訳（メタデータ） (2023-06-16T18:23:10Z)
• Self-Supervised Learning for Point Clouds Data: A Survey [8.858165912687923]
  自己監督学習(SSL)は、時間と労働集約的なデータラベリング問題を解決するための重要なソリューションであると考えられている。 本稿では,ポイントクラウドにおけるSSLの最近の進歩を包括的に調査する。
  論文  参考訳（メタデータ） (2023-05-09T08:47:09Z)
• Active Self-Supervised Learning: A Few Low-Cost Relationships Are All You Need [34.013568381942775]
  Self-Supervised Learning (SSL)は、ラベルのないデータから転送可能な表現を学習する選択肢のソリューションとして登場した。 本研究では,この原理を正のアクティブラーニング(PAL)によって形式化し,一般化する。 まず、SSLを超えて理論的に基礎を成す学習フレームワークを公開し、類似性グラフに基づいて、採用するオラクルに応じて教師付きおよび半教師付き学習に取り組むように拡張する。 第二に、事前知識、例えばいくつかのラベルをトレーニングパイプラインの変更なしにSSL損失に組み込むための一貫したアルゴリズムを提供する。
  論文  参考訳（メタデータ） (2023-03-27T14:44:39Z)
• OpenLDN: Learning to Discover Novel Classes for Open-World Semi-Supervised Learning [110.40285771431687]
  半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。 最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。 この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
  論文  参考訳（メタデータ） (2022-07-05T18:51:05Z)
• DATA: Domain-Aware and Task-Aware Pre-training [94.62676913928831]
  我々は、自己教師付き学習(SSL)に特化した、シンプルで効果的なNASアプローチであるDataを提示する。 提案手法は,画像分類,オブジェクト検出,セマンティックセグメンテーションなど,下流タスクにおける計算コストの広い範囲にわたる有望な結果を実現する。
  論文  参考訳（メタデータ） (2022-03-17T02:38:49Z)
• Self-supervised on Graphs: Contrastive, Generative,or Predictive [25.679620842010422]
  SSL(Self-supervised Learning)は、よく設計されたプリテキストタスクを通じて有益な知識を抽出するための新しいパラダイムとして登場しています。 既存のグラフSSLメソッドは、コントラスト、生成、予測の3つのカテゴリに分けられる。 また、一般的なデータセット、評価メトリクス、下流タスク、さまざまなアルゴリズムのオープンソース実装をまとめています。
  論文  参考訳（メタデータ） (2021-05-16T03:30:03Z)
• Rethinking Self-Supervised Learning: Small is Beautiful [30.809693803413445]
  小解像度、小アーキテクチャ、小データという3つの部分を含むスケールダウン自己監督学習(S3L)を提案します。 さまざまなデータセットセットにおいて、S3Lは、以前のSSL学習パラダイムと比較して、トレーニングコストを大幅に削減しながら、一貫して高い精度を達成する。
  論文  参考訳（メタデータ） (2021-03-25T01:48:52Z)
• Graph-based Semi-supervised Learning: A Comprehensive Review [51.26862262550445]
  半教師付き学習(ssl)はラベル付きデータとラベルなしデータの両方を利用する能力があるため、実際非常に価値があります。 重要なSSLメソッドのクラスは、グラフベースの半教師付き学習(GSSL)メソッドに対応するグラフとしてデータを自然に表現することです。 GSSLメソッドは、構造のユニークさ、アプリケーションの普遍性、大規模データへのスケーラビリティのために、さまざまなドメインでその利点を実証しています。
  論文  参考訳（メタデータ） (2021-02-26T05:11:09Z)
• Self-Supervised Learning of Graph Neural Networks: A Unified Review [50.71341657322391]
  ラベルなしサンプルを多用する新たなパラダイムとして,自己教師型学習が登場している。 SSLを用いたグラフニューラルネットワーク(GNNs)のトレーニング方法の統一レビューを提供します。 gnnに対するssl手法の処理は,様々な手法の類似性と相違に光を当て,新しい手法やアルゴリズムの開発段階を定めている。
  論文  参考訳（メタデータ） (2021-02-22T03:43:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。