論文の概要: Understand and Improve Contrastive Learning Methods for Visual
Representation: A Review
- arxiv url: http://arxiv.org/abs/2106.03259v1
- Date: Sun, 6 Jun 2021 21:59:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-11 13:57:06.860924
- Title: Understand and Improve Contrastive Learning Methods for Visual
Representation: A Review
- Title(参考訳): 視覚表現のためのコントラスト学習法を理解し,改善する:レビュー
- Authors: Ran Liu
- Abstract要約: 手動ラベリングなしで効果的なデータ表現を学習できる可能性から、有望な自己教師型学習が人気を集めている。
本文献レビューは, 自己指導型学習の鍵となる構成要素と限界を理解するための研究者の取り組みについて, 最新の分析を行うことを目的としている。
- 参考スコア(独自算出の注目度): 1.4650545418986058
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Traditional supervised learning methods are hitting a bottleneck because of
their dependency on expensive manually labeled data and their weaknesses such
as limited generalization ability and vulnerability to adversarial attacks. A
promising alternative, self-supervised learning, as a type of unsupervised
learning, has gained popularity because of its potential to learn effective
data representations without manual labeling. Among self-supervised learning
algorithms, contrastive learning has achieved state-of-the-art performance in
several fields of research. This literature review aims to provide an
up-to-date analysis of the efforts of researchers to understand the key
components and the limitations of self-supervised learning.
- Abstract(参考訳): 従来の教師付き学習手法は、高価な手動ラベル付きデータに依存することと、一般化能力の制限や敵の攻撃に対する脆弱性といった弱点により、ボトルネックに直面している。
教師なし学習の一種としての有望な自己教師型学習は、手動ラベリングなしで効果的なデータ表現を学習できる可能性から人気を集めている。
自己教師付き学習アルゴリズムの中で、コントラスト学習はいくつかの研究分野で最先端のパフォーマンスを達成した。
本論文は,自己監督学習の重要な構成要素と限界を理解するための研究者の努力について,最新の分析を行うことを目的としている。
関連論文リスト
- A review on discriminative self-supervised learning methods [6.24302896438145]
ラベルのないデータからロバストな特徴を抽出する手法として自己教師付き学習が登場した。
本稿では,コンピュータビジョン分野における自己教師型学習の差別的アプローチについて概説する。
論文 参考訳(メタデータ) (2024-05-08T11:15:20Z) - A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。
自己教師型学習のための生成潜在変数モデルを提案する。
対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
論文 参考訳(メタデータ) (2024-02-02T13:31:17Z) - Balancing Continual Learning and Fine-tuning for Human Activity
Recognition [21.361301806478643]
ウェアラブルベースのヒューマンアクティビティ認識(HAR)は、人間中心の機械学習において重要なタスクである。
本研究は,継続的自己教師型学習モデルであるCaSSLeの採用と適応について検討する。
また、異なる損失項の重要性についても検討し、知識保持と新たな課題からの学習のトレードオフについて検討した。
論文 参考訳(メタデータ) (2024-01-04T13:11:43Z) - RLIF: Interactive Imitation Learning as Reinforcement Learning [56.997263135104504]
我々は,対話型模倣学習と類似するが,さらに実践的な仮定の下で,非政治強化学習によってパフォーマンスが向上できることを実証する。
提案手法は,ユーザ介入信号を用いた強化学習を報奨として利用する。
このことは、インタラクティブな模倣学習において介入する専門家がほぼ最適であるべきだという仮定を緩和し、アルゴリズムが潜在的に最適でない人間の専門家よりも改善される行動を学ぶことを可能にする。
論文 参考訳(メタデータ) (2023-11-21T21:05:21Z) - Unleash Model Potential: Bootstrapped Meta Self-supervised Learning [12.57396771974944]
機械学習の長期的な目標は、監督なしで少数のデータから一般的な視覚表現を学習することである。
自己指導型学習とメタラーニングは、この目標を達成するための2つの有望なテクニックであるが、どちらもメリットを部分的に捉えているだけである。
本稿では,人間の学習過程をシミュレートすることを目的とした,ブートストラップ型メタ自己監視学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-28T02:49:07Z) - Can Self-Supervised Representation Learning Methods Withstand
Distribution Shifts and Corruptions? [5.706184197639971]
コンピュータビジョンにおける自己教師付き学習は、データ内の固有の構造と関係を利用して意味のある表現を学ぶことを目的としている。
本研究では,自己指導型学習手法の学習表現のロバスト性について検討し,分布シフトと画像劣化に着目した。
論文 参考訳(メタデータ) (2023-07-31T13:07:56Z) - Accelerating Self-Supervised Learning via Efficient Training Strategies [98.26556609110992]
自己監督型ディープネットワークのトレーニング時間は、教師付きディープネットワークよりも桁違いに大きい。
これらの課題に乗じて,近年の自己指導手法の訓練時間を短縮する方法について検討する。
論文 参考訳(メタデータ) (2022-12-11T21:49:39Z) - Co$^2$L: Contrastive Continual Learning [69.46643497220586]
近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。
本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-06-28T06:14:38Z) - Can Semantic Labels Assist Self-Supervised Visual Representation
Learning? [194.1681088693248]
近隣環境におけるコントラスト調整(SCAN)という新しいアルゴリズムを提案する。
一連のダウンストリームタスクにおいて、SCANは従来の完全教師付きおよび自己教師付きメソッドよりも優れたパフォーマンスを達成する。
本研究は, セマンティックラベルが自己指導的手法の補助に有用であることを明らかにする。
論文 参考訳(メタデータ) (2020-11-17T13:25:00Z) - Combining Self-Training and Self-Supervised Learning for Unsupervised
Disfluency Detection [80.68446022994492]
本研究では,未ラベルテキストコーパスを扱える教師なし学習パラダイムについて検討する。
我々のモデルは、自己学習の考え方を拡張する半教師あり学習アプローチである、雑音学習(Noisy Student Training)に関する最近の研究に基づいている。
論文 参考訳(メタデータ) (2020-10-29T05:29:26Z) - Self-supervised Learning: Generative or Contrastive [16.326494162366973]
自己指導型学習は近年,表現型学習の性能向上に寄与している。
我々は、コンピュータビジョン、自然言語処理、グラフ学習における表現のための新しい自己教師付き学習手法について検討する。
論文 参考訳(メタデータ) (2020-06-15T08:40:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。