論文の概要: Semi-Supervised Learning of Visual Features by Non-Parametrically Predicting View Assignments with Support Samples

• arxiv url: http://arxiv.org/abs/2104.13963v1
• Date: Wed, 28 Apr 2021 18:44:07 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-30 13:15:31.063779
• Title: Semi-Supervised Learning of Visual Features by Non-Parametrically Predicting View Assignments with Support Samples
• Title（参考訳）: 非パラメトリック予測型ビューアサインメントによる視覚特徴の半教師付き学習
• Authors: Mahmoud Assran, Mathilde Caron, Ishan Misra, Piotr Bojanowski, Armand Joulin, Nicolas Ballas, Michael Rabbat
• Abstract要約: 本稿では,支援サンプルを用いた視点割当予測による学習手法を提案する。 このメソッドは、一貫性の損失を最小限に抑えるためにモデルをトレーニングし、同じラベルのないインスタンスの異なるビューが同様の擬似ラベルに割り当てられるようにします。 擬似ラベルは、画像ビューの表現をランダムにサンプリングされたラベル付き画像の集合と比較することによって、非パラメトリックに生成される。
• 参考スコア（独自算出の注目度）: 45.32502589149226
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper proposes a novel method of learning by predicting view assignments with support samples (PAWS). The method trains a model to minimize a consistency loss, which ensures that different views of the same unlabeled instance are assigned similar pseudo-labels. The pseudo-labels are generated non-parametrically, by comparing the representations of the image views to those of a set of randomly sampled labeled images. The distance between the view representations and labeled representations is used to provide a weighting over class labels, which we interpret as a soft pseudo-label. By non-parametrically incorporating labeled samples in this way, PAWS extends the distance-metric loss used in self-supervised methods such as BYOL and SwAV to the semi-supervised setting. Despite the simplicity of the approach, PAWS outperforms other semi-supervised methods across architectures, setting a new state-of-the-art for a ResNet-50 on ImageNet trained with either 10% or 1% of the labels, reaching 75.5% and 66.5% top-1 respectively. PAWS requires 4x to 12x less training than the previous best methods.
• Abstract（参考訳）: 本稿では,支援サンプル(PAWS)を用いたビュー割り当て予測による学習手法を提案する。 このメソッドは、一貫性の損失を最小限に抑えるためにモデルを訓練し、同じラベルのないインスタンスの異なるビューに同様の擬似ラベルが割り当てられることを保証する。 擬似ラベルは、画像ビューの表現をランダムにサンプリングされた一連のラベル付き画像と比較することにより、非パラメトリックに生成される。 ビュー表現とラベル付き表現の間の距離は、クラスラベルの重み付けに使われ、ソフトな擬似ラベルと解釈する。 このようにラベル付きサンプルを非パラメトリックに組み込むことにより、PAWSはBYOLやSwaVといった自己監督手法で使用される距離測定損失を半教師付き設定に拡張する。 アプローチの単純さにもかかわらず、PAWSはアーキテクチャ全体で他の半教師付き手法よりも優れており、ラベルの10%または1%でトレーニングされたImageNet上でResNet-50の最先端を新たに設定し、それぞれ75.5%と66.5%に達した。 PAWSは以前のベストメソッドの4倍から12倍のトレーニングを必要とする。

関連論文リスト

• VLM-CPL: Consensus Pseudo Labels from Vision-Language Models for Human Annotation-Free Pathological Image Classification [23.08368823707528]
  本稿では,VLM(Venture-Language Models)を利用した画像分類法を提案する。 2つのノイズラベルフィルタリング技術と半教師付き学習戦略を統合した,コンセンサス擬似ラベルに基づく新しい手法 VLM-CPL を提案する。 実験の結果,HPHデータセットとLC25Kデータセットの精度は87.1%,95.1%であった。
  論文  参考訳（メタデータ） (2024-03-23T13:24:30Z)
• Semi-Supervised Learning for hyperspectral images by non parametrically predicting view assignment [25.198550162904713]
  ハイパースペクトル画像(HSI)分類は、画像中のスペクトル情報が高いため、現在、多くの勢いを増している。 近年,ラベル付きサンプルを最小限に抑えたディープラーニングモデルを効果的に訓練するために,ラベル付きサンプルも自己教師付きおよび半教師付き設定で活用されている。 本研究では,半教師付き学習の概念を利用して,モデルの識別的自己教師型事前学習を支援する。
  論文  参考訳（メタデータ） (2023-06-19T14:13:56Z)
• Weakly Supervised Contrastive Learning [68.47096022526927]
  この問題に対処するために,弱教師付きコントラスト学習フレームワーク(WCL)を導入する。 WCLはResNet50を使用して65%と72%のImageNet Top-1の精度を実現している。
  論文  参考訳（メタデータ） (2021-10-10T12:03:52Z)
• Seed the Views: Hierarchical Semantic Alignment for Contrastive Representation Learning [116.91819311885166]
  一つの画像から生成されたビューをtextbfCross-samples や Multi-level representation に拡張することで,階層的なセマンティックアライメント戦略を提案する。 提案手法はCsMlと呼ばれ,サンプル間の多層視覚表現を堅牢な方法で統合する機能を備えている。
  論文  参考訳（メタデータ） (2020-12-04T17:26:24Z)
• Center-wise Local Image Mixture For Contrastive Representation Learning [37.806687971373954]
  インスタンス識別列車モデルに基づくコントラスト学習は、アンカーサンプルの異なる変換を他のサンプルと区別する。 本稿では,データセット内の他のサンプルからの正値を用いた新しいコントラスト学習手法であるCLIMを提案する。 ResNet-50に対する線形評価で75.5%のトップ1精度に達し、わずか1%のラベルで微調整された場合、59.3%のトップ1精度を得る。
  論文  参考訳（メタデータ） (2020-11-05T08:20:31Z)
• Unsupervised Representation Learning by InvariancePropagation [34.53866045440319]
  本稿では,カテゴリーレベルの変分に不変な学習表現に焦点をあてる不変分散伝播を提案する。 バックボーンとしてResNet-50を用いると、ImageNetの線形分類では71.3%の精度で、1%のラベルだけで78.2%の精度で微調整できる。 また、Places205とPascal VOCの線形分類や、小規模データセットでの転送学習など、他の下流タスクにおける最先端のパフォーマンスも達成している。
  論文  参考訳（メタデータ） (2020-10-07T13:00:33Z)
• CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances [77.28192419848901]
  コントラストシフトインスタンス (CSI) という,単純かつ効果的な手法を提案する。 従来のコントラスト学習法のように,サンプルを他の例と対比することに加えて,本トレーニング手法では,サンプルを分散シフトによる拡張と対比する。 本実験は, 種々の新規検出シナリオにおける本手法の優位性を実証する。
  論文  参考訳（メタデータ） (2020-07-16T08:32:56Z)
• MatchGAN: A Self-Supervised Semi-Supervised Conditional Generative Adversarial Network [51.84251358009803]
  本稿では,条件付き生成逆数ネットワーク(GAN)に対する,半教師付き環境下での自己教師型学習手法を提案する。 利用可能な数少ないラベル付きサンプルのラベル空間から無作為なラベルをサンプリングして拡張を行う。 本手法は,ベースラインのトレーニングに使用したラベル付きサンプルの20%に過ぎません。
  論文  参考訳（メタデータ） (2020-06-11T17:14:55Z)
• Un-Mix: Rethinking Image Mixtures for Unsupervised Visual Representation Learning [108.999497144296]
  近年の先進的な教師なし学習手法では,同じ画像から2つの「ビュー」を学習表現として比較するために,サイムズ様の枠組みを用いている。 この研究は、教師なし学習においてラベル空間上の距離の概念を巻き込み、正対と負対のソフトな類似度をモデルに認識させることを目的としている。 その概念的単純さにもかかわらず、この解 -- 教師なし画像混合(Un-Mix)により、変換された入力と対応する新しいラベル空間からより微妙でより堅牢で一般化された表現を学習できることを実証的に示す。
  論文  参考訳（メタデータ） (2020-03-11T17:59:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。