論文の概要: SUVR: A Search-based Approach to Unsupervised Visual Representation Learning

• arxiv url: http://arxiv.org/abs/2305.14754v1
• Date: Wed, 24 May 2023 05:57:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-25 19:20:34.234962
• Title: SUVR: A Search-based Approach to Unsupervised Visual Representation Learning
• Title（参考訳）: SUVR:教師なし視覚表現学習への探索的アプローチ
• Authors: Yi-Zhan Xu, Chih-Yao Chen, Cheng-Te Li
• Abstract要約: 画像ペアは様々な類似度を持つべきであり、負のサンプルはデータセット全体から引き出すことができるべきだ、と我々は主張する。 本研究では,教師なしの方法でより優れた画像表現を学習するために,検索に基づく教師なし視覚学習(SUVR)を提案する。
• 参考スコア（独自算出の注目度）: 11.602089225841631
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unsupervised learning has grown in popularity because of the difficulty of collecting annotated data and the development of modern frameworks that allow us to learn from unlabeled data. Existing studies, however, either disregard variations at different levels of similarity or only consider negative samples from one batch. We argue that image pairs should have varying degrees of similarity, and the negative samples should be allowed to be drawn from the entire dataset. In this work, we propose Search-based Unsupervised Visual Representation Learning (SUVR) to learn better image representations in an unsupervised manner. We first construct a graph from the image dataset by the similarity between images, and adopt the concept of graph traversal to explore positive samples. In the meantime, we make sure that negative samples can be drawn from the full dataset. Quantitative experiments on five benchmark image classification datasets demonstrate that SUVR can significantly outperform strong competing methods on unsupervised embedding learning. Qualitative experiments also show that SUVR can produce better representations in which similar images are clustered closer together than unrelated images in the latent space.
• Abstract（参考訳）: 注釈付きデータ収集の難しさや、ラベルなしデータから学習できる近代的なフレームワークの開発により、教師なし学習の人気が高まっている。 しかし、既存の研究では、異なるレベルの類似性を無視するか、1つのバッチからの負のサンプルしか考慮していない。 画像ペアは様々な類似度を持つべきであり、負のサンプルはデータセット全体から引き出すことができるべきだ、と我々は主張する。 本研究では,教師なしの方法で画像表現を改善するために,検索に基づく教師なし視覚表現学習(SUVR)を提案する。 まず、画像間の類似性によって画像データセットからグラフを構築し、正のサンプルを探索するためにグラフトラバースの概念を採用する。 一方、負のサンプルがデータセット全体から引き出せるようにします。 5つのベンチマーク画像分類データセットの定量的実験により、SUVRは教師なし埋め込み学習において強力な競合する手法を著しく上回っていることが示された。 定性的実験により、SuVRは、類似した画像が潜伏空間の非関連画像よりも密集したより良い表現を生成できることを示した。

関連論文リスト

• InfoNCE Loss Provably Learns Cluster-Preserving Representations [54.28112623495274]
  InfoNCEが有限個の負のサンプルで学習した表現は、データのクラスタに対して一致していることを示す。 我々の主な成果は、InfoNCEが有限個の負のサンプルで学んだ表現もまた、データのクラスタと一致していることを示すことである。
  論文  参考訳（メタデータ） (2023-02-15T19:45:35Z)
• ACTIVE:Augmentation-Free Graph Contrastive Learning for Partial Multi-View Clustering [52.491074276133325]
  部分的マルチビュークラスタリングの問題を解決するために,拡張自由グラフコントラスト学習フレームワークを提案する。 提案手法は、インスタンスレベルのコントラスト学習と欠落データ推論をクラスタレベルに高め、個々の欠落データがクラスタリングに与える影響を効果的に軽減する。
  論文  参考訳（メタデータ） (2022-03-01T02:32:25Z)
• Weakly Supervised Contrastive Learning [68.47096022526927]
  この問題に対処するために,弱教師付きコントラスト学習フレームワーク(WCL)を導入する。 WCLはResNet50を使用して65%と72%のImageNet Top-1の精度を実現している。
  論文  参考訳（メタデータ） (2021-10-10T12:03:52Z)
• Focus on the Positives: Self-Supervised Learning for Biodiversity Monitoring [9.086207853136054]
  ラベルのない画像コレクションから自己教師付き表現を学習する問題に対処する。 我々は,入力画像間の空間的関係や時間的関係などの情報を符号化する,手軽に利用可能なコンテキストデータを利用する。 地球生物多様性監視の重要課題として、人間の監督が限定された視覚的種分類タスクに適応可能な画像特徴があげられる。
  論文  参考訳（メタデータ） (2021-08-14T01:12:41Z)
• AugNet: End-to-End Unsupervised Visual Representation Learning with Image Augmentation [3.6790362352712873]
  我々は、未ラベル画像の集合から画像特徴を学習するための新しいディープラーニングトレーニングパラダイムであるAugNetを提案する。 実験により,低次元空間における画像の表現が可能であることを実証した。 多くのディープラーニングベースの画像検索アルゴリズムとは異なり、我々のアプローチは外部アノテーション付きデータセットへのアクセスを必要としない。
  論文  参考訳（メタデータ） (2021-06-11T09:02:30Z)
• Divide and Contrast: Self-supervised Learning from Uncurated Data [10.783599686099716]
  DnC(Devide and Contrast)は、コントラスト学習とクラスタリングベースのハードネガティブマイニングを交互に行う。 低キュレートデータセットで事前トレーニングを行うと、DnCは下流タスクにおける自己教師型学習のパフォーマンスを大幅に改善する。
  論文  参考訳（メタデータ） (2021-05-17T17:59:03Z)
• G-SimCLR : Self-Supervised Contrastive Learning with Guided Projection via Pseudo Labelling [0.8164433158925593]
  コンピュータビジョンにおいて、ディープニューラルネットワークは大量のラベル付きデータを持つ教師付き設定において、より良い性能を発揮することが明らかである。 本研究では, 温度スケールクロスエントロピー(NT-Xent)損失関数の正規化により, 同じカテゴリの画像が同じバッチにない方が有益であることを示す。 我々は、ラベルのないデータセットで訓練された復号化オートエンコーダの潜在空間表現を使用し、それらをk平均でクラスタリングして擬似ラベルを得る。
  論文  参考訳（メタデータ） (2020-09-25T02:25:37Z)
• Delving into Inter-Image Invariance for Unsupervised Visual Representations [108.33534231219464]
  画像間不変学習の役割をよりよく理解するための研究を提案する。 オンラインラベルはオフラインラベルよりも早く収束する。 半硬な負のサンプルは、硬い負のサンプルよりも信頼性が高く、偏りがない。
  論文  参考訳（メタデータ） (2020-08-26T17:44:23Z)
• Unsupervised Landmark Learning from Unpaired Data [117.81440795184587]
  教師なしランドマーク学習の最近の試みは、外観は似ているがポーズでは異なる合成画像対を活用する。 本稿では,2回スワッピング・リコンストラクション・ストラテジーを適用して最終監視を行うクロスイメージ・サイクル整合性フレームワークを提案する。 提案するフレームワークは,強いベースラインを大きなマージンで上回ることを示す。
  論文  参考訳（メタデータ） (2020-06-29T13:57:20Z)
• Unsupervised Image Classification for Deep Representation Learning [42.09716669386924]
  埋め込みクラスタリングを使わずに、教師なしのイメージ分類フレームワークを提案する。 提案手法の有効性を証明するために,ImageNetデータセットの実験を行った。
  論文  参考訳（メタデータ） (2020-06-20T02:57:06Z)
• Un-Mix: Rethinking Image Mixtures for Unsupervised Visual Representation Learning [108.999497144296]
  近年の先進的な教師なし学習手法では,同じ画像から2つの「ビュー」を学習表現として比較するために,サイムズ様の枠組みを用いている。 この研究は、教師なし学習においてラベル空間上の距離の概念を巻き込み、正対と負対のソフトな類似度をモデルに認識させることを目的としている。 その概念的単純さにもかかわらず、この解 -- 教師なし画像混合(Un-Mix)により、変換された入力と対応する新しいラベル空間からより微妙でより堅牢で一般化された表現を学習できることを実証的に示す。
  論文  参考訳（メタデータ） (2020-03-11T17:59:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。