論文の概要: SimMatch: Semi-supervised Learning with Similarity Matching
- arxiv url: http://arxiv.org/abs/2203.06915v2
- Date: Thu, 17 Mar 2022 12:55:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-18 10:43:07.417447
- Title: SimMatch: Semi-supervised Learning with Similarity Matching
- Title(参考訳): SimMatch: 類似性マッチングによる半教師あり学習
- Authors: Mingkai Zheng, Shan You, Lang Huang, Fei Wang, Chen Qian, Chang Xu
- Abstract要約: SimMatchは、意味的類似性とインスタンス類似性を考慮した、新しい半教師付き学習フレームワークである。
400エポックのトレーニングで、SimMatchは67.2%、Top-1の正確度は74.4%で、ImageNetでは1%と10%のラベルが付けられている。
- 参考スコア(独自算出の注目度): 43.61802702362675
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning with few labeled data has been a longstanding problem in the
computer vision and machine learning research community. In this paper, we
introduced a new semi-supervised learning framework, SimMatch, which
simultaneously considers semantic similarity and instance similarity. In
SimMatch, the consistency regularization will be applied on both semantic-level
and instance-level. The different augmented views of the same instance are
encouraged to have the same class prediction and similar similarity
relationship respected to other instances. Next, we instantiated a labeled
memory buffer to fully leverage the ground truth labels on instance-level and
bridge the gaps between the semantic and instance similarities. Finally, we
proposed the \textit{unfolding} and \textit{aggregation} operation which allows
these two similarities be isomorphically transformed with each other. In this
way, the semantic and instance pseudo-labels can be mutually propagated to
generate more high-quality and reliable matching targets. Extensive
experimental results demonstrate that SimMatch improves the performance of
semi-supervised learning tasks across different benchmark datasets and
different settings. Notably, with 400 epochs of training, SimMatch achieves
67.2\%, and 74.4\% Top-1 Accuracy with 1\% and 10\% labeled examples on
ImageNet, which significantly outperforms the baseline methods and is better
than previous semi-supervised learning frameworks. Code and pre-trained models
are available at https://github.com/KyleZheng1997/simmatch.
- Abstract(参考訳): ラベル付きデータの少ない学習は、コンピュータビジョンと機械学習研究コミュニティの長年の問題だった。
本稿では,セマンティック類似性とインスタンス類似性を同時に検討するセミ教師付き学習フレームワークSimMatchを提案する。
simmatchでは、一貫性の正規化はセマンティクスレベルとインスタンスレベルの両方に適用される。
同じインスタンスの異なる拡張ビューは、同じクラス予測と、他のインスタンスに対して同様の類似性関係を持つように推奨されている。
次に、ラベル付きメモリバッファをインスタンス化し、インスタンスレベルの真理ラベルを完全に活用し、セマンティックとインスタンスの類似性のギャップを埋める。
最後に,これら2つの類似性を同型に変換できる「textit{unfolding}」と「textit{aggregation}」演算を提案する。
このように、セマンティックとインスタンスの擬似ラベルは相互に伝播し、より高品質で信頼性の高いマッチングターゲットを生成する。
広範な実験結果から、simmatchは、異なるベンチマークデータセットと異なる設定で半教師あり学習タスクのパフォーマンスを向上させることが示されている。
特に400エポックのトレーニングでは、simmatchは67.2\%と74.4\%のtop-1精度を達成し、1\%と10\%のラベル付き例をimagenet上で達成している。
コードと事前訓練されたモデルはhttps://github.com/KyleZheng1997/simmatch.comで入手できる。
関連論文リスト
- SimMatchV2: Semi-Supervised Learning with Graph Consistency [53.31681712576555]
半教師付き学習アルゴリズムSimMatchV2を導入する。
グラフの観点からラベル付きデータとラベルなしデータの間の様々な一貫性の規則化を定式化する。
SimMatchV2は、複数の半教師付き学習ベンチマークで検証されている。
論文 参考訳(メタデータ) (2023-08-13T05:56:36Z) - Addressing Discrepancies in Semantic and Visual Alignment in Neural
Networks [0.0]
我々は、意味的に類似するクラスが視覚的に異なっていたり、非類似クラスの間に視覚的類似性が存在する場合の問題を考察する。
本稿では,意味論的に類似したクラスと任意の(視覚的でない)意味的関係をよりよく整合させる目的で,データ拡張手法を提案する。
その結果,提案手法を用いると,意味的に類似したクラス同士のアライメントが増加することがわかった。
論文 参考訳(メタデータ) (2023-06-01T21:03:06Z) - SAT: Improving Semi-Supervised Text Classification with Simple
Instance-Adaptive Self-Training [19.879452265836917]
本研究は、半教師付きテキスト分類のための簡易なインスタンス適応自己学習法(SAT)を提案する。
SATはまず、ラベルのない各データに対して2つの拡張ビューを生成し、次にメタラーナーを訓練して、拡張の相対的な強度を自動的に識別する。
論文 参考訳(メタデータ) (2022-10-23T08:19:58Z) - Multi-View Correlation Consistency for Semi-Supervised Semantic
Segmentation [59.34619548026885]
半教師付きセマンティックセグメンテーションは、ラベルなしデータのリッチで堅牢な監視を必要とする。
本稿では,異なるビュー間の画素・画素対応を保証するビューコヒーレントなデータ拡張戦略を提案する。
2つのデータセットの半教師付き設定では、最先端の手法と比較して、競争の正確さが報告される。
論文 参考訳(メタデータ) (2022-08-17T17:59:11Z) - Attributable Visual Similarity Learning [90.69718495533144]
本稿では、画像間のより正確で説明可能な類似度測定のための帰属的視覚類似度学習(AVSL)フレームワークを提案する。
人間の意味的類似性認知に動機づけられた2つの画像とグラフとの類似性を表現するために,一般化された類似性学習パラダイムを提案する。
CUB-200-2011、Cars196、Stanford Online Productsデータセットの実験は、既存の深い類似性学習方法よりも大幅に改善されたことを示している。
論文 参考訳(メタデータ) (2022-03-28T17:35:31Z) - A Theory-Driven Self-Labeling Refinement Method for Contrastive
Representation Learning [111.05365744744437]
教師なしのコントラスト学習は、正のイメージの作物と、負のイメージの作物とをラベル付けする。
本研究は, コントラスト学習において, 不正確なラベル割り当てがセマンティック・インスタンス識別の一般化を著しく損なうことを最初に証明する。
この理論に触発されて、コントラスト学習のための新しい自己ラベル改善手法を提案する。
論文 参考訳(メタデータ) (2021-06-28T14:24:52Z) - SimPLE: Similar Pseudo Label Exploitation for Semi-Supervised
Classification [24.386165255835063]
一般的な分類タスクの状況は、トレーニングに利用可能な大量のデータを持っているが、クラスラベルを持つのはごく一部である。
この文脈で、半監督トレーニングの目標は、大量のラベルのないデータからの情報を利用して分類精度を向上させることです。
本研究では,相互に類似した高信頼度ラベル付きデータ間の研究の少ない関係に焦点をあてた,教師なしの新たな目的を提案する。
提案したSimPLEアルゴリズムは,CIFAR-100およびMini-ImageNetにおける従来のアルゴリズムと比較して有意な性能向上を示した。
論文 参考訳(メタデータ) (2021-03-30T23:48:06Z) - CoMatch: Semi-supervised Learning with Contrastive Graph Regularization [86.84486065798735]
CoMatchは、支配的なアプローチを統一する、新しい半教師付き学習手法である。
複数のデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2020-11-23T02:54:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。