論文の概要: Meta Pseudo Labels
- arxiv url: http://arxiv.org/abs/2003.10580v4
- Date: Mon, 1 Mar 2021 19:52:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-20 23:40:49.477059
- Title: Meta Pseudo Labels
- Title(参考訳): メタ擬似ラベル
- Authors: Hieu Pham, Zihang Dai, Qizhe Xie, Minh-Thang Luong, Quoc V. Le
- Abstract要約: ImageNet上で90.2%の新しい最先端トップ1精度を実現する半教師付き学習手法であるMeta Pseudo Labelsを提案する。
教師が固定されたPseudo Labelsとは異なり、Meta Pseudo Labelsの教師は、ラベル付きデータセット上での生徒のパフォーマンスのフィードバックによって常に適応される。
- 参考スコア(独自算出の注目度): 101.96063913077872
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present Meta Pseudo Labels, a semi-supervised learning method that
achieves a new state-of-the-art top-1 accuracy of 90.2% on ImageNet, which is
1.6% better than the existing state-of-the-art. Like Pseudo Labels, Meta Pseudo
Labels has a teacher network to generate pseudo labels on unlabeled data to
teach a student network. However, unlike Pseudo Labels where the teacher is
fixed, the teacher in Meta Pseudo Labels is constantly adapted by the feedback
of the student's performance on the labeled dataset. As a result, the teacher
generates better pseudo labels to teach the student. Our code will be available
at
https://github.com/google-research/google-research/tree/master/meta_pseudo_labels.
- Abstract(参考訳): 本稿では,imagenetにおける最新のtop-1精度である90.2%を達成するための半教師付き学習手法であるmeta pseudo labelsを提案する。
Pseudo Labelsのように、Meta Pseudo Labelsは教師ネットワークを持ち、未ラベルのデータに擬似ラベルを生成して学生ネットワークを教える。
しかし、教師が固定されたPseudo Labelsとは異なり、Meta Pseudo Labelsの教師は、ラベル付きデータセット上での生徒のパフォーマンスのフィードバックによって常に適応される。
その結果、教師は生徒に教えるためのより良い擬似ラベルを生成する。
私たちのコードはhttps://github.com/google-research/google-research/tree/master/meta_pseudo_labelsで利用可能です。
関連論文リスト
- NP$^2$L: Negative Pseudo Partial Labels Extraction for Graph Neural
Networks [48.39834063008816]
擬似ラベルはグラフニューラルネットワーク(GNN)で使われ、メッセージパッシングレベルでの学習を支援する。
本稿では,GNNにおいて擬似ラベルを使用する新しい手法を提案する。
本手法は,部分ラベルの重なりが無く,負のノード対関係として定義される場合,より正確であることを示す。
論文 参考訳(メタデータ) (2023-10-02T11:13:59Z) - Imprecise Label Learning: A Unified Framework for Learning with Various Imprecise Label Configurations [91.67511167969934]
imprecise label learning (ILL)は、様々な不正確なラベル構成で学習を統合するためのフレームワークである。
我々は、ILLが部分ラベル学習、半教師付き学習、雑音ラベル学習にシームレスに適応できることを実証した。
論文 参考訳(メタデータ) (2023-05-22T04:50:28Z) - Semi-Supervised Semantic Segmentation via Gentle Teaching Assistant [72.4512562104361]
擬似ラベル付きラベル付きラベル付きデータは,特徴抽出器における代表的特徴の学習を容易にすることができると論じる。
そこで本研究では,擬似ラベルが特徴抽出器やマスク予測器に与える影響を解消する新しい枠組みであるジェントル指導アシスタント(GTA-Seg)を提案する。
論文 参考訳(メタデータ) (2023-01-18T07:11:24Z) - Self Meta Pseudo Labels: Meta Pseudo Labels Without The Teacher [2.741266294612776]
擬似ラベルと分類の両方を生成するために単一のモデルを使用する新しい方法を提案する。
本手法は,メモリ使用量を大幅に削減しつつ,Meta Pseudo Labels法に類似した性能を実現する。
論文 参考訳(メタデータ) (2022-12-27T09:29:00Z) - Online pseudo labeling for polyp segmentation with momentum networks [5.920947681019466]
半教師付き学習では、ラベルの品質がモデルパフォーマンスにおいて重要な役割を果たす。
本稿では,学生ネットワークのトレーニングに使用される擬似ラベルの品質を高めるための,新しい擬似ラベル方式を提案する。
実験結果は, 通常の手法を3%超え, ある程度のデータセットで完全に監督された結果に近づいた。
論文 参考訳(メタデータ) (2022-09-29T07:33:54Z) - Label Matching Semi-Supervised Object Detection [85.99282969977541]
半教師対象検出は,教師主導型自己学習の開発において大きな進歩を遂げている。
ラベルミスマッチ問題は、以前の研究でまだ完全に解明されていないため、自己学習中に重大な確証バイアスが生じる。
本稿では,2つの異なる相補的視点から,単純かつ効果的な LabelMatch フレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-14T05:59:41Z) - All Labels Are Not Created Equal: Enhancing Semi-supervision via Label
Grouping and Co-training [32.45488147013166]
Pseudo-labelingは、半教師付き学習(SSL)の鍵となるコンポーネントである
本論文では,ラベルセマンティクスとコトレーニングを活用した問題解決手法であるSemCoを提案する。
提案手法は,1000個のラベル付きサンプルを持つミニイメージネットデータセットにおける5.6%の精度向上を含む,様々なsslタスクにおいて最先端の性能を実現する。
論文 参考訳(メタデータ) (2021-04-12T07:33:16Z) - SLADE: A Self-Training Framework For Distance Metric Learning [75.54078592084217]
我々は、追加のラベルのないデータを活用することで、検索性能を向上させるための自己学習フレームワークSLADEを提案する。
まず、ラベル付きデータに基づいて教師モデルをトレーニングし、ラベルなしデータに対して擬似ラベルを生成する。
次に、最終機能埋め込みを生成するために、ラベルと擬似ラベルの両方で学生モデルをトレーニングします。
論文 参考訳(メタデータ) (2020-11-20T08:26:10Z) - Learning Soft Labels via Meta Learning [3.4852307714135375]
シングルホットラベルは概念間のソフトな決定境界を表現していないため、トレーニングされたモデルは過度に適合する傾向にある。
そこで我々は,ラベルを学習可能なパラメータとして扱い,モデルパラメータとともに最適化するフレームワークを提案する。
本研究では, 学習ラベルがクラス間の意味的関係を捉え, 蒸留の下流作業における教師モデルを改善することを示す。
論文 参考訳(メタデータ) (2020-09-20T18:42:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。