論文の概要: Fix-A-Step: Effective Semi-supervised Learning from Uncurated Unlabeled
Sets
- arxiv url: http://arxiv.org/abs/2208.11870v1
- Date: Thu, 25 Aug 2022 04:52:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-26 13:01:03.545011
- Title: Fix-A-Step: Effective Semi-supervised Learning from Uncurated Unlabeled
Sets
- Title(参考訳): fix-a-step:uncured unlabeled setからの効果的な半教師付き学習
- Authors: Zhe Huang, Mary-Joy Sidhom, Benjamin S. Wessler, Michael C. Hughes
- Abstract要約: 医用画像では、ラベルなしのセットは迅速性のために収集され、したがって未修正となる。
我々は、一般的なディープSSLメソッドのホールドアウト精度を向上させるためのFix-A-Stepと呼ばれるプロシージャを導入する。
本手法は,353,500枚の未処理画像から学習し,病院全体に広範に普及するゲインを提供する。
- 参考スコア(独自算出の注目度): 4.779633174910461
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Semi-supervised learning (SSL) promises gains in accuracy compared to
training classifiers on small labeled datasets by also training on many
unlabeled images. In realistic applications like medical imaging, unlabeled
sets will be collected for expediency and thus uncurated: possibly different
from the labeled set in represented classes or class frequencies.
Unfortunately, modern deep SSL often makes accuracy worse when given uncurated
unlabeled sets. Recent remedies suggest filtering approaches that detect
out-of-distribution unlabeled examples and then discard or downweight them.
Instead, we view all unlabeled examples as potentially helpful. We introduce a
procedure called Fix-A-Step that can improve heldout accuracy of common deep
SSL methods despite lack of curation. The key innovations are augmentations of
the labeled set inspired by all unlabeled data and a modification of gradient
descent updates to prevent following the multi-task SSL loss from hurting
labeled-set accuracy. Though our method is simpler than alternatives, we show
consistent accuracy gains on CIFAR-10 and CIFAR-100 benchmarks across all
tested levels of artificial contamination for the unlabeled sets. We further
suggest a real medical benchmark for SSL: recognizing the view type of
ultrasound images of the heart. Our method can learn from 353,500 truly
uncurated unlabeled images to deliver gains that generalize across hospitals.
- Abstract(参考訳): 半教師付き学習(SSL)は、小さなラベル付きデータセット上のトレーニング分類器と比較して、多くのラベル付きイメージをトレーニングすることで精度の向上を約束する。
医用イメージングのような現実のアプリケーションでは、ラベルなしのセットは、即時に収集され、それゆえ未キュレーションになる:おそらく、表現されたクラスまたはクラス周波数のラベル付きセットとは異なる。
残念ながら、最新のディープSSLは、未修正の未ラベルセットが与えられた場合、しばしば精度が悪くなる。
最近の改善は、非配布例を検出し、それらを破棄または減量するフィルタリングアプローチを提案する。
代わりに、ラベルのないすべての例が潜在的に有用であると考えています。
我々は、キュレーションの欠如にもかかわらず、一般的なディープSSLメソッドのホールドアウト精度を向上させるFix-A-Stepと呼ばれる手順を導入する。
主要なイノベーションは、ラベルなしデータにインスパイアされたラベル付きセットの強化と、マルチタスクsslの損失がラベル付きセットの精度を損なうことを防ぐために勾配降下更新の変更である。
CIFAR-10とCIFAR-100のベンチマークでは, ラベルなし集合に対する人工汚染のすべての試験レベルにおいて, 精度が一貫した結果が得られた。
さらに、SSLの実際の医療ベンチマークとして、心臓の超音波画像のビュータイプを認識することを提案する。
本手法は,353,500枚の真に未完な画像から学習し,病院に普及する成果を提供する。
関連論文リスト
- FlatMatch: Bridging Labeled Data and Unlabeled Data with Cross-Sharpness
for Semi-Supervised Learning [73.13448439554497]
Semi-Supervised Learning (SSL) は、ラベル付きデータが極めて少ない豊富なラベル付きデータを活用する効果的な方法である。
ほとんどのSSLメソッドは、通常、異なるデータ変換間のインスタンス単位の一貫性に基づいている。
本研究では,2つのデータセット間の一貫した学習性能を確保するために,クロスシャープネス尺度を最小化するFlatMatchを提案する。
論文 参考訳(メタデータ) (2023-10-25T06:57:59Z) - Semi-supervised Pathological Image Segmentation via Cross Distillation
of Multiple Attentions [19.236045479697797]
我々は,CDMA(Cross Distillation of Multiple Attentions)に基づく新しい半教師付き学習(SSL)手法を提案する。
提案したCDMAは,公開DigestPathデータセット上の8つの最先端SSL手法と比較した。
論文 参考訳(メタデータ) (2023-05-30T08:23:07Z) - On Non-Random Missing Labels in Semi-Supervised Learning [114.62655062520425]
Semi-Supervised Learning (SSL)は基本的にラベルの問題である。
SSL に "class" を明示的に組み込んでいます。
提案手法は,既存のベースラインを著しく上回るだけでなく,他のラベルバイアス除去SSL法を上回ります。
論文 参考訳(メタデータ) (2022-06-29T22:01:29Z) - Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。
ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。
しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
論文 参考訳(メタデータ) (2022-02-12T04:16:41Z) - ACPL: Anti-curriculum Pseudo-labelling forSemi-supervised Medical Image
Classification [22.5935068122522]
我々は、反キュリキュラム擬似ラベリング(ACPL)と呼ばれる新しいSSLアルゴリズムを提案する。
ACPLは、情報のないサンプルを選択するための新しいテクニックを導入し、トレーニングバランスを改善し、マルチラベルとマルチクラスの両方でモデルが動作できるようにする。
本手法は, 従来のSOTA SSL方式よりも優れていた。
論文 参考訳(メタデータ) (2021-11-25T05:31:52Z) - Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。
提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
論文 参考訳(メタデータ) (2021-09-01T23:52:29Z) - Information Bottleneck Constrained Latent Bidirectional Embedding for
Zero-Shot Learning [59.58381904522967]
本稿では,密な視覚-意味的結合制約を持つ埋め込み型生成モデルを提案する。
視覚空間と意味空間の両方の埋め込みパラメトリック分布を校正する統合潜在空間を学習する。
本手法は, 画像のラベルを生成することにより, トランスダクティブZSL設定に容易に拡張できる。
論文 参考訳(メタデータ) (2020-09-16T03:54:12Z) - FixMatch: Simplifying Semi-Supervised Learning with Consistency and
Confidence [93.91751021370638]
半教師付き学習(SSL)は、ラベルのないデータを活用してモデルの性能を向上させる効果的な手段を提供する。
本稿では、整合正則化と擬似ラベル付けという2つの共通SSL手法の単純な組み合わせのパワーを実証する。
筆者らのアルゴリズムであるFixMatchは、まず、弱拡張未ラベル画像上のモデルの予測を用いて擬似ラベルを生成する。
論文 参考訳(メタデータ) (2020-01-21T18:32:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。