論文の概要: Fix-A-Step: Semi-supervised Learning from Uncurated Unlabeled Data
- arxiv url: http://arxiv.org/abs/2208.11870v3
- Date: Thu, 25 May 2023 18:23:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-30 00:07:54.550170
- Title: Fix-A-Step: Semi-supervised Learning from Uncurated Unlabeled Data
- Title(参考訳): Fix-A-Step: 未修正データからの半教師付き学習
- Authors: Zhe Huang, Mary-Joy Sidhom, Benjamin S. Wessler, Michael C. Hughes
- Abstract要約: 医用画像のような実際の応用では、ラベルなしのデータは緊急に収集され、その結果、未処理となる。
我々は、未修正の未ラベルの画像を潜在的に有益であるとみなすプロシージャであるFix-A-Stepを紹介した。
Heart2Heartと呼ばれる新しい医療用SSLベンチマークで、Fix-A-Stepは353,500個の未処理の超音波画像から学習し、病院全体に一般化された利益をもたらす。
- 参考スコア(独自算出の注目度): 4.779633174910461
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Semi-supervised learning (SSL) promises improved accuracy compared to
training classifiers on small labeled datasets by also training on many
unlabeled images. In real applications like medical imaging, unlabeled data
will be collected for expediency and thus uncurated: possibly different from
the labeled set in classes or features. Unfortunately, modern deep SSL often
makes accuracy worse when given uncurated unlabeled data. Recent complex
remedies try to detect out-of-distribution unlabeled images and then discard or
downweight them. Instead, we introduce Fix-A-Step, a simpler procedure that
views all uncurated unlabeled images as potentially helpful. Our first insight
is that even uncurated images can yield useful augmentations of labeled data.
Second, we modify gradient descent updates to prevent optimizing a multi-task
SSL loss from hurting labeled-set accuracy. Fix-A-Step can repair many common
deep SSL methods, improving accuracy on CIFAR benchmarks across all tested
methods and levels of artificial class mismatch. On a new medical SSL benchmark
called Heart2Heart, Fix-A-Step can learn from 353,500 truly uncurated
ultrasound images to deliver gains that generalize across hospitals.
- Abstract(参考訳): semi-supervised learning (ssl) は、小さなラベル付きデータセットの分類器のトレーニングに比べて、多くのラベル付き画像のトレーニングにより精度が向上する。
医用イメージングのような実際のアプリケーションでは、ラベルなしのデータは、即時に収集され、それゆえアンキュレートされる:おそらくクラスや特徴のラベル付きセットとは異なる。
残念なことに、最新のディープSSLは、未ラベルのデータを使用すれば、しばしば精度が悪くなる。
最近の複雑な治療法は、ラベル付けされていない画像を検出し、それらを捨てたり、下げたりしようとする。
代わりにFix-A-Stepを紹介します。これは、未修正の未ラベルのイメージを潜在的に有用であると見なすシンプルな手順です。
最初の洞察は、未修正画像でもラベル付きデータの有用な拡張が得られるということです。
第2に、マルチタスクSSL損失の最適化がラベル付きセットの精度を損なうのを防ぐために勾配降下更新を変更する。
Fix-A-Stepは、多くの一般的なディープSSLメソッドを修復し、テストされたすべてのメソッドと人工クラスミスマッチレベルにわたるCIFARベンチマークの精度を改善します。
heart2heartと呼ばれる新しい医療用sslベンチマークでは、35万3500枚の真に未解決な超音波画像から学べる。
関連論文リスト
- FlatMatch: Bridging Labeled Data and Unlabeled Data with Cross-Sharpness
for Semi-Supervised Learning [73.13448439554497]
Semi-Supervised Learning (SSL) は、ラベル付きデータが極めて少ない豊富なラベル付きデータを活用する効果的な方法である。
ほとんどのSSLメソッドは、通常、異なるデータ変換間のインスタンス単位の一貫性に基づいている。
本研究では,2つのデータセット間の一貫した学習性能を確保するために,クロスシャープネス尺度を最小化するFlatMatchを提案する。
論文 参考訳(メタデータ) (2023-10-25T06:57:59Z) - Semi-supervised Pathological Image Segmentation via Cross Distillation
of Multiple Attentions [19.236045479697797]
我々は,CDMA(Cross Distillation of Multiple Attentions)に基づく新しい半教師付き学習(SSL)手法を提案する。
提案したCDMAは,公開DigestPathデータセット上の8つの最先端SSL手法と比較した。
論文 参考訳(メタデータ) (2023-05-30T08:23:07Z) - On Non-Random Missing Labels in Semi-Supervised Learning [114.62655062520425]
Semi-Supervised Learning (SSL)は基本的にラベルの問題である。
SSL に "class" を明示的に組み込んでいます。
提案手法は,既存のベースラインを著しく上回るだけでなく,他のラベルバイアス除去SSL法を上回ります。
論文 参考訳(メタデータ) (2022-06-29T22:01:29Z) - Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。
ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。
しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
論文 参考訳(メタデータ) (2022-02-12T04:16:41Z) - ACPL: Anti-curriculum Pseudo-labelling forSemi-supervised Medical Image
Classification [22.5935068122522]
我々は、反キュリキュラム擬似ラベリング(ACPL)と呼ばれる新しいSSLアルゴリズムを提案する。
ACPLは、情報のないサンプルを選択するための新しいテクニックを導入し、トレーニングバランスを改善し、マルチラベルとマルチクラスの両方でモデルが動作できるようにする。
本手法は, 従来のSOTA SSL方式よりも優れていた。
論文 参考訳(メタデータ) (2021-11-25T05:31:52Z) - Dash: Semi-Supervised Learning with Dynamic Thresholding [72.74339790209531]
我々は、ラベルのない例を使ってモデルをトレーニングする半教師付き学習(SSL)アプローチを提案する。
提案手法であるDashは、ラベルなしデータ選択の観点から適応性を享受する。
論文 参考訳(メタデータ) (2021-09-01T23:52:29Z) - Information Bottleneck Constrained Latent Bidirectional Embedding for
Zero-Shot Learning [59.58381904522967]
本稿では,密な視覚-意味的結合制約を持つ埋め込み型生成モデルを提案する。
視覚空間と意味空間の両方の埋め込みパラメトリック分布を校正する統合潜在空間を学習する。
本手法は, 画像のラベルを生成することにより, トランスダクティブZSL設定に容易に拡張できる。
論文 参考訳(メタデータ) (2020-09-16T03:54:12Z) - FixMatch: Simplifying Semi-Supervised Learning with Consistency and
Confidence [93.91751021370638]
半教師付き学習(SSL)は、ラベルのないデータを活用してモデルの性能を向上させる効果的な手段を提供する。
本稿では、整合正則化と擬似ラベル付けという2つの共通SSL手法の単純な組み合わせのパワーを実証する。
筆者らのアルゴリズムであるFixMatchは、まず、弱拡張未ラベル画像上のモデルの予測を用いて擬似ラベルを生成する。
論文 参考訳(メタデータ) (2020-01-21T18:32:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。