論文の概要: Systematic comparison of semi-supervised and self-supervised learning
for medical image classification
- arxiv url: http://arxiv.org/abs/2307.08919v2
- Date: Sun, 7 Jan 2024 19:07:33 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-09 23:22:13.124017
- Title: Systematic comparison of semi-supervised and self-supervised learning
for medical image classification
- Title（参考訳）: 医用画像分類のための半教師あり自己教師あり学習の体系的比較
- Authors: Zhe Huang, Ruijie Jiang, Shuchin Aeron, and Michael C. Hughes
- Abstract要約: 多くの医学画像分類問題では、ラベル付きデータが不足し、ラベルなしデータが利用可能である。
両方の方向からの最近の手法は、従来のベンチマークで顕著な上昇を報告している。
本研究は,4つの医療データセット上でのラベル付きセットのみのベースラインに対して,13の代表的な半指導的手法と自己指導的手法を比較した。
- 参考スコア（独自算出の注目度）: 12.977356726499735
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In many medical image classification problems, labeled data is scarce while
unlabeled data is more available. Semi-supervised learning and self-supervised
learning are two different research directions that can improve accuracy by
learning from extra unlabeled data. Recent methods from both directions have
reported significant gains on traditional benchmarks. Yet past benchmarks do
not focus on medical tasks and rarely compare self- and semi- methods together
on equal footing. Furthermore, past benchmarks often handle hyperparameter
tuning suboptimally. First, they may not tune hyperparameters at all, leading
to underfitting. Second, when tuning does occur, it often unrealistically uses
a labeled validation set much larger than the train set. Both cases make
previously published rankings of methods difficult to translate to practical
settings. This study contributes a systematic evaluation of self- and semi-
methods with a unified experimental protocol intended to guide a practitioner
with scarce overall labeled data and a limited compute budget. We answer two
key questions: Can hyperparameter tuning be effective with realistic-sized
validation sets? If so, when all methods are tuned well, which self- or
semi-supervised methods reach the best accuracy? Our study compares 13
representative semi- and self-supervised methods to strong labeled-set-only
baselines on 4 medical datasets. From 20000+ total GPU hours of computation, we
provide valuable best practices to resource-constrained, results-focused
practitioners.
- Abstract（参考訳）: 多くの医学画像分類問題では、ラベル付きデータが不足し、ラベルなしデータが利用可能である。
半教師付き学習と自己教師付き学習は、追加のラベル付きデータから学習することで精度を向上させる2つの研究方向である。
両方の方向からの最近の手法は、従来のベンチマークで顕著な上昇を報告している。
しかし、過去のベンチマークは医療のタスクに焦点を合わせておらず、自己と半メソッドを等しく比較することは滅多にない。
さらに、過去のベンチマークはハイパーパラメータチューニングを亜最適に扱うことが多い。
まず、ハイパーパラメータを全く調整せず、不適合になる可能性がある。
第二に、チューニングが発生した場合、しばしば非現実的に列車セットよりもはるかに大きいラベル付き検証セットを使用する。
どちらのケースも、以前公開されたメソッドのランキングを実用的な設定に変換するのが難しくしている。
本研究は,ラベル付きデータが少なく,計算予算が限られている実践者を支援するための統一的な実験プロトコルを用いて,自己および半方法論の体系的評価に寄与する。
ハイパーパラメータチューニングは現実的なサイズの検証セットで有効か?
もしそうなら、すべてのメソッドがうまくチューニングされた場合、どのセルフまたはセミ教師付きメソッドが最高の精度に達するか?
本研究は、4つの医療データセットにおける13の代表的半教師付き手法と強いラベル付きセットのみのベースラインを比較した。
20000以上の計算時間から、リソースに制約のある結果にフォーカスした実践者に貴重なベストプラクティスを提供する。
関連論文リスト
- Incremental Self-training for Semi-supervised Learning [56.57057576885672]
ISTは単純だが有効であり、既存の自己学習に基づく半教師あり学習手法に適合する。
提案したISTを5つのデータセットと2種類のバックボーンで検証し,認識精度と学習速度を効果的に向上させる。
論文 参考訳（メタデータ） (2024-04-14T05:02:00Z) - One-bit Supervision for Image Classification: Problem, Solution, and
Beyond [114.95815360508395]
本稿では,ラベルの少ない新しい学習環境である,画像分類のための1ビット監督について述べる。
多段階学習パラダイムを提案し、負ラベル抑圧を半教師付き半教師付き学習アルゴリズムに組み込む。
複数のベンチマークにおいて、提案手法の学習効率は、フルビットの半教師付き監視手法よりも優れている。
論文 参考訳（メタデータ） (2023-11-26T07:39:00Z) - Dual-Decoder Consistency via Pseudo-Labels Guided Data Augmentation for
Semi-Supervised Medical Image Segmentation [13.707121013895929]
本稿では, Pseudo-Labels Guided Data Augmentation を用いた新しい半教師付き学習手法である Dual-Decoder Consistency を提案する。
我々は、同じエンコーダを維持しながら、生徒と教師のネットワークに異なるデコーダを使用します。
ラベルのないデータから学習するために、教師ネットワークによって生成された擬似ラベルを作成し、擬似ラベルでトレーニングデータを増強する。
論文 参考訳（メタデータ） (2023-08-31T09:13:34Z) - Semi-Supervised Learning with Multiple Imputations on Non-Random Missing
Labels [0.0]
Semi-Supervised Learning (SSL)は、ラベル付きデータとラベルなしデータの両方でアルゴリズムがトレーニングされるときに実装される。
本稿では,より高精度でバイアスの少ない複数の計算モデルを組み合わせるための2つの新しい手法を提案する。
論文 参考訳（メタデータ） (2023-08-15T04:09:53Z) - Enhancing Adversarial Robustness in Low-Label Regime via Adaptively
Weighted Regularization and Knowledge Distillation [1.675857332621569]
ラベル付きデータが少ない半教師付き対人訓練について検討した。
提案する正則化項と知識蒸留を組み合わせた半教師付き対角訓練アルゴリズムを開発した。
提案アルゴリズムは,既存のアルゴリズムと比較して,最先端の性能を著しく向上させる。
論文 参考訳（メタデータ） (2023-08-08T05:48:38Z) - Debiased Pseudo Labeling in Self-Training [77.83549261035277]
ディープニューラルネットワークは、大規模ラベル付きデータセットの助けを借りて、幅広いタスクで顕著なパフォーマンスを達成する。
ラベル付きデータの要求を軽減するため、ラベル付けされていないデータに擬似ラベルを付けることにより、学術と産業の両方で自己学習が広く使われている。
疑似ラベルの生成と利用を2つの独立した頭文字で分離するデバイアスドを提案する。
論文 参考訳（メタデータ） (2022-02-15T02:14:33Z) - Uncertainty-Guided Mutual Consistency Learning for Semi-Supervised
Medical Image Segmentation [9.745971699005857]
医用画像セグメンテーションのための新しい不確実性誘導相互整合学習フレームワークを提案する。
タスクレベルの正規化によるタスク内一貫性学習と、タスク間の整合性学習を統合して、幾何学的な形状情報を活用する。
本手法は,ラベルのないデータを活用し,既存の半教師付きセグメンテーション法より優れた性能を実現する。
論文 参考訳（メタデータ） (2021-12-05T08:19:41Z) - Tune it the Right Way: Unsupervised Validation of Domain Adaptation via
Soft Neighborhood Density [125.64297244986552]
本稿では,点間の類似度分布のエントロピーを計算し,ソフト近傍の密度を測定する教師なし検証基準を提案する。
私たちの基準は、競合する検証方法よりもシンプルですが、より効果的です。
論文 参考訳（メタデータ） (2021-08-24T17:41:45Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳（メタデータ） (2021-04-11T09:50:24Z) - Deep Semi-supervised Metric Learning with Dual Alignment for Cervical
Cancer Cell Detection [49.78612417406883]
子宮頸癌細胞検出のための新しい半教師付き深度測定法を提案する。
私たちのモデルは、埋め込みメトリック空間を学習し、提案レベルとプロトタイプレベルの両方でセマンティック機能の二重アライメントを行います。
本研究は,240,860個の頸部細胞画像からなる半監督型頸部がん細胞検出のための大規模データセットを初めて構築した。
論文 参考訳（メタデータ） (2021-04-07T17:11:27Z) - Matching the Clinical Reality: Accurate OCT-Based Diagnosis From Few
Labels [2.891413712995642]
ラベルのないデータはクリニックで多用されることが多く、半教師付き学習に基づく機械学習手法がこの設定に適している。
最近提案されたMixMatchアルゴリズムとFixMatchアルゴリズムは有用な表現を抽出する有望な結果を証明している。
いずれのアルゴリズムも、ラベル付きデータの全ての部分において、転送学習ベースラインを上回ります。
論文 参考訳（メタデータ） (2020-10-23T11:47:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。