論文の概要: CaliMatch: Adaptive Calibration for Improving Safe Semi-supervised Learning
- arxiv url: http://arxiv.org/abs/2508.00922v1
- Date: Wed, 30 Jul 2025 07:00:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-05 18:25:21.62646
- Title: CaliMatch: Adaptive Calibration for Improving Safe Semi-supervised Learning
- Title(参考訳): CaliMatch: 安全な半教師付き学習を改善するための適応的校正
- Authors: Jinsoo Bae, Seoung Bum Kim, Hyungrok Do,
- Abstract要約: 半教師付き学習(SSL)では、ラベル付きデータが不足している場合に、ラベル付きデータを使用して機械学習モデルのパフォーマンスを改善する。
セーフSSLと呼ばれる最近の研究は、分類とアウト・オブ・ディストリビューション(OOD)検出の両方を用いてこの問題に対処している。
安全なSSLを育むために,分類器とOOD検出器の両方を校正する新しい手法であるCaliMatchを提案する。
- 参考スコア(独自算出の注目度): 3.864321514889099
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Semi-supervised learning (SSL) uses unlabeled data to improve the performance of machine learning models when labeled data is scarce. However, its real-world applications often face the label distribution mismatch problem, in which the unlabeled dataset includes instances whose ground-truth labels are absent from the labeled training dataset. Recent studies, referred to as safe SSL, have addressed this issue by using both classification and out-of-distribution (OOD) detection. However, the existing methods may suffer from overconfidence in deep neural networks, leading to increased SSL errors because of high confidence in incorrect pseudo-labels or OOD detection. To address this, we propose a novel method, CaliMatch, which calibrates both the classifier and the OOD detector to foster safe SSL. CaliMatch presents adaptive label smoothing and temperature scaling, which eliminates the need to manually tune the smoothing degree for effective calibration. We give a theoretical justification for why improving the calibration of both the classifier and the OOD detector is crucial in safe SSL. Extensive evaluations on CIFAR-10, CIFAR-100, SVHN, TinyImageNet, and ImageNet demonstrate that CaliMatch outperforms the existing methods in safe SSL tasks.
- Abstract(参考訳): 半教師付き学習(SSL)では、ラベル付きデータが不足している場合に、ラベル付きデータを使用して機械学習モデルのパフォーマンスを改善する。
しかし、その現実世界のアプリケーションはラベルの分布ミスマッチ問題に直面することが多く、ラベルなしデータセットにはラベル付きトレーニングデータセットに基調ラベルが欠落しているインスタンスが含まれている。
セーフSSLと呼ばれる最近の研究は、分類とアウト・オブ・ディストリビューション(OOD)検出の両方を用いてこの問題に対処している。
しかし、既存の手法はディープニューラルネットワークの過信に悩まされ、誤った擬似ラベルやOOD検出の信頼性が高いためにSSLエラーが増大する可能性がある。
そこで本研究では,安全なSSLを実現するために,分類器とOOD検出器の両方を校正する新しい手法であるCaliMatchを提案する。
CaliMatchは適応的なラベルのスムース化と温度スケーリングを提供しており、効果的なキャリブレーションのためにスムース化の度合いを手作業で調整する必要がなくなる。
我々は,安全なSSLにおいて,分類器とOOD検出器の校正が重要である理由を理論的に正当化する。
CIFAR-10、CIFAR-100、SVHN、TinyImageNet、ImageNetの大規模な評価は、CaliMatchが安全なSSLタスクにおいて既存のメソッドよりも優れていることを示している。
関連論文リスト
- Learning Label Refinement and Threshold Adjustment for Imbalanced Semi-Supervised Learning [6.904448748214652]
半教師付き学習アルゴリズムは、不均衡なトレーニングデータに晒された場合、うまく機能しない。
Validation Data(SEVAL)に基づく擬似ラベル最適化によるセミ教師あり学習について紹介する。
SEVALは、擬似ラベルの精度を改善して特定のタスクに適応し、クラスごとに擬似ラベルの正確性を保証する。
論文 参考訳(メタデータ) (2024-07-07T13:46:22Z) - Generalized Semi-Supervised Learning via Self-Supervised Feature Adaptation [87.17768598044427]
従来の半教師付き学習は、ラベル付きデータとラベルなしデータの特徴分布が一貫したものであると仮定する。
本稿では,ラベル付きおよびラベルなしデータの分散によるSSL性能向上のための汎用フレームワークであるセルフ・スーパービジョン・フィーチャー・アダプテーション(SSFA)を提案する。
提案するSSFAは擬似ラベルベースのSSL学習者に適用可能であり,ラベル付き,ラベルなし,さらには目に見えない分布における性能を著しく向上させる。
論文 参考訳(メタデータ) (2024-05-31T03:13:45Z) - Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。
セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。
本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
論文 参考訳(メタデータ) (2024-02-13T11:59:43Z) - Semi-Supervised Learning in the Few-Shot Zero-Shot Scenario [14.916971861796384]
Semi-Supervised Learning (SSL)は、ラベル付きデータとラベルなしデータの両方を利用して、モデルのパフォーマンスを向上させるフレームワークである。
既存のSSLメソッドを拡張し、特定のクラスが欠落している状況に対処するための一般的なアプローチを提案する。
実験の結果,最先端のSSL,オープンセットのSSL,オープンワールドのSSLメソッドと比較して,精度が大幅に向上した。
論文 参考訳(メタデータ) (2023-08-27T14:25:07Z) - Model Calibration in Dense Classification with Adaptive Label
Perturbation [44.62722402349157]
既存の密接な二分分類モデルは、過信される傾向がある。
本稿では,各トレーニング画像に対する独自のラベル摂動レベルを学習する適応ラベル摂動(ASLP)を提案する。
ASLPは、分布内および分布外の両方のデータに基づいて、密度の高い二分分類モデルの校正度を著しく改善することができる。
論文 参考訳(メタデータ) (2023-07-25T14:40:11Z) - Fix-A-Step: Semi-supervised Learning from Uncurated Unlabeled Data [4.779633174910461]
医用画像のような実際の応用では、ラベルなしのデータは緊急に収集され、その結果、未処理となる。
我々は、未修正の未ラベルの画像を潜在的に有益であるとみなすプロシージャであるFix-A-Stepを紹介した。
Heart2Heartと呼ばれる新しい医療用SSLベンチマークで、Fix-A-Stepは353,500個の未処理の超音波画像から学習し、病院全体に一般化された利益をもたらす。
論文 参考訳(メタデータ) (2022-08-25T04:52:21Z) - Radio Galaxy Zoo: Using semi-supervised learning to leverage large
unlabelled data-sets for radio galaxy classification under data-set shift [0.0]
電波銀河の形態分類に応用した最先端半教師付き学習アルゴリズム
より少ないラベルを持つSSLが、監督された最先端に匹敵するテスト精度を達成できるかどうかをテストする。
改善は限られたラベルボリュームに限定され、低ラベルボリュームでは性能が急速に低下する。
論文 参考訳(メタデータ) (2022-04-19T11:38:22Z) - Class-Aware Contrastive Semi-Supervised Learning [51.205844705156046]
本研究では,擬似ラベル品質を向上し,実環境におけるモデルの堅牢性を高めるため,CCSSL(Class-Aware Contrastive Semi-Supervised Learning)と呼ばれる一般的な手法を提案する。
提案するCCSSLは,標準データセットCIFAR100とSTL10の最先端SSLメソッドに対して,大幅な性能向上を実現している。
論文 参考訳(メタデータ) (2022-03-04T12:18:23Z) - Robust Deep Semi-Supervised Learning: A Brief Introduction [63.09703308309176]
半教師付き学習(SSL)は、ラベルが不十分なときにラベル付きデータを活用することにより、学習性能を向上させることを目的としている。
ディープモデルによるSSLは、標準ベンチマークタスクで成功したことが証明されている。
しかし、それらは現実世界のアプリケーションにおける様々な堅牢性に対する脅威に対して依然として脆弱である。
論文 参考訳(メタデータ) (2022-02-12T04:16:41Z) - OpenMatch: Open-set Consistency Regularization for Semi-supervised
Learning with Outliers [71.08167292329028]
我々はOpenMatchと呼ばれる新しいオープンセットセミスーパーバイザードラーニング(OSSL)アプローチを提案する。
OpenMatchは、1-vs-all(OVA)分類器に基づいた新規検出とFixMatchを統合する。
3つのデータセットで最先端のパフォーマンスを実現し、CIFAR10の未ラベルデータで見えないアウトリーチを検出する上で、完全な教師付きモデルよりも優れています。
論文 参考訳(メタデータ) (2021-05-28T23:57:15Z) - In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label
Selection Framework for Semi-Supervised Learning [53.1047775185362]
Pseudo-labeling (PL) は一般的な SSL アプローチで、この制約はありませんが、当初の処方では比較的不十分です。
PLは不整合モデルからの誤った高い信頼度予測により性能が低下していると論じる。
そこで本研究では,疑似ラベリング精度を向上させるための不確実性認識型擬似ラベル選択(ups)フレームワークを提案する。
論文 参考訳(メタデータ) (2021-01-15T23:29:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。