論文の概要: Taming Overconfident Prediction on Unlabeled Data from Hindsight

• arxiv url: http://arxiv.org/abs/2112.08200v1
• Date: Wed, 15 Dec 2021 15:17:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-16 16:31:22.117083
• Title: Taming Overconfident Prediction on Unlabeled Data from Hindsight
• Title（参考訳）: 隠れ視からのラベルなしデータの過信予測のモデル化
• Authors: Jing Li, Yuangang Pan, Ivor W. Tsang
• Abstract要約: ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習において優れた性能を達成するための鍵となる要素である。 本稿では,アダプティブシャーニング(Adaptive Sharpening, ADS)と呼ばれる2つのメカニズムを提案する。 ADSは、プラグインにすることで最先端のSSLメソッドを大幅に改善する。
• 参考スコア（独自算出の注目度）: 50.9088560433925
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Minimizing prediction uncertainty on unlabeled data is a key factor to achieve good performance in semi-supervised learning (SSL). The prediction uncertainty is typically expressed as the \emph{entropy} computed by the transformed probabilities in output space. Most existing works distill low-entropy prediction by either accepting the determining class (with the largest probability) as the true label or suppressing subtle predictions (with the smaller probabilities). Unarguably, these distillation strategies are usually heuristic and less informative for model training. From this discernment, this paper proposes a dual mechanism, named ADaptive Sharpening (\ADS), which first applies a soft-threshold to adaptively mask out determinate and negligible predictions, and then seamlessly sharpens the informed predictions, distilling certain predictions with the informed ones only. More importantly, we theoretically analyze the traits of \ADS by comparing with various distillation strategies. Numerous experiments verify that \ADS significantly improves the state-of-the-art SSL methods by making it a plug-in. Our proposed \ADS forges a cornerstone for future distillation-based SSL research.
• Abstract（参考訳）: ラベルのないデータに対する予測の不確実性を最小化することは、半教師付き学習(SSL)において優れたパフォーマンスを達成するための鍵となる要素である。 予測の不確実性は通常、出力空間の変換確率によって計算される \emph{entropy} として表される。 既存の作品の多くは、決定クラス(最大確率)を真のラベルとして受け入れるか、(より小さな確率で)微妙な予測を抑制することによって、低エントロピー予測を蒸留している。 不可解なことに、これらの蒸留戦略は通常ヒューリスティックであり、モデルのトレーニングには役に立たない。 そこで本研究では,まずソフトスレッショルドを用いて,決定予測と無視予測を適応的にマスキングし,次に情報予測をシームレスにシャープし,情報予測のみを蒸留する,Adaptive Sharpening (\ADS) という2つのメカニズムを提案する。 さらに, 種々の蒸留戦略との比較により, 理論上, \adsの特性を解析した。 数多くの実験により、 \ADS はプラグインにすることで最先端のSSLメソッドを大幅に改善することを確認した。 提案した<ADS>は,蒸留法に基づくSSL研究の基盤となる。

関連論文リスト

• Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning [53.42244686183879]
  コンフォーマル予測は、モデルに依存しない、分布のない不確実性定量化を提供する。 しかし、敵が訓練データと校正データを操作した場合の毒殺攻撃では、共形予測は信頼性が低い。 信頼性予測セット (RPS): 汚染下での信頼性保証を証明可能な共形予測セットを構築するための最初の効率的な方法を提案する。
  論文  参考訳（メタデータ） (2024-10-13T15:37:11Z)
• Augmented prediction of a true class for Positive Unlabeled data under selection bias [0.8594140167290099]
  本稿では, 観測時刻をラベル付けした正のアンラベル(PU)データに対して, 新たな観測環境を提案する。 我々は、追加情報は予測に重要であると主張し、このタスクを"Augmented PU prediction"と呼んでいる。 このようなシナリオで経験的ベイズ則のいくつかの変種を導入し、それらの性能について検討する。
  論文  参考訳（メタデータ） (2024-07-14T19:58:01Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Do not trust what you trust: Miscalibration in Semi-supervised Learning [21.20806568508201]
  最先端の半教師付き学習(SSL)アプローチは、ラベルなしサンプルのトレーニングをガイドする擬似ラベルとして機能するために、信頼性の高い予測に依存している。 擬似ラベルに基づくSSL方式は, かなり誤解されていることを示し, ミンエントロピーの最小化を正式に示す。 我々は単純なペナルティ項を統合し、ラベルのないサンプルの予測のロジットを低く保ち、ネットワーク予測が過信にならないようにする。
  論文  参考訳（メタデータ） (2024-03-22T18:43:46Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Conformal Prediction for Deep Classifier via Label Ranking [29.784336674173616]
  コンフォーマル予測(Conformal prediction)は、予測セットを所望のカバレッジ保証で生成する統計フレームワークである。 我々は、$textitSorted Adaptive Prediction Sets$ (SAPS)という新しいアルゴリズムを提案する。 SAPSは最大ソフトマックス確率を除いて全ての確率値を捨てる。
  論文  参考訳（メタデータ） (2023-10-10T08:54:14Z)
• LMD: Light-weight Prediction Quality Estimation for Object Detection in Lidar Point Clouds [3.927702899922668]
  Lidarのクラウドデータのオブジェクト検出は、自動運転とロボット工学にとって有望な技術だ。 不確実性推定は下流タスクにとって重要な要素であり、ディープニューラルネットワークは信頼性の高い予測であってもエラーを起こしやすい。 予測品質推定のための軽量後処理方式LidarMetaDetectを提案する。 本実験は,偽予測から真を分離する際の統計的信頼性を著しく向上させることを示した。
  論文  参考訳（メタデータ） (2023-06-13T15:13:29Z)
• ADT-SSL: Adaptive Dual-Threshold for Semi-Supervised Learning [68.53717108812297]
  Semi-Supervised Learning (SSL)は、ラベル付きデータとラベルなしデータを併用してモデルをトレーニングすることで、高度な分類タスクを実現している。 本稿では,半教師付き学習(ADT-SSL)のための適応的デュアル閾値法を提案する。 実験の結果,提案したADT-SSLは最先端の分類精度を実現することがわかった。
  論文  参考訳（メタデータ） (2022-05-21T11:52:08Z)
• Multi-label Chaining with Imprecise Probabilities [0.0]
  本稿では,古典的マルチラベル連鎖法を拡張し,不正確な確率推定を行うための2つの戦略を提案する。 このような推定に利用できる主な理由は、(1)連鎖において高い不確実性が検出された場合に慎重な予測を行うこと、(2)連鎖の初期決定におけるバイアスを回避し、より正確な予測を行うことである。 両手法の信頼性を検証したラベルの欠落に関する実験結果から,精度の高いモデルが故障した場合の予測が困難である事例に対して,本手法が関連する注意を喚起することを示す。
  論文  参考訳（メタデータ） (2021-07-15T16:43:31Z)
• Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
  類似サンプル間の予測分布を解析する新しい正規化法を提案する。 これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。 画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-03-31T06:03:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。