論文の概要: A Confidence-Variance Theory for Pseudo-Label Selection in Semi-Supervised Learning
- arxiv url: http://arxiv.org/abs/2601.11670v1
- Date: Fri, 16 Jan 2026 02:51:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-21 22:47:22.272883
- Title: A Confidence-Variance Theory for Pseudo-Label Selection in Semi-Supervised Learning
- Title(参考訳): 半教師付き学習における擬似ラベル選択の信頼度理論
- Authors: Jinshi Liu, Pan Liu,
- Abstract要約: 本稿では,疑似ラベル選択のための基本的共同信頼性基準を提供する信頼分散(CoVar)理論フレームワークを提案する。
信頼性の高い擬似ラベルは高いMCと低いRCVの両方を持つべきであり,信頼性が向上するにつれてRCVの影響が増大することを示す。
我々は,CoVarをプラグインモジュールとして,半教師付きセマンティックセマンティックセグメンテーションや画像分類手法に統合する。
- 参考スコア(独自算出の注目度): 15.149171763610662
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most pseudo-label selection strategies in semi-supervised learning rely on fixed confidence thresholds, implicitly assuming that prediction confidence reliably indicates correctness. In practice, deep networks are often overconfident: high-confidence predictions can still be wrong, while informative low-confidence samples near decision boundaries are discarded. This paper introduces a Confidence-Variance (CoVar) theory framework that provides a principled joint reliability criterion for pseudo-label selection. Starting from the entropy minimization principle, we derive a reliability measure that combines maximum confidence (MC) with residual-class variance (RCV), which characterizes how probability mass is distributed over non-maximum classes. The derivation shows that reliable pseudo-labels should have both high MC and low RCV, and that the influence of RCV increases as confidence grows, thereby correcting overconfident but unstable predictions. From this perspective, we cast pseudo-label selection as a spectral relaxation problem that maximizes separability in a confidence-variance feature space, and design a threshold-free selection mechanism to distinguish high- from low-reliability predictions. We integrate CoVar as a plug-in module into representative semi-supervised semantic segmentation and image classification methods. Across PASCAL VOC 2012, Cityscapes, CIFAR-10, and Mini-ImageNet with varying label ratios and backbones, it consistently improves over strong baselines, indicating that combining confidence with residual-class variance provides a more reliable basis for pseudo-label selection than fixed confidence thresholds. (Code: https://github.com/ljs11528/CoVar_Pseudo_Label_Selection.git)
- Abstract(参考訳): 半教師付き学習における疑似ラベル選択戦略は、予測信頼度が確実に正確であることを暗黙的に仮定して、固定された信頼しきい値に依存する。
実際には、ディープ・ネットワークはしばしば過信であり、高信頼の予測は依然として誤りであり、情報的な低信頼のサンプルは決定境界付近で破棄される。
本稿では,疑似ラベル選択のための基本的共同信頼性基準を提供する信頼分散(CoVar)理論フレームワークを提案する。
エントロピー最小化原理から、最大信頼度(MC)と残留クラス分散(RCV)を組み合わせた信頼性尺度を導出する。
この導出は、信頼性の高い擬似ラベルは高いMCと低いRCVの両方を持つべきであり、RCVの影響は信頼性が増大するにつれて増大し、過信だが不安定な予測が修正されることを示している。
この観点から、信頼分散特徴空間における分離性を最大化するスペクトル緩和問題として擬似ラベル選択を行い、高信頼度と低信頼度予測を区別する閾値自由選択機構を設計する。
我々は,CoVarをプラグインモジュールとして,半教師付きセマンティックセマンティックセグメンテーションや画像分類手法に統合する。
PASCAL VOC 2012、Cityscapes、CIFAR-10、Mini-ImageNetのラベル比とバックボーンが異なるため、強いベースラインよりも一貫して改善されている。
(コード:https://github.com/ljs11528/CoVar_Pseudo_Label_Selection.git)
関連論文リスト
- When Confidence Fails: Revisiting Pseudo-Label Selection in Semi-supervised Semantic Segmentation [15.149171763610662]
本稿では,信頼分布特徴空間内の凸最適化問題として,信頼分離学習(CSL)を提案する。
CSLは、信頼分布特徴空間内の凸最適化問題として擬似ラベル選択を定式化する。
CSLは最先端の手法に対して良好に機能することを示す。
論文 参考訳(メタデータ) (2025-09-20T14:23:09Z) - Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。
まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。
本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文 参考訳(メタデータ) (2025-08-11T02:33:53Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - Network Inversion for Generating Confidently Classified Counterfeits [11.599035626374409]
視覚分類において、自信のある予測をもたらす入力を生成することは、モデルの振る舞いと信頼性を理解するための鍵となる。
我々はネットワーク・インバージョン・テクニックを拡張してCCC(Confidently Classified Counterfeits)を生成する。
CCCは信頼性に関するモデル中心の視点を提供し、モデルが完全に合成されたアウト・オブ・ディストリビューション・インプットに高い信頼を割り当てることを明らかにする。
論文 参考訳(メタデータ) (2025-03-26T03:26:49Z) - Revisiting Confidence Estimation: Towards Reliable Failure Prediction [53.79160907725975]
多くの信頼度推定法は誤分類誤りを検出するのに有害である。
本稿では, 最先端の故障予測性能を示す平坦な最小値を求めることにより, 信頼性ギャップを拡大することを提案する。
論文 参考訳(メタデータ) (2024-03-05T11:44:14Z) - Binary Classification with Confidence Difference [100.08818204756093]
本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。
本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。
また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
論文 参考訳(メタデータ) (2023-10-09T11:44:50Z) - When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。
deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。
カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
論文 参考訳(メタデータ) (2023-07-06T04:13:57Z) - Failure Prediction by Confidence Estimation of Uncertainty-Aware
Dirichlet Networks [6.700873164609009]
不確実性を考慮したディープディリクレニューラルネットワークは、真のクラス確率計量における正しい予測と誤予測の信頼性の分離を改善できることが示されている。
不均衡とTCP制約を考慮に入れながら、予測信頼度と一致させることで、真のクラス確率を学習するための新しい基準を提案する。
論文 参考訳(メタデータ) (2020-10-19T21:06:45Z) - Certifying Confidence via Randomized Smoothing [151.67113334248464]
ランダムな平滑化は、高次元の分類問題に対して良好な証明されたロバスト性を保証することが示されている。
ほとんどの平滑化法は、下層の分類器が予測する信頼性に関する情報を与えてくれない。
そこで本研究では,スムーズな分類器の予測信頼度を評価するために,認証ラジイを生成する手法を提案する。
論文 参考訳(メタデータ) (2020-09-17T04:37:26Z) - Knowing what you know: valid and validated confidence sets in multiclass
and multilabel prediction [0.8594140167290097]
マルチクラスおよびマルチラベル問題において、有効な信頼セットを構築するための共形予測手法を開発する。
量子レグレッションのアイデアを活用することで、常に正しいカバレッジを保証すると同時に、マルチクラスとマルチラベルの予測問題に対して条件付きカバレッジを提供する手法を構築する。
論文 参考訳(メタデータ) (2020-04-21T17:45:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。