論文の概要: Uncertainty-aware Long-tailed Weights Model the Utility of Pseudo-labels for Semi-supervised Learning

• arxiv url: http://arxiv.org/abs/2503.09974v1
• Date: Thu, 13 Mar 2025 02:21:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-14 15:54:41.333960
• Title: Uncertainty-aware Long-tailed Weights Model the Utility of Pseudo-labels for Semi-supervised Learning
• Title（参考訳）: 半教師付き学習のための疑似ラベルの実用性に関する不確実性を考慮したロングテールウェイトモデル
• Authors: Jiaqi Wu, Junbiao Pang, Qingming Huang,
• Abstract要約: 本研究では,不確かさを意識したアンサンブル構造(UES)を提案する。 UESは軽量でアーキテクチャに依存しないため、分類や回帰を含む様々なコンピュータビジョンタスクに容易に拡張できる。
• 参考スコア（独自算出の注目度）: 50.868594148443215
• License:
• Abstract: Current Semi-supervised Learning (SSL) adopts the pseudo-labeling strategy and further filters pseudo-labels based on confidence thresholds. However, this mechanism has notable drawbacks: 1) setting the reasonable threshold is an open problem which significantly influences the selection of the high-quality pseudo-labels; and 2) deep models often exhibit the over-confidence phenomenon which makes the confidence value an unreliable indicator for assessing the quality of pseudo-labels due to the scarcity of labeled data. In this paper, we propose an Uncertainty-aware Ensemble Structure (UES) to assess the utility of pseudo-labels for unlabeled samples. We further model the utility of pseudo-labels as long-tailed weights to avoid the open problem of setting the threshold. Concretely, the advantage of the long-tailed weights ensures that even unreliable pseudo-labels still contribute to enhancing the model's robustness. Besides, UES is lightweight and architecture-agnostic, easily extending to various computer vision tasks, including classification and regression. Experimental results demonstrate that combining the proposed method with DualPose leads to a 3.47% improvement in Percentage of Correct Keypoints (PCK) on the Sniffing dataset with 100 data points (30 labeled), a 7.29\% improvement in PCK on the FLIC dataset with 100 data points (50 labeled), and a 3.91% improvement in PCK on the LSP dataset with 200 data points (100 labeled). Furthermore, when combined with FixMatch, the proposed method achieves a 0.2% accuracy improvement on the CIFAR-10 dataset with 40 labeled data points and a 0.26% accuracy improvement on the CIFAR-100 dataset with 400 labeled data points.
• Abstract（参考訳）: 現在の半教師付き学習(SSL)では、疑似ラベル戦略を採用し、さらに信頼しきい値に基づいて擬似ラベルをフィルタリングする。 しかし、このメカニズムには顕著な欠点がある。 1) 合理的しきい値を設定することは,高品質な擬似ラベルの選択に大きな影響を及ぼすオープンな問題である。 2) 深層モデルでは, ラベル付きデータの不足による疑似ラベルの品質評価において, 信頼度を信頼できない指標とする過信現象がしばしば現れる。 本稿では,不確かさを意識したアンサンブル構造(UES)を提案する。 しきい値を設定するというオープンな問題を避けるために、長い尾の重みとして擬似ラベルの実用性をモデル化する。 具体的には、長い尾の重みの利点は、信頼性の低い擬似ラベルでさえモデルの堅牢性を高めることに寄与することを保証している。 加えて、UESは軽量でアーキテクチャに依存しないため、分類や回帰を含む様々なコンピュータビジョンタスクに容易に拡張できる。 実験の結果,提案手法をDualPoseと組み合わせることで,100点(ラベル付き30点)のスニッフィングデータセット上でのPCKの精度が3.47%向上し,100点(ラベル付き50点)のFLICデータセット上でのPCKの7.296%改善,200点(ラベル付き100点)のLSPデータセット上でのPCKの3.91%改善が得られた。 さらに,FixMatchと組み合わせることで,40個のラベル付きデータポイントを持つCIFAR-10データセットに対して0.2%の精度向上を実現し,400個のラベル付きデータポイントを持つCIFAR-100データセットに対して0.26%の精度向上を実現した。

関連論文リスト

• Improving the accuracy of automated labeling of specimen images datasets via a confidence-based process [9.0255922670433]
  本稿では,自動ラベリング精度を大幅に向上させる手法を提案する。 初期精度の86%を生んだナイーブモデルでは,性能が向上することが実証された。 このアプローチを様々な方法で検証した後、60,000以上のハーバリウム標本の大規模なデータセットに注釈を付けました。
  論文  参考訳（メタデータ） (2024-11-15T09:39:12Z)
• Decorrelating Structure via Adapters Makes Ensemble Learning Practical for Semi-supervised Learning [50.868594148443215]
  コンピュータビジョンでは、従来のアンサンブル学習法は訓練効率が低いか、限られた性能を示す。 本稿では,視覚的タスクに適応器を用いたDecorrelating Structure(DSA)による軽量,損失関数なし,アーキテクチャに依存しないアンサンブル学習を提案する。
  論文  参考訳（メタデータ） (2024-08-08T01:31:38Z)
• Pearls from Pebbles: Improved Confidence Functions for Auto-labeling [51.44986105969375]
  しきい値に基づく自動ラベル付け(TBAL)は、上記のモデルの信頼度スコアのしきい値を見つけ、ラベルなしのデータポイントを正確にラベル付けすることで機能する。 本稿では,近位TBAL信頼度関数の研究のための枠組みを提案する。 本稿では,TBALシステムの性能を最大化するポストホック法を提案する。
  論文  参考訳（メタデータ） (2024-04-24T20:22:48Z)
• Navigating Data Heterogeneity in Federated Learning A Semi-Supervised Federated Object Detection [3.7398615061365206]
  フェデレートラーニング(FL)は、分散データソース間でモデルをトレーニングするための強力なフレームワークとして登場した。 特に自動運転のようなアプリケーションでは、高品質なラベルや、IID以外のクライアントデータに制限がある。 クライアントがラベル付きデータを持っている間、ラベル付きデータがサーバにのみ存在するシナリオ用に設計された、先駆的なSSFODフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-26T01:40:28Z)
• Binary Classification with Confidence Difference [100.08818204756093]
  本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。 本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。 また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
  論文  参考訳（メタデータ） (2023-10-09T11:44:50Z)
• Combating noisy labels in object detection datasets [0.0]
  本稿では,オブジェクト検出データセットにおける各ラベルの品質を評価するためのCLODアルゴリズムを提案する。 欠落した、突発的で、ラベルが間違えた、そして誤配置されたバウンディングボックスを特定し、修正を提案する。 提案手法は, 擬陽性率0.1未満の人工乱れ箱の80%近くを指摘できる。
  論文  参考訳（メタデータ） (2022-11-25T10:05:06Z)
• Boosting Semi-Supervised Face Recognition with Noise Robustness [54.342992887966616]
  本稿では,自動ラベルによるラベル雑音に対して頑健な半教師付き顔認識に対する効果的な解法を提案する。 そこで我々は,gnが強化するロバストな学習能力に基づく,ノイズロバスト学習ラベリング(nroll)という,半教師付き顔認識ソリューションを開発した。
  論文  参考訳（メタデータ） (2021-05-10T14:43:11Z)
• In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label Selection Framework for Semi-Supervised Learning [53.1047775185362]
  Pseudo-labeling (PL) は一般的な SSL アプローチで、この制約はありませんが、当初の処方では比較的不十分です。 PLは不整合モデルからの誤った高い信頼度予測により性能が低下していると論じる。 そこで本研究では,疑似ラベリング精度を向上させるための不確実性認識型擬似ラベル選択(ups)フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-15T23:29:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。