論文の概要: Generating Unbiased Pseudo-labels via a Theoretically Guaranteed
Chebyshev Constraint to Unify Semi-supervised Classification and Regression
- arxiv url: http://arxiv.org/abs/2311.01782v1
- Date: Fri, 3 Nov 2023 08:39:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-06 14:48:37.863787
- Title: Generating Unbiased Pseudo-labels via a Theoretically Guaranteed
Chebyshev Constraint to Unify Semi-supervised Classification and Regression
- Title（参考訳）: 半教師付き分類と回帰を統一する理論的に保証されたチェビシェフ制約による疑似擬似ラベルの生成
- Authors: Jiaqi Wu, Junbiao Pang, Qingming Huang
- Abstract要約: 分類におけるしきい値と擬似ラベルプロセス(T2L)は、ラベルの品質を決定するために信頼性を使用する。
本質的には、レグレッションは高品質なラベルを生成するためにバイアスのない方法も必要である。
チェビシェフの不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案する。
- 参考スコア（独自算出の注目度）: 57.17120203327993
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Both semi-supervised classification and regression are practically
challenging tasks for computer vision. However, semi-supervised classification
methods are barely applied to regression tasks. Because the threshold-to-pseudo
label process (T2L) in classification uses confidence to determine the quality
of label. It is successful for classification tasks but inefficient for
regression tasks. In nature, regression also requires unbiased methods to
generate high-quality labels. On the other hand, T2L for classification often
fails if the confidence is generated by a biased method. To address this issue,
in this paper, we propose a theoretically guaranteed constraint for generating
unbiased labels based on Chebyshev's inequality, combining multiple predictions
to generate superior quality labels from several inferior ones. In terms of
high-quality labels, the unbiased method naturally avoids the drawback of T2L.
Specially, we propose an Unbiased Pseudo-labels network (UBPL network) with
multiple branches to combine multiple predictions as pseudo-labels, where a
Feature Decorrelation loss (FD loss) is proposed based on Chebyshev constraint.
In principle, our method can be used for both classification and regression and
can be easily extended to any semi-supervised framework, e.g. Mean Teacher,
FixMatch, DualPose. Our approach achieves superior performance over SOTAs on
the pose estimation datasets Mouse, FLIC and LSP, as well as the classification
datasets CIFAR10/100 and SVHN.
- Abstract（参考訳）: 半教師付き分類と回帰はコンピュータビジョンにとって事実上困難なタスクである。
しかし、半教師付き分類法は回帰タスクにはほとんど適用されない。
分類におけるしきい値-擬似ラベルプロセス(T2L)は、信頼を利用してラベルの品質を決定する。
分類タスクでは成功するが、回帰タスクでは非効率である。
本質的には、回帰は高品質のラベルを生成するために偏りのないメソッドも必要である。
一方、分類のためのT2Lは、信頼度がバイアス法によって生成される場合、しばしば失敗する。
そこで,本稿では,不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案し,複数の予測を組み合わせることで,下位ラベルから優れたラベルを生成する。
高品質のラベルに関しては、unbiasedメソッドは自然にt2lの欠点を避ける。
特に,複数の分岐を持つ非バイアス疑似ラベルネットワーク (ubpl network) を提案し,複数の予測を疑似ラベルとして組み合わせ,chebyshev制約に基づいて特徴的相関損失 (fd損失) を提案する。
原則として,本手法は分類と回帰の両方に使用することができ,平均教師,FixMatch,DualPoseなど,任意の半教師付きフレームワークに容易に拡張することができる。
提案手法は,ポーズ推定データセットのマウス,FLIC,LSP,分類データセットのCIFAR10/100,SVHNにおいて,SOTAよりも優れた性能を実現する。
関連論文リスト
- Partial-Label Regression [54.74984751371617]
部分ラベル学習は、弱い教師付き学習環境であり、各トレーニング例に候補ラベルのセットをアノテートすることができる。
部分ラベル学習に関する従来の研究は、候補ラベルがすべて離散的な分類設定のみに焦点を当てていた。
本稿では,各トレーニング例に実値付き候補ラベルのセットをアノテートした部分ラベル回帰を初めて検討する。
論文 参考訳（メタデータ） (2023-06-15T09:02:24Z) - Lifting Weak Supervision To Structured Prediction [12.219011764895853]
弱監督 (WS) は、容易に得られるがノイズの多いラベル推定を集約することで擬似ラベルを生成する、豊富な手法のセットである。
擬ユークリッド埋め込みとテンソル分解に基づく弱監督手法を提案する。
ノイズのあるラベルを持つ構造化予測において頑健性を保証するとみなすこの結果のいくつかは、独立した関心事である可能性がある。
論文 参考訳（メタデータ） (2022-11-24T02:02:58Z) - Semi-supervised Contrastive Outlier removal for Pseudo Expectation
Maximization (SCOPE) [2.33877878310217]
Pseudo expectation Maximization (SCOPE) のための半教師付きコントラスト外乱除去法を用いて, 共起誤差を抑制する新しい手法を提案する。
その結果,SCOPEはベースライン上での半教師付き分類精度を大幅に向上し,さらに整合正則化と組み合わせた場合,250と4000のラベル付きサンプルを用いた半教師付きCIFAR-10分類タスクにおいて最も高い精度が得られた。
論文 参考訳（メタデータ） (2022-06-28T19:32:50Z) - Optimizing Diffusion Rate and Label Reliability in a Graph-Based
Semi-supervised Classifier [2.4366811507669124]
Local and Global Consistency (LGC)アルゴリズムは、グラフベースの半教師付き半教師付き(GSSL)分類器の1つである。
ラベル付きインスタンスの自己影響を取り除くことは、どのように有用か、そして、それがアウト・ワン・アウトエラーにどのように関係するかについて議論する。
本研究では,ラベルの信頼性と拡散率を推定する手法を提案する。
論文 参考訳（メタデータ） (2022-01-10T16:58:52Z) - Unbiased Loss Functions for Multilabel Classification with Missing
Labels [2.1549398927094874]
欠落ラベルは、極端なマルチラベル分類(XMC)タスクにおいてユビキタスな現象である。
本稿では,異なるマルチラベルリダクションに対する特異な非バイアス推定器を導出する。
論文 参考訳（メタデータ） (2021-09-23T10:39:02Z) - Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced
Semi-Supervised Learning [80.05441565830726]
本稿では,疑似ラベルの重み付けがモデル性能に悪影響を及ぼすような,不均衡な半教師付き学習に対処する。
本稿では,この観測の動機となるバイアスに対処する,一般的な擬似ラベルフレームワークを提案する。
不均衡SSLのための新しい擬似ラベルフレームワークを、DASO(Distributed-Aware Semantics-Oriented Pseudo-label)と呼ぶ。
論文 参考訳（メタデータ） (2021-06-10T11:58:25Z) - Rethinking Pseudo Labels for Semi-Supervised Object Detection [84.697097472401]
物体検出に適した確実な擬似ラベルを導入する。
我々は,クラス不均衡問題を緩和するために,各カテゴリの擬似ラベルと再重み付き損失関数を生成するために使用する閾値を動的に調整する。
提案手法では,COCOのラベル付きデータのみを用いて,教師付きベースラインを最大10%改善する。
論文 参考訳（メタデータ） (2021-06-01T01:32:03Z) - PLM: Partial Label Masking for Imbalanced Multi-label Classification [59.68444804243782]
長いラベルの分布を持つ実世界のデータセットで訓練されたニューラルネットワークは、頻繁なクラスに偏りがあり、頻繁なクラスでは不十分である。
本稿では,この比率を利用したPLM(Partial Label Masking)を提案する。
本手法は,マルチラベル (MultiMNIST と MSCOCO) とシングルラベル (CIFAR-10 と CIFAR-100) の2つの画像分類データセットにおいて,既存の手法と比較して高い性能を実現する。
論文 参考訳（メタデータ） (2021-05-22T18:07:56Z) - Pointwise Binary Classification with Pairwise Confidence Comparisons [97.79518780631457]
ペアワイズ比較(Pcomp)分類を提案し、ラベルのないデータのペアしか持たない。
我々はPcomp分類をノイズラベル学習に結びつけて、進歩的UREを開発し、一貫性の正則化を課すことにより改善する。
論文 参考訳（メタデータ） (2020-10-05T09:23:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。