論文の概要: Cycle Self-Training for Semi-Supervised Object Detection with
Distribution Consistency Reweighting
- arxiv url: http://arxiv.org/abs/2207.05334v1
- Date: Tue, 12 Jul 2022 06:16:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-13 14:07:16.434394
- Title: Cycle Self-Training for Semi-Supervised Object Detection with
Distribution Consistency Reweighting
- Title(参考訳): 分布整合性重み付けによる半監督対象検出のためのサイクル自己学習
- Authors: Hao Liu, Bin Chen, Bo Wang, Chunpeng Wu, Feng Dai, Peng Wu
- Abstract要約: 半教師対象検出(SSOD)のためのCST(Cycle Self-Training)フレームワークを提案する。
CSTは2人の教師T1とT2と2人の学生S1とS2で構成され、これらのネットワークに基づいてサイクル自己学習機構を構築する。
実験では、ベースラインよりもAPを一貫して改善し、ラベル付きデータが少ない状態で2.1%の絶対AP改善を達成し、CSTの優位性を証明している。
- 参考スコア(独自算出の注目度): 16.63549313217797
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, many semi-supervised object detection (SSOD) methods adopt
teacher-student framework and have achieved state-of-the-art results. However,
the teacher network is tightly coupled with the student network since the
teacher is an exponential moving average (EMA) of the student, which causes a
performance bottleneck. To address the coupling problem, we propose a Cycle
Self-Training (CST) framework for SSOD, which consists of two teachers T1 and
T2, two students S1 and S2. Based on these networks, a cycle self-training
mechanism is built, i.e.,
S1${\rightarrow}$T1${\rightarrow}$S2${\rightarrow}$T2${\rightarrow}$S1. For
S${\rightarrow}$T, we also utilize the EMA weights of the students to update
the teachers. For T${\rightarrow}$S, instead of providing supervision for its
own student S1(S2) directly, the teacher T1(T2) generates pseudo-labels for the
student S2(S1), which looses the coupling effect. Moreover, owing to the
property of EMA, the teacher is most likely to accumulate the biases from the
student and make the mistakes irreversible. To mitigate the problem, we also
propose a distribution consistency reweighting strategy, where pseudo-labels
are reweighted based on distribution consistency across the teachers T1 and T2.
With the strategy, the two students S2 and S1 can be trained robustly with
noisy pseudo labels to avoid confirmation biases. Extensive experiments prove
the superiority of CST by consistently improving the AP over the baseline and
outperforming state-of-the-art methods by 2.1% absolute AP improvements with
scarce labeled data.
- Abstract(参考訳): 近年,多くの半教師付きオブジェクト検出(SSOD)手法が教師学習フレームワークを採用し,最先端の成果を上げている。
しかし,教師は生徒の指数的移動平均(ema)であり,パフォーマンスボトルネックの原因となっているため,教師ネットワークは学生ネットワークと密結合している。
この結合問題に対処するために,2人の教師,T1,S1,S2で構成されるSSODのためのCycle Self-Training(CST)フレームワークを提案する。
これらのネットワークに基づいて、サイクル自己学習機構(S1${\rightarrow}$T1${\rightarrow}$S2${\rightarrow}$T2${\rightarrow}$S1)が構築される。
S${\rightarrow}$Tの場合、生徒のEMA重みを利用して教師を更新する。
T${\rightarrow}$Sの場合、自身の学生S1(S2)を直接監督する代わりに、教師T1(T2)は学生S2(S1)に対して擬似ラベルを生成し、結合効果を緩める。
さらに、EMAの特性から、教師は生徒の偏見を蓄積し、誤りを不可逆的にする可能性が最も高い。
また,教師T1,T2間の分布整合性に基づいて擬似ラベルを再重み付けする分散整合性再重み付け戦略を提案する。
この戦略により、2人の学生S2とS1をノイズの多い擬似ラベルで頑健に訓練し、確証バイアスを回避することができる。
大規模な実験は、ベースラインよりもAPを一貫して改善し、ラベル付きデータが少ない状態で2.1%の絶対AP改善により最先端の手法より優れていることを証明している。
関連論文リスト
- Teaching-Assistant-in-the-Loop: Improving Knowledge Distillation from Imperfect Teacher Models in Low-Budget Scenarios [3.818273633647809]
3種類の信号型を利用した3成分フレームワークを提案する。
最初の信号は学生の自己整合性(学生の複数の出力の整合性)であり、学生の自信の代用となる。
提案した2段階フレームワークは,データセット間の信号を持たない微調整と比較して,20.79%の相対的な改善を実現している。
論文 参考訳(メタデータ) (2024-06-08T02:17:43Z) - Switching Temporary Teachers for Semi-Supervised Semantic Segmentation [45.20519672287495]
半教師付きセマンティックセグメンテーションで一般的な教師/学生のフレームワークは、主に指数的移動平均(EMA)を用いて、学生の量に基づいて教師の重みを更新する。
本稿では,学生のカップリング問題を軽減するために,2つの臨時教員を兼ねた,シンプルで効果的な方法であるデュアル教師を紹介する。
論文 参考訳(メタデータ) (2023-10-28T08:49:16Z) - Towards End-to-end Semi-supervised Learning for One-stage Object
Detection [88.56917845580594]
本稿では,高度な一段検出ネットワークYOLOv5の半教師付き学習に焦点を当てた。
そこで我々は,Multi-view Pseudo-label Refinement (MPR) とDecoupled Semi-supervised Optimization (DSO) の2つの革新的な設計を取り入れた新しい教師学習レシピOneTeacherを提案する。
特に、MPRは、拡張ビューリファインメントとグローバルビューフィルタリングによって擬似ラベルの品質を改善し、DSOは構造的な微調整とタスク固有の擬似ラベルによる共同最適化競合を処理する。
論文 参考訳(メタデータ) (2023-02-22T11:35:40Z) - Distantly-Supervised Named Entity Recognition with Adaptive Teacher
Learning and Fine-grained Student Ensemble [56.705249154629264]
NERモデルの堅牢性を改善するために,自己学習型教員学生フレームワークを提案する。
本稿では,2つの教員ネットワークからなる適応型教員学習を提案する。
微粒な学生アンサンブルは、教師モデルの各フラグメントを、生徒の対応するフラグメントの時間移動平均で更新し、各モデルフラグメントのノイズに対する一貫した予測を強化する。
論文 参考訳(メタデータ) (2022-12-13T12:14:09Z) - DTG-SSOD: Dense Teacher Guidance for Semi-Supervised Object Detection [42.75316070378037]
半教師対象検出(SSOD)において平均教師(MT)方式が広く採用されている
本稿では,Inverse NMS Clustering (INC) と Rank Matching (RM) を提案する。
論文 参考訳(メタデータ) (2022-07-12T13:54:54Z) - Label Matching Semi-Supervised Object Detection [85.99282969977541]
半教師対象検出は,教師主導型自己学習の開発において大きな進歩を遂げている。
ラベルミスマッチ問題は、以前の研究でまだ完全に解明されていないため、自己学習中に重大な確証バイアスが生じる。
本稿では,2つの異なる相補的視点から,単純かつ効果的な LabelMatch フレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-14T05:59:41Z) - Adversarial Dual-Student with Differentiable Spatial Warping for
Semi-Supervised Semantic Segmentation [70.2166826794421]
本研究では、教師なしデータ拡張を行うために、微分可能な幾何ワープを提案する。
また,平均教師数を改善するために,新しい対角的二重学習フレームワークを提案する。
我々のソリューションは、両方のデータセットで得られるパフォーマンスと最先端の結果を大幅に改善します。
論文 参考訳(メタデータ) (2022-03-05T17:36:17Z) - Graph Consistency based Mean-Teaching for Unsupervised Domain Adaptive
Person Re-Identification [54.58165777717885]
本論文では,教師ネットワークと学生ネットワークの間にGCC(Graph Consistency Constraint)を構築するためのGCMT(Graph Consistency Based Mean-Teaching)手法を提案する。
マーケット-1501、デュークMTMCreID、MSMT17の3つのデータセットの実験により、提案されたGCMTは最先端の手法よりも明確なマージンで優れていることが示された。
論文 参考訳(メタデータ) (2021-05-11T04:09:49Z) - Unbiased Teacher for Semi-Supervised Object Detection [50.0087227400306]
SS-OD(Semi-Supervised Object Detection)を再検討し,SS-ODにおける擬似ラベルバイアス問題を特定する。
学生と徐々に進歩する教師を相互に利益ある方法で共同で訓練するシンプルで効果的なアプローチであるUnbiased Teacherを紹介します。
論文 参考訳(メタデータ) (2021-02-18T17:02:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。