論文の概要: Perturbed and Strict Mean Teachers for Semi-supervised Semantic
Segmentation
- arxiv url: http://arxiv.org/abs/2111.12903v1
- Date: Thu, 25 Nov 2021 04:30:56 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 16:50:47.154794
- Title: Perturbed and Strict Mean Teachers for Semi-supervised Semantic
Segmentation
- Title(参考訳): 半教師型セマンティックセグメンテーションのための摂動的・厳密な平均教師
- Authors: Yuyuan Liu and Yu Tian and Yuanhong Chen and Fengbei Liu and Vasileios
Belagiannis and Gustavo Carneiro
- Abstract要約: 本稿では,平均教師モデルの拡張による一貫性学習手法の予測精度問題に対処する。
このモデルによる正確な予測により、ネットワーク、入力データ、特徴摂動の難しい組み合わせを用いて、一貫性学習の一般化を改善することができる。
ベンチマークの結果,本手法は従来のSOTA法よりも顕著に改善されていることがわかった。
- 参考スコア(独自算出の注目度): 22.5935068122522
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Consistency learning using input image, feature, or network perturbations has
shown remarkable results in semi-supervised semantic segmentation, but this
approach can be seriously affected by inaccurate predictions of unlabelled
training images. There are two consequences of these inaccurate predictions: 1)
the training based on the ``strict'' cross-entropy (CE) loss can easily overfit
prediction mistakes, leading to confirmation bias; and 2) the perturbations
applied to these inaccurate predictions will use potentially erroneous
predictions as training signals, degrading consistency learning. In this paper,
we address the prediction accuracy problem of consistency learning methods with
novel extensions of the mean-teacher (MT) model, which include a new auxiliary
teacher, and the replacement of MT's mean square error (MSE) by a stricter
confidence-weighted cross-entropy (Conf-CE) loss. The accurate prediction by
this model allows us to use a challenging combination of network, input data
and feature perturbations to improve the consistency learning generalisation,
where the feature perturbations consist of a new adversarial perturbation.
Results on public benchmarks show that our approach achieves remarkable
improvements over the previous SOTA methods in the field.
- Abstract(参考訳): 入力画像,特徴,ネットワーク摂動を用いた一貫性学習は,半教師付きセマンティックセマンティックセグメンテーションにおいて顕著な結果を示したが,この手法は未学習のトレーニング画像の不正確な予測に大きく影響する可能性がある。
これらの不正確な予測には2つの結果があります
1)「制限」クロスエントロピー(CE)損失に基づくトレーニングは、予測ミスに容易に適合し、確証バイアスにつながる。
2) 不正確な予測に適用される摂動は,トレーニング信号として誤予測を用い,一貫性学習を低下させる。
本稿では,新しい補助教師を含む平均教師(MT)モデルの新たな拡張と,より厳密な信頼度重み付きクロスエントロピー(Conf-CE)損失による平均二乗誤差(MSE)の置き換えによる一貫性学習手法の予測精度の問題に対処する。
このモデルによる正確な予測により、ネットワーク、入力データ、特徴摂動の困難な組み合わせを用いて、特徴摂動が新しい対角摂動から成り立つ一貫性学習の一般化を改善することができる。
その結果,本手法は従来のSOTA法よりも大幅に改善されていることがわかった。
関連論文リスト
- Towards Robust and Interpretable EMG-based Hand Gesture Recognition using Deep Metric Meta Learning [37.21211404608413]
本稿では,意味的かつ解釈可能な表現の作成を監督するために,EMG PRにおける深層メートル法メタラーニングへのシフトを提案する。
我々は、不正確な決定をよりよく拒否する頑健なクラス近接性に基づく信頼度推定器を導出する。
論文 参考訳(メタデータ) (2024-04-17T23:37:50Z) - Leveraging Unlabeled Data for 3D Medical Image Segmentation through
Self-Supervised Contrastive Learning [3.7395287262521717]
現在の3次元半教師付きセグメンテーション法は、文脈情報の限定的考慮のような重要な課題に直面している。
両者の相違を探索し、活用するために設計された2つの個別のワークを導入し、最終的に誤った予測結果を修正した。
我々は、信頼できない予測と信頼できない予測を区別するために、自己教師付きコントラスト学習パラダイムを採用している。
論文 参考訳(メタデータ) (2023-11-21T14:03:16Z) - Learning Sample Difficulty from Pre-trained Models for Reliable
Prediction [55.77136037458667]
本稿では,大規模事前学習モデルを用いて,サンプル難易度を考慮したエントロピー正規化による下流モデルトレーニングを指導する。
我々は、挑戦的なベンチマークで精度と不確実性の校正を同時に改善する。
論文 参考訳(メタデータ) (2023-04-20T07:29:23Z) - Self-Correctable and Adaptable Inference for Generalizable Human Pose
Estimation [25.14459820592431]
本稿では,ネットワーク予測の一般化問題に対処するために,自己修正可能適応型推論(SCAI)手法を提案する。
提案手法は,人間のポーズ推定の一般化能力と性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-03-20T15:05:24Z) - Feature Perturbation Augmentation for Reliable Evaluation of Importance
Estimators in Neural Networks [5.439020425819001]
ポストホック解釈可能性法は、ディープニューラルネットワークの内部動作をより解釈可能にしようとする。
最も一般的な評価フレームワークの1つは、解釈可能性メソッドによって重要とみなされる機能を摂動させることである。
モデルトレーニング中に摂動画像を生成し,付加する特徴摂動増強(FPA)を提案する。
論文 参考訳(メタデータ) (2023-03-02T19:05:46Z) - Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。
合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
論文 参考訳(メタデータ) (2023-02-23T18:57:14Z) - Trust but Verify: Assigning Prediction Credibility by Counterfactual
Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。
これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。
この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文 参考訳(メタデータ) (2020-11-24T19:52:38Z) - Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。
我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
論文 参考訳(メタデータ) (2020-10-26T04:44:43Z) - Accurate and Robust Feature Importance Estimation under Distribution
Shifts [49.58991359544005]
PRoFILEは、新しい特徴重要度推定法である。
忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2020-09-30T05:29:01Z) - Grasping Detection Network with Uncertainty Estimation for
Confidence-Driven Semi-Supervised Domain Adaptation [17.16216430459064]
本稿では,信頼駆動型半教師付き学習を用いた新たな把握検出ネットワークを通じて,ドメイン適応が容易なアプローチを提案する。
提案した把握検出ネットワークは,特徴ピラミッドネットワーク(FPN)を利用した予測不確実性推定機構を特に提供し,平均教師半教師学習は,そのような不確実性情報を利用して,信頼度の高い非競合データに対してのみ整合性損失を強調する。
提案したネットワークは,コーネル把握データセット上で高い成功率を達成できることを示すとともに,極めて限られたデータでドメイン適応を行う場合,信頼駆動型平均教師は,元の平均教師と直接訓練を10%以上向上させる。
論文 参考訳(メタデータ) (2020-08-20T07:42:45Z) - Learning to Predict Error for MRI Reconstruction [67.76632988696943]
提案手法による予測の不確実性は予測誤差と強く相関しないことを示す。
本稿では,2段階の予測誤差の目標ラベルと大小を推定する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-02-13T15:55:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。