論文の概要: Cal-SFDA: Source-Free Domain-adaptive Semantic Segmentation with
Differentiable Expected Calibration Error
- arxiv url: http://arxiv.org/abs/2308.03003v1
- Date: Sun, 6 Aug 2023 03:28:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-08 17:19:21.705953
- Title: Cal-SFDA: Source-Free Domain-adaptive Semantic Segmentation with
Differentiable Expected Calibration Error
- Title(参考訳): cal-sfda:微分可能なキャリブレーションエラーを伴うソースフリーなドメイン適応意味セグメンテーション
- Authors: Zixin Wang, Yadan Luo, Zhi Chen, Sen Wang, Zi Huang
- Abstract要約: ドメイン適応型セマンティックセグメンテーションの流行は、ソースドメインデータの漏洩に関する懸念を引き起こしている。
ソースデータの要求を回避するため、ソースフリーなドメイン適応が実現可能なソリューションとして登場した。
校正誘導型ソースフリーなドメイン適応型セマンティックセマンティックセマンティクスフレームワークを提案する。
- 参考スコア(独自算出の注目度): 50.86671887712424
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The prevalence of domain adaptive semantic segmentation has prompted concerns
regarding source domain data leakage, where private information from the source
domain could inadvertently be exposed in the target domain. To circumvent the
requirement for source data, source-free domain adaptation has emerged as a
viable solution that leverages self-training methods to pseudo-label
high-confidence regions and adapt the model to the target data. However, the
confidence scores obtained are often highly biased due to over-confidence and
class-imbalance issues, which render both model selection and optimization
problematic. In this paper, we propose a novel calibration-guided source-free
domain adaptive semantic segmentation (Cal-SFDA) framework. The core idea is to
estimate the expected calibration error (ECE) from the segmentation
predictions, serving as a strong indicator of the model's generalization
capability to the unlabeled target domain. The estimated ECE scores, in turn,
assist the model training and fair selection in both source training and target
adaptation stages. During model pre-training on the source domain, we ensure
the differentiability of the ECE objective by leveraging the LogSumExp trick
and using ECE scores to select the best source checkpoints for adaptation. To
enable ECE estimation on the target domain without requiring labels, we train a
value net for ECE estimation and apply statistic warm-up on its BatchNorm
layers for stability. The estimated ECE scores assist in determining the
reliability of prediction and enable class-balanced pseudo-labeling by
positively guiding the adaptation progress and inhibiting potential error
accumulation. Extensive experiments on two widely-used synthetic-to-real
transfer tasks show that the proposed approach surpasses previous
state-of-the-art by up to 5.25% of mIoU with fair model selection criteria.
- Abstract(参考訳): ドメイン適応セマンティックセグメンテーション(domain adaptive semantic segmentation)の流行により、ソースドメインのデータ漏洩(source domain data leak)に関する懸念が高まり、ソースドメインからのプライベート情報がターゲットドメインで不注意に公開される可能性がある。
ソースデータの要求を回避するため、ソースフリードメイン適応は、擬似ラベル高信頼領域への自己学習手法を活用し、ターゲットデータにモデルを適応する実行可能なソリューションとして登場した。
しかしながら、得られた信頼度スコアは、モデル選択と最適化の両方の問題を引き起こす過信とクラス不均衡の問題により、しばしば高いバイアスを受ける。
本稿では,新しいキャリブレーションガイド付きソースフリードメイン適応意味セグメンテーション(cal-sfda)フレームワークを提案する。
中心となる考え方は、セグメンテーション予測から期待されるキャリブレーション誤差(ECE)を推定することであり、モデル一般化能力の強い指標としてラベル付けされていないターゲット領域に役立っている。
推定されたeceスコアは、ソーストレーニングとターゲット適応段階の両方において、モデルトレーニングとフェアセレクションを支援する。
ソースドメイン上でのモデル事前トレーニングでは、LogSumExpのトリックを活用してECEスコアを使用して、適応のための最適なソースチェックポイントを選択することで、ECE目標の識別性を確保する。
ラベルを必要とせずに対象ドメイン上でのECE推定を可能にするため、ECE推定のための値ネットをトレーニングし、安定性のためにBatchNorm層に統計的ウォームアップを適用する。
推定ECEスコアは、適応の進行を肯定的に誘導し、潜在的なエラーの蓄積を抑制することにより、予測の信頼性を判定し、クラスバランスの擬似ラベルを可能にする。
広範に使われている2つの合成-現実的伝達タスクに関する広範囲な実験により、提案手法は、公正なモデル選択基準を持つmIoUの最大5.25%の先行技術を超えることが示されている。
関連論文リスト
- Dirichlet-based Uncertainty Calibration for Active Domain Adaptation [33.33529827699169]
アクティブドメイン適応(DA)は、アノテートする限られたターゲットデータを積極的に選択することで、新しいターゲットドメインに対するモデル適応を最大限に向上することを目的としている。
従来のアクティブな学習方法は、ドメインシフトの問題を考慮していないため、効果が低い場合がある。
そこで我々は,iDirichlet-based Uncertainty (DUC) approach for active DAを提案する。
論文 参考訳(メタデータ) (2023-02-27T14:33:29Z) - Uncertainty-guided Source-free Domain Adaptation [77.3844160723014]
ソースフリードメイン適応(SFDA)は、事前訓練されたソースモデルのみを使用することで、未ラベルのターゲットデータセットに分類器を適応させることを目的としている。
本稿では、ソースモデル予測の不確実性を定量化し、ターゲット適応の導出に利用することを提案する。
論文 参考訳(メタデータ) (2022-08-16T08:03:30Z) - Source-free Unsupervised Domain Adaptation for Blind Image Quality
Assessment [20.28784839680503]
既存の学習ベースのブラインド画像品質評価法(BIQA)は、大量の注釈付きトレーニングデータに大きく依存している。
本稿では,ソースフリーな非教師付きドメイン適応(SFUDA)への第一歩を,シンプルで効率的な方法で進める。
本稿では、BNアフィンパラメータのターゲット領域への適応を導くための、十分に設計された自己教師対象のグループを示す。
論文 参考訳(メタデータ) (2022-07-17T09:42:36Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Boosting Unsupervised Domain Adaptation with Soft Pseudo-label and
Curriculum Learning [19.903568227077763]
教師なしドメイン適応(UDA)は、完全にラベル付けされたソースドメインからのデータを活用することにより、ラベル付けされていないターゲットドメインの分類性能を向上させる。
ソフトな擬似ラベル戦略を用いてモデル予測の欠陥を大幅に低減するモデルに依存しない2段階学習フレームワークを提案する。
第2段階では,2つのドメインの損失間の重み付けを適応的に制御するカリキュラム学習戦略を提案する。
論文 参考訳(メタデータ) (2021-12-03T14:47:32Z) - Source Data-absent Unsupervised Domain Adaptation through Hypothesis
Transfer and Labeling Transfer [137.36099660616975]
Unsupervised Adapt Adaptation (UDA) は、関連性のある異なるラベル付きソースドメインから新しいラベルなしターゲットドメインへの知識の転送を目標としている。
既存のudaメソッドの多くはソースデータへのアクセスを必要としており、プライバシ上の懸念からデータが機密で共有できない場合は適用できない。
本稿では、ソースデータにアクセスする代わりに、トレーニング済みの分類モデルのみを用いて現実的な設定に取り組むことを目的とする。
論文 参考訳(メタデータ) (2020-12-14T07:28:50Z) - Rectifying Pseudo Label Learning via Uncertainty Estimation for Domain
Adaptive Semantic Segmentation [49.295165476818866]
本稿では、意味的セグメンテーションの文脈において、ソースドメインからターゲットドメインへの知識伝達の教師なし領域適応に焦点を当てる。
既存のアプローチでは、通常、擬似ラベルを未ラベルのターゲットドメインデータを完全に活用するための基礎的真理とみなす。
本稿では,擬似ラベル学習の修正のために,学習中の予測の不確かさを明示的に推定することを提案する。
論文 参考訳(メタデータ) (2020-03-08T12:37:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。