論文の概要: Guiding Pseudo-labels with Uncertainty Estimation for Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2303.03770v1
• Date: Tue, 7 Mar 2023 10:04:55 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-08 15:50:39.862514
• Title: Guiding Pseudo-labels with Uncertainty Estimation for Test-Time Adaptation
• Title（参考訳）: テスト時間適応のための不確実性推定付き擬似ラベルの誘導
• Authors: Mattia Litrico, Alessio Del Bue, Pietro Morerio
• Abstract要約: Test-Time Adaptation (TTA) は、Unsupervised Domain Adaptation (UDA) の特定のケースであり、モデルがソースデータにアクセスせずにターゲットドメインに適合する。 本稿では,損失再重み付け戦略に基づくTTA設定のための新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 27.233704767025174
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard Unsupervised Domain Adaptation (UDA) methods assume the availability of both source and target data during the adaptation. In this work, we investigate the Test-Time Adaptation (TTA), a specific case of UDA where a model is adapted to a target domain without access to source data. We propose a novel approach for the TTA setting based on a loss reweighting strategy that brings robustness against the noise that inevitably affects the pseudo-labels. The classification loss is reweighted based on the reliability of the pseudo-labels that is measured by estimating their uncertainty. Guided by such reweighting strategy, the pseudo-labels are progressively refined by aggregating knowledge from neighbouring samples. Furthermore, a self-supervised contrastive framework is leveraged as a target space regulariser to enhance such knowledge aggregation. A novel negative pairs exclusion strategy is proposed to identify and exclude negative pairs made of samples sharing the same class, even in presence of some noise in the pseudo-labels. Our method outperforms previous methods on three major benchmarks by a large margin. We set the new TTA state-of-the-art on VisDA-C and DomainNet with a performance gain of +1.8\% on both benchmarks and on PACS with +12.3\% in the single-source setting and +6.6\% in\ multi-target adaptation. Additional analyses demonstrate that the proposed approach is robust to the noise, which results in significantly more accurate pseudo-labels compared to state-of-the-art approaches.
• Abstract（参考訳）: 標準Unsupervised Domain Adaptation (UDA)メソッドは、適応中にソースデータとターゲットデータの両方が利用可能であると仮定する。 本研究では,モデルがソースデータにアクセスすることなく対象領域に適応する UDA の特定のケースであるテスト時間適応 (TTA) について検討する。 本稿では,疑似ラベルに必然的に影響を及ぼす雑音に対するロバスト性をもたらす損失重み付け戦略に基づくtta設定のための新しい手法を提案する。 分類損失は、その不確かさを推定して測定した擬似ラベルの信頼性に基づいて再重み付けされる。 このような重み付け戦略により、疑似ラベルは近隣のサンプルから知識を集約することで徐々に洗練される。 さらに、自己監督型コントラストフレームワークを目標空間正規化器として利用して、そのような知識集約を強化する。 疑似ラベルのノイズが存在する場合でも,同じクラスを共有するサンプルの負のペアを識別し排除するための,新しい負のペア排除戦略を提案する。 提案手法は,3つの主要ベンチマークにおいて,従来の手法を大差で上回っている。 我々は、visda-cとdomainnetの2つのベンチマークおよび1つのソース設定で+12.3\%、マルチターゲット適応で+6.6\%のパフォーマンス向上で、新しいtta state-of-the-artをvisda-cとdomainnetに設定した。 さらなる分析により、提案手法はノイズに対して頑健であることが示され、その結果、最先端手法に比べてはるかに正確な擬似ラベルが得られる。

関連論文リスト

• Self Adaptive Threshold Pseudo-labeling and Unreliable Sample Contrastive Loss for Semi-supervised Image Classification [6.920336485308536]
  擬似ラベルに基づく半教師付きアプローチは、画像分類において2つの問題に悩まされる。 我々は,各クラスの閾値を動的に調整し,信頼性の高いサンプル数を増やす自己適応型閾値擬似ラベル戦略を開発した。 しきい値以下でラベル付けされていないデータを効果的に活用するために、信頼できないサンプルコントラスト損失を提案する。
  論文  参考訳（メタデータ） (2024-07-04T03:04:56Z)
• Uncertainty-guided Open-Set Source-Free Unsupervised Domain Adaptation with Target-private Class Segregation [22.474866164542302]
  UDAアプローチはソースとターゲットドメインが同じラベル空間を共有していると一般的に仮定する。 本稿では、SF-OSDA(Source-Free Open-set Domain Adaptation)設定の課題について考察する。 本稿では,サンプルを複数の未知のクラスに分離することで,ターゲット・プライベートカテゴリの粒度を利用したSF-OSDAの新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-04-16T13:52:00Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
  テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。 1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。 本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。 本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T03:33:39Z)
• Exploiting Low-confidence Pseudo-labels for Source-free Object Detection [54.98300313452037]
  Source-free Object Detection (SFOD) は、ラベル付きソースデータにアクセスすることなく、未ラベルのターゲットドメインにソーストレーニングされた検出器を適応することを目的としている。 現在のSFOD法は適応相におけるしきい値に基づく擬似ラベル手法を用いる。 疑似ラベルを最大限に活用するために,高信頼度と低信頼度しきい値を導入する手法を提案する。
  論文  参考訳（メタデータ） (2023-10-19T12:59:55Z)
• Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive Person Re-Identification [54.174146346387204]
  ドメイン適応型人物再識別のための確率的不確実性誘導プログレッシブラベル精錬(P$2$LR)という手法を提案する。 擬似ラベルの不確実性を測定し、ネットワークトレーニングを容易にする定量的基準を確立する。 本手法はDuke2Marketタスクではベースラインが6.5%,Market2MSMTタスクでは2.5%,最先端手法では2.5%を上回った。
  論文  参考訳（メタデータ） (2021-12-28T07:40:12Z)
• Unsupervised Robust Domain Adaptation without Source Data [75.85602424699447]
  我々は、利用できないターゲットラベルとソースデータのコンテキストにおけるロバストなドメイン適応の問題について研究する。 4つのベンチマークデータセットでテストされたベースラインに対して10%以上の精度で一貫したパフォーマンス改善を示す。
  論文  参考訳（メタデータ） (2021-03-26T16:42:28Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。