論文の概要: A Critical Look at Classic Test-Time Adaptation Methods in Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2310.05341v3
• Date: Wed, 11 Oct 2023 05:46:28 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-12 11:25:29.950042
• Title: A Critical Look at Classic Test-Time Adaptation Methods in Semantic Segmentation
• Title（参考訳）: セマンティックセグメンテーションにおける古典的テスト時間適応手法の批判的考察
• Authors: Chang'an Yi, Haotian Chen, Yifan Zhang, Yonghui Xu, Lizhen Cui
• Abstract要約: テスト時間適応(TTA)は、当初トレーニングデータに基づいてトレーニングされたモデルを、テストデータの潜在的分散シフトに適応することを目的としている。 既存のTTA研究の多くは分類タスクに重点を置いており、意味的セグメンテーションのためのTTAの探索において顕著なギャップを残している。
• 参考スコア（独自算出の注目度）: 20.583746370856552
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Test-time adaptation (TTA) aims to adapt a model, initially trained on training data, to potential distribution shifts in the test data. Most existing TTA studies, however, focus on classification tasks, leaving a notable gap in the exploration of TTA for semantic segmentation. This pronounced emphasis on classification might lead numerous newcomers and engineers to mistakenly assume that classic TTA methods designed for classification can be directly applied to segmentation. Nonetheless, this assumption remains unverified, posing an open question. To address this, we conduct a systematic, empirical study to disclose the unique challenges of segmentation TTA, and to determine whether classic TTA strategies can effectively address this task. Our comprehensive results have led to three key observations. First, the classic batch norm updating strategy, commonly used in classification TTA, only brings slight performance improvement, and in some cases it might even adversely affect the results. Even with the application of advanced distribution estimation techniques like batch renormalization, the problem remains unresolved. Second, the teacher-student scheme does enhance training stability for segmentation TTA in the presence of noisy pseudo-labels. However, it cannot directly result in performance improvement compared to the original model without TTA. Third, segmentation TTA suffers a severe long-tailed imbalance problem, which is substantially more complex than that in TTA for classification. This long-tailed challenge significantly affects segmentation TTA performance, even when the accuracy of pseudo-labels is high. In light of these observations, we conclude that TTA for segmentation presents significant challenges, and simply using classic TTA methods cannot address this problem well.
• Abstract（参考訳）: テスト時間適応(TTA)は、当初トレーニングデータに基づいてトレーニングされたモデルを、テストデータの潜在的分散シフトに適応することを目的としている。 しかし、既存のTTA研究の多くは分類作業に重点を置いており、意味的セグメンテーションのためのTTAの探索において顕著なギャップを残している。 この分類に重点を置いていると、多くの新参者や技術者は、分類用に設計された古典的なTTAメソッドがセグメント化に直接適用できると誤って仮定するかもしれない。 それでも、この仮定は未検証のままであり、オープンな疑問を呈している。 そこで我々は,セグメント化TTAの独特な課題を明らかにし,従来のTTA戦略がこの課題に効果的に対処できるかどうかを,体系的に実証研究する。 我々の総合的な結果は、3つの重要な観察につながった。 まず、分類ttaで一般的に使用される古典的なバッチノルム更新戦略は、わずかなパフォーマンス改善しか与えず、場合によっては結果に悪影響を及ぼす場合もある。 バッチ再正規化のような高度な分布推定手法を適用しても、問題は未解決のままである。 第二に、教師学生方式は、ノイズの多い擬似ラベルの存在下でセグメンテーションTTAの訓練安定性を向上させる。 しかし、TTAを使わずにオリジナルのモデルと比べて直接的に性能が向上することはない。 第3に、セグメンテーションTTAは、TTAの分類よりもかなり複雑である、厳しい長い尾の不均衡問題に悩まされる。 この長尾チャレンジは、擬似ラベルの精度が高い場合でもセグメンテーションTTA性能に大きな影響を与える。 これらの観測から,分割のためのTTAは重要な課題であり,従来のTTA手法ではこの問題にうまく対処できないと結論付けた。

関連論文リスト

• Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
  テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。 完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
  論文  参考訳（メタデータ） (2024-04-07T22:31:34Z)
• Layerwise Early Stopping for Test Time Adaptation [0.2968738145616401]
  テスト時間適応(TTA)は、事前訓練されたモデルがテスト時に見えないドメインで新機能を学習できるようにすることで、分散シフトの問題に対処する。 新機能の学習と,トレーニング済みの有用な機能の維持のバランスを維持する上で,これは大きな課題となる。 本稿では,TTAのためのレイヤワイズEArly Stopping(LEAST)を提案する。
  論文  参考訳（メタデータ） (2024-04-04T19:55:11Z)
• Few Clicks Suffice: Active Test-Time Adaptation for Semantic Segmentation [14.112999441288615]
  テスト時間適応(TTA)は、未ラベルのテストデータを使用した推論中に事前訓練されたモデルに適応する。 TTAアプローチと教師付きアプローチの間には,依然として大きなパフォーマンスギャップがあります。 本稿では,モデルアダプタとラベルアノテータの2つの部分からなるATASegフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-04T12:16:02Z)
• On Pitfalls of Test-Time Adaptation [82.8392232222119]
  TTA(Test-Time Adaptation)は、分散シフトの下で堅牢性に取り組むための有望なアプローチとして登場した。 TTABは,10の最先端アルゴリズム,多種多様な分散シフト,および2つの評価プロトコルを含むテスト時間適応ベンチマークである。
  論文  参考訳（メタデータ） (2023-06-06T09:35:29Z)
• Improved Test-Time Adaptation for Domain Generalization [48.239665441875374]
  テストタイムトレーニング(TTT)は、学習したモデルにテストデータを適用する。 この作業は2つの主な要因に対処する: テストフェーズ中にアップデートする信頼性のあるパラメータを更新および識別するための適切な補助的TTTタスクを選択する。 トレーニングされたモデルに適応パラメータを追加し、テストフェーズでのみ適応パラメータを更新することを提案する。
  論文  参考訳（メタデータ） (2023-04-10T10:12:38Z)
• A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts [143.14128737978342]
  新たなパラダイムであるテスト時適応は、事前トレーニングされたモデルをテスト中にラベルのないデータに適用し、予測を行う可能性がある。 このパラダイムの最近の進歩は、推論に先立って自己適応モデルのトレーニングにラベルのないデータを活用するという大きな利点を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-03-27T16:32:21Z)
• Towards Stable Test-Time Adaptation in Dynamic Wild World [60.98073673220025]
  テスト時間適応(TTA)は、与えられたモデルをテストサンプルに適応させることで、トレーニングとテストデータの分散シフトに取り組むのに有効であることが示されている。 TTAのオンラインモデル更新は不安定であり、これはしばしば既存のTTAメソッドが現実世界にデプロイされるのを防ぐ重要な障害である。
  論文  参考訳（メタデータ） (2023-02-24T02:03:41Z)
• A Probabilistic Framework for Lifelong Test-Time Adaptation [34.07074915005366]
  テスト時間適応(TTA)は、異なるターゲットドメインから与えられたテスト入力(s)の推測時間で事前訓練されたソースモデルを更新する問題である。 PETAL(Probabilistic lifElong Test-time Adaptation with seLf-training prior)は,確率的アプローチを用いて生涯TTAを解決する。 本手法は, 様々なベンチマークにおいて, オンライン・ライフタイム・テスト・タイム・アダプティブの最先端技術よりも優れた結果が得られる。
  論文  参考訳（メタデータ） (2022-12-19T18:42:19Z)
• Test-Time Adaptation via Conjugate Pseudo-labels [21.005027151753477]
  テスト時間適応(TTA)とは、ニューラルネットワークを分散シフトに適応させることである。 従来のTTA手法は、TENTにおけるモデル予測のエントロピーのような教師なしの目的を最適化していた。 我々は,多種多様な関数に対して可能な限りのTTA損失をメタ学習しようとすると,TENTのソフトマックスエントロピーと著しく類似した関数(温度スケール版)を復元する。
  論文  参考訳（メタデータ） (2022-07-20T04:02:19Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。