論文の概要: TeST: Test-time Self-Training under Distribution Shift
- arxiv url: http://arxiv.org/abs/2209.11459v1
- Date: Fri, 23 Sep 2022 07:47:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-26 13:45:33.280191
- Title: TeST: Test-time Self-Training under Distribution Shift
- Title(参考訳): TeST: 分散シフト下におけるテストタイムの自己評価
- Authors: Samarth Sinha, Peter Gehler, Francesco Locatello, Bernt Schiele
- Abstract要約: Test-Time Self-Training (TeST)は、あるソースデータとテスト時の新しいデータ分散に基づいてトレーニングされたモデルを入力する技術である。
また,TeSTを用いたモデルでは,ベースラインテスト時間適応アルゴリズムよりも大幅に改善されていることがわかった。
- 参考スコア(独自算出の注目度): 99.68465267994783
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite their recent success, deep neural networks continue to perform poorly
when they encounter distribution shifts at test time. Many recently proposed
approaches try to counter this by aligning the model to the new distribution
prior to inference. With no labels available this requires unsupervised
objectives to adapt the model on the observed test data. In this paper, we
propose Test-Time Self-Training (TeST): a technique that takes as input a model
trained on some source data and a novel data distribution at test time, and
learns invariant and robust representations using a student-teacher framework.
We find that models adapted using TeST significantly improve over baseline
test-time adaptation algorithms. TeST achieves competitive performance to
modern domain adaptation algorithms, while having access to 5-10x less data at
time of adaption. We thoroughly evaluate a variety of baselines on two tasks:
object detection and image segmentation and find that models adapted with TeST.
We find that TeST sets the new state-of-the art for test-time domain adaptation
algorithms.
- Abstract(参考訳): 近年の成功にもかかわらず、ディープニューラルネットワークはテスト時に分散シフトに遭遇した場合、パフォーマンスが低下し続ける。
最近提案された多くのアプローチは、推論の前にモデルを新しい分布に合わせることでこれに対抗する。
ラベルが利用できないため、監視されていない目的によって、観測されたテストデータにモデルを適用する必要がある。
本稿では,テスト時自己学習(test:test-time self-training)を提案する。これは,あるソースデータでトレーニングされたモデルと,テスト時に新しいデータ分布を入力とし,学生-教師フレームワークを用いて不変かつロバストな表現を学習する手法である。
TeSTを用いたモデルでは,ベースラインテスト時間適応アルゴリズムよりも大幅に改善されている。
TeSTは、適応時に5~10倍少ないデータにアクセスしながら、モダンなドメイン適応アルゴリズムとの競合性能を達成する。
オブジェクト検出と画像分割という2つのタスクのベースラインを徹底的に評価し,TeSTで適応したモデルを見つける。
TeSTはテスト時間領域適応アルゴリズムのための新しい最先端技術であることがわかった。
関連論文リスト
- DOTA: Distributional Test-Time Adaptation of Vision-Language Models [52.98590762456236]
トレーニングフリーテスト時動的アダプタ(TDA)は、この問題に対処するための有望なアプローチである。
単体テスト時間適応法(Dota)の簡易かつ効果的な方法を提案する。
Dotaは継続的にテストサンプルの分布を推定し、モデルがデプロイメント環境に継続的に適応できるようにします。
論文 参考訳(メタデータ) (2024-09-28T15:03:28Z) - Source-Free Test-Time Adaptation For Online Surface-Defect Detection [29.69030283193086]
テスト時間適応型表面欠陥検出手法を提案する。
推論中にトレーニング済みのモデルを新しいドメインやクラスに適応させる。
実験では、最先端の技術よりも優れています。
論文 参考訳(メタデータ) (2024-08-18T14:24:05Z) - Test-Time Adaptation with Perturbation Consistency Learning [32.58879780726279]
そこで本研究では, 分布変化のあるサンプルに対して, 安定な予測を行うための簡易なテスト時間適応手法を提案する。
提案手法は,強力なPLMバックボーンよりも推論時間が少なく,高い,あるいは同等の性能を実現することができる。
論文 参考訳(メタデータ) (2023-04-25T12:29:22Z) - A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts [143.14128737978342]
新たなパラダイムであるテスト時適応は、事前トレーニングされたモデルをテスト中にラベルのないデータに適用し、予測を行う可能性がある。
このパラダイムの最近の進歩は、推論に先立って自己適応モデルのトレーニングにラベルのないデータを活用するという大きな利点を浮き彫りにしている。
論文 参考訳(メタデータ) (2023-03-27T16:32:21Z) - A Probabilistic Framework for Lifelong Test-Time Adaptation [34.07074915005366]
テスト時間適応(TTA)は、異なるターゲットドメインから与えられたテスト入力(s)の推測時間で事前訓練されたソースモデルを更新する問題である。
PETAL(Probabilistic lifElong Test-time Adaptation with seLf-training prior)は,確率的アプローチを用いて生涯TTAを解決する。
本手法は, 様々なベンチマークにおいて, オンライン・ライフタイム・テスト・タイム・アダプティブの最先端技術よりも優れた結果が得られる。
論文 参考訳(メタデータ) (2022-12-19T18:42:19Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - TTAPS: Test-Time Adaption by Aligning Prototypes using Self-Supervision [70.05605071885914]
本研究では,単体テストサンプルに適用可能な自己教師付きトレーニングアルゴリズムSwaVの新たな改良を提案する。
ベンチマークデータセットCIFAR10-Cにおいて,本手法の有効性を示す。
論文 参考訳(メタデータ) (2022-05-18T05:43:06Z) - Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。
また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文 参考訳(メタデータ) (2022-04-06T06:39:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。