論文の概要: SITA: Single Image Test-time Adaptation
- arxiv url: http://arxiv.org/abs/2112.02355v2
- Date: Wed, 8 Dec 2021 09:18:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-09 13:26:48.585015
- Title: SITA: Single Image Test-time Adaptation
- Title(参考訳): SITA:シングルイメージテストタイム適応
- Authors: Ansh Khurana, Sujoy Paul, Piyush Rai, Soma Biswas, Gaurav Aggarwal
- Abstract要約: テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
我々は、TTAをSITA(Single Image Test-time Adaptation)と呼ぶより実践的な環境で考える。
ここでは、各予測を行う場合、モデルはインスタンスのバッチではなく、与えられた単一のテストインスタンスにのみアクセスすることができる。
本稿では,前進保存伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
- 参考スコア(独自算出の注目度): 48.789568233682296
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Test-time Adaptation (TTA), given a model trained on some source data, the
goal is to adapt it to make better predictions for test instances from a
different distribution. Crucially, TTA assumes no access to the source data or
even any additional labeled/unlabeled samples from the target distribution to
finetune the source model. In this work, we consider TTA in a more pragmatic
setting which we refer to as SITA (Single Image Test-time Adaptation). Here,
when making each prediction, the model has access only to the given single test
instance, rather than a batch of instances, as has typically been considered in
the literature. This is motivated by the realistic scenarios where inference is
needed in an on-demand fashion that may not be delayed to "batch-ify" incoming
requests or the inference is happening on an edge device (like mobile phone)
where there is no scope for batching. The entire adaptation process in SITA
should be extremely fast as it happens at inference time. To address this, we
propose a novel approach AugBN for the SITA setting that requires only forward
propagation. The approach can adapt any off-the-shelf trained model to
individual test instances for both classification and segmentation tasks. AugBN
estimates normalisation statistics of the unseen test distribution from the
given test image using only one forward pass with label-preserving
transformations. Since AugBN does not involve any back-propagation, it is
significantly faster compared to other recent methods. To the best of our
knowledge, this is the first work that addresses this hard adaptation problem
using only a single test image. Despite being very simple, our framework is
able to achieve significant performance gains compared to directly applying the
source model on the target instances, as reflected in our extensive experiments
and ablation studies.
- Abstract(参考訳): テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
重要なことは、TTAはソースデータへのアクセスを前提とせず、ターゲットのディストリビューションからラベル付き/ラベルなしのサンプルも使用せず、ソースモデルを微調整する。
本稿では,TTAをSITA(Single Image Test-time Adaptation)と呼ぶ,より実用的な設定で考える。
ここで、各予測を行う際、モデルは、典型的には文献で考慮されているように、インスタンスのバッチではなく、与えられた単一のテストインスタンスのみにアクセスする。
これは、要求の"バッチ化"に遅れたり、バッチ処理のスコープがないエッジデバイス(携帯電話など)で推論が行われることのない、オンデマンドで推論が必要な現実的なシナリオによって動機付けられている。
SITAの適応プロセスは、推論時に起こるように非常に高速であるべきです。
そこで本研究では,前進伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
このアプローチは、分類とセグメンテーションタスクの両方の個々のテストインスタンスに、トレーニング済みの任意のモデルを適用することができる。
augbnはラベル保存変換のある1つのフォワードパスのみを使用して、与えられたテスト画像から未検出のテスト分布の正規化統計を推定する。
AugBNはバックプロパゲーションを一切含まないため、最近の手法に比べてはるかに高速である。
私たちの知る限りでは、これは単一のテストイメージのみを使用して、このハード適応問題に対処する最初の仕事です。
非常に単純であるにもかかわらず、我々のフレームワークは、広範な実験やアブレーション研究に反映されているように、ターゲットインスタンスにソースモデルを直接適用することに比べて、大幅なパフォーマンス向上を達成できます。
関連論文リスト
- AdaNPC: Exploring Non-Parametric Classifier for Test-Time Adaptation [64.9230895853942]
ドメインの一般化は、ターゲットのドメイン情報を活用することなく、任意に困難にすることができる。
この問題に対処するためにテスト時適応(TTA)手法が提案されている。
本研究では,テスト時間適応(AdaNPC)を行うためにNon-Parametricを採用する。
論文 参考訳(メタデータ) (2023-04-25T04:23:13Z) - Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳(メタデータ) (2023-03-24T10:19:14Z) - Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory [58.72445309519892]
テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
論文 参考訳(メタデータ) (2022-08-10T03:05:46Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Listen, Adapt, Better WER: Source-free Single-utterance Test-time
Adaptation for Automatic Speech Recognition [65.84978547406753]
Test-time Adaptationは、ソースドメインでトレーニングされたモデルに適応して、テストサンプルの予測を改善することを目的としている。
単一発話テスト時間適応 (SUTA) は音声領域における最初のTTA研究である。
論文 参考訳(メタデータ) (2022-03-27T06:38:39Z) - On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。
本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。
テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
論文 参考訳(メタデータ) (2022-03-10T18:51:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。