論文の概要: SITA: Single Image Test-time Adaptation
- arxiv url: http://arxiv.org/abs/2112.02355v1
- Date: Sat, 4 Dec 2021 15:01:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-09 13:08:13.931873
- Title: SITA: Single Image Test-time Adaptation
- Title(参考訳): SITA:シングルイメージテストタイム適応
- Authors: Ansh Khurana, Sujoy Paul, Piyush Rai, Soma Biswas, Gaurav Aggarwal
- Abstract要約: テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
本稿では,前進伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
我々のフレームワークは、ターゲットインスタンスにソースモデルを直接適用した場合と比較して、大幅なパフォーマンス向上を達成できます。
- 参考スコア(独自算出の注目度): 48.789568233682296
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In Test-time Adaptation (TTA), given a model trained on some source data, the
goal is to adapt it to make better predictions for test instances from a
different distribution. Crucially, TTA assumes no access to the source data or
even any additional labeled/unlabeled samples from the target distribution to
finetune the source model. In this work, we consider TTA in a more pragmatic
setting which we refer to as SITA (Single Image Test-time Adaptation). Here,
when making each prediction, the model has access only to the given
\emph{single} test instance, rather than a \emph{batch} of instances, as has
typically been considered in the literature. This is motivated by the realistic
scenarios where inference is needed in an on-demand fashion that may not be
delayed to "batch-ify" incoming requests or the inference is happening on an
edge device (like mobile phone) where there is no scope for batching. The
entire adaptation process in SITA should be extremely fast as it happens at
inference time. To address this, we propose a novel approach AugBN for the SITA
setting that requires only forward propagation. The approach can adapt any
off-the-shelf trained model to individual test instances for both
classification and segmentation tasks. AugBN estimates normalisation statistics
of the unseen test distribution from the given test image using only one
forward pass with label-preserving transformations. Since AugBN does not
involve any back-propagation, it is significantly faster compared to other
recent methods. To the best of our knowledge, this is the first work that
addresses this hard adaptation problem using only a single test image. Despite
being very simple, our framework is able to achieve significant performance
gains compared to directly applying the source model on the target instances,
as reflected in our extensive experiments and ablation studies.
- Abstract(参考訳): テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
重要なことは、TTAはソースデータへのアクセスを前提とせず、ターゲットのディストリビューションからラベル付き/ラベルなしのサンプルも使用せず、ソースモデルを微調整する。
本稿では,TTAをSITA(Single Image Test-time Adaptation)と呼ぶ,より実用的な設定で考える。
ここでは、各予測を行う際には、典型的には文献で考慮されるような、インスタンスの \emph{batch} ではなく、与えられた \emph{single} テストインスタンスのみにアクセスすることができる。
これは、要求の"バッチ化"に遅れたり、バッチ処理のスコープがないエッジデバイス(携帯電話など)で推論が行われることのない、オンデマンドで推論が必要な現実的なシナリオによって動機付けられている。
SITAの適応プロセスは、推論時に起こるように非常に高速であるべきです。
そこで本研究では,前進伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
このアプローチは、分類とセグメンテーションタスクの両方の個々のテストインスタンスに、トレーニング済みの任意のモデルを適用することができる。
augbnはラベル保存変換のある1つのフォワードパスのみを使用して、与えられたテスト画像から未検出のテスト分布の正規化統計を推定する。
AugBNはバックプロパゲーションを一切含まないため、最近の手法に比べてはるかに高速である。
私たちの知る限りでは、これは単一のテストイメージのみを使用して、このハード適応問題に対処する最初の仕事です。
非常に単純であるにもかかわらず、我々のフレームワークは、広範な実験やアブレーション研究に反映されているように、ターゲットインスタンスにソースモデルを直接適用することに比べて、大幅なパフォーマンス向上を達成できます。
関連論文リスト
- AdaNPC: Exploring Non-Parametric Classifier for Test-Time Adaptation [64.9230895853942]
ドメインの一般化は、ターゲットのドメイン情報を活用することなく、任意に困難にすることができる。
この問題に対処するためにテスト時適応(TTA)手法が提案されている。
本研究では,テスト時間適応(AdaNPC)を行うためにNon-Parametricを採用する。
論文 参考訳(メタデータ) (2023-04-25T04:23:13Z) - Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳(メタデータ) (2023-03-24T10:19:14Z) - Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory [58.72445309519892]
テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
論文 参考訳(メタデータ) (2022-08-10T03:05:46Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Listen, Adapt, Better WER: Source-free Single-utterance Test-time
Adaptation for Automatic Speech Recognition [65.84978547406753]
Test-time Adaptationは、ソースドメインでトレーニングされたモデルに適応して、テストサンプルの予測を改善することを目的としている。
単一発話テスト時間適応 (SUTA) は音声領域における最初のTTA研究である。
論文 参考訳(メタデータ) (2022-03-27T06:38:39Z) - On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。
本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。
テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
論文 参考訳(メタデータ) (2022-03-10T18:51:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。