論文の概要: MeTA: Multi-source Test Time Adaptation
- arxiv url: http://arxiv.org/abs/2401.02561v1
- Date: Thu, 4 Jan 2024 22:23:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-08 16:40:50.886552
- Title: MeTA: Multi-source Test Time Adaptation
- Title(参考訳): MeTA: マルチソーステスト時間適応
- Authors: Sk Miraj Ahmed, Fahim Faisal Niloy, Dripta S. Raychaudhuri, Samet
Oymak, Amit K. Roy-Chowdhury
- Abstract要約: テスト時間適応は、教師なしの方法で、テストデータの各バッチに事前訓練されたソースモデルを適用するプロセスである。
完全教師なしのマルチソーステスト時間適応フレームワークを提案する。
- 参考スコア(独自算出の注目度): 44.17577480511772
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Test time adaptation is the process of adapting, in an unsupervised manner, a
pre-trained source model to each incoming batch of the test data (i.e., without
requiring a substantial portion of the test data to be available, as in
traditional domain adaptation) and without access to the source data. Since it
works with each batch of test data, it is well-suited for dynamic environments
where decisions need to be made as the data is streaming in. Current test time
adaptation methods are primarily focused on a single source model. We propose
the first completely unsupervised Multi-source Test Time Adaptation (MeTA)
framework that handles multiple source models and optimally combines them to
adapt to the test data. MeTA has two distinguishing features. First, it
efficiently obtains the optimal combination weights to combine the source
models to adapt to the test data distribution. Second, it identifies which of
the source model parameters to update so that only the model which is most
correlated to the target data is adapted, leaving the less correlated ones
untouched; this mitigates the issue of "forgetting" the source model parameters
by focusing only on the source model that exhibits the strongest correlation
with the test batch distribution. Experiments on diverse datasets demonstrate
that the combination of multiple source models does at least as well as the
best source (with hindsight knowledge), and performance does not degrade as the
test data distribution changes over time (robust to forgetting).
- Abstract(参考訳): テスト時間適応(英語: test time adaptation)とは、テストデータの入ってくるバッチ(つまり、テストデータの大部分を必要とせず、従来のドメイン適応のように)に事前訓練されたソースモデルを適用し、ソースデータにアクセスせずに適用するプロセスである。
テストデータのバッチで動作するため、データがストリーミングされるときに意思決定を行う必要がある動的環境に適しています。
現在のテスト時間適応法は主に単一ソースモデルに焦点を当てている。
複数のソースモデルを処理し、テストデータに最適な組み合わせをする、完全に教師なしのMulti-source Test Time Adaptation (MeTA) フレームワークを提案する。
MeTAには2つの特徴がある。
まず、ソースモデルを組み合わせてテストデータ分布に適応するための最適な組み合わせ重み付けを効率よく取得する。
第二に、対象データに最も相関の強いモデルのみを適用するように更新すべきソースモデルパラメータのどれかを識別し、対象データに最も相関の少ないモデルのみを未修正にしておくことにより、テストバッチ分布と強い相関を示すソースモデルのみに注目することで、ソースモデルパラメータを"忘れ"する問題を軽減する。
多様なデータセットに関する実験により、複数のソースモデルの組み合わせは、少なくとも最高のソース(後見の知識を伴う)だけでなく、テストデータの分散が時間とともに変化するため、パフォーマンスが低下しないことが示された。
関連論文リスト
- Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳(メタデータ) (2023-03-24T10:19:14Z) - Back to the Source: Diffusion-Driven Test-Time Adaptation [77.4229736436935]
テスト時間適応はテスト入力を利用し、シフトしたターゲットデータ上でテストした場合、ソースデータに基づいてトレーニングされたモデルの精度を向上させる。
代わりに、生成拡散モデルを用いて、すべてのテスト入力をソース領域に向けて投影することで、ターゲットデータを更新する。
論文 参考訳(メタデータ) (2022-07-07T17:14:10Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Listen, Adapt, Better WER: Source-free Single-utterance Test-time
Adaptation for Automatic Speech Recognition [65.84978547406753]
Test-time Adaptationは、ソースドメインでトレーニングされたモデルに適応して、テストサンプルの予測を改善することを目的としている。
単一発話テスト時間適応 (SUTA) は音声領域における最初のTTA研究である。
論文 参考訳(メタデータ) (2022-03-27T06:38:39Z) - On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。
本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。
テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
論文 参考訳(メタデータ) (2022-03-10T18:51:29Z) - SITA: Single Image Test-time Adaptation [48.789568233682296]
テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
我々は、TTAをSITA(Single Image Test-time Adaptation)と呼ぶより実践的な環境で考える。
ここでは、各予測を行う場合、モデルはインスタンスのバッチではなく、与えられた単一のテストインスタンスにのみアクセスすることができる。
本稿では,前進保存伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
論文 参考訳(メタデータ) (2021-12-04T15:01:35Z) - Unsupervised Multi-source Domain Adaptation Without Access to Source
Data [58.551861130011886]
Unsupervised Domain Adaptation (UDA)は、ラベル付きソースドメインから知識を転送することで、ラベル付きドメインの予測モデルを学ぶことを目的としている。
本稿では,ソースモデルと適切な重み付けを自動的に組み合わせ,少なくとも最良のソースモデルと同等の性能を発揮する新しい効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-04-05T10:45:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。