論文の概要: DistillAdapt: Source-Free Active Visual Domain Adaptation
- arxiv url: http://arxiv.org/abs/2205.12840v1
- Date: Tue, 24 May 2022 05:50:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-26 15:12:39.397855
- Title: DistillAdapt: Source-Free Active Visual Domain Adaptation
- Title(参考訳): DistillAdapt: ソースフリーのアクティブなビジュアルドメイン適応
- Authors: Divya Kothandaraman, Sumit Shekhar, Abhilasha Sancheti, Manoj Ghuhan,
Tripti Shukla, Dinesh Manocha
- Abstract要約: ソースフリーアクティブドメイン適応(SF-ADA)の課題に対する新しい手法であるDistillAdaptを提案する。
問題は、ターゲットドメイン内のラベルを取得するための提供予算内に、事前訓練されたソースドメインネットワークをターゲットドメインに適応させることである。
DistillAdaptは、SF-ADAの最初のアプローチの1つであり、新しいガイド付き注意伝達ネットワーク(GATN)とアクティブラーニングH_ALを通じて、SF-ADAの課題に全力を挙げている。
- 参考スコア(独自算出の注目度): 46.05233456115902
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a novel method, DistillAdapt, for the challenging problem of
Source-Free Active Domain Adaptation (SF-ADA). The problem requires adapting a
pretrained source domain network to a target domain, within a provided budget
for acquiring labels in the target domain, while assuming that the source data
is not available for adaptation due to privacy concerns or otherwise.
DistillAdapt is one of the first approaches for SF-ADA, and holistically
addresses the challenges of SF-ADA via a novel Guided Attention Transfer
Network (GATN) and an active learning heuristic, H_AL. The GATN enables
selective distillation of features from the pre-trained network to the target
network using a small subset of annotated target samples mined by H_AL. H_AL
acquires samples at batch-level and balances transfer-ability from the
pre-trained network and uncertainty of the target network. DistillAdapt is
task-agnostic, and can be applied across visual tasks such as classification,
segmentation and detection. Moreover, DistillAdapt can handle shifts in output
label space. We conduct experiments and extensive ablation studies across 3
visual tasks, viz. digits classification (MNIST, SVHN), synthetic (GTA5) to
real (CityScapes) image segmentation, and document layout detection (PubLayNet
to DSSE). We show that our source-free approach, DistillAdapt, results in an
improvement of 0.5% - 31.3% (across datasets and tasks) over prior adaptation
methods that assume access to large amounts of annotated source data for
adaptation.
- Abstract(参考訳): 本稿では、SF-ADA(Source-Free Active Domain Adaptation)の課題に対する新しい手法であるDistillAdaptを提案する。
この問題は、プライバシの懸念などによりソースデータが適応できないと仮定しながら、ターゲットドメインのラベルを取得するための予算内で、事前訓練されたソースドメインネットワークをターゲットドメインに適応させる必要がある。
DistillAdaptは、SF-ADAの最初のアプローチの1つであり、新しいガイド付き注意伝達ネットワーク(GATN)とアクティブラーニングヒューリスティックなH_ALを通じて、SF-ADAの課題に全力を挙げている。
GATNは、H_ALによって採掘された注釈されたターゲットサンプルの小さなサブセットを用いて、事前訓練されたネットワークからターゲットネットワークへの特徴の選択的蒸留を可能にする。
h_alはバッチレベルでサンプルを取得し、事前訓練されたネットワークから転送可能性とターゲットネットワークの不確実性とをバランスさせる。
distilladaptはタスク非依存で、分類、セグメンテーション、検出といった視覚的なタスクにも適用できる。
さらに、DistillAdaptは出力ラベル空間のシフトを処理できる。
我々は,3つの視覚的タスク,ビジ.桁分類(MNIST,SVHN),合成(GTA5)から実(CityScapes)への画像分割,文書レイアウト検出(PubLayNetからDSSE)に関する実験および広範囲なアブレーション研究を行った。
当社のソースフリーアプローチであるdistilladaptは,大量のアノテートされたソースデータへのアクセスを前提とした事前適応手法に対して,0.5~31.3%(データセットとタスク横断)の改善を実現した。
関連論文リスト
- Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence [60.37934652213881]
ドメイン適応(DA)は、ソースドメインから関連するターゲットドメインへの知識伝達を容易にする。
本稿では、ソースデータフリーなアクティブドメイン適応(SFADA)という実用的なDAパラダイムについて検討する。
本稿では,学習者学習(LFTL)というSFADAの新たなパラダイムを紹介し,学習した学習知識を事前学習モデルから活用し,余分なオーバーヘッドを伴わずにモデルを積極的に反復する。
論文 参考訳(メタデータ) (2024-07-26T17:51:58Z) - Divide and Adapt: Active Domain Adaptation via Customized Learning [56.79144758380419]
対象インスタンスを成層化可能な4つのカテゴリに分割する新しいADAフレームワークであるDiaNA(Divide-and-Adapt)を提案する。
不確実性とドメイン性に基づく新しいデータ分割プロトコルにより、DiaNAは最も有利なサンプルを正確に認識することができる。
の精神のおかげで、DiaNAはドメインギャップの大きなバリエーションでデータを処理できる。
論文 参考訳(メタデータ) (2023-07-21T14:37:17Z) - Domain Alignment Meets Fully Test-Time Adaptation [24.546705919244936]
デプロイされたMLモデルの基本的な要件は、トレーニングとは異なるテストディストリビューションから引き出されたデータに一般化することである。
本稿では,元のソースデータへのアクセスを制限した,この問題の難易度に焦点をあてる。
ソースデータ全体にアクセスする必要性を緩和し,UDAとFTTAを橋渡しする新しいアプローチCATTAnを提案する。
論文 参考訳(メタデータ) (2022-07-09T03:17:19Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - Instance Relation Graph Guided Source-Free Domain Adaptive Object
Detection [79.89082006155135]
教師なしドメイン適応(Unsupervised Domain Adaptation, UDA)は、ドメインシフトの問題に取り組むための効果的なアプローチである。
UDAメソッドは、ターゲットドメインの一般化を改善するために、ソースとターゲット表現を整列させようとする。
Source-Free Adaptation Domain (SFDA)設定は、ソースデータへのアクセスを必要とせずに、ターゲットドメインに対してソーストレーニングされたモデルを適用することで、これらの懸念を軽減することを目的としている。
論文 参考訳(メタデータ) (2022-03-29T17:50:43Z) - Transformer-Based Source-Free Domain Adaptation [134.67078085569017]
本研究では,ソースフリードメイン適応(SFDA)の課題について検討する。
我々は、FDAの一般化モデルを学ぶためのTransformer(TransDA)という、汎用的で効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2021-05-28T23:06:26Z) - Generation for adaption: a Gan-based approach for 3D Domain Adaption
inPoint Cloud [10.614067060304919]
Unsupervised Domain Adapt (UDA)は、ターゲットドメインラベルなしでそのような問題を解決することを目指しています。
本稿では,生成逆ネットワークを用いてソースドメインから合成データを生成する手法を提案する。
実験により,本手法は3つの一般的な3次元オブジェクト/シーンデータセットにおいて,最先端のUDA手法よりも優れた性能を示した。
論文 参考訳(メタデータ) (2021-02-15T07:24:10Z) - Self domain adapted network [6.040230864736051]
ドメインシフトは、臨床実践においてディープネットワークをデプロイする上で大きな問題である。
単体テスト対象に迅速に適応できる新しい自己ドメイン適応ネットワーク(SDA-Net)を提案する。
論文 参考訳(メタデータ) (2020-07-07T01:41:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。