論文の概要: Proxy Denoising for Source-Free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2406.01658v1
- Date: Mon, 3 Jun 2024 17:36:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-05 21:21:41.815220
- Title: Proxy Denoising for Source-Free Domain Adaptation
- Title(参考訳): ソースフリードメイン適応のためのプロキシDenoising
- Authors: Song Tang, Wenxin Su, Mao Ye, Jianwei Zhang, Xiatian Zhu,
- Abstract要約: Source-free Domain Adaptation (SFDA)は、トレーニング済みのソースモデルを、ソースデータにアクセスせずにラベルなしのターゲットドメインに適応することを目的としている。
我々はViLの予測がノイズであり、未知の速度で不正確な場合があり、適応中に付加的な負の効果をもたらす可能性があることを観察した。
本稿では Proxy Denoising (ProDe) アプローチを導入し,潜在領域不変空間への適応プロセスを容易にする。
- 参考スコア(独自算出の注目度): 41.90015041165936
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Source-free Domain Adaptation (SFDA) aims to adapt a pre-trained source model to an unlabeled target domain with no access to the source data. Inspired by the success of pre-trained large vision-language (ViL) models in many other applications, the latest SFDA methods have also validated the benefit of ViL models by leveraging their predictions as pseudo supervision. However, we observe that ViL's predictions could be noisy and inaccurate at an unknown rate, potentially introducing additional negative effects during adaption. To address this thus-far ignored challenge, in this paper, we introduce a novel Proxy Denoising (ProDe) approach. Specifically, we leverage the ViL model as a proxy to facilitate the adaptation process towards the latent domain-invariant space. Critically, we design a proxy denoising mechanism for correcting ViL's predictions. This is grounded on a novel proxy confidence theory by modeling elegantly the domain adaption effect of the proxy's divergence against the domain-invariant space. To capitalize the corrected proxy, we further derive a mutual knowledge distilling regularization. Extensive experiments show that our ProDe significantly outperforms the current state-of-the-art alternatives under both conventional closed-set setting and the more challenging open-set, partial-set and generalized SFDA settings. The code will release soon.
- Abstract(参考訳): Source-free Domain Adaptation (SFDA)は、トレーニング済みのソースモデルを、ソースデータにアクセスせずにラベルなしのターゲットドメインに適応することを目的としている。
他の多くの応用において、事前訓練された大型視覚言語(ViL)モデルの成功に触発されて、最新のFDA法は、それらの予測を疑似監視として活用することで、ViLモデルの利点を検証した。
しかし、ViLの予測はノイズが多く、未知の速度で不正確な場合があり、適応中に付加的な負の効果が生じる可能性がある。
このような無視された課題に対処するために,本稿ではProxy Denoising(ProDe)アプローチを紹介する。
具体的には、ViLモデルをプロキシとして利用し、潜在ドメイン不変空間への適応プロセスを容易にする。
重要な点として、ViLの予測を修正するためのプロキシ記述機構を設計する。
これは、領域不変空間に対するプロキシの発散によるドメイン適応効果をエレガントにモデル化することで、新しいプロキシ信頼理論に基づいている。
補正されたプロキシを大まかに活用するために、我々はまた、正規化を蒸留する相互知識を導出する。
我々のProDeは、従来のクローズドセット設定と、より挑戦的なオープンセット、部分セット、一般化されたSFDA設定の両方の下で、最先端の代替品よりも大幅に優れています。
コードはまもなくリリースされる。
関連論文リスト
- Unveiling the Superior Paradigm: A Comparative Study of Source-Free Domain Adaptation and Unsupervised Domain Adaptation [52.36436121884317]
Source-Free Domain Adaptation (SFDA) は、現実のシナリオにおいて、Unsupervised Domain Adaptation (UDA) よりも一般的に優れていることを示す。
SFDAは、時間効率、ストレージ要件、対象とする学習目標、負の移動リスクの低減、過度な適合に対する堅牢性の向上といった利点を提供している。
利用可能なソースデータをマルチSFDA手法に効果的に統合する新しい重み推定法を提案する。
論文 参考訳(メタデータ) (2024-11-24T13:49:29Z) - Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation
of Prediction Rationale [53.152460508207184]
Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。
本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。
最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
論文 参考訳(メタデータ) (2024-02-02T05:53:22Z) - S-Adapter: Generalizing Vision Transformer for Face Anti-Spoofing with Statistical Tokens [45.06704981913823]
Face Anti-Spoofing (FAS) は、スプーフされた顔を表示することによって、顔認識システムに侵入しようとする悪意のある試みを検出することを目的としている。
本稿では,局所的なトークンヒストグラムから局所的な識別や統計情報を収集する新しい統計適応器(S-Adapter)を提案する。
統計的トークンの一般化をさらに改善するために,新しいトークンスタイル正規化(TSR)を提案する。
提案したS-AdapterとTSRは、ゼロショットと少数ショットのクロスドメインテストの両方において、いくつかのベンチマークテストにおいて、最先端の手法よりも優れた、大きなメリットをもたらすことを示した。
論文 参考訳(メタデータ) (2023-09-07T22:36:22Z) - Confidence Attention and Generalization Enhanced Distillation for
Continuous Video Domain Adaptation [62.458968086881555]
連続ビデオドメイン適応(CVDA、Continuous Video Domain Adaptation)は、ソースモデルが個々の変更対象ドメインに適応する必要があるシナリオである。
CVDAの課題に対処するため,遺伝子組み換え型自己知識解離(CART)を用いた信頼性保証ネットワークを提案する。
論文 参考訳(メタデータ) (2023-03-18T16:40:10Z) - Feature Alignment by Uncertainty and Self-Training for Source-Free
Unsupervised Domain Adaptation [1.6498361958317636]
ほとんどの教師なし領域適応(UDA)手法は、ラベル付きソースイメージがモデル適応中に利用できると仮定する。
本稿では,事前学習したソースモデルと未ラベルのターゲット画像のみを用いる,ソースフリーなUDA手法を提案する。
本手法は,データ拡張を取り入れ,特徴発生器を2つの整合性目標で訓練することにより,アレータリックな不確実性を捕捉する。
論文 参考訳(メタデータ) (2022-08-31T14:28:36Z) - Uncertainty-guided Source-free Domain Adaptation [77.3844160723014]
ソースフリードメイン適応(SFDA)は、事前訓練されたソースモデルのみを使用することで、未ラベルのターゲットデータセットに分類器を適応させることを目的としている。
本稿では、ソースモデル予測の不確実性を定量化し、ターゲット適応の導出に利用することを提案する。
論文 参考訳(メタデータ) (2022-08-16T08:03:30Z) - Uncertainty-Guided Mixup for Semi-Supervised Domain Adaptation without
Source Data [37.26484185691251]
ソースフリーなドメイン適応は、ソースデータにアクセスせずにドメイン適応を行うことによって問題を解決することを目的としている。
提案する不確実性誘導型Mixupは,表現のドメイン内差を低減し,ソースデータに直接アクセスすることなくドメイン間アライメントを行う。
提案手法は,最近の半教師付きベースラインよりも優れており,教師なし変種は競争性能を達成する。
論文 参考訳(メタデータ) (2021-07-14T13:54:02Z) - Transformer-Based Source-Free Domain Adaptation [134.67078085569017]
本研究では,ソースフリードメイン適応(SFDA)の課題について検討する。
我々は、FDAの一般化モデルを学ぶためのTransformer(TransDA)という、汎用的で効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2021-05-28T23:06:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。