論文の概要: On the Benefits of Selectivity in Pseudo-Labeling for Unsupervised
Multi-Source-Free Domain Adaptation
- arxiv url: http://arxiv.org/abs/2202.00796v1
- Date: Tue, 1 Feb 2022 22:34:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-03 14:56:05.306631
- Title: On the Benefits of Selectivity in Pseudo-Labeling for Unsupervised
Multi-Source-Free Domain Adaptation
- Title(参考訳): 教師なしマルチソースフリードメイン適応のための擬似ラベルにおける選択性の効果について
- Authors: Maohao Shen, Yuheng Bu, Gregory Wornell
- Abstract要約: 対象データのサブセットに擬似ラベルを割り当てると性能が向上することを示す。
我々は,対象データを擬似ラベル付きおよび未ラベルのサブセットに分割し,トレードオフのバランスをとる手法を開発した。
複数のベンチマークデータセットの実験により,提案手法の優れた性能が示された。
- 参考スコア(独自算出の注目度): 6.2200089460762085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to privacy, storage, and other constraints, there is a growing need for
unsupervised domain adaptation techniques in machine learning that do not
require access to the data used to train a collection of source models.
Existing methods for such multi-source-free domain adaptation typically train a
target model using supervised techniques in conjunction with pseudo-labels for
the target data, which are produced by the available source models. However, we
show that assigning pseudo-labels to only a subset of the target data leads to
improved performance. In particular, we develop an information-theoretic bound
on the generalization error of the resulting target model that demonstrates an
inherent bias-variance trade-off controlled by the subset choice. Guided by
this analysis, we develop a method that partitions the target data into
pseudo-labeled and unlabeled subsets to balance the trade-off. In addition to
exploiting the pseudo-labeled subset, our algorithm further leverages the
information in the unlabeled subset via a traditional unsupervised domain
adaptation feature alignment procedure. Experiments on multiple benchmark
datasets demonstrate the superior performance of the proposed method.
- Abstract(参考訳): プライバシやストレージ、その他の制約のため、ソースモデルのコレクションのトレーニングに使用されるデータにアクセスする必要のないマシンラーニングにおいて、教師なしのドメイン適応技術がますます必要になる。
このようなマルチソースフリーなドメイン適応のための既存の手法は通常、利用可能なソースモデルによって生成されるターゲットデータのための擬似ラベルと共に教師あり技術を使ってターゲットモデルを訓練する。
しかし,対象データのサブセットのみに擬似ラベルを割り当てることにより,性能が向上することを示す。
特に,対象モデルの一般化誤差に基づく情報理論的な境界を開発し,部分集合選択によって制御される固有バイアス分散トレードオフを実証する。
そこで本研究では,対象データを擬似ラベル付きおよび未ラベルのサブセットに分割し,トレードオフのバランスをとる手法を開発した。
疑似ラベル付きサブセットの活用に加えて、従来の教師なしドメイン適応機能アライメント手順により、未ラベルサブセットの情報をさらに活用する。
複数のベンチマークデータセットの実験により,提案手法の優れた性能が示された。
関連論文リスト
- Non-stationary Domain Generalization: Theory and Algorithm [11.781050299571692]
本稿では,非定常環境における領域一般化について検討する。
まず,環境非定常性がモデル性能に及ぼす影響について検討する。
そこで我々は適応不変表現学習に基づく新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-05-10T21:32:43Z) - Subject-Based Domain Adaptation for Facial Expression Recognition [51.10374151948157]
ディープラーニングモデルを特定の対象個人に適用することは、難しい表情認識タスクである。
本稿では、FERにおける主観的ドメイン適応のための新しいMSDA手法を提案する。
複数の情報源からの情報を効率的に利用して、ディープFERモデルを単一のターゲット個人に適応させる。
論文 参考訳(メタデータ) (2023-12-09T18:40:37Z) - Consistency Regularization for Generalizable Source-free Domain
Adaptation [62.654883736925456]
ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。
既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。
より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-03T07:45:53Z) - A Novel Mix-normalization Method for Generalizable Multi-source Person
Re-identification [49.548815417844786]
人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。
モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。
ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
論文 参考訳(メタデータ) (2022-01-24T18:09:38Z) - T-SVDNet: Exploring High-Order Prototypical Correlations for
Multi-Source Domain Adaptation [41.356774580308986]
マルチソースドメイン適応の課題に対処するために,T-SVDNetという新しい手法を提案する。
複数のドメインとカテゴリの高次相関は、ドメインギャップを埋めるため、完全に検討されている。
ノイズ源データによる負の伝達を回避するため,新しい不確実性を考慮した重み付け手法を提案する。
論文 参考訳(メタデータ) (2021-07-30T06:33:05Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z) - Towards Inheritable Models for Open-Set Domain Adaptation [56.930641754944915]
本稿では、将来、ソースデータセットが存在しない場合の適応を容易にするために、ソース学習モデルを用いた実用的なドメイン適応パラダイムを提案する。
本稿では,ソースデータがない場合でも,対象領域に対して最適なソースモデルの選択を可能にするために,継承可能性の定量化を目的とする手法を提案する。
論文 参考訳(メタデータ) (2020-04-09T07:16:30Z) - Diversity-Based Generalization for Unsupervised Text Classification
under Domain Shift [16.522910268114504]
本稿では,多様性に基づく一般化の単純かつ効果的な考え方に基づく単一タスクテキスト分類問題の領域適応手法を提案する。
我々の結果は、十分な多様性を保証する機械学習アーキテクチャがより一般化できることを実証している。
論文 参考訳(メタデータ) (2020-02-25T15:11:02Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。