論文の概要: On Balancing Bias and Variance in Unsupervised Multi-Source-Free Domain Adaptation

• arxiv url: http://arxiv.org/abs/2202.00796v3
• Date: Wed, 31 May 2023 15:46:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-02 04:49:19.583768
• Title: On Balancing Bias and Variance in Unsupervised Multi-Source-Free Domain Adaptation
• Title（参考訳）: 教師なしマルチソース領域適応におけるバイアスと変数のバランスについて
• Authors: Maohao Shen, Yuheng Bu, Gregory Wornell
• Abstract要約: マルチソースフリードメイン適応(MSFDA)の方法は、典型的には、ソースモデルによって生成された擬似ラベル付きデータを使用してターゲットモデルを訓練する。 得られた対象モデルの一般化誤差に基づく情報理論境界を開発する。 次に、ドメインアグリゲーション、選択的な擬似ラベル付け、共同機能アライメントといった3つの視点から、このトレードオフのバランスをとる方法についての洞察を提供します。
• 参考スコア（独自算出の注目度）: 6.2200089460762085
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Due to privacy, storage, and other constraints, there is a growing need for unsupervised domain adaptation techniques in machine learning that do not require access to the data used to train a collection of source models. Existing methods for multi-source-free domain adaptation (MSFDA) typically train a target model using pseudo-labeled data produced by the source models, which focus on improving the pseudo-labeling techniques or proposing new training objectives. Instead, we aim to analyze the fundamental limits of MSFDA. In particular, we develop an information-theoretic bound on the generalization error of the resulting target model, which illustrates an inherent bias-variance trade-off. We then provide insights on how to balance this trade-off from three perspectives, including domain aggregation, selective pseudo-labeling, and joint feature alignment, which leads to the design of novel algorithms. Experiments on multiple datasets validate our theoretical analysis and demonstrate the state-of-art performance of the proposed algorithm, especially on some of the most challenging datasets, including Office-Home and DomainNet.
• Abstract（参考訳）: プライバシやストレージ、その他の制約のため、ソースモデルのコレクションのトレーニングに使用されるデータにアクセスする必要のないマシンラーニングにおいて、教師なしのドメイン適応技術がますます必要になる。 既存のマルチソースフリードメイン適応法(MSFDA)は、典型的には、ソースモデルによって生成された擬似ラベル付きデータを使用してターゲットモデルをトレーニングする。 代わりに、MSFDAの基本的限界を分析することを目的としている。 特に,得られた対象モデルの一般化誤差に基づく情報理論境界を構築し,固有バイアス分散トレードオフを示す。 次に、このトレードオフをドメインアグリゲーション、選択的擬似ラベル、ジョイント機能アライメントという3つの視点からバランスさせる方法に関する洞察を与え、新しいアルゴリズムを設計することに繋がる。 複数のデータセットの実験は、我々の理論的分析を評価し、提案アルゴリズムの最先端性能、特にOffice-HomeやDomainNetといった最も困難なデータセットについて実証する。

関連論文リスト

• Non-stationary Domain Generalization: Theory and Algorithm [11.781050299571692]
  本稿では,非定常環境における領域一般化について検討する。 まず,環境非定常性がモデル性能に及ぼす影響について検討する。 そこで我々は適応不変表現学習に基づく新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-05-10T21:32:43Z)
• Subject-Based Domain Adaptation for Facial Expression Recognition [51.10374151948157]
  ディープラーニングモデルを特定の対象個人に適用することは、難しい表情認識タスクである。 本稿では、FERにおける主観的ドメイン適応のための新しいMSDA手法を提案する。 複数の情報源からの情報を効率的に利用して、ディープFERモデルを単一のターゲット個人に適応させる。
  論文  参考訳（メタデータ） (2023-12-09T18:40:37Z)
• Consistency Regularization for Generalizable Source-free Domain Adaptation [62.654883736925456]
  ソースフリードメイン適応(source-free domain adapt, SFDA)は、ソースデータセットにアクセスすることなく、十分にトレーニングされたソースモデルを未学習のターゲットドメインに適応することを目的としている。 既存のSFDAメソッドは、ターゲットのトレーニングセット上で適用されたモデルを評価し、目に見えないが同一の分散テストセットからデータを無視する。 より一般化可能なSFDA法を開発するための整合正則化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-03T07:45:53Z)
• A Novel Mix-normalization Method for Generalizable Multi-source Person Re-identification [49.548815417844786]
  人物再識別(Re-ID)は、監督されたシナリオにおいて大きな成功を収めた。 モデルがソースドメインに過度に適合するため、教師付きモデルを任意の未確認領域に直接転送することは困難である。 ドメイン・アウェア・ミックス正規化(DMN)とドメイン・ウェア・センター正規化(DCR)からなるMixNormを提案する。
  論文  参考訳（メタデータ） (2022-01-24T18:09:38Z)
• T-SVDNet: Exploring High-Order Prototypical Correlations for Multi-Source Domain Adaptation [41.356774580308986]
  マルチソースドメイン適応の課題に対処するために,T-SVDNetという新しい手法を提案する。 複数のドメインとカテゴリの高次相関は、ドメインギャップを埋めるため、完全に検討されている。 ノイズ源データによる負の伝達を回避するため,新しい不確実性を考慮した重み付け手法を提案する。
  論文  参考訳（メタデータ） (2021-07-30T06:33:05Z)
• A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
  大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。 多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。 限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
  論文  参考訳（メタデータ） (2020-09-01T00:06:50Z)
• Towards Inheritable Models for Open-Set Domain Adaptation [56.930641754944915]
  本稿では、将来、ソースデータセットが存在しない場合の適応を容易にするために、ソース学習モデルを用いた実用的なドメイン適応パラダイムを提案する。 本稿では,ソースデータがない場合でも,対象領域に対して最適なソースモデルの選択を可能にするために,継承可能性の定量化を目的とする手法を提案する。
  論文  参考訳（メタデータ） (2020-04-09T07:16:30Z)
• Diversity-Based Generalization for Unsupervised Text Classification under Domain Shift [16.522910268114504]
  本稿では,多様性に基づく一般化の単純かつ効果的な考え方に基づく単一タスクテキスト分類問題の領域適応手法を提案する。 我々の結果は、十分な多様性を保証する機械学習アーキテクチャがより一般化できることを実証している。
  論文  参考訳（メタデータ） (2020-02-25T15:11:02Z)
• Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation [102.67010690592011]
  Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。 従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。 この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
  論文  参考訳（メタデータ） (2020-02-20T03:13:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。