論文の概要: Class-based Subset Selection for Transfer Learning under Extreme Label Shift

• arxiv url: http://arxiv.org/abs/2501.00162v1
• Date: Mon, 30 Dec 2024 22:14:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-05 17:16:17.081892
• Title: Class-based Subset Selection for Transfer Learning under Extreme Label Shift
• Title（参考訳）: 極端ラベルシフトに基づく転帰学習のためのクラスベースサブセット選択
• Authors: Akul Goyal, Carl Edwards,
• Abstract要約: 本稿では、ソースドメインからクラスを選択して重み付けし、ドメイン間の転送を最適化する、数ショット転送学習のための新しいプロセスを提案する。 より具体的には、Wasserstein 距離を使って、ソースとターゲットドメイン間の距離を最小化するソースクラスとその重みを選択する。
• 参考スコア（独自算出の注目度）: 1.4529850226400594
• License:
• Abstract: Existing work within transfer learning often follows a two-step process -- pre-training over a large-scale source domain and then finetuning over limited samples from the target domain. Yet, despite its popularity, this methodology has been shown to suffer in the presence of distributional shift -- specifically when the output spaces diverge. Previous work has focused on increasing model performance within this setting by identifying and classifying only the shared output classes between distributions. However, these methods are inherently limited as they ignore classes outside the shared class set, disregarding potential information relevant to the model transfer. This paper proposes a new process for few-shot transfer learning that selects and weighs classes from the source domain to optimize the transfer between domains. More concretely, we use Wasserstein distance to choose a set of source classes and their weights that minimize the distance between the source and target domain. To justify our proposed algorithm, we provide a generalization analysis of the performance of the learned classifier over the target domain and show that our method corresponds to a bound minimization algorithm. We empirically demonstrate the effectiveness of our approach (WaSS) by experimenting on several different datasets and presenting superior performance within various label shift settings, including the extreme case where the label spaces are disjoint.
• Abstract（参考訳）: トランスファーラーニングにおける既存の作業は、しばしば2段階のプロセスに従う - 大規模なソースドメイン上で事前トレーニングを行い、ターゲットドメインからの限られたサンプルを微調整する。 しかし、その人気にもかかわらず、この方法論は、特に出力空間が分岐するときに、分布シフトの存在に苦しむことが示されている。 これまでの作業では、分散間の共有出力クラスのみを特定し、分類することで、この設定内でのモデルパフォーマンスの向上に重点を置いてきた。 しかしながら、これらのメソッドは、モデル転送に関連する潜在的な情報を無視して、共有クラスセット外のクラスを無視しているため、本質的に制限されている。 本稿では、ソースドメインからクラスを選択して重み付けし、ドメイン間の転送を最適化する、数ショット転送学習のための新しいプロセスを提案する。 より具体的には、Wasserstein 距離を使って、ソースとターゲットドメイン間の距離を最小化するソースクラスとその重みを選択する。 提案アルゴリズムを正当化するために,学習した分類器の性能を対象領域上で一般化解析し,本手法が有界最小化アルゴリズムに対応することを示す。 我々は,複数の異なるデータセットを実験し,ラベル空間が結合しない極端な場合を含む,様々なラベルシフト設定において優れた性能を示すことによって,我々のアプローチ(WaSS)の有効性を実証的に実証した。

関連論文リスト

• Self-training through Classifier Disagreement for Cross-Domain Opinion Target Extraction [62.41511766918932]
  オピニオンターゲット抽出(OTE)またはアスペクト抽出(AE)は意見マイニングの基本的な課題である。 最近の研究は、現実世界のシナリオでよく見られるクロスドメインのOTEに焦点を当てている。 そこで本稿では,ドメイン固有の教師と学生のネットワークから出力されるモデルが未学習のターゲットデータと一致しない対象サンプルを選択するためのSSLアプローチを提案する。
  論文  参考訳（メタデータ） (2023-02-28T16:31:17Z)
• Label Distribution Learning for Generalizable Multi-source Person Re-identification [48.77206888171507]
  人物再識別(Re-ID)は,映像監視システムにおいて重要な技術である。 教師付きモデルを任意の未確認領域に直接適用することは困難である。 一般化可能な多ソース人物Re-IDタスクに対処する新しいラベル分散学習法(LDL)を提案する。
  論文  参考訳（メタデータ） (2022-04-12T15:59:10Z)
• From Big to Small: Adaptive Learning to Partial-Set Domains [94.92635970450578]
  ドメイン適応は、分布シフト中のラベル付きソースドメインからラベルなしターゲットドメインへの知識獲得と普及を目標とする。 近年の進歩は、大規模の深層学習モデルにより、小規模の下流の多様な課題に取り組むための豊富な知識が得られていることを示している。 本稿では,学習パラダイムである部分領域適応(Partial Domain Adaptation, PDA)を紹介する。
  論文  参考訳（メタデータ） (2022-03-14T07:02:45Z)
• Instance Level Affinity-Based Transfer for Unsupervised Domain Adaptation [74.71931918541748]
  ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。 まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。 ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
  論文  参考訳（メタデータ） (2021-04-03T01:33:14Z)
• Your Classifier can Secretly Suffice Multi-Source Domain Adaptation [72.47706604261992]
  マルチソースドメイン適応(MSDA)は、複数のラベル付きソースドメインからラベルなしターゲットドメインへのタスク知識の転送を扱う。 ラベル管理下のドメインを暗黙的に整列させる深層モデルが観察されるMSDAに対して、異なる視点を提示する。
  論文  参考訳（メタデータ） (2021-03-20T12:44:13Z)
• Discriminative Cross-Domain Feature Learning for Partial Domain Adaptation [70.45936509510528]
  部分的なドメイン適応は、より大きく多様なソースドメインからの知識を、より少ないクラス数でより小さなターゲットドメインに適応させることを目的としています。 ドメイン適応の最近の実践は、ターゲットドメインの擬似ラベルを組み込むことで、効果的な特徴を抽出する。 ターゲットデータを少数のソースデータのみにアライメントすることが不可欠である。
  論文  参考訳（メタデータ） (2020-08-26T03:18:53Z)
• Class Conditional Alignment for Partial Domain Adaptation [10.506584969668792]
  アドリア適応モデルは、ラベル付きソースデータセットからラベルなしターゲットデータセットへの知識の転送に向けて大きな進歩を見せている。 PDAは、ソースドメインが広く多様なシナリオを調査し、ターゲットラベル空間はソースラベル空間のサブセットである。 PDAのためのマルチクラス対向アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-03-14T23:51:57Z)
• Towards Fair Cross-Domain Adaptation via Generative Learning [50.76694500782927]
  ドメイン適応(DA)は、よくラベル付けされたソースドメイン上でトレーニングされたモデルを、異なる分散に横たわる未ラベルのターゲットドメインに適応することを目的としています。 本研究では,新規な生成的Few-shot Cross-Domain Adaptation (GFCA) アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-03-04T23:25:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。