論文の概要: Continuous Transfer Learning with Label-informed Distribution Alignment

• arxiv url: http://arxiv.org/abs/2006.03230v1
• Date: Fri, 5 Jun 2020 04:44:58 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-25 02:50:18.913833
• Title: Continuous Transfer Learning with Label-informed Distribution Alignment
• Title（参考訳）: ラベルインフォーム分布アライメントを用いた連続伝達学習
• Authors: Jun Wu, Jingrui He
• Abstract要約: 時間発展ターゲット領域を持つ新しい連続移動学習環境について検討する。 連続移動学習に関連する大きな課題の1つは、負転移の発生の可能性である。 本稿では,TransLATE という汎用逆変分自動エンコーダフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 42.34180707803632
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transfer learning has been successfully applied across many high-impact applications. However, most existing work focuses on the static transfer learning setting, and very little is devoted to modeling the time evolving target domain, such as the online reviews for movies. To bridge this gap, in this paper, we study a novel continuous transfer learning setting with a time evolving target domain. One major challenge associated with continuous transfer learning is the potential occurrence of negative transfer as the target domain evolves over time. To address this challenge, we propose a novel label-informed C-divergence between the source and target domains in order to measure the shift of data distributions as well as to identify potential negative transfer. We then derive the error bound for the target domain using the empirical estimate of our proposed C-divergence. Furthermore, we propose a generic adversarial Variational Auto-encoder framework named TransLATE by minimizing the classification error and C-divergence of the target domain between consecutive time stamps in a latent feature space. In addition, we define a transfer signature for characterizing the negative transfer based on C-divergence, which indicates that larger C-divergence implies a higher probability of negative transfer in real scenarios. Extensive experiments on synthetic and real data sets demonstrate the effectiveness of our TransLATE framework.
• Abstract（参考訳）: 転送学習は多くの高インパクトアプリケーションに適用されている。 しかし、既存の作品の多くは静的転送学習の設定に焦点を当てており、映画に対するオンラインレビューなど、ターゲットドメインの時間発展のモデル化にほとんど焦点が当てられていない。 本稿では,このギャップを埋めるために,時間発展ターゲット領域を持つ新しい連続移動学習環境について検討する。 連続転写学習に関連する大きな課題の1つは、ターゲットドメインが時間とともに進化するにつれて負転移が起こる可能性があることである。 この課題に対処するため,本研究では,データ分布の変化を計測し,潜在的な負の転送を識別するために,ソースとターゲットドメイン間のラベルインフォームドC分割を提案する。 次に,提案するc-divergenceの実験的推定を用いて,対象領域の誤差バウンドを導出する。 さらに,潜時特徴空間における連続時間スタンプ間の対象領域の分類誤差とC偏差を最小化し,TransLATEと呼ばれる汎用逆変分自動エンコーダフレームワークを提案する。 さらに,C分割に基づく負転移を特徴付ける転写シグネチャを定義し,より大きいC分割は実シナリオにおける負転移の確率が高いことを示す。 合成および実データ集合に関する大規模な実験は、我々のTransLATEフレームワークの有効性を示す。

関連論文リスト

• Overcoming Negative Transfer by Online Selection: Distant Domain Adaptation for Fault Diagnosis [42.85741244467877]
  遠距離領域適応問題」という用語は、ラベル付きソースドメインからラベル付き未ラベルのターゲットドメインへの適応の難しさを記述している。 この問題は、ソースドメインからの外部知識がターゲットドメインのパフォーマンスに悪影響を及ぼす、負の転送のリスクを示す。 この課題に対応するために、我々は、新しいオンライン選択適応(OSAA)アプローチを提案する。
  論文  参考訳（メタデータ） (2024-05-25T07:17:47Z)
• Enhancing Continuous Domain Adaptation with Multi-Path Transfer Curriculum [8.712743055816958]
  継続的ドメイン適応(Continuous Domain Adaptation)は、トレーニングとテストデータの分散ギャップを埋める効果的なテクニックとして登場した。 本稿では,ドメインの順序付けとエラー蓄積の問題に厳密に対処する新しい手法W-MPOTを提案する。 我々は、複数のデータセット上でW-MPOTを広範囲に評価し、マルチセッションアルツハイマーMR画像分類における54.1%の精度向上と、バッテリ容量推定における94.7%のMSE削減を実現した。
  論文  参考訳（メタデータ） (2024-02-26T15:59:38Z)
• Logit Margin Matters: Improving Transferable Targeted Adversarial Attack by Logit Calibration [85.71545080119026]
  クロスエントロピー(CE)損失関数は、伝達可能な標的対向例を学習するには不十分である。 本稿では,ロジットを温度係数と適応マージンでダウンスケールすることで,ロジットのキャリブレーションを簡易かつ効果的に行う2つの手法を提案する。 ImageNetデータセットを用いて実験を行い,提案手法の有効性を検証した。
  論文  参考訳（メタデータ） (2023-03-07T06:42:52Z)
• Can You Label Less by Using Out-of-Domain Data? Active & Transfer Learning with Few-shot Instructions [58.69255121795761]
  そこで本研究では, 微調整を必要としない, アクティブトランスファーファウショットインストラクション (ATF) アプローチを提案する。 ATFは、事前訓練された言語モデル(PLM)の内部言語知識を活用し、情報の伝達を容易にする。 アクティブラーニングによる少数の対象ドメインサンプルのアノテーションは、転送に有用であるが、アノテーションの取り組みによって影響は減少する。
  論文  参考訳（メタデータ） (2022-11-21T19:03:31Z)
• Coarse to Fine: Domain Adaptive Crowd Counting via Adversarial Scoring Network [58.05473757538834]
  本稿では,ドメイン間のギャップを粗い粒度から細かな粒度に埋める新しい逆スコアリングネットワーク (ASNet) を提案する。 3組のマイグレーション実験により,提案手法が最先端のカウント性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-07-27T14:47:24Z)
• Towards Accurate Knowledge Transfer via Target-awareness Representation Disentanglement [56.40587594647692]
  本稿では,TRED(Target-Awareness Representation Disentanglement)の概念を取り入れた新しいトランスファー学習アルゴリズムを提案する。 TREDは、対象のタスクに関する関連する知識を元のソースモデルから切り離し、ターゲットモデルを微調整する際、レギュレータとして使用する。 各種実世界のデータセットを用いた実験により,本手法は標準微調整を平均2%以上安定的に改善することが示された。
  論文  参考訳（メタデータ） (2020-10-16T17:45:08Z)
• CSCL: Critical Semantic-Consistent Learning for Unsupervised Domain Adaptation [42.226842513334184]
  本稿では,ドメインワイド分布とカテゴリワイド分布の相違を緩和する,新しいクリティカルセマンティック・一貫性学習モデルを提案する。 具体的には、伝達不能な知識を無視しながら、伝達可能なドメインに関する知識を強調するために、クリティカルトランスファーベースの敵対的フレームワークを設計する。
  論文  参考訳（メタデータ） (2020-08-24T14:12:04Z)
• Unsupervised Transfer Learning with Self-Supervised Remedy [60.315835711438936]
  手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。 本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
  論文  参考訳（メタデータ） (2020-06-08T16:42:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。