論文の概要: A Survey on Negative Transfer

• arxiv url: http://arxiv.org/abs/2009.00909v4
• Date: Mon, 9 Aug 2021 12:38:51 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-22 18:27:23.757386
• Title: A Survey on Negative Transfer
• Title（参考訳）: 負の移動に関する調査
• Authors: Wen Zhang, Lingfei Deng, Lei Zhang, Dongrui Wu
• Abstract要約: ネガティブトランスファー(NT)は、転帰学習における長年の課題である。 本稿では、NTの定義とその要因を紹介し、NTを克服するための50の代表的なアプローチについてレビューする。 マルチタスク学習、生涯学習、敵攻撃など、関連する分野におけるNTについても論じる。
• 参考スコア（独自算出の注目度）: 31.423461667317405
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transfer learning (TL) utilizes data or knowledge from one or more source domains to facilitate the learning in a target domain. It is particularly useful when the target domain has very few or no labeled data, due to annotation expense, privacy concerns, etc. Unfortunately, the effectiveness of TL is not always guaranteed. Negative transfer (NT), i.e., leveraging source domain data/knowledge undesirably reduces the learning performance in the target domain, has been a long-standing and challenging problem in TL. Various approaches have been proposed in the literature to handle it. However, there does not exist a systematic survey on the formulation of NT, the factors leading to NT, and the algorithms that mitigate NT. This paper fills this gap, by first introducing the definition of NT and its factors, then reviewing about fifty representative approaches for overcoming NT, according to four categories: secure transfer, domain similarity estimation, distant transfer, and NT mitigation. NT in related fields, e.g., multi-task learning, lifelong learning, and adversarial attacks, are also discussed.
• Abstract（参考訳）: Transfer Learning (TL)は、1つ以上のソースドメインからのデータや知識を利用して、ターゲットドメインでの学習を容易にする。 アノテーションのコストやプライバシの懸念などにより、ターゲットドメインにラベル付きデータがない場合、特に便利です。 残念ながら、TLの有効性は必ずしも保証されない。 ネガティブトランスファー(NT)、すなわち、ソースドメインデータ/知識を活用することで、ターゲットドメインの学習性能を望ましくないほど低下させ、TLにおける長年の課題である。 文献には様々なアプローチが提案されている。 しかし、NTの定式化、NTにつながる要因、およびNTを緩和するアルゴリズムに関する体系的な調査は存在しない。 本稿では,NTの定義とその要因を最初に導入し,安全転送,ドメイン類似度推定,遠隔移動,NT緩和の4つのカテゴリに従って,NTを克服するための50の代表的なアプローチについて検討する。 マルチタスク学習、生涯学習、敵攻撃など、関連する分野におけるNTについても論じる。

関連論文リスト

• On the Transferability of Visually Grounded PCFGs [35.64371385720051]
  ビジュアルグラウンドPCFGcitepzhao-titov-2020-visually 我々は、モデルがソースドメイン上で訓練され、ターゲットドメインに直接適用されるゼロショット転送学習環境を、それ以上の訓練をすることなく検討する。 トレーニングドメインと同じようなドメインでテキストに視覚的接地を使用することの利点は、リモートドメインへの転送に失敗することである。
  論文  参考訳（メタデータ） (2023-10-21T20:19:51Z)
• Compositional Zero-Shot Domain Transfer with Text-to-Text Models [65.32821642379066]
  ゼロショットドメイン転送のための新しい合成転写学習フレームワーク(DoT5)を提案する。 ドメイン内のラベルにアクセスすることなく、DoT5はドメイン知識とタスク知識をマルチタスクで共同で学習する。 DoT5はマルチタスク学習による合成伝達学習の有効性を示す。 特にDoT5は、現在のSOTAを7以上の絶対点の精度でゼロショット転送で上回る。
  論文  参考訳（メタデータ） (2023-03-23T15:58:41Z)
• Characterization of effects of transfer learning across domains and languages [0.0]
  事前学習されたニューラルネットワークモデルからのトランスファーラーニング(TL)は、長年にわたって強力なテクニックとして現れてきた。 本研究では,TLが3つの自然言語処理(NLP)タスクに対して,一般的な事前学習モデルの性能にどのように影響するかを検討する。
  論文  参考訳（メタデータ） (2022-10-03T17:17:07Z)
• Self-Supervised Graph Neural Network for Multi-Source Domain Adaptation [51.21190751266442]
  ドメイン適応(DA)は、テストデータがトレーニングデータの同じ分布に完全に従わない場合に、シナリオに取り組む。 大規模未ラベルサンプルから学習することで、自己教師型学習がディープラーニングの新しいトレンドとなっている。 我々は,より効果的なタスク間情報交換と知識共有を実現するために,新しい textbfSelf-textbf Supervised textbfGraph Neural Network (SSG) を提案する。
  論文  参考訳（メタデータ） (2022-04-08T03:37:56Z)
• Unsupervised Noise Adaptive Speech Enhancement by Discriminator-Constrained Optimal Transport [25.746489468835357]
  本稿では、音声強調(SE)のための教師なし領域適応を行う新しい識別器制約付き最適輸送ネットワーク(DOTN)を提案する。 DOTNは、ソースドメインから利用可能な知識を利用して、ターゲットドメインにおけるノイズの多い音声のクリーンな参照を推定することを目的としている。
  論文  参考訳（メタデータ） (2021-11-11T17:15:37Z)
• Transfer Learning for Aided Target Recognition: Comparing Deep Learning to other Machine Learning Approaches [0.0]
  AiTR(Aided target recognition)は、産業や防衛分野のアプリケーションにおいて重要な問題である。 ディープラーニング(DL)は、最近の現実世界の問題に対して、例外的なモデリングの柔軟性と精度を提供する。 私たちのゴールは、DLフレームワーク内の転送学習と、転送タスクとデータセットをまたいだ他のMLアプローチを比較することで、この欠点に対処することにあります。
  論文  参考訳（メタデータ） (2020-11-25T14:25:49Z)
• Interventional Domain Adaptation [81.0692660794765]
  ドメイン適応(DA)は、ソースドメインからターゲットドメインに学習した差別的特徴を転送することを目的としている。 標準的なドメイン不変学習は、素早い相関に悩まされ、ソース固有性を誤って転送する。 ドメイン固有部分とドメイン共有部分とを区別する反ファクト機能を作成します。
  論文  参考訳（メタデータ） (2020-11-07T09:53:13Z)
• Unsupervised Transfer Learning with Self-Supervised Remedy [60.315835711438936]
  手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。 本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
  論文  参考訳（メタデータ） (2020-06-08T16:42:17Z)
• Deep Residual Correction Network for Partial Domain Adaptation [79.27753273651747]
  ディープドメイン適応法は、よくラベルされたソースドメインから異なるが関連する未ラベルのターゲットドメインへの転送可能な表現を学習することで、魅力的なパフォーマンスを実現している。 本稿では,効率よく実装された深部残留補正網を提案する。 部分的、伝統的、微粒なクロスドメイン認識に関する総合的な実験は、DRCNが競合深いドメイン適応アプローチよりも優れていることを示している。
  論文  参考訳（メタデータ） (2020-04-10T06:07:16Z)
• Domain Adaption for Knowledge Tracing [65.86619804954283]
  本稿では,DAKT問題に対処するための新しい適応型フレームワーク,すなわち知識追跡(AKT)を提案する。 まず,Deep Knowledge Trace(DKT)に基づく教育的特徴(スリップ,推測,質問文など)を取り入れ,優れた知識追跡モデルを得る。 第2の側面として、3つのドメイン適応プロセスを提案し、採用する。まず、ターゲットモデルトレーニングに有用なソースインスタンスを選択するために、自動エンコーダを事前訓練する。
  論文  参考訳（メタデータ） (2020-01-14T15:04:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。