論文の概要: A Survey of Heterogeneous Transfer Learning
- arxiv url: http://arxiv.org/abs/2310.08459v2
- Date: Sun, 15 Oct 2023 19:18:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 10:18:15.593481
- Title: A Survey of Heterogeneous Transfer Learning
- Title(参考訳): 異種転校学習に関する調査研究
- Authors: Runxue Bao, Yiming Sun, Yuhe Gao, Jindong Wang, Qiang Yang, Haifeng
Chen, Zhi-Hong Mao, Ye Ye
- Abstract要約: ソースドメインからの知識を活用して対象ドメインにおけるモデルパフォーマンスを向上させるトランスファーラーニングの応用は,近年,飛躍的な増加を遂げている。
その成功の鍵はドメイン間の共通知識の共有にある。
本稿では,多様な学習シナリオの方法論をレビューし,現在の研究の限界について考察し,様々な応用状況について考察する。
- 参考スコア(独自算出の注目度): 35.015353979209
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The application of transfer learning, an approach utilizing knowledge from a
source domain to enhance model performance in a target domain, has seen a
tremendous rise in recent years, underpinning many real-world scenarios. The
key to its success lies in the shared common knowledge between the domains, a
prerequisite in most transfer learning methodologies. These methods typically
presuppose identical feature spaces and label spaces in both domains, known as
homogeneous transfer learning, which, however, is not always a practical
assumption. Oftentimes, the source and target domains vary in feature spaces,
data distributions, and label spaces, making it challenging or costly to secure
source domain data with identical feature and label spaces as the target
domain. Arbitrary elimination of these differences is not always feasible or
optimal. Thus, heterogeneous transfer learning, acknowledging and dealing with
such disparities, has emerged as a promising approach for a variety of tasks.
Despite the existence of a survey in 2017 on this topic, the fast-paced
advances post-2017 necessitate an updated, in-depth review. We therefore
present a comprehensive survey of recent developments in heterogeneous transfer
learning methods, offering a systematic guide for future research. Our paper
reviews methodologies for diverse learning scenarios, discusses the limitations
of current studies, and covers various application contexts, including Natural
Language Processing, Computer Vision, Multimodality, and Biomedicine, to foster
a deeper understanding and spur future research.
- Abstract(参考訳): ソースドメインからの知識を活用して対象ドメインのモデルパフォーマンスを向上させるトランスファーラーニング(transfer learning)の応用は、近年急速に増加し、現実のシナリオの多くを支えている。
その成功の鍵は、ほとんどの転校学習方法論において前提となる、ドメイン間の共通知識の共有にある。
これらの方法は通常、同じ特徴空間とラベル空間を両方の領域(同相転送学習として知られる)で仮定するが、それは必ずしも実用的仮定ではない。
多くの場合、ソースドメインとターゲットドメインは特徴空間、データ分布、ラベル空間によって異なり、同じ特徴空間とラベル空間を対象領域として持つソースドメインデータの保護が困難かコストがかかる。
これらの違いを任意に排除することは、常に可能あるいは最適であるとは限らない。
このように、異種移動学習(異種移動学習)は、様々なタスクにおいて有望なアプローチとして現れてきた。
このトピックに関する2017年の調査が存在するにもかかわらず、2017年以降の急速な進展は、更新された詳細なレビューを必要としている。
そこで本研究では,異種移動学習手法の最近の進歩を包括的に調査し,今後の研究の体系的ガイドを提供する。
本稿では,多様な学習シナリオのための方法論をレビューし,現在の研究の限界を論じ,自然言語処理,コンピュータビジョン,マルチモダリティ,バイオメディシンなど,様々な応用コンテキストを取り上げ,より深く理解し,今後の研究を促進する。
関連論文リスト
- Bayesian Transfer Learning [13.983016833412307]
トランスファーラーニング」は、関連分野のデータを活用することにより、関心領域における推論および/または予測精度の向上を目指す。
本稿では,新しい学習課題を導く上で,事前知識に基づく学習の概念と自然に相容れないにもかかわらず,比較的注意を払われたバイーシアン学習のアプローチを取り上げる。
本稿では,これらの手法がドメイン間の転送に最適な情報を見つける問題にどのように対処するかを論じる。
論文 参考訳(メタデータ) (2023-12-20T23:38:17Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳(メタデータ) (2023-02-23T06:32:09Z) - Transfer RL via the Undo Maps Formalism [29.798971172941627]
ドメイン間で知識を伝達することは、機械学習における最も基本的な問題の1つである。
本稿では,対話型ドメイン間で知識を伝達するフレームワークTvDを提案する。
この目的が,模倣学習を想起させるポリシー更新スキームに結びつき,それを実装するための効率的なアルゴリズムを導出することを示す。
論文 参考訳(メタデータ) (2022-11-26T03:44:28Z) - Label Distribution Learning for Generalizable Multi-source Person
Re-identification [48.77206888171507]
人物再識別(Re-ID)は,映像監視システムにおいて重要な技術である。
教師付きモデルを任意の未確認領域に直接適用することは困難である。
一般化可能な多ソース人物Re-IDタスクに対処する新しいラベル分散学習法(LDL)を提案する。
論文 参考訳(メタデータ) (2022-04-12T15:59:10Z) - On Generalizing Beyond Domains in Cross-Domain Continual Learning [91.56748415975683]
ディープニューラルネットワークは、新しいタスクを学んだ後、これまで学んだ知識の破滅的な忘れ込みに悩まされることが多い。
提案手法は、ドメインシフト中の新しいタスクを精度良く学習することで、DomainNetやOfficeHomeといった挑戦的なデータセットで最大10%向上する。
論文 参考訳(メタデータ) (2022-03-08T09:57:48Z) - Domain Generalization: A Survey [146.68420112164577]
ドメイン一般化(DG)は、モデル学習にソースドメインデータを使用するだけでOOD一般化を実現することを目的としています。
初めて、DGの10年の開発をまとめるために包括的な文献レビューが提供されます。
論文 参考訳(メタデータ) (2021-03-03T16:12:22Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z) - Physically-Constrained Transfer Learning through Shared Abundance Space
for Hyperspectral Image Classification [14.840925517957258]
本稿では、ソースとターゲットドメイン間のギャップを埋める新しい転送学習手法を提案する。
提案手法は,共有空間を経由した物理制約付き移動学習と呼ばれる。
論文 参考訳(メタデータ) (2020-08-19T17:41:37Z) - Unsupervised Transfer Learning with Self-Supervised Remedy [60.315835711438936]
手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。
事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。
本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
論文 参考訳(メタデータ) (2020-06-08T16:42:17Z) - A survey on domain adaptation theory: learning bounds and theoretical
guarantees [17.71634393160982]
この調査の主な目的は、特定の、そして間違いなく最も人気のある、移動学習のサブフィールドにおける最先端の理論的結果の概要を提供することである。
このサブフィールドでは、学習タスクは同じままで、トレーニングとテストデータの間でデータ分布が変化すると仮定される。
本稿では、ドメイン適応問題に関連する既存の結果の最新の記述について述べる。
論文 参考訳(メタデータ) (2020-04-24T16:11:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。