論文の概要: A Survey of Heterogeneous Transfer Learning
- arxiv url: http://arxiv.org/abs/2310.08459v2
- Date: Sun, 15 Oct 2023 19:18:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 10:18:15.593481
- Title: A Survey of Heterogeneous Transfer Learning
- Title（参考訳）: 異種転校学習に関する調査研究
- Authors: Runxue Bao, Yiming Sun, Yuhe Gao, Jindong Wang, Qiang Yang, Haifeng
Chen, Zhi-Hong Mao, Ye Ye
- Abstract要約: ソースドメインからの知識を活用して対象ドメインにおけるモデルパフォーマンスを向上させるトランスファーラーニングの応用は,近年,飛躍的な増加を遂げている。
その成功の鍵はドメイン間の共通知識の共有にある。
本稿では,多様な学習シナリオの方法論をレビューし,現在の研究の限界について考察し,様々な応用状況について考察する。
- 参考スコア（独自算出の注目度）: 35.015353979209
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The application of transfer learning, an approach utilizing knowledge from a
source domain to enhance model performance in a target domain, has seen a
tremendous rise in recent years, underpinning many real-world scenarios. The
key to its success lies in the shared common knowledge between the domains, a
prerequisite in most transfer learning methodologies. These methods typically
presuppose identical feature spaces and label spaces in both domains, known as
homogeneous transfer learning, which, however, is not always a practical
assumption. Oftentimes, the source and target domains vary in feature spaces,
data distributions, and label spaces, making it challenging or costly to secure
source domain data with identical feature and label spaces as the target
domain. Arbitrary elimination of these differences is not always feasible or
optimal. Thus, heterogeneous transfer learning, acknowledging and dealing with
such disparities, has emerged as a promising approach for a variety of tasks.
Despite the existence of a survey in 2017 on this topic, the fast-paced
advances post-2017 necessitate an updated, in-depth review. We therefore
present a comprehensive survey of recent developments in heterogeneous transfer
learning methods, offering a systematic guide for future research. Our paper
reviews methodologies for diverse learning scenarios, discusses the limitations
of current studies, and covers various application contexts, including Natural
Language Processing, Computer Vision, Multimodality, and Biomedicine, to foster
a deeper understanding and spur future research.
- Abstract（参考訳）: ソースドメインからの知識を活用して対象ドメインのモデルパフォーマンスを向上させるトランスファーラーニング(transfer learning)の応用は、近年急速に増加し、現実のシナリオの多くを支えている。
その成功の鍵は、ほとんどの転校学習方法論において前提となる、ドメイン間の共通知識の共有にある。
これらの方法は通常、同じ特徴空間とラベル空間を両方の領域(同相転送学習として知られる)で仮定するが、それは必ずしも実用的仮定ではない。
多くの場合、ソースドメインとターゲットドメインは特徴空間、データ分布、ラベル空間によって異なり、同じ特徴空間とラベル空間を対象領域として持つソースドメインデータの保護が困難かコストがかかる。
これらの違いを任意に排除することは、常に可能あるいは最適であるとは限らない。
このように、異種移動学習(異種移動学習)は、様々なタスクにおいて有望なアプローチとして現れてきた。
このトピックに関する2017年の調査が存在するにもかかわらず、2017年以降の急速な進展は、更新された詳細なレビューを必要としている。
そこで本研究では,異種移動学習手法の最近の進歩を包括的に調査し,今後の研究の体系的ガイドを提供する。
本稿では,多様な学習シナリオのための方法論をレビューし,現在の研究の限界を論じ,自然言語処理,コンピュータビジョン,マルチモダリティ,バイオメディシンなど,様々な応用コンテキストを取り上げ,より深く理解し,今後の研究を促進する。
関連論文リスト
- Adaptive Meta-Domain Transfer Learning (AMDTL): A Novel Approach for Knowledge Transfer in AI [0.0]
AMDTLは、ドメインのミスアライメント、負の転送、破滅的な忘れなど、トランスファーラーニングの主な課題に対処することを目的としている。
このフレームワークは、タスクの多様な分散に訓練されたメタラーナー、ドメインの特徴分布を整合させる敵のトレーニング技術、動的特徴制御機構を統合している。
ベンチマークデータセットによる実験結果から,AMDTLは既存の移動学習手法よりも精度,適応効率,堅牢性に優れていた。
論文 参考訳（メタデータ） (2024-09-10T18:11:48Z) - Domain Generalization through Meta-Learning: A Survey [6.524870790082051]
ディープニューラルネットワーク(DNN)は人工知能に革命をもたらしたが、アウト・オブ・ディストリビューション(OOD)データに直面すると、しばしばパフォーマンスが低下する。
本調査はメタラーニングの領域を掘り下げ,ドメインの一般化への貢献に焦点をあてたものである。
論文 参考訳（メタデータ） (2024-04-03T14:55:17Z) - NormAUG: Normalization-guided Augmentation for Domain Generalization [60.159546669021346]
ディープラーニングのためのNormAUG(Normalization-guided Augmentation)と呼ばれるシンプルで効果的な手法を提案する。
本手法は特徴レベルで多様な情報を導入し,主経路の一般化を改善する。
テスト段階では、アンサンブル戦略を利用して、モデルの補助経路からの予測を組み合わせ、さらなる性能向上を図る。
論文 参考訳（メタデータ） (2023-07-25T13:35:45Z) - Visualizing Transferred Knowledge: An Interpretive Model of Unsupervised
Domain Adaptation [70.85686267987744]
教師なしのドメイン適応問題は、ラベル付きソースドメインからラベルなしターゲットドメインに知識を転送することができる。
本稿では、翻訳された知識の謎を視覚的に明らかにする最初の試みとして、教師なしドメイン適応の解釈モデルを提案する。
提案手法は,ベースモデルの予測を直感的に説明し,画像パッチをソースドメインとターゲットドメインの両方で同一のセマンティクスとマッチングすることで伝達知識を公開する。
論文 参考訳（メタデータ） (2023-03-04T03:02:12Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳（メタデータ） (2023-02-23T06:32:09Z) - Label-efficient Time Series Representation Learning: A Review [19.218833228063392]
ラベル効率のよい時系列表現学習は、現実世界のアプリケーションにディープラーニングモデルをデプロイするのに不可欠である。
ラベル付き時系列データの不足に対処するため、転送学習、自己教師付き学習、半教師付き学習など様々な戦略が開発されている。
既存のアプローチを,外部データソースへの依存に基づいて,ドメイン内あるいはクロスドメインとして分類する,新たな分類法を初めて導入する。
論文 参考訳（メタデータ） (2023-02-13T15:12:15Z) - Consistency and Diversity induced Human Motion Segmentation [231.36289425663702]
本稿では,CDMS(Consistency and Diversity induced Human Motion)アルゴリズムを提案する。
我々のモデルは、ソースとターゲットデータを異なる多層特徴空間に分解する。
ソースとターゲットデータ間の領域ギャップを低減するために、マルチミューチュアル学習戦略を実行する。
論文 参考訳（メタデータ） (2022-02-10T06:23:56Z) - Domain Generalization: A Survey [146.68420112164577]
ドメイン一般化(DG)は、モデル学習にソースドメインデータを使用するだけでOOD一般化を実現することを目的としています。
初めて、DGの10年の開発をまとめるために包括的な文献レビューが提供されます。
論文 参考訳（メタデータ） (2021-03-03T16:12:22Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳（メタデータ） (2020-09-01T00:06:50Z) - Physically-Constrained Transfer Learning through Shared Abundance Space
for Hyperspectral Image Classification [14.840925517957258]
本稿では、ソースとターゲットドメイン間のギャップを埋める新しい転送学習手法を提案する。
提案手法は,共有空間を経由した物理制約付き移動学習と呼ばれる。
論文 参考訳（メタデータ） (2020-08-19T17:41:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。