論文の概要: Few-Shot Learning as Domain Adaptation: Algorithm and Analysis
- arxiv url: http://arxiv.org/abs/2002.02050v3
- Date: Mon, 27 Jul 2020 06:26:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-03 09:42:27.950831
- Title: Few-Shot Learning as Domain Adaptation: Algorithm and Analysis
- Title(参考訳): ドメイン適応としての少数ショット学習:アルゴリズムと分析
- Authors: Jiechao Guan, Zhiwu Lu, Tao Xiang, Ji-Rong Wen
- Abstract要約: わずかながらの学習は、目に見えないクラスを認識するために、目に見えないクラスから学んだ事前知識を使用する。
このクラス差による分布シフトは、ドメインシフトの特別なケースとみなすことができる。
メタラーニングフレームワークにおいて、そのようなドメインシフト問題に明示的に対処するために、注意を向けたプロトタイプドメイン適応ネットワーク(DAPNA)を提案する。
- 参考スコア(独自算出の注目度): 120.75020271706978
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To recognize the unseen classes with only few samples, few-shot learning
(FSL) uses prior knowledge learned from the seen classes. A major challenge for
FSL is that the distribution of the unseen classes is different from that of
those seen, resulting in poor generalization even when a model is meta-trained
on the seen classes. This class-difference-caused distribution shift can be
considered as a special case of domain shift. In this paper, for the first
time, we propose a domain adaptation prototypical network with attention
(DAPNA) to explicitly tackle such a domain shift problem in a meta-learning
framework. Specifically, armed with a set transformer based attention module,
we construct each episode with two sub-episodes without class overlap on the
seen classes to simulate the domain shift between the seen and unseen classes.
To align the feature distributions of the two sub-episodes with limited
training samples, a feature transfer network is employed together with a margin
disparity discrepancy (MDD) loss. Importantly, theoretical analysis is provided
to give the learning bound of our DAPNA. Extensive experiments show that our
DAPNA outperforms the state-of-the-art FSL alternatives, often by significant
margins.
- Abstract(参考訳): サンプル数が少ない未確認のクラスを認識するために、少数ショット学習(FSL)では、そのクラスから学習した事前知識を使用している。
FSLの大きな課題は、目に見えないクラスの分布がそれとは異なることである。
このクラス差による分布シフトは、ドメインシフトの特別なケースとみなすことができる。
本稿では,このようなドメインシフト問題にメタラーニングフレームワークで明示的に対処するために,初めて注意を向けたドメイン適応型プロトタイプネットワーク(DAPNA)を提案する。
具体的には,セットトランスフォーマティブ・アテンション・モジュールを用いて,視認クラスと未認識クラス間のドメインシフトをシミュレートするために,視認クラスにクラス重なりのない2つのサブエピソードで各エピソードを構成する。
2つのサブエピソードの特徴分布を限られたトレーニングサンプルに合わせるために、特徴伝達ネットワークとマージン不一致(mdd)損失とを併用する。
重要なことは、DAPNAの学習限界を与える理論的分析が提供されることである。
大規模な実験により、私たちのDAPNAは最先端のFSL代替品よりも優れており、しばしばかなりのマージンで優れています。
関連論文リスト
- SALUDA: Surface-based Automotive Lidar Unsupervised Domain Adaptation [62.889835139583965]
我々は、ソースデータとターゲットデータに基づいて、暗黙の基盤となる表面表現を同時に学習する教師なし補助タスクを導入する。
両方のドメインが同じ遅延表現を共有しているため、モデルは2つのデータソース間の不一致を許容せざるを得ない。
実験の結果,本手法は実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-
論文 参考訳(メタデータ) (2023-04-06T17:36:23Z) - From Big to Small: Adaptive Learning to Partial-Set Domains [94.92635970450578]
ドメイン適応は、分布シフト中のラベル付きソースドメインからラベルなしターゲットドメインへの知識獲得と普及を目標とする。
近年の進歩は、大規模の深層学習モデルにより、小規模の下流の多様な課題に取り組むための豊富な知識が得られていることを示している。
本稿では,学習パラダイムである部分領域適応(Partial Domain Adaptation, PDA)を紹介する。
論文 参考訳(メタデータ) (2022-03-14T07:02:45Z) - Few-Shot Classification in Unseen Domains by Episodic Meta-Learning
Across Visual Domains [36.98387822136687]
興味のあるカテゴリのラベル付き例がほとんどないため、いくつかのショット分類は、分類を実行することを目的としている。
本稿では,ドメイン一般化型少ショット分類のための一意学習フレームワークを提案する。
メタ学習戦略を進めることで、学習フレームワークは複数のソースドメインにまたがるデータを利用して、ドメイン不変の機能をキャプチャします。
論文 参考訳(メタデータ) (2021-12-27T06:54:11Z) - Transferrable Contrastive Learning for Visual Domain Adaptation [108.98041306507372]
Transferrable Contrastive Learning (TCL) はドメイン適応に適した自己教師型学習パラダイムである。
TCLは、クリーンで斬新な対照的な損失を通じて、ソースとターゲット間のドメイン内ドメイン間の相違を罰する。
無料のランチは、対照的な学習が組み込まれているため、TCLは、ターゲットデータのための擬似ラベルの時間的にアンサンブルされたバージョンを自然に達成する、移動平均キーエンコーダに依存している。
論文 参考訳(メタデータ) (2021-12-14T16:23:01Z) - CADA: Multi-scale Collaborative Adversarial Domain Adaptation for
Unsupervised Optic Disc and Cup Segmentation [3.587294308501889]
CADA(Collaborative Adrial Domain Adaptation)と呼ばれる新しい教師なしドメイン適応フレームワークを提案する。
提案するCADAは,異なるネットワーク層における対角学習とアンサンブル重みの両面から,対話的な協調的適応を示すパラダイムである。
マルチスケールな入力学習を取り入れたCADAモデルは、性能劣化を克服し、最先端のドメイン適応手法より優れていることを示す。
論文 参考訳(メタデータ) (2021-10-05T23:44:26Z) - Improving Transferability of Domain Adaptation Networks Through Domain
Alignment Layers [1.3766148734487902]
マルチソースアン教師付きドメイン適応(MSDA)は、ソースモデルの袋から弱い知識を割り当てることで、ラベルのないドメインの予測子を学習することを目的としている。
我々は,DomaIn Alignment Layers (MS-DIAL) のマルチソースバージョンを予測器の異なるレベルに埋め込むことを提案する。
我々の手法は最先端のMSDA法を改善することができ、分類精度の相対利得は+30.64%に達する。
論文 参考訳(メタデータ) (2021-09-06T18:41:19Z) - Revisiting Mid-Level Patterns for Cross-Domain Few-Shot Recognition [31.81367604846625]
汎用ドメインベースクラスから特殊ドメインノベルクラスに知識を移すために,クロスドメイン少ショット学習を提案する。
本稿では,新しいクラスがベースクラスから離れた領域にあるCDFSLの挑戦的なサブセットについて検討する。
本研究では,各サンプルの識別情報を学習するために,中程度の特徴を育成するための残差予測タスクを提案する。
論文 参考訳(メタデータ) (2020-08-07T12:45:39Z) - Adaptive Risk Minimization: Learning to Adapt to Domain Shift [109.87561509436016]
ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。
本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。
本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
論文 参考訳(メタデータ) (2020-07-06T17:59:30Z) - Domain-Adaptive Few-Shot Learning [124.51420562201407]
本稿では,ドメイン適応型少数ショット学習のための新しいドメイン・アドバイザリアル・ネットワーク(DAPN)モデルを提案する。
私たちのソリューションは、ドメイン適応型機能埋め込み学習の前に、ソース/ターゲットをクラスごとに明確に分離することです。
論文 参考訳(メタデータ) (2020-03-19T08:31:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。