論文の概要: Latent Domain Learning with Dynamic Residual Adapters
- arxiv url: http://arxiv.org/abs/2006.00996v1
- Date: Mon, 1 Jun 2020 15:00:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 06:24:18.394464
- Title: Latent Domain Learning with Dynamic Residual Adapters
- Title(参考訳): 動的残差アダプタを用いた潜在ドメイン学習
- Authors: Lucas Deecke, Timothy Hospedales, Hakan Bilen
- Abstract要約: ディープニューラルネットワークの現実的な欠点は、単一のタスクとドメインへの特殊化である。
ドメインアノテーションへのアクセスなしに、複数のドメインからデータから学ぶことです。
我々はこの制限を動的残留アダプタ(潜伏領域を考慮に入れた適応ゲーティング機構)を介して解決する。
- 参考スコア(独自算出の注目度): 26.018759356470767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A practical shortcoming of deep neural networks is their specialization to a
single task and domain. While recent techniques in domain adaptation and
multi-domain learning enable the learning of more domain-agnostic features,
their success relies on the presence of domain labels, typically requiring
manual annotation and careful curation of datasets. Here we focus on a less
explored, but more realistic case: learning from data from multiple domains,
without access to domain annotations. In this scenario, standard model training
leads to the overfitting of large domains, while disregarding smaller ones. We
address this limitation via dynamic residual adapters, an adaptive gating
mechanism that helps account for latent domains, coupled with an augmentation
strategy inspired by recent style transfer techniques. Our proposed approach is
examined on image classification tasks containing multiple latent domains, and
we showcase its ability to obtain robust performance across these. Dynamic
residual adapters significantly outperform off-the-shelf networks with much
larger capacity, and can be incorporated seamlessly with existing architectures
in an end-to-end manner.
- Abstract(参考訳): ディープニューラルネットワークの現実的な欠点は、単一のタスクとドメインへの特殊化である。
ドメイン適応とマルチドメイン学習の最近の技術は、よりドメインに依存しない特徴の学習を可能にするが、その成功はドメインラベルの存在に依存し、通常、手動のアノテーションとデータセットの慎重なキュレーションを必要とする。
ドメインアノテーションにアクセスせずに、複数のドメインからデータを学ぶことです。
このシナリオでは、標準モデルのトレーニングは大きなドメインの過剰フィットにつながるが、小さなドメインは無視する。
我々はこの制限を動的残差アダプタ(適応ゲーティング機構)によって解決し、近年のスタイル転送技術に触発された拡張戦略と組み合わせる。
提案手法は,複数の潜在ドメインを含む画像分類タスクについて検討し,これらにまたがってロバストな性能を得る能力を示す。
動的残留アダプタは、はるかに大きなキャパシティを持つオフザシェルフネットワークを著しく上回り、エンドツーエンドで既存のアーキテクチャとシームレスに組み込むことができる。
関連論文リスト
- Learning to Generalize Unseen Domains via Multi-Source Meta Learning for Text Classification [71.08024880298613]
テキスト分類の多元的領域一般化について検討する。
本稿では、複数の参照ドメインを使用して、未知のドメインで高い精度を達成可能なモデルをトレーニングするフレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-20T07:46:21Z) - Multi-scale Feature Alignment for Continual Learning of Unlabeled
Domains [3.9498537297431167]
生成的特徴駆動のイメージリプレイとデュアル目的判別器は、リプレイのための現実的な特徴を持つ画像の生成を可能にする。
本稿では,提案手法の構成要素について詳細なアブレーション実験を行い,非教師付きパッチベースセグメンテーションタスクに対する連続的UDA法の適用可能性を示す。
論文 参考訳(メタデータ) (2023-02-02T18:19:01Z) - AFAN: Augmented Feature Alignment Network for Cross-Domain Object
Detection [90.18752912204778]
オブジェクト検出のための教師なしドメイン適応は、多くの現実世界のアプリケーションにおいて難しい問題である。
本稿では、中間領域画像生成とドメイン・アドバイザリー・トレーニングを統合した新しい機能アライメント・ネットワーク(AFAN)を提案する。
提案手法は、類似および異種ドメイン適応の双方において、標準ベンチマークにおける最先端の手法よりも大幅に優れている。
論文 参考訳(メタデータ) (2021-06-10T05:01:20Z) - Domain Adaptation for Semantic Segmentation via Patch-Wise Contrastive
Learning [62.7588467386166]
ドメイン間で構造的に類似するラベルパッチの機能を調整することで、ドメインギャップを埋めるためにコントラスト学習を利用する。
私たちのアプローチは、常に2つの困難なドメイン適応セグメンテーションタスクにおいて、最先端の非監視および半監督メソッドを上回ります。
論文 参考訳(メタデータ) (2021-04-22T13:39:12Z) - Towards Recognizing New Semantic Concepts in New Visual Domains [9.701036831490768]
我々は、これまで見えない視覚領域で機能し、新しいセマンティックな概念を認識できるディープアーキテクチャを設計することが重要であると論じている。
論文の第1部では、深層モデルが新しいビジュアルドメインに一般化できるように、異なるソリューションについて記述する。
第2部では、事前訓練された深層モデルの知識を、元のトレーニングセットにアクセスすることなく、新しい意味概念に拡張する方法を示す。
論文 参考訳(メタデータ) (2020-12-16T16:23:40Z) - Towards Adaptive Semantic Segmentation by Progressive Feature Refinement [16.40758125170239]
セグメンテーションネットワークの転送可能性を高めるために,ドメイン逆学習とともに,革新的なプログレッシブな特徴改善フレームワークを提案する。
その結果、ソース・ドメイン・イメージで訓練されたセグメンテーション・モデルは、大幅な性能劣化を伴わずにターゲット・ドメインに転送できる。
論文 参考訳(メタデータ) (2020-09-30T04:17:48Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z) - Domain Adaptation for Semantic Parsing [68.81787666086554]
本稿では,ドメイン適応のための新しいセマンティクスを提案する。このセマンティクスでは,ソースドメインと比較して,対象ドメインのアノテーション付きデータがはるかに少ない。
我々のセマンティックな利点は、2段階の粗大なフレームワークから得ており、2段階の異なる正確な処理を提供できる。
ベンチマークデータセットの実験により、我々の手法はいくつかの一般的なドメイン適応戦略より一貫して優れていることが示された。
論文 参考訳(メタデータ) (2020-06-23T14:47:41Z) - Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog [70.79442700890843]
本稿では,対象ドメインと各ドメインの関連性を自動的に活用する新しい動的核融合ネットワーク(DF-Net)を提案する。
トレーニングデータが少ないと、平均13.9%の事前最良モデルを上回り、転送可能性を示す。
論文 参考訳(メタデータ) (2020-04-23T08:17:22Z) - Learning to adapt class-specific features across domains for semantic
segmentation [36.36210909649728]
本論文では,クラス情報毎に考慮し,ドメイン間の特徴を適応させることを学習する新しいアーキテクチャを提案する。
我々は最近導入されたStarGANアーキテクチャを画像翻訳のバックボーンとして採用している。
論文 参考訳(メタデータ) (2020-01-22T23:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。