論文の概要: Universal Domain Adaptation for Robust Handling of Distributional Shifts
in NLP
- arxiv url: http://arxiv.org/abs/2310.14849v1
- Date: Mon, 23 Oct 2023 12:15:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-24 20:28:34.808458
- Title: Universal Domain Adaptation for Robust Handling of Distributional Shifts
in NLP
- Title(参考訳): NLPにおける分布シフトのロバストハンドリングのためのユニバーサルドメイン適応
- Authors: Hyuhng Joon Kim, Hyunsoo Cho, Sang-Woo Lee, Junyeob Kim, Choonghyun
Park, Sang-goo Lee, Kang Min Yoo, Taeuk Kim
- Abstract要約: Universal Domain Adaptation (UniDA)はコンピュータビジョンの新しい研究領域として登場した。
本稿では,モデルの一般化可能性と堅牢性について,より詳細な視点を提供する自然言語のベンチマークを提案する。
- 参考スコア(独自算出の注目度): 25.4952909342458
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When deploying machine learning systems to the wild, it is highly desirable
for them to effectively leverage prior knowledge to the unfamiliar domain while
also firing alarms to anomalous inputs. In order to address these requirements,
Universal Domain Adaptation (UniDA) has emerged as a novel research area in
computer vision, focusing on achieving both adaptation ability and robustness
(i.e., the ability to detect out-of-distribution samples). While UniDA has led
significant progress in computer vision, its application on language input
still needs to be explored despite its feasibility. In this paper, we propose a
comprehensive benchmark for natural language that offers thorough viewpoints of
the model's generalizability and robustness. Our benchmark encompasses multiple
datasets with varying difficulty levels and characteristics, including temporal
shifts and diverse domains. On top of our testbed, we validate existing UniDA
methods from computer vision and state-of-the-art domain adaptation techniques
from NLP literature, yielding valuable findings: We observe that UniDA methods
originally designed for image input can be effectively transferred to the
natural language domain while also underscoring the effect of adaptation
difficulty in determining the model's performance.
- Abstract(参考訳): 機械学習システムを野放しに展開する際には、未知のドメインに対する事前知識を効果的に活用し、異常な入力にアラームを発射することが望ましい。
これらの要件に対処するために、Universal Domain Adaptation (UniDA) はコンピュータビジョンの新しい研究領域として登場し、適応性と堅牢性(つまり、配布外サンプルを検出する能力)の両面に焦点をあてている。
unidaはコンピュータビジョンの大幅な進歩を導いているが、言語入力への応用は実現可能でありながら検討する必要がある。
本稿では,モデルの一般化可能性とロバスト性について,総合的な自然言語ベンチマークを提案する。
我々のベンチマークは、時間シフトや多様なドメインを含む、さまざまな難易度と特徴を持つ複数のデータセットを含んでいる。
画像入力用に設計されたunidaメソッドは、元々自然言語ドメインに効果的に転送できると同時に、モデルの性能決定における適応の困難さの影響も強調しています。
関連論文リスト
- Disentangling Masked Autoencoders for Unsupervised Domain Generalization [57.56744870106124]
教師なしの領域一般化は急速に注目されているが、まだ十分に研究されていない。
Disentangled Masked Auto (DisMAE) は、本質的な特徴を忠実に示す不整合表現を発見することを目的としている。
DisMAEは、セマンティックで軽量な変分エンコーダを備えた非対称なデュアルブランチアーキテクチャを共同で訓練する。
論文 参考訳(メタデータ) (2024-07-10T11:11:36Z) - AD-Aligning: Emulating Human-like Generalization for Cognitive Domain Adaptation in Deep Learning [3.3543468626874486]
ドメイン適応は、ディープラーニングモデルがさまざまなドメインにまたがる一般化を可能にするために重要である。
AD-Aligning(AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning、AD-Aligning)を導入。
以上の結果から,AD-Aligningは人間の知覚に固有のニュアンス認知過程をエミュレートする能力を示した。
論文 参考訳(メタデータ) (2024-05-15T02:34:06Z) - DACAD: Domain Adaptation Contrastive Learning for Anomaly Detection in Multivariate Time Series [25.434379659643707]
時系列異常検出では、ラベル付きデータの不足が正確なモデルの開発に困難をもたらす。
時系列における異常検出のための新しいドメインコントラスト学習モデル(DACAD)を提案する。
本モデルでは,ソース領域に対する教師付きコントラスト損失と,ターゲット領域に対する自己監督型コントラスト型3重項損失を用いる。
論文 参考訳(メタデータ) (2024-04-17T11:20:14Z) - Towards Subject Agnostic Affective Emotion Recognition [8.142798657174332]
脳波信号による脳-コンピュータインタフェース(aBCI)の不安定性
本稿では,メタラーニングに基づくメタドメイン適応手法を提案する。
提案手法は,パブリックなaBICsデータセットの実験において有効であることが示されている。
論文 参考訳(メタデータ) (2023-10-20T23:44:34Z) - Open-Set Domain Adaptation with Visual-Language Foundation Models [51.49854335102149]
非教師なしドメイン適応(UDA)は、ソースドメインからラベルのないデータを持つターゲットドメインへの知識の転送に非常に効果的であることが証明されている。
オープンセットドメイン適応(ODA)は、トレーニングフェーズ中にこれらのクラスを識別する潜在的なソリューションとして登場した。
論文 参考訳(メタデータ) (2023-07-30T11:38:46Z) - A Comprehensive Survey on Source-free Domain Adaptation [69.17622123344327]
ソースフリードメイン適応(SFDA)の研究は近年注目を集めている。
SFDAの最近の進歩を包括的に調査し、それらを統一的な分類体系に整理する。
一般的な3つの分類基準で30以上のSFDA法を比較検討した。
論文 参考訳(メタデータ) (2023-02-23T06:32:09Z) - Deep Unsupervised Domain Adaptation: A Review of Recent Advances and
Perspectives [16.68091981866261]
対象領域のデータの性能低下に対応するために、教師なし領域適応(UDA)を提案する。
UDAは、自然言語処理、ビデオ解析、自然言語処理、時系列データ分析、医用画像解析など、有望な成果を上げている。
論文 参考訳(メタデータ) (2022-08-15T20:05:07Z) - Domain Generalization for Activity Recognition via Adaptive Feature
Fusion [9.458837222079612]
本稿では,emphAdaptive Feature Fusion for Activity Recognition (AFFAR)を提案する。
AFFARは、モデルの一般化性能を改善するために、ドメイン不変表現とドメイン固有表現を融合することを学ぶ。
AFARを実際の応用、すなわち子どもの注意欠陥性高活動障害(ADHD)の診断に適用する。
論文 参考訳(メタデータ) (2022-07-21T02:14:09Z) - Decompose to Adapt: Cross-domain Object Detection via Feature
Disentanglement [79.2994130944482]
本研究では,DDF(Domain Disentanglement Faster-RCNN)を設計し,タスク学習のための特徴のソース固有情報を排除した。
DDF法は,グローバルトリプルト・ディアンタングルメント(GTD)モジュールとインスタンス類似性・ディアンタングルメント(ISD)モジュールを用いて,グローバルおよびローカルステージでの機能ディアンタングルを容易にする。
提案手法は,4つのUDAオブジェクト検出タスクにおいて最先端の手法より優れており,広い適用性で有効であることが実証された。
論文 参考訳(メタデータ) (2022-01-06T05:43:01Z) - VisDA-2021 Competition Universal Domain Adaptation to Improve
Performance on Out-of-Distribution Data [64.91713686654805]
Visual Domain Adaptation (VisDA) 2021コンペティションは、新しいテストディストリビューションに適応するモデルの能力をテストする。
我々は,新しい視点,背景,モダリティ,品質劣化への適応性を評価する。
厳密なプロトコルを使用してパフォーマンスを計測し、最先端のドメイン適応手法と比較する。
論文 参考訳(メタデータ) (2021-07-23T03:21:51Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。