論文の概要: DomainInv: Domain Invariant Fine Tuning and Adversarial Label Correction For QA Domain Adaptation

• arxiv url: http://arxiv.org/abs/2305.05589v1
• Date: Thu, 4 May 2023 18:13:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-14 20:57:00.959543
• Title: DomainInv: Domain Invariant Fine Tuning and Adversarial Label Correction For QA Domain Adaptation
• Title（参考訳）: DomainInv:QAドメイン適応のためのドメイン不変の微調整と逆ラベル補正
• Authors: Anant Khandelwal
• Abstract要約: 既存の質問回答システム(QA)は、目に見えない領域やドメイン外分布からの質問に答える能力によって制限される。 最も重要なことは、既存のQAドメイン適応手法は、合成データを生成するか、ターゲットのドメインデータに擬似ラベルを付けたものである。 本稿では,未ラベル対象領域に対する教師なし領域適応を,ソースドメインの監督を引き続き用いながら,ソースドメイン近傍のターゲット表現を転送することで提案する。
• 参考スコア（独自算出の注目度）: 27.661609140918916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing Question Answering (QA) systems limited by the capability of answering questions from unseen domain or any out-of-domain distributions making them less reliable for deployment to real scenarios. Most importantly all the existing QA domain adaptation methods are either based on generating synthetic data or pseudo labeling the target domain data. The domain adaptation methods based on synthetic data and pseudo labeling suffers either from the requirement of computational resources or an extra overhead of carefully selecting the confidence threshold to separate the noisy examples from being in the training dataset. In this paper, we propose the unsupervised domain adaptation for unlabeled target domain by transferring the target representation near to source domain while still using the supervision from source domain. Towards that we proposed the idea of domain invariant fine tuning along with adversarial label correction to identify the target instances which lie far apart from the source domain, so that the feature encoder can be learnt to minimize the distance between such target instances and source instances class wisely, removing the possibility of learning the features of target domain which are still near to source support but are ambiguous. Evaluation of our QA domain adaptation method namely, DomainInv on multiple target QA dataset reveal the performance improvement over the strongest baseline.
• Abstract（参考訳）: 既存の質問回答(QA)システムは、見えないドメインやドメイン外のディストリビューションからの質問に答えることによって制限され、実際のシナリオへのデプロイに対する信頼性が低下します。 最も重要なのは、既存のqaドメイン適応メソッドはすべて、合成データの生成や、ターゲットドメインデータの擬似ラベリングに基づいています。 合成データと擬似ラベリングに基づくドメイン適応法は、計算資源の要求か、トレーニングデータセットに含まれるノイズの例を分離するために信頼しきい値を慎重に選択する余分なオーバーヘッドのいずれかに苦しむ。 本稿では,未ラベル対象領域に対する教師なし領域適応を,ソースドメインの監督を引き続き用いながら,ソースドメイン近傍のターゲット表現を転送することで提案する。 そこで本研究では,ドメイン不変微調整と逆ラベル補正を併用して,ソースドメインから遠く離れたターゲットインスタンスを識別し,対象インスタンスとソースインスタンス間の距離を適宜に最小化するために特徴エンコーダを学習できるようにし,まだソースサポートに近いがあいまいなターゲットドメインの特徴を学習する可能性を排除した。 マルチターゲットQAデータセット上でのドメイン適応手法であるDomainInvの評価により,最強のベースラインに対する性能改善が示された。

関連論文リスト

• Contrastive Adversarial Training for Unsupervised Domain Adaptation [2.432037584128226]
  様々なドメイン適応タスクにおいて、ドメイン逆行訓練がうまく採用されている。 大規模なモデルでは、敵のトレーニングがソースドメインに偏りやすく、ターゲットドメインにはほとんど適応しない。 本稿では、ラベル付きソースドメインのサンプルを利用して、ターゲットドメインの機能生成を強化・調整するコントラッシブ・逆行訓練(CAT)手法を提案する。
  論文  参考訳（メタデータ） (2024-07-17T17:59:21Z)
• CA-UDA: Class-Aware Unsupervised Domain Adaptation with Optimal Assignment and Pseudo-Label Refinement [84.10513481953583]
  教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ターゲットデータに欠けているラベルのサロゲートとして、優れた擬似ラベルの選択に焦点を当てる。 ソースとターゲットドメインの共有ネットワークが通常、擬似ラベルの選択に使用されるため、擬似ラベルを劣化させるソースドメインバイアスは依然として存在する。 本稿では, 擬似ラベルの品質向上のためのCA-UDAを提案し, 最適課題, 擬似ラベル改善戦略, クラス対応ドメインアライメントを提案する。
  論文  参考訳（メタデータ） (2022-05-26T18:45:04Z)
• Instance Level Affinity-Based Transfer for Unsupervised Domain Adaptation [74.71931918541748]
  ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。 まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。 ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
  論文  参考訳（メタデータ） (2021-04-03T01:33:14Z)
• Disentanglement-based Cross-Domain Feature Augmentation for Effective Unsupervised Domain Adaptive Person Re-identification [87.72851934197936]
  Unsupervised Domain Adaptive (UDA) Person Re-identification (ReID) は、ラベル付きソースドメインからラベル付きターゲットドメインへ知識を転送することを目的としている。 ひとつの課題は、トレーニング用に信頼できるラベルでターゲットドメインサンプルを生成する方法だ。 ディスタングルメントに基づくクロスドメイン機能拡張戦略を提案する。
  論文  参考訳（メタデータ） (2021-03-25T15:28:41Z)
• Surprisingly Simple Semi-Supervised Domain Adaptation with Pretraining and Consistency [93.89773386634717]
  ビジュアルドメイン適応は、異なるソースドメインで利用可能なラベルを使用して、ターゲットのビジュアルドメインからイメージを分類する学習を含む。 いくつかの目標ラベルが存在する場合、(回転予測による)自己スーパービジョンや整合正則化といった単純な手法が、適切な目標分類器を学習するための対角アライメントなしで有効であることを示す。 我々の事前学習と一貫性(PAC)アプローチは、この半教師付きドメイン適応タスクにおいて、複数のデータセットにまたがる複数の対向的なドメインアライメント手法を超越して、技術精度を達成することができる。
  論文  参考訳（メタデータ） (2021-01-29T18:40:17Z)
• Learning Target Domain Specific Classifier for Partial Domain Adaptation [85.71584004185031]
  非教師付きドメイン適応(UDA)は、ラベル付きソースドメインからラベル付きターゲットドメインに知識を転送する際の分散不一致を低減することを目的としている。 本稿では,ターゲットラベル空間をソースラベル空間に仮定する,より現実的なUDAシナリオに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-25T02:28:24Z)
• Cross-domain Self-supervised Learning for Domain Adaptation with Few Source Labels [78.95901454696158]
  ドメイン適応のためのクロスドメイン自己教師型学習手法を提案する。 本手法は,ソースラベルが少ない新しいターゲット領域において,ターゲット精度を著しく向上させる。
  論文  参考訳（メタデータ） (2020-03-18T15:11:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。