論文の概要: Unsupervised Out-of-Domain Detection via Pre-trained Transformers

• arxiv url: http://arxiv.org/abs/2106.00948v1
• Date: Wed, 2 Jun 2021 05:21:25 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-03 14:46:27.929613
• Title: Unsupervised Out-of-Domain Detection via Pre-trained Transformers
• Title（参考訳）: 事前学習トランスフォーマーによる非教師なし領域検出
• Authors: Keyang Xu, Tongzheng Ren, Shikun Zhang, Yihao Feng and Caiming Xiong
• Abstract要約: ドメイン外の入力は予測不能なアウトプットを引き起こし、時には破滅的な安全性の問題を引き起こす。 本研究は、教師なしのドメイン内データのみを用いて、ドメイン外サンプルを検出する問題に対処する。 検出精度を高めるために、ドメイン固有の2つの微調整手法が提案されている。
• 参考スコア（独自算出の注目度）: 56.689635664358256
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deployed real-world machine learning applications are often subject to uncontrolled and even potentially malicious inputs. Those out-of-domain inputs can lead to unpredictable outputs and sometimes catastrophic safety issues. Prior studies on out-of-domain detection require in-domain task labels and are limited to supervised classification scenarios. Our work tackles the problem of detecting out-of-domain samples with only unsupervised in-domain data. We utilize the latent representations of pre-trained transformers and propose a simple yet effective method to transform features across all layers to construct out-of-domain detectors efficiently. Two domain-specific fine-tuning approaches are further proposed to boost detection accuracy. Our empirical evaluations of related methods on two datasets validate that our method greatly improves out-of-domain detection ability in a more general scenario.
• Abstract（参考訳）: 実世界の機械学習アプリケーションは、しばしば制御不能で悪意のある入力を受ける。 ドメイン外の入力は予測不能なアウトプットを引き起こし、時には破滅的な安全上の問題を引き起こす可能性がある。 ドメイン外検出に関する以前の研究では、ドメイン内タスクラベルが必要であり、教師付き分類シナリオに限定されている。 本研究は、教師なしのドメイン内データのみを用いて、ドメイン外サンプルを検出する問題に取り組む。 事前学習したトランスの潜在表現を利用し、全ての層にまたがる特徴を変換してドメイン外検出器を効率的に構築する方法を提案する。 検出精度を高めるために, 2つの領域特異的微調整手法がさらに提案されている。 2つのデータセットにおける関連手法の実証評価により,本手法がドメイン外検出能力を大幅に向上することを確認した。

関連論文リスト

• Improving Single Domain-Generalized Object Detection: A Focus on Diversification and Alignment [17.485775402656127]
  基底検出器は、単一領域の一般化のための既存の手法を良いマージンで上回ることができる。 分類と局所化の両方の出力を考慮して,複数のビューから検出を整列する手法を提案する。 我々のアプローチは検出器非依存であり、単段検出器と二段検出器の両方にシームレスに適用できる。
  論文  参考訳（メタデータ） (2024-05-23T12:29:25Z)
• DATR: Unsupervised Domain Adaptive Detection Transformer with Dataset-Level Adaptation and Prototypical Alignment [7.768332621617199]
  我々は、オブジェクト検出の教師なし領域適応のために、ドメイン適応検出TRansformer(DATR)と呼ばれる強力なDETRベースの検出器を導入する。 提案するDATRは,教師モデルによって生成された擬似ラベルを用いて,平均教師に基づく自己学習フレームワークを組み込んで,ドメインバイアスをさらに緩和する。 複数のドメイン適応シナリオにおいて,提案したDATRの性能と一般化性を示す実験を行った。
  論文  参考訳（メタデータ） (2024-05-20T03:48:45Z)
• Decompose to Adapt: Cross-domain Object Detection via Feature Disentanglement [79.2994130944482]
  本研究では,DDF(Domain Disentanglement Faster-RCNN)を設計し,タスク学習のための特徴のソース固有情報を排除した。 DDF法は,グローバルトリプルト・ディアンタングルメント(GTD)モジュールとインスタンス類似性・ディアンタングルメント(ISD)モジュールを用いて,グローバルおよびローカルステージでの機能ディアンタングルを容易にする。 提案手法は,4つのUDAオブジェクト検出タスクにおいて最先端の手法より優れており,広い適用性で有効であることが実証された。
  論文  参考訳（メタデータ） (2022-01-06T05:43:01Z)
• Adversarially Trained Object Detector for Unsupervised Domain Adaptation [4.9631159466100305]
  我々は、教師なし領域適応のための新しいアプローチとして、ソース領域における敵の訓練を適用できることを実証する。 そこで本稿では,頑健な特徴と目標領域とのアライメントを改善するために,対角的トレーニングと特徴アライメントを組み合わせた手法を提案する。
  論文  参考訳（メタデータ） (2021-09-13T07:21:28Z)
• Exploring Sequence Feature Alignment for Domain Adaptive Detection Transformers [141.70707071815653]
  本稿では,検出変圧器の適応に特化して設計された新しいシーケンス特徴アライメント(SFA)法を提案する。 SFAはドメインクエリベースの機能アライメント(DQFA)モジュールとトークンワイド機能アライメント(TDA)モジュールで構成される。 3つの挑戦的なベンチマーク実験により、SFAは最先端のドメイン適応オブジェクト検出方法より優れていることが示された。
  論文  参考訳（メタデータ） (2021-07-27T07:17:12Z)
• Domain Adaptive YOLO for One-Stage Cross-Domain Detection [4.596221278839825]
  ドメイン適応型YOLO (DA-YOLO) は1段検出器のクロスドメイン性能を向上させるために提案される。 提案手法を,Cityscapes,KITTI,SIM10Kなどの一般的なデータセット上で評価する。
  論文  参考訳（メタデータ） (2021-06-26T04:17:42Z)
• Uncertainty-Aware Unsupervised Domain Adaptation in Object Detection [34.18382705952121]
  Unlabelled Domain Adaptive Object Detectionは、ラベル付きソースドメインから監視されていないターゲットドメインへのディテクタの適応を目指している。 対比学習は、ドメイン間のグローバル分布を単に整列させるだけで、整列されたサンプルの整列を損なう可能性があります。 我々は,条件付き逆学習を導入した不確実性認識型ドメイン適応ネットワーク(uadan)を設計した。
  論文  参考訳（メタデータ） (2021-02-27T15:04:07Z)
• Revisiting Mahalanobis Distance for Transformer-Based Out-of-Domain Detection [60.88952532574564]
  本稿では,ドメイン外インテント検出手法を徹底的に比較する。 意図分類のための3つの標準データセット上で,複数のコンテキストエンコーダとメソッドを効率良く評価する。 本研究の主目的は,超微調整トランスフォーマーを用いたドメイン内データエンコーダが優れた結果をもたらすことである。
  論文  参考訳（メタデータ） (2021-01-11T09:10:58Z)
• Cross-domain Detection via Graph-induced Prototype Alignment [114.8952035552862]
  カテゴリレベルのドメインアライメントを求めるグラフ誘発プロトタイプアライメント(GPA)フレームワークを提案する。 さらに,クラス不均衡がドメイン適応に与える影響を軽減するために,クラス重み付きコントラスト損失を設計する。 我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
  論文  参考訳（メタデータ） (2020-03-28T17:46:55Z)
• Cross-domain Object Detection through Coarse-to-Fine Feature Adaptation [62.29076080124199]
  本稿では,クロスドメインオブジェクト検出のための特徴適応手法を提案する。 粗粒度では、アテンション機構を採用して前景領域を抽出し、その辺縁分布に応じて整列する。 粒度の細かい段階では、同じカテゴリのグローバルプロトタイプと異なるドメインとの距離を最小化することにより、前景の条件分布アライメントを行う。
  論文  参考訳（メタデータ） (2020-03-23T13:40:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。