論文の概要: Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification

• arxiv url: http://arxiv.org/abs/2204.04458v1
• Date: Sat, 9 Apr 2022 12:11:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-15 03:43:36.882578
• Title: Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification
• Title（参考訳）: テキスト分類における分布外サンプルと逆サンプルの理解・検出・分離
• Authors: Cheng-Han Chiang and Hung-yi Lee
• Abstract要約: 本稿では,2種類の異常 (OOD と Adv のサンプル) と,3つの側面の内分布 (ID) を比較した。 OODサンプルは第1層から始まる収差を露呈するが,Advサンプルの異常はモデル深層まで出現しない。 隠れ表現と出力確率を用いて,ID,OOD,Advのサンプルを分離する簡単な手法を提案する。
• 参考スコア（独自算出の注目度）: 80.81532239566992
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this paper, we study the differences and commonalities between statistically out-of-distribution (OOD) samples and adversarial (Adv) samples, both of which hurting a text classification model's performance. We conduct analyses to compare the two types of anomalies (OOD and Adv samples) with the in-distribution (ID) ones from three aspects: the input features, the hidden representations in each layer of the model, and the output probability distributions of the classifier. We find that OOD samples expose their aberration starting from the first layer, while the abnormalities of Adv samples do not emerge until the deeper layers of the model. We also illustrate that the models' output probabilities for Adv samples tend to be more unconfident. Based on our observations, we propose a simple method to separate ID, OOD, and Adv samples using the hidden representations and output probabilities of the model. On multiple combinations of ID, OOD datasets, and Adv attacks, our proposed method shows exceptional results on distinguishing ID, OOD, and Adv samples.
• Abstract（参考訳）: 本稿では,テキスト分類モデルの性能を損なう統計的にアウト・オブ・ディストリビューション(OOD)サンプルと対数的(Adv)サンプルの違いと共通点について検討する。 入力特性,モデルの各層における隠れ表現,分類器の出力確率分布の3つの側面から,2種類の異常(oodとadvサンプル)と分布内分布(id)の比較を行う。 oodサンプルが第1層から収差を露呈するのに対し,advサンプルの異常はモデルのより深い層まで出現しない。 また,advサンプルに対するモデルの出力確率は,より信頼できない傾向がみられた。 そこで本研究では,隠れ表現と出力確率を用いて,ID,OOD,Advのサンプルを分離する簡単な手法を提案する。 提案手法は,ID,OODデータセット,Adv攻撃の複数組み合わせに対して,ID,OOD,Advサンプルの識別に優れた結果を示す。

関連論文リスト

• Out-of-Distribution Detection with a Single Unconditional Diffusion Model [54.15132801131365]
  アウト・オブ・ディストリビューション(OOD)検出は、異常サンプルを特定しようとする機械学習において重要なタスクである。 従来、教師なし手法はOOD検出に深い生成モデルを用いていた。 本稿では,単一モデルが多様なタスクに対してOOD検出を行うことができるかどうかを考察する。
  論文  参考訳（メタデータ） (2024-05-20T08:54:03Z)
• Pseudo Outlier Exposure for Out-of-Distribution Detection using Pretrained Transformers [3.8839179829686126]
  拒否ネットワークは、テストOODサンプルを検出するために、IDと多様な外れ値サンプルで訓練することができる。 本稿では,Pseudo Outlier Exposure (POE) と呼ばれる手法を提案する。 本手法は外部OODデータを一切必要とせず,既製のトランスフォーマーで容易に実装できる。
  論文  参考訳（メタデータ） (2023-07-18T17:29:23Z)
• Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score [62.54911162109439]
  逆方向検出は、自然分布と逆方向分布の差に基づいて、与えられたサンプルが逆方向であるかどうかを判定することを目的としている。 本研究では,様々な摂動後の標本の予測スコアであるEPS(pre expected perturbation score)を提案する。 EPSに基づく最大平均誤差(MMD)を,試験試料と自然試料との差を測定する指標として開発する。
  論文  参考訳（メタデータ） (2023-05-25T13:14:58Z)
• Revisiting the Evaluation of Image Synthesis with GANs [55.72247435112475]
  本研究では, 合成性能の評価に関する実証的研究を行い, 生成モデルの代表としてGAN(Generative Adversarial Network)を用いた。 特に、表現空間におけるデータポイントの表現方法、選択したサンプルを用いた公平距離の計算方法、各集合から使用可能なインスタンス数など、さまざまな要素の詳細な分析を行う。
  論文  参考訳（メタデータ） (2023-04-04T17:54:32Z)
• Towards Robust Visual Question Answering: Making the Most of Biased Samples via Contrastive Learning [54.61762276179205]
  我々は,ビザドサンプルを最大限に活用することで,ロバストなVQAモデルを構築するための新しいコントラスト学習手法 MMBS を提案する。 具体的には、元のトレーニングサンプルからスプリアス相関に関連する情報を排除し、比較学習のための正のサンプルを構築する。 我々は,OODデータセットのVQA-CP v2において,IDデータセットのVQA v2上での堅牢なパフォーマンスを維持しながら,競争性能を達成することで,コントリビューションを検証した。
  論文  参考訳（メタデータ） (2022-10-10T11:05:21Z)
• CADet: Fully Self-Supervised Out-Of-Distribution Detection With Contrastive Learning [11.897976063005315]
  本研究は,2種類のOODサンプルの同時検出における自己教師付きコントラスト学習の利用について検討する。 まず,自己指導型コントラスト学習と,最大平均誤差(MMD)2サンプルテストとを組み合わせた。 この成功に触発されたCADetは,単一試料のOOD検出のための新しい手法である。
  論文  参考訳（メタデータ） (2022-10-04T17:02:37Z)
• ReSmooth: Detecting and Utilizing OOD Samples when Training with Data Augmentation [57.38418881020046]
  最近のDA技術は、常に強化トレーニングサンプルの多様性の必要性を満たす。 多様性の高い増分戦略は、通常、アウト・オブ・ディストリビューション(OOD)の増分サンプルを導入する。 ReSmoothは、まず、拡張サンプル中のOODサンプルを検知し、それらを活用するフレームワークである。
  論文  参考訳（メタデータ） (2022-05-25T09:29:27Z)
• WOOD: Wasserstein-based Out-of-Distribution Detection [6.163329453024915]
  ディープ・ニューラル・ネットワークに基づく分類器のトレーニングデータは、通常同じ分布からサンプリングされる。 トレーニングサンプルから遠く離れた分布からテストサンプルの一部を引き出すと、トレーニングされたニューラルネットワークはこれらのOODサンプルに対して高い信頼性の予測を行う傾向にある。 本稿では,これらの課題を克服するため,Wasserstein を用いたアウト・オブ・ディストリビューション検出(WOOD)手法を提案する。
  論文  参考訳（メタデータ） (2021-12-13T02:35:15Z)
• Lightweight Detection of Out-of-Distribution and Adversarial Samples via Channel Mean Discrepancy [14.103271496247551]
  分類モデルによって抽出された特徴の統計を評価するためのモデル非依存距離メトリックであるChannel Mean Disrepancy (CMD)を紹介する。 本研究では, 生検試料と逆検試料よりCMD径が有意に小さいことを実験的に実証した。 予備的な結果から, 簡便かつ効果的な手法は, oodおよびadversarialサンプル検出における最先端手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2021-04-23T04:15:53Z)
• Bridging In- and Out-of-distribution Samples for Their Better Discriminability [18.84265231678354]
  2つの中間に位置するサンプルを考慮し、それらをネットワークのトレーニングに使用する。 我々は複数の画像変換を用いて、様々な方法で入力を破損させ、重大度レベルが異なるようなサンプルを生成する。 クリーンなIDサンプルをトレーニングしたネットワークを用いて,単一の画像変換によって生成されたサンプルが,IDとOODの間にどこにあるかを推定する。
  論文  参考訳（メタデータ） (2021-01-07T11:34:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。