論文の概要: Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score

• arxiv url: http://arxiv.org/abs/2305.16035v1
• Date: Thu, 25 May 2023 13:14:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-26 15:10:26.967888
• Title: Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score
• Title（参考訳）: 予測摂動スコアを用いた複数摂動探索による逆データ検出
• Authors: Shuhai Zhang, Feng Liu, Jiahao Yang, Yifan Yang, Changsheng Li, Bo Han, Mingkui Tan
• Abstract要約: 逆方向検出は、自然分布と逆方向分布の差に基づいて、与えられたサンプルが逆方向であるかどうかを判定することを目的としている。 本研究では,様々な摂動後の標本の予測スコアであるEPS(pre expected perturbation score)を提案する。 EPSに基づく最大平均誤差(MMD)を,試験試料と自然試料との差を測定する指標として開発する。
• 参考スコア（独自算出の注目度）: 62.54911162109439
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial detection aims to determine whether a given sample is an adversarial one based on the discrepancy between natural and adversarial distributions. Unfortunately, estimating or comparing two data distributions is extremely difficult, especially in high-dimension spaces. Recently, the gradient of log probability density (a.k.a., score) w.r.t. the sample is used as an alternative statistic to compute. However, we find that the score is sensitive in identifying adversarial samples due to insufficient information with one sample only. In this paper, we propose a new statistic called expected perturbation score (EPS), which is essentially the expected score of a sample after various perturbations. Specifically, to obtain adequate information regarding one sample, we perturb it by adding various noises to capture its multi-view observations. We theoretically prove that EPS is a proper statistic to compute the discrepancy between two samples under mild conditions. In practice, we can use a pre-trained diffusion model to estimate EPS for each sample. Last, we propose an EPS-based adversarial detection (EPS-AD) method, in which we develop EPS-based maximum mean discrepancy (MMD) as a metric to measure the discrepancy between the test sample and natural samples. We also prove that the EPS-based MMD between natural and adversarial samples is larger than that among natural samples. Extensive experiments show the superior adversarial detection performance of our EPS-AD.
• Abstract（参考訳）: adversarial detectionは、自然分布と逆分布の差に基づいて、与えられたサンプルが逆分布であるかどうかを判定することを目的としている。 残念ながら、特に高次元空間において、2つのデータ分布を推定または比較することは極めて困難である。 近年では、サンプルのログ確率密度(スコア)w.r.t.の勾配が計算の代替統計量として用いられる。 しかし,1つのサンプルだけでは情報不足のため,各サンプルの識別に敏感であることが判明した。 本稿では,様々な摂動後のサンプルの期待値であるEPS(pre expected perturbation score)を提案する。 具体的には、1つのサンプルについて適切な情報を得るために、様々なノイズを加えてその多視点観測を捉える。 理論的には、ESSは2つのサンプル間の差を計算するのに適切な統計量である。 実際、各サンプルのEPSを推定するために、事前学習した拡散モデルを用いることができる。 最後に,eps-based adversarial detection (eps-ad) 法を提案し,eps-based maximum mean discrepancy (mmd) を試験試料と自然試料の差を測定する指標として開発した。 また, 自然試料と逆試料とのEPSに基づくMDDは, 自然試料よりも大きいことを示した。 EPS-ADの対向検出性能は良好であった。

関連論文リスト

• Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models [72.07462371883501]
  本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。 PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。 拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
  論文  参考訳（メタデータ） (2023-12-05T09:44:47Z)
• Partial identification of kernel based two sample tests with mismeasured data [5.076419064097733]
  最大平均離散性(MMD)のような2サンプルテストは、機械学習アプリケーションにおける2つの分布の違いを検出するためにしばしば使用される。 我々は,1つの分布の非ランダムな$epsilon$%が互いに誤ってグループ化されるような,$epsilon$-contaminationに基づくMDDの推定について検討した。 そこで本研究では,これらの境界を推定する手法を提案し,サンプルサイズが大きくなるにつれてMDD上の最も鋭い限界に収束する推定値を示す。
  論文  参考訳（メタデータ） (2023-08-07T13:21:58Z)
• Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification [80.81532239566992]
  本稿では,2種類の異常 (OOD と Adv のサンプル) と,3つの側面の内分布 (ID) を比較した。 OODサンプルは第1層から始まる収差を露呈するが,Advサンプルの異常はモデル深層まで出現しない。 隠れ表現と出力確率を用いて,ID,OOD,Advのサンプルを分離する簡単な手法を提案する。
  論文  参考訳（メタデータ） (2022-04-09T12:11:59Z)
• Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
  粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。 粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-06T16:58:34Z)
• Sample Efficient Model Evaluation [30.72511219329606]
  ラベルのないデータポイントの集合が与えられた場合、テストメトリクスをベストに見積もるためにどのサブセットを選択するかに対処する。 本稿では, よく知られたImportance Smplingというサンプリングベースアプローチと,Poisson Smplingの新たな応用を提案する。
  論文  参考訳（メタデータ） (2021-09-24T16:03:58Z)
• Lightweight Detection of Out-of-Distribution and Adversarial Samples via Channel Mean Discrepancy [14.103271496247551]
  分類モデルによって抽出された特徴の統計を評価するためのモデル非依存距離メトリックであるChannel Mean Disrepancy (CMD)を紹介する。 本研究では, 生検試料と逆検試料よりCMD径が有意に小さいことを実験的に実証した。 予備的な結果から, 簡便かつ効果的な手法は, oodおよびadversarialサンプル検出における最先端手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2021-04-23T04:15:53Z)
• Do We Really Sample Right In Model-Based Diagnosis? [0.0]
  本研究は, 断層説明に関する推定値を用いて, 生成したサンプルの表現性について検討する。 サンプルサイズ, サンプリング効率と効果率の最適トレードオフについて検討した。
  論文  参考訳（メタデータ） (2020-09-25T12:30:14Z)
• Tracking disease outbreaks from sparse data with Bayesian inference [55.82986443159948]
  新型コロナウイルス(COVID-19)のパンデミックは、感染発生時の感染率を推定する新たな動機を与える。 標準的な手法は、より細かいスケールで共通する部分的な観測可能性とスパースなデータに対応するのに苦労する。 原理的に部分観測可能なベイズ的枠組みを提案する。
  論文  参考訳（メタデータ） (2020-09-12T20:37:33Z)
• Two-Sample Testing on Ranked Preference Data and the Role of Modeling Assumptions [57.77347280992548]
  本稿では,ペアワイズ比較データとランキングデータのための2サンプル試験を設計する。 私たちのテストでは、基本的に分布に関する仮定は必要ありません。 実世界のペアワイズ比較データに2サンプルテストを適用することで、人によって提供される評価とランキングは、実際は異なる分散である、と結論付ける。
  論文  参考訳（メタデータ） (2020-06-21T20:51:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。