Fugu-MT 論文翻訳(概要): Lightweight Detection of Out-of-Distribution and Adversarial Samples via Channel Mean Discrepancy

論文の概要: Lightweight Detection of Out-of-Distribution and Adversarial Samples via Channel Mean Discrepancy

arxiv url: http://arxiv.org/abs/2104.11408v1
Date: Fri, 23 Apr 2021 04:15:53 GMT
ステータス: 処理完了
システム内更新日: 2021-04-26 19:55:29.991804
Title: Lightweight Detection of Out-of-Distribution and Adversarial Samples via Channel Mean Discrepancy
Title（参考訳）: チャネル平均離散による分布外および逆サンプルの軽量検出
Authors: Xin Dong, Junfeng Guo, Wei-Te Ting, H.T. Kung
Abstract要約: 分類モデルによって抽出された特徴の統計を評価するためのモデル非依存距離メトリックであるChannel Mean Disrepancy (CMD)を紹介する。本研究では, 生検試料と逆検試料よりCMD径が有意に小さいことを実験的に実証した。予備的な結果から, 簡便かつ効果的な手法は, oodおよびadversarialサンプル検出における最先端手法よりも優れていることがわかった。
参考スコア（独自算出の注目度）: 14.103271496247551
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Detecting out-of-distribution (OOD) and adversarial samples is essential when deploying classification models in real-world applications. We introduce Channel Mean Discrepancy (CMD), a model-agnostic distance metric for evaluating the statistics of features extracted by classification models, inspired by integral probability metrics. CMD compares the feature statistics of incoming samples against feature statistics estimated from previously seen training samples with minimal overhead. We experimentally demonstrate that CMD magnitude is significantly smaller for legitimate samples than for OOD and adversarial samples. We propose a simple method to reliably differentiate between legitimate samples from OOD and adversarial samples using CMD, requiring only a single forward pass on a pre-trained classification model per sample. We further demonstrate how to achieve single image detection by using a lightweight model for channel sensitivity tuning, an improvement on other statistical detection methods. Preliminary results show that our simple yet effective method outperforms several state-of-the-art approaches to detecting OOD and adversarial samples across various datasets and attack methods with high efficiency and generalizability.
Abstract（参考訳）: out-of-distribution (ood)とadversarial sampleの検出は、現実世界のアプリケーションに分類モデルをデプロイする場合に不可欠である。分類モデルによって抽出された特徴の統計量を評価するためのモデル非依存距離指標であるチャネル平均差(cmd)を積分確率メトリクスにインスパイアした。 CMDは、入ってくるサンプルの特徴統計と、以前見られたトレーニングサンプルから推定された特徴統計を最小限のオーバーヘッドで比較する。実験により, 正規試料ではoodおよびadversarial試料に比べてcmdの大きさが有意に小さいことを実証した。そこで本研究では,cmdを用いたoodから正統的なサンプルを識別する簡易な手法を提案し,事前学習した分類モデルに対して,単一のフォワードパスのみを要求できる。さらに, チャネル感度チューニングのための軽量モデルを用いて, 他の統計検出法の改良により, 単一画像検出を実現する方法を示す。予備的な結果から,本手法は様々なデータセットや攻撃手法におけるOOD, 対数サンプルの検出において, 高精度かつ汎用性の高い手法よりも優れていることが示された。

関連論文リスト

Learning Multi-Manifold Embedding for Out-Of-Distribution Detection [16.283293167689948]
オフ・オブ・ディストリビューション(OOD)サンプルは、現実世界のアプリケーションにおいて信頼できるAIにとって不可欠である。本稿では,OOD検出の強化を目的としたMMEL(Multi-Manifold Embedding Learning)フレームワークを提案する。 MMELは代表埋め込みを生成し、OODサンプルの識別にプロトタイプ認識スコアリング機能を利用する。
論文参考訳（メタデータ） (2024-09-19T05:43:00Z)
Out-of-Distribution Detection with a Single Unconditional Diffusion Model [54.15132801131365]
アウト・オブ・ディストリビューション(OOD)検出は、異常サンプルを特定しようとする機械学習において重要なタスクである。従来、教師なし手法はOOD検出に深い生成モデルを用いていた。本稿では,単一モデルが多様なタスクに対してOOD検出を行うことができるかどうかを考察する。
論文参考訳（メタデータ） (2024-05-20T08:54:03Z)
Learning with Mixture of Prototypes for Out-of-Distribution Detection [25.67011646236146]
アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングデータから遠く離れたテストサンプルを検出することを目的としている。サンプルの多様性を捉えるために,各クラスを複数のプロトタイプでモデル化したプロトタイプ混在型学習法(PALM)を提案する。提案手法はCIFAR-100ベンチマークにおいて93.82の最先端平均AUROC性能を実現する。
論文参考訳（メタデータ） (2024-02-05T00:52:50Z)
Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models [72.07462371883501]
本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。 PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
論文参考訳（メタデータ） (2023-12-05T09:44:47Z)
Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score [62.54911162109439]
逆方向検出は、自然分布と逆方向分布の差に基づいて、与えられたサンプルが逆方向であるかどうかを判定することを目的としている。本研究では,様々な摂動後の標本の予測スコアであるEPS(pre expected perturbation score)を提案する。 EPSに基づく最大平均誤差(MMD)を,試験試料と自然試料との差を測定する指標として開発する。
論文参考訳（メタデータ） (2023-05-25T13:14:58Z)
Boosting Out-of-Distribution Detection with Multiple Pre-trained Models [41.66566916581451]
事前訓練されたモデルを用いたポストホック検出は有望な性能を示し、大規模にスケールできる。本稿では,事前訓練されたモデルの動物園から抽出した複数の検出決定をアンサンブルすることで,検出強化手法を提案する。 CIFAR10 と ImageNet のベンチマークでは, 相対性能を 65.40% と 26.96% で大幅に改善した。
論文参考訳（メタデータ） (2022-12-24T12:11:38Z)
POODLE: Improving Few-shot Learning via Penalizing Out-of-Distribution Samples [19.311470287767385]
そこで本研究では,対象クラス外からのラベル付きサンプルの配布外サンプルを用いて,数発の学習を改善することを提案する。提案手法は, 実装が簡単で, 特徴抽出器に非依存であり, 事前学習に要する追加コストを伴わず軽量であり, インダクティブ設定とトランスダクティブ設定の両方に適用可能である。
論文参考訳（メタデータ） (2022-06-08T18:59:21Z)
Fake It Till You Make It: Near-Distribution Novelty Detection by Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文参考訳（メタデータ） (2022-05-28T02:02:53Z)
Understanding, Detecting, and Separating Out-of-Distribution Samples and Adversarial Samples in Text Classification [80.81532239566992]
本稿では,2種類の異常 (OOD と Adv のサンプル) と,3つの側面の内分布 (ID) を比較した。 OODサンプルは第1層から始まる収差を露呈するが,Advサンプルの異常はモデル深層まで出現しない。隠れ表現と出力確率を用いて,ID,OOD,Advのサンプルを分離する簡単な手法を提案する。
論文参考訳（メタデータ） (2022-04-09T12:11:59Z)
WOOD: Wasserstein-based Out-of-Distribution Detection [6.163329453024915]
ディープ・ニューラル・ネットワークに基づく分類器のトレーニングデータは、通常同じ分布からサンプリングされる。トレーニングサンプルから遠く離れた分布からテストサンプルの一部を引き出すと、トレーニングされたニューラルネットワークはこれらのOODサンプルに対して高い信頼性の予測を行う傾向にある。本稿では,これらの課題を克服するため,Wasserstein を用いたアウト・オブ・ディストリビューション検出(WOOD)手法を提案する。
論文参考訳（メタデータ） (2021-12-13T02:35:15Z)
Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文参考訳（メタデータ） (2021-10-20T12:25:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。