Fugu-MT 論文翻訳(概要): SpaNN: Detecting Multiple Adversarial Patches on CNNs by Spanning Saliency Thresholds

論文の概要: SpaNN: Detecting Multiple Adversarial Patches on CNNs by Spanning Saliency Thresholds

arxiv url: http://arxiv.org/abs/2506.18591v1
Date: Mon, 23 Jun 2025 12:51:10 GMT
ステータス: 翻訳完了
システム内更新日: 2025-06-24 19:06:36.982691
Title: SpaNN: Detecting Multiple Adversarial Patches on CNNs by Spanning Saliency Thresholds
Title（参考訳）: SpaNN:Spanning Saliency ThresholdsによるCNN上の複数の敵パッチの検出
Authors: Mauricio Byrd Victorica, György Dán, Henrik Sandberg,
Abstract要約: SpaNNは、計算複雑性が予想される敵パッチの数に依存しない攻撃検知器である。 SpaNNは、敵の領域を特定するために、固定された正当性しきい値に依存していない。以上の結果から,SpaNNはオブジェクト検出や画像分類の場合には,11～27ポイントの防御性能が向上していることがわかった。
参考スコア（独自算出の注目度）: 10.97544978626829
License: http://creativecommons.org/licenses/by/4.0/
Abstract: State-of-the-art convolutional neural network models for object detection and image classification are vulnerable to physically realizable adversarial perturbations, such as patch attacks. Existing defenses have focused, implicitly or explicitly, on single-patch attacks, leaving their sensitivity to the number of patches as an open question or rendering them computationally infeasible or inefficient against attacks consisting of multiple patches in the worst cases. In this work, we propose SpaNN, an attack detector whose computational complexity is independent of the expected number of adversarial patches. The key novelty of the proposed detector is that it builds an ensemble of binarized feature maps by applying a set of saliency thresholds to the neural activations of the first convolutional layer of the victim model. It then performs clustering on the ensemble and uses the cluster features as the input to a classifier for attack detection. Contrary to existing detectors, SpaNN does not rely on a fixed saliency threshold for identifying adversarial regions, which makes it robust against white box adversarial attacks. We evaluate SpaNN on four widely used data sets for object detection and classification, and our results show that SpaNN outperforms state-of-the-art defenses by up to 11 and 27 percentage points in the case of object detection and the case of image classification, respectively. Our code is available at https://github.com/gerkbyrd/SpaNN.
Abstract（参考訳）: 物体検出と画像分類のための最先端の畳み込みニューラルネットワークモデルは、パッチアタックのような物理的に実現可能な逆方向の摂動に対して脆弱である。既存の防御は、暗黙的に、あるいは明示的に、単一パッチ攻撃に焦点を合わせ、オープンな質問としてパッチの数に対する感受性を残したり、最悪の場合、複数のパッチからなる攻撃に対して計算的に不可能または非効率にしたりしている。本研究では,計算複雑性が予測される敵パッチ数に依存しない攻撃検知器であるSpunNNを提案する。提案した検出器の重要な特徴は、犠牲者モデルの第一畳み込み層の神経活性化に一連の塩分濃度閾値を適用することにより、二項化特徴写像のアンサンブルを構築することである。その後、アンサンブル上でクラスタ化を行い、攻撃検出のための分類器への入力としてクラスタ機能を使用する。既存の検出器とは対照的に、SpaNNは敵の領域を特定するための固定された唾液濃度閾値に依存していないため、白い箱の敵の攻撃に対して堅牢である。対象物検出と分類に広く用いられている4つのデータセットを用いてSpaNNを評価した結果,SpaNNは対象物検出の場合は最大11ポイント,画像分類では27ポイント向上していることがわかった。私たちのコードはhttps://github.com/gerkbyrd/SpaNN.comで公開されています。

関連論文リスト

AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文参考訳（メタデータ） (2024-08-04T09:53:50Z)
AntidoteRT: Run-time Detection and Correction of Poison Attacks on Neural Networks [18.461079157949698]
画像分類ネットワークに対するバックドア毒殺攻撃本稿では,毒殺攻撃に対する簡易な自動検出・補正手法を提案する。我々の手法は、一般的なベンチマークにおいて、NeuralCleanseやSTRIPといった既存の防御よりも優れています。
論文参考訳（メタデータ） (2022-01-31T23:42:32Z)
Post-Training Detection of Backdoor Attacks for Two-Class and Multi-Attack Scenarios [22.22337220509128]
バックドア攻撃(BA)は、ディープニューラルネットワーク分類器に対する新たな脅威である。本稿では,BPリバースエンジニアリングに基づく検出フレームワークを提案する。
論文参考訳（メタデータ） (2022-01-20T22:21:38Z)
Discriminator-Free Generative Adversarial Attack [87.71852388383242]
生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
論文参考訳（メタデータ） (2021-07-20T01:55:21Z)
Hidden Backdoor Attack against Semantic Segmentation Models [60.0327238844584]
Emphbackdoor攻撃は、深層ニューラルネットワーク(DNN)に隠れたバックドアを埋め込み、トレーニングデータに毒を盛ることを目的としている。我々は,対象ラベルを画像レベルではなくオブジェクトレベルから扱う,新たな攻撃パラダイムであるemphfine-fine-grained attackを提案する。実験により、提案手法はわずかなトレーニングデータだけを毒殺することでセマンティックセグメンテーションモデルを攻撃することに成功した。
論文参考訳（メタデータ） (2021-03-06T05:50:29Z)
Learning to Separate Clusters of Adversarial Representations for Robust Adversarial Detection [50.03939695025513]
本稿では,最近導入された非破壊的特徴を動機とした新しい確率的対向検出器を提案する。本稿では,非ロバスト特徴を逆例の共通性と考え,その性質に対応する表現空間におけるクラスターの探索が可能であることを推定する。このアイデアは、別のクラスタ内の逆表現の確率推定分布を導出し、その分布を確率に基づく逆検出器として活用する。
論文参考訳（メタデータ） (2020-12-07T07:21:18Z)
Detection of Iterative Adversarial Attacks via Counter Attack [4.549831511476249]
ディープニューラルネットワーク(DNN)は、非構造化データを処理する強力なツールであることが証明されている。画像のような高次元データの場合、それらは本質的に敵対的な攻撃に対して脆弱である。本研究では、CW攻撃が検出器自体として使用できるという数学的証明を概説する。
論文参考訳（メタデータ） (2020-09-23T21:54:36Z)
Anomaly Detection-Based Unknown Face Presentation Attack Detection [74.4918294453537]
異常検出に基づくスプーフ攻撃検出は、顔提示攻撃検出の最近の進歩である。本稿では,異常検出に基づくスプーフ攻撃検出のためのディープラーニングソリューションを提案する。提案手法はCNNの表現学習能力の恩恵を受け,fPADタスクの優れた特徴を学習する。
論文参考訳（メタデータ） (2020-07-11T21:20:55Z)
Miss the Point: Targeted Adversarial Attack on Multiple Landmark Detection [29.83857022733448]
本稿では,CNNをベースとしたモデルが,逆方向の摂動に対する複数のランドマーク検出に与える影響を初めて検討した。本稿では,複数のランドマーク検出における最先端モデルに対する適応的反復FGSM攻撃を提案する。
論文参考訳（メタデータ） (2020-07-10T07:58:35Z)
Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
論文参考訳（メタデータ） (2020-07-07T18:40:19Z)
Non-Intrusive Detection of Adversarial Deep Learning Attacks via Observer Networks [5.4572790062292125]
近年の研究では、深層学習モデルは逆入力に弱いことが示されている。本稿では,主分類網を複数のバイナリ検出器で拡張することにより,逆入力を検出する新しい手法を提案する。我々は、MNISTデータセットで99.5%、CIFAR-10データセットで97.5%の精度で検出する。
論文参考訳（メタデータ） (2020-02-22T21:13:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。