Fugu-MT 論文翻訳(概要): Evaluation of Neural Networks Defenses and Attacks using NDCG and Reciprocal Rank Metrics

論文の概要: Evaluation of Neural Networks Defenses and Attacks using NDCG and Reciprocal Rank Metrics

arxiv url: http://arxiv.org/abs/2201.05071v1
Date: Mon, 10 Jan 2022 12:54:45 GMT
ステータス: 処理完了
システム内更新日: 2022-01-14 14:03:51.878643
Title: Evaluation of Neural Networks Defenses and Attacks using NDCG and Reciprocal Rank Metrics
Title（参考訳）: NDCGと相互ランクメトリクスを用いたニューラルネットワークの防御と攻撃の評価
Authors: Haya Brama, Lihi Dery, Tal Grinshpoun
Abstract要約: 分類タスクにおけるニューラルネットワークの出力に対する攻撃効果、防衛効果の回復効果を特に測定するために設計された2つの指標を示す。正規化された累積ゲインと、情報検索文献で使用される相互ランクの指標に着想を得て、ニューラルネットワーク予測を結果のランクリストとして扱う。一般的な分類指標と比較すると,提案指標は優れた情報的・独特性を示す。
参考スコア（独自算出の注目度）: 6.6389732792316
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: The problem of attacks on neural networks through input modification (i.e., adversarial examples) has attracted much attention recently. Being relatively easy to generate and hard to detect, these attacks pose a security breach that many suggested defenses try to mitigate. However, the evaluation of the effect of attacks and defenses commonly relies on traditional classification metrics, without adequate adaptation to adversarial scenarios. Most of these metrics are accuracy-based, and therefore may have a limited scope and low distinctive power. Other metrics do not consider the unique characteristics of neural networks functionality, or measure the effect of the attacks indirectly (e.g., through the complexity of their generation). In this paper, we present two metrics which are specifically designed to measure the effect of attacks, or the recovery effect of defenses, on the output of neural networks in multiclass classification tasks. Inspired by the normalized discounted cumulative gain and the reciprocal rank metrics used in information retrieval literature, we treat the neural network predictions as ranked lists of results. Using additional information about the probability of the rank enabled us to define novel metrics that are suited to the task at hand. We evaluate our metrics using various attacks and defenses on a pretrained VGG19 model and the ImageNet dataset. Compared to the common classification metrics, our proposed metrics demonstrate superior informativeness and distinctiveness.
Abstract（参考訳）: 近年,入力修正によるニューラルネットワーク攻撃問題(逆例)が注目されている。比較的生成が容易で検出が難しいこれらの攻撃は、多くの防御策が緩和しようとするセキュリティ侵害を引き起こす。しかし、攻撃や防御の効果の評価は、通常、敵のシナリオに適切に適応することなく、伝統的な分類基準に依存する。これらの指標のほとんどは精度に基づいており、従って範囲が限られており、独特なパワーが低い。他の指標は、ニューラルネットワークの機能のユニークな特徴を考慮せず、間接的に攻撃の効果を測定する(例えば、その生成の複雑さを通して)。本稿では,多クラス分類タスクにおけるニューラルネットワークの出力に対する攻撃効果,防御の回復効果を測定するために特別に設計された2つの指標について述べる。情報検索文献に使用される正規化割引累積利得と相互ランク指標に着想を得て,ニューラルネットワークの予測を検索結果のランク付けリストとして扱う。ランクの確率に関する追加情報を使用することで、目の前のタスクに適した新しいメトリクスを定義することができます。トレーニング済みのVGG19モデルとImageNetデータセットを用いて,様々な攻撃と防御を用いてメトリクスを評価する。一般的な分類基準と比較すると,提案手法は優れた情報性と識別性を示す。

関連論文リスト

Rethinking Targeted Adversarial Attacks For Neural Machine Translation [56.10484905098989]
本報告では,NMTが標的とする敵攻撃に対して,信頼性の高い攻撃結果をもたらす可能性のある新たな設定を提案する。新しい設定では、敵の例を作成するためのTWGA(Targeted Word Gradient Adversarial Attack)手法を提案する。実験の結果,提案手法はNMTシステムに対する敵攻撃に対して忠実な攻撃効果をもたらす可能性が示唆された。
論文参考訳（メタデータ） (2024-07-07T10:16:06Z)
A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
論文参考訳（メタデータ） (2023-10-10T09:39:38Z)
Unfolding Local Growth Rate Estimates for (Almost) Perfect Adversarial Detection [22.99930028876662]
畳み込みニューラルネットワーク(CNN)は、多くの知覚的タスクにおける最先端のソリューションを定義する。現在のCNNアプローチは、システムを騙すために特別に作られた入力の敵の摂動に対して脆弱なままである。本稿では,ネットワークの局所固有次元(LID)と敵攻撃の関係について,最近の知見を生かした,シンプルで軽量な検出器を提案する。
論文参考訳（メタデータ） (2022-12-13T17:51:32Z)
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
論文参考訳（メタデータ） (2022-11-04T13:54:02Z)
On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
論文参考訳（メタデータ） (2022-05-19T14:26:50Z)
Efficient and Robust Classification for Sparse Attacks [34.48667992227529]
我々は、画像認識、自然言語処理、マルウェア検出の領域において効果的な攻撃として示されてきた$ell$-normで束縛された摂動を考える。我々は,「トランケーション」と「アドリアル・トレーニング」を組み合わせた新しい防衛手法を提案する。得られた洞察に触発され、これらのコンポーネントをニューラルネットワーク分類器に拡張する。
論文参考訳（メタデータ） (2022-01-23T21:18:17Z)
Residual Error: a New Performance Measure for Adversarial Robustness [85.0371352689919]
ディープラーニングの広く普及を制限する大きな課題は、敵の攻撃に対する脆弱さである。本研究は,ディープニューラルネットワークの対角強靭性を評価するための新しい性能尺度である残留誤差の概念を提示する。画像分類を用いた実験結果から,提案手法の有効性と有効性を示した。
論文参考訳（メタデータ） (2021-06-18T16:34:23Z)
Detecting Backdoors in Neural Networks Using Novel Feature-Based Anomaly Detection [16.010654200489913]
本稿では,ニューラルネットワークのバックドア攻撃に対する新たな防御法を提案する。バックドアネットワークの機能抽出層が新機能を組み込んでトリガーの存在を検出するという直感に基づいている。バックドアの検出には、クリーンな検証データに基づいて訓練された2つの相乗的異常検出器を使用する。
論文参考訳（メタデータ） (2020-11-04T20:33:51Z)
A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。本稿では,入力空間における自己教師型対向学習機構を提案する。これは、反逆攻撃に対する強力な堅牢性を提供する。
論文参考訳（メタデータ） (2020-06-08T20:42:39Z)
Detecting Adversarial Examples for Speech Recognition via Uncertainty Quantification [21.582072216282725]
機械学習システム、特に自動音声認識(ASR)システムは、敵の攻撃に対して脆弱である。本稿では,ハイブリッドASRシステムに着目し,攻撃時の不確実性を示す能力に関する4つの音響モデルを比較した。我々は、受信演算子曲線スコア0.99以上の領域の逆例を検出することができる。
論文参考訳（メタデータ） (2020-05-24T19:31:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。