論文の概要: Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly

• arxiv url: http://arxiv.org/abs/2311.01323v1
• Date: Thu, 2 Nov 2023 15:35:58 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-03 12:59:34.865667
• Title: Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly
• Title（参考訳）: 伝達型攻撃の体系的, 実質的, 公平な評価に向けて
• Authors: Qizhang Li, Yiwen Guo, Wangmeng Zuo, Hao Chen
• Abstract要約: ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。 ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。 30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
• 参考スコア（独自算出の注目度）: 79.07074710460012
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The adversarial vulnerability of deep neural networks (DNNs) has drawn great attention due to the security risk of applying these models in real-world applications. Based on transferability of adversarial examples, an increasing number of transfer-based methods have been developed to fool black-box DNN models whose architecture and parameters are inaccessible. Although tremendous effort has been exerted, there still lacks a standardized benchmark that could be taken advantage of to compare these methods systematically, fairly, and practically. Our investigation shows that the evaluation of some methods needs to be more reasonable and more thorough to verify their effectiveness, to avoid, for example, unfair comparison and insufficient consideration of possible substitute/victim models. Therefore, we establish a transfer-based attack benchmark (TA-Bench) which implements 30+ methods. In this paper, we evaluate and compare them comprehensively on 25 popular substitute/victim models on ImageNet. New insights about the effectiveness of these methods are gained and guidelines for future evaluations are provided. Code at: https://github.com/qizhangli/TA-Bench.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)の敵対的脆弱性は、これらのモデルを現実世界のアプリケーションに適用するセキュリティリスクのために大きな注目を集めている。 反対例の転送可能性に基づいて、アーキテクチャやパラメータがアクセスできないブラックボックスDNNモデルを騙すために、転送ベースの手法が増えている。 多大な努力が払われたが、これらの手法を体系的に、公平に、実用的に比較できる標準ベンチマークがまだ欠けている。 本研究は,不公平な比較や代替/勝利モデルの考慮不足などを避けるために,その効果を検証するためには,いくつかの手法の評価をより合理的かつ徹底的に行う必要があることを示す。 そこで,30以上のメソッドを実装したトランスファーベース攻撃ベンチマーク(ta-bench)を構築した。 本稿では,イメージネット上での25の代用/最適化モデルに対して,それらを総合的に評価し,比較する。 これらの手法の有効性に関する新たな知見が得られ,今後の評価ガイドラインが提供される。 コードネームはhttps://github.com/qizhangli/TA-Bench。

関連論文リスト

• MIBench: A Comprehensive Benchmark for Model Inversion Attack and Defense [43.71365087852274]
  Model Inversion (MI)攻撃は、ターゲットモデルの出力情報を活用して、プライバシに敏感なトレーニングデータを再構築することを目的としている。 包括的で整合性があり、信頼性の高いベンチマークが欠如していることは、非常に大きな課題である。 この致命的なギャップに対処するため、モデル反転攻撃と防御のための最初の実用的なベンチマーク(textitMIBench)を紹介した。
  論文  参考訳（メタデータ） (2024-10-07T16:13:49Z)
• Enhancing Adversarial Attacks: The Similar Target Method [6.293148047652131]
  敵対的な例は、ディープニューラルネットワークのアプリケーションに脅威をもたらす。 ディープニューラルネットワークは敵の例に対して脆弱であり、モデルのアプリケーションに脅威を与え、セキュリティ上の懸念を提起する。 我々はSimisal Target(ST)という類似の攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-08-21T14:16:36Z)
• Benchmarking Test-Time Adaptation against Distribution Shifts in Image Classification [77.0114672086012]
  テスト時間適応(TTA)は、予測時にのみラベルのないサンプルを活用することにより、モデルの一般化性能を向上させる技術である。 本稿では,広く使用されている5つの画像分類データセット上で,13のTTA手法とその変種を体系的に評価するベンチマークを提案する。
  論文  参考訳（メタデータ） (2023-07-06T16:59:53Z)
• Better Understanding Differences in Attribution Methods via Systematic Evaluations [57.35035463793008]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 これらの評価手法を用いて、広範囲のモデルにおいて広く用いられている属性手法の長所と短所について検討する。
  論文  参考訳（メタデータ） (2023-03-21T14:24:58Z)
• Making Substitute Models More Bayesian Can Enhance Transferability of Adversarial Examples [89.85593878754571]
  ディープニューラルネットワークにおける敵の例の転送可能性は多くのブラックボックス攻撃の欠如である。 我々は、望ましい転送可能性を達成するためにベイズモデルを攻撃することを提唱する。 我々の手法は近年の最先端を大きなマージンで上回る。
  論文  参考訳（メタデータ） (2023-02-10T07:08:13Z)
• Towards Better Understanding Attribution Methods [77.1487219861185]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
  論文  参考訳（メタデータ） (2022-05-20T20:50:17Z)
• Detection Defense Against Adversarial Attacks with Saliency Map [7.736844355705379]
  ニューラルネットワークは、人間の視覚にほとんど受容できない敵の例に弱いことがよく確認されている。 既存の防衛は、敵の攻撃に対するモデルの堅牢性を強化する傾向にある。 本稿では,新たな雑音と組み合わせた新しい手法を提案し,不整合戦略を用いて敵のサンプルを検出する。
  論文  参考訳（メタデータ） (2020-09-06T13:57:17Z)
• Yet Another Intermediate-Level Attack [31.055720988792416]
  ディープニューラルネットワーク(DNN)モデルにまたがる敵のサンプルの転送可能性は、ブラックボックス攻撃のスペクトルのくぼみである。 本稿では,ベースライン逆数例のブラックボックス転送性を向上させる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-08-20T09:14:04Z)
• Towards Transferable Adversarial Attack against Deep Face Recognition [58.07786010689529]
  ディープ畳み込みニューラルネットワーク(DCNN)は敵の例に弱いことが判明した。 転送可能な敵の例は、DCNNの堅牢性を著しく妨げます。 DFANetは畳み込み層で使用されるドロップアウトベースの手法であり,サロゲートモデルの多様性を高めることができる。 クエリなしで4つの商用APIをうまく攻撃できる新しい対向顔ペアを生成します。
  論文  参考訳（メタデータ） (2020-04-13T06:44:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。