論文の概要: Comparative Evaluation of Recent Universal Adversarial Perturbations in Image Classification

• arxiv url: http://arxiv.org/abs/2306.11261v1
• Date: Tue, 20 Jun 2023 03:29:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-21 15:41:20.078525
• Title: Comparative Evaluation of Recent Universal Adversarial Perturbations in Image Classification
• Title（参考訳）: 画像分類における最近の普遍的逆摂動の比較評価
• Authors: Juanjuan Weng, Zhiming Luo, Dazhen Lin, Shaozi Li
• Abstract要約: 敵のサンプルに対する畳み込みニューラルネットワーク(CNN)の脆弱性は最近、機械学習コミュニティで大きな注目を集めている。 近年の研究では、様々なCNNモデルにまたがる画像に依存しない、高度に伝達可能な普遍的対向摂動(UAP)の存在が明らかにされている。
• 参考スコア（独自算出の注目度）: 27.367498200911285
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The vulnerability of Convolutional Neural Networks (CNNs) to adversarial samples has recently garnered significant attention in the machine learning community. Furthermore, recent studies have unveiled the existence of universal adversarial perturbations (UAPs) that are image-agnostic and highly transferable across different CNN models. In this survey, our primary focus revolves around the recent advancements in UAPs specifically within the image classification task. We categorize UAPs into two distinct categories, i.e., noise-based attacks and generator-based attacks, thereby providing a comprehensive overview of representative methods within each category. By presenting the computational details of these methods, we summarize various loss functions employed for learning UAPs. Furthermore, we conduct a comprehensive evaluation of different loss functions within consistent training frameworks, including noise-based and generator-based. The evaluation covers a wide range of attack settings, including black-box and white-box attacks, targeted and untargeted attacks, as well as the examination of defense mechanisms. Our quantitative evaluation results yield several important findings pertaining to the effectiveness of different loss functions, the selection of surrogate CNN models, the impact of training data and data size, and the training frameworks involved in crafting universal attackers. Finally, to further promote future research on universal adversarial attacks, we provide some visualizations of the perturbations and discuss the potential research directions.
• Abstract（参考訳）: 敵のサンプルに対する畳み込みニューラルネットワーク(CNN)の脆弱性は最近、機械学習コミュニティで大きな注目を集めている。 さらに、近年の研究では、様々なCNNモデルにまたがる画像に依存しない、高度に伝達可能な普遍的敵対摂動(UAP)の存在を明らかにしている。 本調査では,画像分類タスクにおけるUAPの最近の進歩に主眼を置いている。 我々は、UAPをノイズベースの攻撃とジェネレータベースの攻撃という2つの異なるカテゴリに分類し、各カテゴリにおける代表的手法の包括的概要を提供する。 これらの手法の計算の詳細を提示することにより、UAPの学習に使用される様々な損失関数を要約する。 さらに,ノイズベースとジェネレータベースを含む一貫したトレーニングフレームワークにおいて,損失関数の包括的評価を行う。 この評価は、ブラックボックスおよびホワイトボックス攻撃、標的および非標的攻撃、および防御機構の検証を含む、幅広い攻撃設定をカバーしている。 定量的評価の結果,異なる損失関数の有効性,サロゲートcnnモデルの選択,トレーニングデータとデータサイズの影響,ユニバーサルアタッカー作成に関わるトレーニングフレームワークについて,いくつかの重要な知見が得られた。 最後に, 普遍的敵攻撃の今後の研究を促進するために, 摂動の可視化と今後の研究方向性について考察する。

関連論文リスト

• Systematic Evaluation of Synthetic Data Augmentation for Multi-class NetFlow Traffic [2.5182419298876857]
  マルチクラス分類モデルは特定のタイプの攻撃を識別し、より標的的で効果的なインシデント応答を可能にする。 最近の進歩は、生成モデルがデータの増大を補助し、不均衡なデータセットに対して優れたソリューションを提供すると主張することを示唆している。 本実験は,トレーニングデータのバランスをとる再サンプリング手法が,分類性能を確実に向上させるものではないことを示唆している。
  論文  参考訳（メタデータ） (2024-08-28T12:44:07Z)
• UNICAD: A Unified Approach for Attack Detection, Noise Reduction and Novel Class Identification [5.570086931219838]
  UNICADは、適応的なソリューションを提供するために様々な技術を統合する新しいフレームワークとして提案されている。 対象画像分類において、UNICADは正確な画像分類を達成し、未知のクラスを検出し、敵攻撃から回復する。 CIFAR-10データセットで行った実験は、UNICADが対向緩和および見知らぬクラス分類において有効であり、従来のモデルよりも優れていたことを示している。
  論文  参考訳（メタデータ） (2024-06-24T10:10:03Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Single-Class Target-Specific Attack against Interpretable Deep Learning Systems [14.453881413188455]
  SingleADVと呼ばれるシングルクラスターゲット固有のAdversa攻撃。 そこで本研究では,SingleADVと呼ばれる,単一クラス固有のAdversa攻撃について紹介する。
  論文  参考訳（メタデータ） (2023-07-12T23:07:06Z)
• Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
  機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。 本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。 検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
  論文  参考訳（メタデータ） (2023-03-11T04:19:31Z)
• Deviations in Representations Induced by Adversarial Attacks [0.0]
  研究によると、ディープラーニングモデルは敵の攻撃に弱い。 この発見は研究の新たな方向性をもたらし、脆弱性のあるネットワークを攻撃して防御するためにアルゴリズムが開発された。 本稿では,敵攻撃によって引き起こされる表現の偏差を計測し,解析する手法を提案する。
  論文  参考訳（メタデータ） (2022-11-07T17:40:08Z)
• Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
  深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。 我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。 我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
  論文  参考訳（メタデータ） (2022-08-18T08:19:26Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
  本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。 畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。 この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
  論文  参考訳（メタデータ） (2021-08-03T19:24:25Z)
• Performance Evaluation of Adversarial Attacks: Discrepancies and Solutions [51.8695223602729]
  機械学習モデルの堅牢性に挑戦するために、敵対攻撃方法が開発されました。 本稿では,Piece-wise Sampling Curving(PSC)ツールキットを提案する。 psc toolkitは計算コストと評価効率のバランスをとるオプションを提供する。
  論文  参考訳（メタデータ） (2021-04-22T14:36:51Z)
• CD-UAP: Class Discriminative Universal Adversarial Perturbation [83.60161052867534]
  単一の普遍的対向摂動(UAP)は、予測されたクラスラベルのほとんどを変更するために、すべての自然画像に追加することができる。 本稿では,対象ネットワークを騙して選択したクラスのみを誤分類する単一摂動を生成する,新たなユニバーサルアタック手法を提案する。
  論文  参考訳（メタデータ） (2020-10-07T09:26:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。