論文の概要: Investigating Human-Identifiable Features Hidden in Adversarial Perturbations

• arxiv url: http://arxiv.org/abs/2309.16878v1
• Date: Thu, 28 Sep 2023 22:31:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-02 16:04:12.929427
• Title: Investigating Human-Identifiable Features Hidden in Adversarial Perturbations
• Title（参考訳）: 対人摂動に隠れた人物識別機能の検討
• Authors: Dennis Y. Menn, Tzu-hsun Feng, Sriram Vishwanath, Hung-yi Lee
• Abstract要約: 我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
• 参考スコア（独自算出の注目度）: 54.39726653562144
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural networks perform exceedingly well across various machine learning tasks but are not immune to adversarial perturbations. This vulnerability has implications for real-world applications. While much research has been conducted, the underlying reasons why neural networks fall prey to adversarial attacks are not yet fully understood. Central to our study, which explores up to five attack algorithms across three datasets, is the identification of human-identifiable features in adversarial perturbations. Additionally, we uncover two distinct effects manifesting within human-identifiable features. Specifically, the masking effect is prominent in untargeted attacks, while the generation effect is more common in targeted attacks. Using pixel-level annotations, we extract such features and demonstrate their ability to compromise target models. In addition, our findings indicate a notable extent of similarity in perturbations across different attack algorithms when averaged over multiple models. This work also provides insights into phenomena associated with adversarial perturbations, such as transferability and model interpretability. Our study contributes to a deeper understanding of the underlying mechanisms behind adversarial attacks and offers insights for the development of more resilient defense strategies for neural networks.
• Abstract（参考訳）: ニューラルネットワークは、さまざまな機械学習タスクで非常によく機能するが、逆の摂動に影響を受けない。 この脆弱性は現実世界のアプリケーションに影響を及ぼす。 多くの研究が行われてきたが、ニューラルネットワークが敵の攻撃に苦しむ理由は、まだ完全には理解されていない。 3つのデータセットにまたがる最大5つの攻撃アルゴリズムを探索する我々の研究の中心は、敵の摂動における人間の識別可能な特徴の同定です。 さらに,人間の識別可能な特徴に現れる2つの異なる効果を明らかにする。 特に、マスク効果は標的外攻撃では顕著であり、生成効果は標的攻撃ではより一般的である。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルを妥協する能力を示す。 さらに,複数のモデルで平均化した場合,異なる攻撃アルゴリズム間の摂動の顕著な類似性を示した。 この研究は、伝達可能性やモデル解釈可能性など、敵の摂動に関連する現象に関する洞察も提供する。 本研究は,敵の攻撃の背後にあるメカニズムを深く理解し,ニューラルネットワークに対するより弾力性のある防御戦略の開発に向けた洞察を提供する。

関連論文リスト

• Detecting Adversarial Attacks in Semantic Segmentation via Uncertainty Estimation: A Deep Analysis [12.133306321357999]
  セグメンテーションのためのニューラルネットワークに対する敵攻撃を検出する不確実性に基づく手法を提案する。 我々は,不確実性に基づく敵攻撃の検出と様々な最先端ニューラルネットワークの詳細な解析を行う。 提案手法の有効性を示す数値実験を行った。
  論文  参考訳（メタデータ） (2024-08-19T14:13:30Z)
• Investigating and unmasking feature-level vulnerabilities of CNNs to adversarial perturbations [3.4530027457862]
  本研究では,畳み込みニューラルネットワーク(CNN)に対する対向摂動の影響について検討する。 本稿では,CNNの脆弱性を逆方向の摂動に対して調査するために,逆方向干渉フレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-31T08:14:44Z)
• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• A reading survey on adversarial machine learning: Adversarial attacks and their understanding [6.1678491628787455]
  Adversarial Machine Learningは、ニューラルネットワークがほぼオリジナルの入力を誤って分類する原因となる脆弱性を悪用し、理解する。 敵攻撃と呼ばれるアルゴリズムのクラスが提案され、ニューラルネットワークが異なるドメインの様々なタスクを誤って分類する。 本稿は、既存の敵攻撃とその理解について、異なる視点で調査する。
  論文  参考訳（メタデータ） (2023-08-07T07:37:26Z)
• Searching for the Essence of Adversarial Perturbations [73.96215665913797]
  本稿では,ニューラルネットワークの誤予測の原因となる,人間の認識可能な情報を含む対人摂動について述べる。 この人間の認識可能な情報の概念は、敵の摂動に関連する重要な特徴を説明できる。
  論文  参考訳（メタデータ） (2022-05-30T18:04:57Z)
• Identification of Attack-Specific Signatures in Adversarial Examples [62.17639067715379]
  異なる攻撃アルゴリズムは, その効果だけでなく, 被害者の質的な影響も示している。 以上の結果から, 予測的対人攻撃は, 模擬モデルにおける成功率だけでなく, 被害者に対するより深い下流効果によって比較されるべきであることが示唆された。
  論文  参考訳（メタデータ） (2021-10-13T15:40:48Z)
• Attack to Fool and Explain Deep Networks [59.97135687719244]
  対人摂動における人為的意味のパターンの証拠を提供することによって、私たちは逆転する。 我々の主な貢献は、その後視覚モデルを理解するためのツールに変換される、新しい実用的対人攻撃である。
  論文  参考訳（メタデータ） (2021-06-20T03:07:36Z)
• Explainable Adversarial Attacks in Deep Neural Networks Using Activation Profiles [69.9674326582747]
  本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。 これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
  論文  参考訳（メタデータ） (2021-03-18T13:04:21Z)
• Relationship between manifold smoothness and adversarial vulnerability in deep learning with local errors [2.7834038784275403]
  ニューラルネットワークにおける敵の脆弱性の起源について検討する。 本研究は,隠れ表現の固有スペクトルの比較的高速なパワーロー崩壊を必要とすることを明らかにする。
  論文  参考訳（メタデータ） (2020-07-04T08:47:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。