論文の概要: TnT Attacks! Universal Naturalistic Adversarial Patches Against Deep Neural Network Systems

• arxiv url: http://arxiv.org/abs/2111.09999v1
• Date: Fri, 19 Nov 2021 01:35:10 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-22 15:52:12.712229
• Title: TnT Attacks! Universal Naturalistic Adversarial Patches Against Deep Neural Network Systems
• Title（参考訳）: tnt攻撃! ニューラルネットシステムに対する普遍的自然主義的対立パッチ
• Authors: Bao Gia Doan, Minhui Xue, Shiqing Ma, Ehsan Abbasnejad, Damith C. Ranasinghe
• Abstract要約: ディープニューラルネットワークは、敵対的な入力からの攻撃に対して脆弱であり、最近では、トロイの木馬がモデルの判断を誤解したりハイジャックしたりする。 TnTは、シーン内でTnTでキャプチャされた任意の入力画像は、ネットワーク(未攻撃)を誤認する。 既存の最先端手法よりも高い攻撃成功率を達成するパッチを作成するための攻撃の一般化を示す。
• 参考スコア（独自算出の注目度）: 15.982408142401072
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Deep neural networks are vulnerable to attacks from adversarial inputs and, more recently, Trojans to misguide or hijack the decision of the model. We expose the existence of an intriguing class of bounded adversarial examples -- Universal NaTuralistic adversarial paTches -- we call TnTs, by exploring the superset of the bounded adversarial example space and the natural input space within generative adversarial networks. Now, an adversary can arm themselves with a patch that is naturalistic, less malicious-looking, physically realizable, highly effective -- achieving high attack success rates, and universal. A TnT is universal because any input image captured with a TnT in the scene will: i) misguide a network (untargeted attack); or ii) force the network to make a malicious decision (targeted attack). Interestingly, now, an adversarial patch attacker has the potential to exert a greater level of control -- the ability to choose a location independent, natural-looking patch as a trigger in contrast to being constrained to noisy perturbations -- an ability is thus far shown to be only possible with Trojan attack methods needing to interfere with the model building processes to embed a backdoor at the risk discovery; but, still realize a patch deployable in the physical world. Through extensive experiments on the large-scale visual classification task, ImageNet with evaluations across its entire validation set of 50,000 images, we demonstrate the realistic threat from TnTs and the robustness of the attack. We show a generalization of the attack to create patches achieving higher attack success rates than existing state-of-the-art methods. Our results show the generalizability of the attack to different visual classification tasks (CIFAR-10, GTSRB, PubFig) and multiple state-of-the-art deep neural networks such as WideResnet50, Inception-V3 and VGG-16.
• Abstract（参考訳）: ディープニューラルネットワークは、敵の入力からの攻撃に対して脆弱であり、最近ではトロイの木馬がモデルの判断を誤ったりハイジャックしたりする。 我々は、有界逆数例空間と生成逆数ネットワーク内の自然入力空間のスーパーセットを探索することによって、TnTsと呼ばれる有界逆数例の興味深いクラスの存在を明らかにする。 今や敵は、自然主義的で、悪意がなく、物理的に実現可能で、非常に効果的で、高い攻撃の成功率、そして普遍的なパッチで武装することができる。 TnTは、シーン内でTnTでキャプチャされた任意の入力画像が次のようになるため、普遍的である。 一 ネットワーク(ターゲティングされていない攻撃)を誤認すること、又は 二 ネットワークに悪意のある決定(標的攻撃)を強制すること。 興味深いことに、敵のパッチアタッカーは、ノイズの多い摂動に制約されているのとは対照的に、位置に依存しない自然なパッチをトリガーとして選択する能力として、より大きなレベルのコントロールを実行する可能性がある。 大規模視覚分類タスクであるimagenetにおける5万画像の検証セット全体の評価実験を通じて,tntsによる現実的な脅威と攻撃の堅牢性を示す。 既存の最先端手法よりも高い攻撃成功率を達成するパッチを作成するための攻撃の一般化を示す。 本研究は,視覚分類タスク(CIFAR-10, GTSRB, PubFig)およびWideResnet50, Inception-V3, VGG-16といった最先端の深層ニューラルネットワークに対する攻撃の一般化可能性を示す。

関連論文リスト

• Attack Anything: Blind DNNs via Universal Background Adversarial Attack [17.73886733971713]
  ディープニューラルネットワーク(DNN)は、敵の摂動に感受性があり、弱いことが広く実証されている。 本稿では,攻撃効果を多種多様な対象,モデル,タスク間でよく一般化する,攻撃の背景攻撃フレームワークを提案する。 我々は,様々な対象,モデル,タスクにまたがるデジタルドメインと物理ドメインの両方において,包括的かつ厳密な実験を行い,提案手法のあらゆる攻撃の有効性を実証した。
  論文  参考訳（メタデータ） (2024-08-17T12:46:53Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Defending Against Person Hiding Adversarial Patch Attack with a Universal White Frame [28.128458352103543]
  高性能物体検出ネットワークは、敵のパッチ攻撃に対して脆弱である。 人身攻撃は、多くの安全クリティカルなアプリケーションにおいて深刻な問題として浮上している。 防御パターンを最適化することで人身攻撃を緩和する新しい防衛戦略を提案する。
  論文  参考訳（メタデータ） (2022-04-27T15:18:08Z)
• Preemptive Image Robustification for Protecting Users against Man-in-the-Middle Adversarial Attacks [16.017328736786922]
  Man-in-the-Middleの敵対者は、ウェブユーザーがオンラインでアップロードした画像を悪意を持って傍受し、妨害する。 この種の攻撃は、単純なパフォーマンス劣化の上に厳しい倫理的懸念を引き起こす可能性がある。 本研究では, 対向摂動に頑健な自然画像近傍の点を求める2段階最適化アルゴリズムを考案した。
  論文  参考訳（メタデータ） (2021-12-10T16:06:03Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Double Targeted Universal Adversarial Perturbations [83.60161052867534]
  本稿では, インスタンス別画像依存摂動と汎用的普遍摂動のギャップを埋めるために, 二重目標普遍摂動(DT-UAP)を導入する。 提案したDTAアルゴリズムの幅広いデータセットに対する有効性を示すとともに,物理攻撃の可能性を示す。
  論文  参考訳（メタデータ） (2020-10-07T09:08:51Z)
• Perceptual Adversarial Robustness: Defense Against Unseen Threat Models [58.47179090632039]
  敵対的堅牢性の鍵となる課題は、人間の知覚を正確に数学的に特徴づけることの欠如である。 ニューラル・パーセプチュアル・脅威モデルの下で、我々は新しいパーセプチュアル・アタックとディフェンスを開発する。 NPTMは非常に広範であるため、知覚的攻撃に対する知覚的適応訓練(PAT)は、他の多くの種類の敵対的攻撃に対して堅牢性を与える。
  論文  参考訳（メタデータ） (2020-06-22T22:40:46Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。