論文の概要: Attention-Based Real-Time Defenses for Physical Adversarial Attacks in Vision Applications

• arxiv url: http://arxiv.org/abs/2311.11191v1
• Date: Sun, 19 Nov 2023 00:47:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-22 06:54:46.834970
• Title: Attention-Based Real-Time Defenses for Physical Adversarial Attacks in Vision Applications
• Title（参考訳）: 視覚障害者の身体的攻撃に対する注意に基づくリアルタイム防御
• Authors: Giulio Rossolini, Alessandro Biondi and Giorgio Buttazzo
• Abstract要約: ディープニューラルネットワークはコンピュータビジョンタスクにおいて優れたパフォーマンスを示すが、現実の敵攻撃に対する脆弱性は深刻なセキュリティ上の懸念を引き起こす。 本稿では、敵チャネルの注意力を利用して、浅いネットワーク層における悪意のある物体を素早く識別・追跡する、効果的な注意に基づく防御機構を提案する。 また、効率的な多フレーム防御フレームワークを導入し、防御性能と計算コストの両方を評価することを目的とした広範な実験を通じて、その有効性を検証した。
• 参考スコア（独自算出の注目度）: 58.06882713631082
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep neural networks exhibit excellent performance in computer vision tasks, but their vulnerability to real-world adversarial attacks, achieved through physical objects that can corrupt their predictions, raises serious security concerns for their application in safety-critical domains. Existing defense methods focus on single-frame analysis and are characterized by high computational costs that limit their applicability in multi-frame scenarios, where real-time decisions are crucial. To address this problem, this paper proposes an efficient attention-based defense mechanism that exploits adversarial channel-attention to quickly identify and track malicious objects in shallow network layers and mask their adversarial effects in a multi-frame setting. This work advances the state of the art by enhancing existing over-activation techniques for real-world adversarial attacks to make them usable in real-time applications. It also introduces an efficient multi-frame defense framework, validating its efficacy through extensive experiments aimed at evaluating both defense performance and computational cost.
• Abstract（参考訳）: ディープニューラルネットワークはコンピュータビジョンタスクにおいて優れたパフォーマンスを示すが、現実世界の敵攻撃に対する脆弱性は、予測を破損させる物理的オブジェクトを通じて達成され、安全クリティカルな領域における彼らのアプリケーションに対する深刻なセキュリティ上の懸念を引き起こす。 既存の防衛手法は単一フレーム解析に焦点を当てており、リアルタイム決定が重要であるマルチフレームシナリオの適用性を制限する高い計算コストが特徴である。 この問題に対処するため,本研究では,浅層ネットワーク層における悪意のある物体を迅速に識別し追跡し,その敵効果をマルチフレーム設定で隠蔽する,効果的な注意に基づく防御機構を提案する。 本研究は,実世界の敵対的攻撃に対する既存のオーバーアクティベーション技術を拡張し,それらをリアルタイムアプリケーションで利用可能にすることにより,最先端の技術である。 また、効率的なマルチフレーム防御フレームワークを導入し、防御性能と計算コストの両方を評価するための広範囲な実験を通じて有効性を検証する。

関連論文リスト

• EdgeShield: A Universal and Efficient Edge Computing Framework for Robust AI [8.688432179052441]
  敵攻撃の普遍的かつ効率的な検出を可能にするエッジフレームワークの設計を提案する。 このフレームワークは、注意に基づく敵検出手法と、軽量な検出ネットワークの形成を含む。 その結果、97.43%のFスコアが達成できることが示され、このフレームワークが敵の攻撃を検出する能力を示している。
  論文  参考訳（メタデータ） (2024-08-08T02:57:55Z)
• Embodied Laser Attack:Leveraging Scene Priors to Achieve Agent-based Robust Non-contact Attacks [13.726534285661717]
  本稿では,非接触レーザー攻撃を動的に調整する新しい枠組みであるEmbodied Laser Attack (ELA)を紹介する。 認識モジュールのために,ERAは交通シーンの本質的な事前知識に基づいて,局所的な視点変換ネットワークを革新的に開発してきた。 決定と制御モジュールのために、ERAは時間を要するアルゴリズムを採用する代わりに、データ駆動の強化学習で攻撃エージェントを訓練する。
  論文  参考訳（メタデータ） (2023-12-15T06:16:17Z)
• Physical Adversarial Attacks For Camera-based Smart Systems: Current Trends, Categorization, Applications, Research Challenges, and Future Outlook [2.1771693754641013]
  本研究の目的は,身体的敵意攻撃の概念を深く理解し,その特徴を分析し,特徴を識別することである。 本稿では, 対象タスクに応じて異なるアプリケーションで分類した, 様々な物理的敵攻撃手法について検討する。 本研究は,これらの攻撃手法の有効性,ステルス性,ロバスト性の観点から評価する。
  論文  参考訳（メタデータ） (2023-08-11T15:02:19Z)
• Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
  機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。 本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。 検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
  論文  参考訳（メタデータ） (2023-03-11T04:19:31Z)
• Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
  本稿では,身体的敵意攻撃の概要を概観する。 本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。 提案する評価基準であるhiPAAは6つの視点から構成される。
  論文  参考訳（メタデータ） (2022-09-30T01:59:53Z)
• GUARD: Graph Universal Adversarial Defense [54.81496179947696]
  GUARD(Graph Universal Adversarial Defense)という,シンプルで効果的な手法を提案する。 GUARDは、各ノードを共通の防御パッチで攻撃から保護する。 GUARDは、複数の敵攻撃に対する複数の確立されたGCNの堅牢性を大幅に改善し、最先端の防御手法を大きなマージンで上回る。
  論文  参考訳（メタデータ） (2022-04-20T22:18:12Z)
• Defending From Physically-Realizable Adversarial Attacks Through Internal Over-Activation Analysis [61.68061613161187]
  Z-Maskは、敵の攻撃に対する畳み込みネットワークの堅牢性を改善するための堅牢で効果的な戦略である。 提示されたディフェンスは、入力画像中の対向対象に対応する画素を検出し、隠蔽するために、内部ネットワーク機能で実行される特定のZスコア解析に依存する。 追加の実験では、Z-Maskは防衛対応攻撃に対して堅牢であることが示された。
  論文  参考訳（メタデータ） (2022-03-14T17:41:46Z)
• Temporally-Transferable Perturbations: Efficient, One-Shot Adversarial Attacks for Online Visual Object Trackers [81.90113217334424]
  本研究では, オブジェクトテンプレート画像からのみ, 一時移動可能な対人的摂動を生成するフレームワークを提案する。 この摂動はあらゆる検索画像に追加され、事実上何のコストもかからないが、それでもトラッカーを騙すのに成功している。
  論文  参考訳（メタデータ） (2020-12-30T15:05:53Z)
• AdvFoolGen: Creating Persistent Troubles for Deep Classifiers [17.709146615433458]
  本稿では,自然画像と同じ特徴空間から攻撃画像を生成するAdvFoolGenというブラックボックス攻撃を提案する。 我々は、最先端の防衛技術に直面する攻撃の有効性と堅牢性を実証する。
  論文  参考訳（メタデータ） (2020-07-20T21:27:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。