論文の概要: Modeling Electromagnetic Signal Injection Attacks on Camera-based Smart Systems: Applications and Mitigation

• arxiv url: http://arxiv.org/abs/2408.05124v1
• Date: Fri, 9 Aug 2024 15:33:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-12 15:27:33.598729
• Title: Modeling Electromagnetic Signal Injection Attacks on Camera-based Smart Systems: Applications and Mitigation
• Title（参考訳）: カメラを用いたスマートシステムにおける電磁信号注入攻撃のモデル化:応用と軽減
• Authors: Youqian Zhang, Michael Cheung, Chunxi Yang, Xinwei Zhai, Zitong Shen, Xinyu Ji, Eugene Y. Fu, Sze-Yiu Chau, Xiapu Luo,
• Abstract要約: 電磁波は安全またはセキュリティクリティカルなシステムに脅威をもたらす。 このような攻撃により、攻撃者はリモートで画像を操作でき、誤ったAI判断につながる。 本研究は,攻撃に対する堅牢性を向上させるための対人訓練に関するパイロット研究である。
• 参考スコア（独自算出の注目度）: 18.909937495767313
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Numerous safety- or security-critical systems depend on cameras to perceive their surroundings, further allowing artificial intelligence (AI) to analyze the captured images to make important decisions. However, a concerning attack vector has emerged, namely, electromagnetic waves, which pose a threat to the integrity of these systems. Such attacks enable attackers to manipulate the images remotely, leading to incorrect AI decisions, e.g., autonomous vehicles missing detecting obstacles ahead resulting in collisions. The lack of understanding regarding how different systems react to such attacks poses a significant security risk. Furthermore, no effective solutions have been demonstrated to mitigate this threat. To address these gaps, we modeled the attacks and developed a simulation method for generating adversarial images. Through rigorous analysis, we confirmed that the effects of the simulated adversarial images are indistinguishable from those from real attacks. This method enables researchers and engineers to rapidly assess the susceptibility of various AI vision applications to these attacks, without the need for constructing complicated attack devices. In our experiments, most of the models demonstrated vulnerabilities to these attacks, emphasizing the need to enhance their robustness. Fortunately, our modeling and simulation method serves as a stepping stone toward developing more resilient models. We present a pilot study on adversarial training to improve their robustness against attacks, and our results demonstrate a significant improvement by recovering up to 91% performance, offering a promising direction for mitigating this threat.
• Abstract（参考訳）: 多くの安全・セキュリティクリティカルなシステムはカメラに頼って周囲を感知し、さらに人工知能(AI)が捉えた画像を分析して重要な決定を下すことができる。 しかし、関連する攻撃ベクトル、すなわち電磁波が出現し、これらのシステムの完全性に脅威を与えている。 このような攻撃により、攻撃者はリモートで画像を操作でき、不正なAI判断、例えば自動運転車が障害物を検出するのに失敗し、衝突する。 このような攻撃に対して異なるシステムがどう反応するかについての理解の欠如は、重大なセキュリティリスクをもたらす。 さらに、この脅威を軽減する効果的な解決策は示されていない。 これらのギャップに対処するため,攻撃をモデル化し,敵画像を生成するシミュレーション手法を開発した。 厳密な解析により,シミュレーションした対向画像の効果が実際の攻撃と区別できないことを確認した。 この方法では、複雑な攻撃装置を構築することなく、研究者やエンジニアが様々なAIビジョンアプリケーションのこれらの攻撃に対する感受性を迅速に評価できる。 実験では、ほとんどのモデルがこれらの攻撃に対する脆弱性を示し、その堅牢性を高める必要性を強調しました。 幸いなことに、我々のモデリングとシミュレーション手法は、より弾力性のあるモデルを開発するための足場として役立ちます。 本研究は,攻撃に対する堅牢性を向上させるための対人訓練に関するパイロット研究であり,この脅威を緩和するための有望な方向を提供するため,最大91%の性能回復による顕著な改善が示された。

関連論文リスト

• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [70.93622520400385]
  本稿では,VLAに基づくロボットシステムのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する,標的のない位置認識型攻撃目標を提案する。 また、カメラの視野内に小さなカラフルなパッチを配置し、デジタル環境と物理環境の両方で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• Principles of Designing Robust Remote Face Anti-Spoofing Systems [60.05766968805833]
  本稿では,デジタル攻撃に対する最先端の対面防止手法の脆弱性に光を当てる。 反偽造システムに遭遇する一般的な脅威を包括的に分類する。
  論文  参考訳（メタデータ） (2024-06-06T02:05:35Z)
• A Novel Approach to Guard from Adversarial Attacks using Stable Diffusion [0.0]
  我々の提案は、AI Guardianフレームワークに対する別のアプローチを提案する。 トレーニングプロセスに敵対的な例を含める代わりに、AIシステムをトレーニングせずに行うことを提案する。 これは、より広い範囲の攻撃に対して本質的に回復力のあるシステムを構築することを目的としています。
  論文  参考訳（メタデータ） (2024-05-03T04:08:15Z)
• A Human-in-the-Middle Attack against Object Detection Systems [4.764637544913963]
  本稿では,暗号におけるman-in-the-Middle攻撃に触発された新たなハードウェア攻撃を提案する。 この攻撃はUAP(Universal Adversarial Perturbations)を生成し、USBカメラと検出システムとの間の摂動を注入する。 これらの知見は、自律運転のような安全クリティカルなシステムにおけるディープラーニングモデルの適用に対する深刻な懸念を提起する。
  論文  参考訳（メタデータ） (2022-08-15T13:21:41Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Threat Model-Agnostic Adversarial Defense using Diffusion Models [14.603209216642034]
  ディープニューラルネットワーク(DNN)は、敵攻撃として知られる、知覚できない悪意のある摂動に対して非常に敏感である。 ディープニューラルネットワーク(DNN)は、敵攻撃として知られる、知覚できない悪意のある摂動に対して非常に敏感である。
  論文  参考訳（メタデータ） (2022-07-17T06:50:48Z)
• RobustSense: Defending Adversarial Attack for Secure Device-Free Human Activity Recognition [37.387265457439476]
  我々は、共通の敵攻撃を防御する新しい学習フレームワーク、RobustSenseを提案する。 本手法は,無線による人間行動認識と人物識別システムに有効である。
  論文  参考訳（メタデータ） (2022-04-04T15:06:03Z)
• A Tutorial on Adversarial Learning Attacks and Countermeasures [0.0]
  機械学習モデルは、それを明示的にプログラムすることなく、高精度な予測を行うことができる。 敵の学習攻撃は 深刻なセキュリティの脅威を 引き起こす 本稿では、敵対的学習の原理を詳細に解説し、異なる攻撃シナリオを説明し、この脅威に対する最先端の防御機構について深い洞察を与える。
  論文  参考訳（メタデータ） (2022-02-21T17:14:45Z)
• Exploring Adversarial Robustness of Multi-Sensor Perception Systems in Self Driving [87.3492357041748]
  本稿では,敵物体をホスト車両の上に配置することで,マルチセンサ検出の実用的感受性を示す。 実験の結果, 攻撃が成功した原因は主に画像の特徴が損なわれやすいことが判明した。 よりロバストなマルチモーダル知覚システムに向けて,特徴分断を伴う敵対的訓練が,このような攻撃に対するロバスト性を大幅に高めることを示す。
  論文  参考訳（メタデータ） (2021-01-17T21:15:34Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。