論文の概要: A Survey of Robustness and Safety of 2D and 3D Deep Learning Models Against Adversarial Attacks

• arxiv url: http://arxiv.org/abs/2310.00633v1
• Date: Sun, 1 Oct 2023 10:16:33 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-05 02:58:42.952674
• Title: A Survey of Robustness and Safety of 2D and 3D Deep Learning Models Against Adversarial Attacks
• Title（参考訳）: 敵対的攻撃に対する2次元・3次元深層学習モデルのロバスト性と安全性に関する調査
• Authors: Yanjie Li, Bin Xie, Songtao Guo, Yuanyuan Yang, Bin Xiao
• Abstract要約: ディープラーニングモデルは、敵の攻撃に対する堅牢性に制限があるため、十分に信頼できない。 まず、異なる視点から一般的な脅威モデルを構築し、それから2次元および3次元の敵攻撃の最新の進展を包括的にレビューする。 我々は3次元モデルに対する敵攻撃を体系的に研究した最初の人物である。
• 参考スコア（独自算出の注目度）: 22.054275309336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Benefiting from the rapid development of deep learning, 2D and 3D computer vision applications are deployed in many safe-critical systems, such as autopilot and identity authentication. However, deep learning models are not trustworthy enough because of their limited robustness against adversarial attacks. The physically realizable adversarial attacks further pose fatal threats to the application and human safety. Lots of papers have emerged to investigate the robustness and safety of deep learning models against adversarial attacks. To lead to trustworthy AI, we first construct a general threat model from different perspectives and then comprehensively review the latest progress of both 2D and 3D adversarial attacks. We extend the concept of adversarial examples beyond imperceptive perturbations and collate over 170 papers to give an overview of deep learning model robustness against various adversarial attacks. To the best of our knowledge, we are the first to systematically investigate adversarial attacks for 3D models, a flourishing field applied to many real-world applications. In addition, we examine physical adversarial attacks that lead to safety violations. Last but not least, we summarize present popular topics, give insights on challenges, and shed light on future research on trustworthy AI.
• Abstract（参考訳）: ディープラーニングの急速な発展により、2Dおよび3Dコンピュータビジョンアプリケーションは、オートパイロットやID認証など、多くの安全なシステムにデプロイされる。 しかし、ディープラーニングモデルは敵攻撃に対する堅牢性に制限があるため、十分に信頼できない。 物理的に実現可能な敵攻撃は、応用と人間の安全にさらに致命的な脅威をもたらす。 敵対的攻撃に対するディープラーニングモデルの堅牢性と安全性を調査する論文が数多く出ている。 信頼できるaiを実現するために、我々はまず異なる視点から一般的な脅威モデルを構築し、2dおよび3d攻撃の最新の進歩を包括的にレビューする。 我々は,敵対的事例の概念を知覚的摂動を超えて拡張し,170以上の論文を照合し,様々な敵対的攻撃に対する深層学習モデルの堅牢性について概説する。 我々の知る限りでは、我々は3Dモデルに対する敵攻撃を体系的に研究した最初の人物である。 さらに,安全性侵害につながる物理的敵攻撃についても検討する。 最後に、私たちは現在人気のトピックを要約し、課題に関する洞察を与え、信頼できるaiに関する今後の研究に光を当てます。

関連論文リスト

• Adversarial Attacks of Vision Tasks in the Past 10 Years: A Survey [21.4046846701173]
  敵対的攻撃は、機械学習推論中に重大なセキュリティ脅威を引き起こす。 既存のレビューは、しばしば攻撃分類に焦点を合わせ、包括的で詳細な分析を欠いている。 本稿は、従来のLVLM攻撃とLVLM攻撃の包括的概要を提供することによって、これらのギャップに対処する。
  論文  参考訳（メタデータ） (2024-10-31T07:22:51Z)
• Taking off the Rose-Tinted Glasses: A Critical Look at Adversarial ML Through the Lens of Evasion Attacks [11.830908033835728]
  我々は、過度に寛容な攻撃と過度に制限された防衛脅威モデルが、MLドメインにおける防衛開発を妨げていると主張している。 我々は、AIの観点からではなく、システムセキュリティの観点から、敵対的機械学習を分析する。
  論文  参考訳（メタデータ） (2024-10-15T21:33:23Z)
• Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
  最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。 我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
  論文  参考訳（メタデータ） (2023-11-16T16:09:44Z)
• AdvMono3D: Advanced Monocular 3D Object Detection with Depth-Aware Robust Adversarial Training [64.14759275211115]
  そこで本研究では,DART3Dと呼ばれるモノクル3次元物体検出のための,深度対応の頑健な対向学習法を提案する。 我々の敵の訓練アプローチは、本質的な不確実性に乗じて、敵の攻撃に対する堅牢性を大幅に向上させる。
  論文  参考訳（メタデータ） (2023-09-03T07:05:32Z)
• Adversarial Attacks and Defenses on 3D Point Cloud Classification: A Survey [28.21038594191455]
  優れた成果にもかかわらず、ディープラーニングアルゴリズムは敵の攻撃に対して脆弱である。 本稿では,まず,敵攻撃の原理と特徴を紹介し,敵の事例生成手法を要約し,分析する。 また、データ重視およびモデル重視の方法で組織された防衛戦略の概要も提供する。
  論文  参考訳（メタデータ） (2023-07-01T11:46:36Z)
• Defense Against Adversarial Attacks on Audio DeepFake Detection [0.4511923587827302]
  Audio DeepFakes (DF) は、ディープラーニングを用いて人工的に生成された発話である。 脅威を防ぐために、生成された音声を検出する複数のニューラルネットワークベースの手法が提案されている。
  論文  参考訳（メタデータ） (2022-12-30T08:41:06Z)
• A Comprehensive Study of the Robustness for LiDAR-based 3D Object Detectors against Adversarial Attacks [84.10546708708554]
  3Dオブジェクト検出器は、セキュリティクリティカルなタスクにおいてますます重要になっている。 敵の攻撃に対する強固さを理解することが不可欠である。 本稿では,LiDARをベースとした3次元検出器の対角攻撃時のロバスト性評価と解析を行った。
  論文  参考訳（メタデータ） (2022-12-20T13:09:58Z)
• Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
  本稿では,身体的敵意攻撃の概要を概観する。 本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。 提案する評価基準であるhiPAAは6つの視点から構成される。
  論文  参考訳（メタデータ） (2022-09-30T01:59:53Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• Evaluating Adversarial Attacks on Driving Safety in Vision-Based Autonomous Vehicles [21.894836150974093]
  近年、多くのディープラーニングモデルが自動運転に採用されている。 近年の研究では、敵対的攻撃がディープラーニングに基づく3次元物体検出モデルの検出精度を著しく低下させることが示されている。
  論文  参考訳（メタデータ） (2021-08-06T04:52:09Z)
• Perceptual Adversarial Robustness: Defense Against Unseen Threat Models [58.47179090632039]
  敵対的堅牢性の鍵となる課題は、人間の知覚を正確に数学的に特徴づけることの欠如である。 ニューラル・パーセプチュアル・脅威モデルの下で、我々は新しいパーセプチュアル・アタックとディフェンスを開発する。 NPTMは非常に広範であるため、知覚的攻撃に対する知覚的適応訓練(PAT)は、他の多くの種類の敵対的攻撃に対して堅牢性を与える。
  論文  参考訳（メタデータ） (2020-06-22T22:40:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。