論文の概要: Evaluating the Adversarial Robustness of Detection Transformers

• arxiv url: http://arxiv.org/abs/2412.18718v1
• Date: Wed, 25 Dec 2024 00:31:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-30 17:28:27.797254
• Title: Evaluating the Adversarial Robustness of Detection Transformers
• Title（参考訳）: 検出変圧器の対向ロバスト性の評価
• Authors: Amirhossein Nazeri, Chunheng Zhao, Pierluigi Pisu,
• Abstract要約: 物体検出変換器(DETR)の進歩にもかかわらず、敵の攻撃に対する堅牢性は未解明のままである。 本稿では,White-box と Black-box の両攻撃下での DETR モデルとその変種を包括的に評価する。 解析の結果, DETR 変種間のネットワーク内転送性は高いが, CNN モデルに対するネットワーク間転送性は限定的であることがわかった。
• 参考スコア（独自算出の注目度）: 4.3012765978447565
• License:
• Abstract: Robust object detection is critical for autonomous driving and mobile robotics, where accurate detection of vehicles, pedestrians, and obstacles is essential for ensuring safety. Despite the advancements in object detection transformers (DETRs), their robustness against adversarial attacks remains underexplored. This paper presents a comprehensive evaluation of DETR model and its variants under both white-box and black-box adversarial attacks, using the MS-COCO and KITTI datasets to cover general and autonomous driving scenarios. We extend prominent white-box attack methods (FGSM, PGD, and CW) to assess DETR vulnerability, demonstrating that DETR models are significantly susceptible to adversarial attacks, similar to traditional CNN-based detectors. Our extensive transferability analysis reveals high intra-network transferability among DETR variants, but limited cross-network transferability to CNN-based models. Additionally, we propose a novel untargeted attack designed specifically for DETR, exploiting its intermediate loss functions to induce misclassification with minimal perturbations. Visualizations of self-attention feature maps provide insights into how adversarial attacks affect the internal representations of DETR models. These findings reveal critical vulnerabilities in detection transformers under standard adversarial attacks, emphasizing the need for future research to enhance the robustness of transformer-based object detectors in safety-critical applications.
• Abstract（参考訳）: ロバスト物体検出は自動運転車や移動ロボットにとって重要であり、車両、歩行者、障害物の正確な検出が安全確保に不可欠である。 物体検出変換器(DETR)の進歩にもかかわらず、敵の攻撃に対する堅牢性は未解明のままである。 本稿では、MS-COCOおよびKITTIデータセットを用いて、ホワイトボックスとブラックボックスの両方の攻撃下でのDETRモデルとその変種を包括的に評価し、一般的な運転シナリオと自律運転シナリオをカバーする。 我々は、DeTRの脆弱性を評価するために、顕著なホワイトボックス攻撃法(FGSM、PGD、CW)を拡張し、従来のCNNベースの検出器と同様、DETRモデルが敵攻撃にかなり敏感であることを実証した。 広範囲にわたる転送可能性解析により, DETR 変種間のネットワーク内転送性は高いが,CNN ベースモデルに対するネットワーク間転送性は限定的であることがわかった。 さらに,DETR専用に設計された新規な未目標攻撃を提案し,その中間損失関数を利用して最小の摂動による誤分類を誘導する。 自己注意型特徴マップの可視化は、敵攻撃がDETRモデルの内部表現にどのように影響するかについての洞察を提供する。 これらの結果から, 標準対向攻撃下での変圧器検出において重要な脆弱性が明らかとなり, 安全クリティカルな応用において, 変圧器を用いた物体検出装置の堅牢性を高めるための今後の研究の必要性が強調された。

関連論文リスト

• Black-Box Adversarial Attack on Vision Language Models for Autonomous Driving [65.61999354218628]
  我々は、自律運転システムにおいて、視覚言語モデル(VLM)をターゲットとしたブラックボックス敵攻撃を設計する第一歩を踏み出す。 セマンティクスの生成と注入による低レベル推論の分解を目標とするカスケーディング・アディバーショナル・ディスラプション(CAD)を提案する。 本稿では,高レベルリスクシナリオの理解と構築に代理VLMを活用することで,動的適応に対処するリスクシーンインジェクションを提案する。
  論文  参考訳（メタデータ） (2025-01-23T11:10:02Z)
• Evaluating the Robustness of LiDAR Point Cloud Tracking Against Adversarial Attack [6.101494710781259]
  本稿では,3次元物体追跡の文脈において,敵攻撃を行うための統一的なフレームワークを提案する。 ブラックボックス攻撃のシナリオに対処するために,新たなトランスファーベースアプローチであるTarget-aware Perturbation Generation (TAPG)アルゴリズムを導入する。 実験の結果,ブラックボックスとホワイトボックスの両方の攻撃を受けた場合,高度な追跡手法に重大な脆弱性があることが判明した。
  論文  参考訳（メタデータ） (2024-10-28T10:20:38Z)
• Improving the Robustness of Object Detection and Classification AI models against Adversarial Patch Attacks [2.963101656293054]
  我々は攻撃手法を解析し、堅牢な防御手法を提案する。 我々は,物体形状,テクスチャ,位置を利用する逆パッチ攻撃を用いて,モデル信頼度を20%以上下げることに成功した。 敵攻撃にも拘わらず,本手法はモデルレジリエンスを著しく向上させ,高精度かつ信頼性の高いローカライゼーションを実現している。
  論文  参考訳（メタデータ） (2024-03-04T13:32:48Z)
• The Efficacy of Transformer-based Adversarial Attacks in Security Domains [0.7156877824959499]
  システムディフェンダーの対向サンプルに対する変換器のロバスト性およびシステムアタッカーに対する対向強度を評価する。 我々の研究は、セキュリティ領域におけるモデルの攻撃と防御のためにトランスフォーマーアーキテクチャを研究することの重要性を強調している。
  論文  参考訳（メタデータ） (2023-10-17T21:45:23Z)
• A Comprehensive Study of the Robustness for LiDAR-based 3D Object Detectors against Adversarial Attacks [84.10546708708554]
  3Dオブジェクト検出器は、セキュリティクリティカルなタスクにおいてますます重要になっている。 敵の攻撃に対する強固さを理解することが不可欠である。 本稿では,LiDARをベースとした3次元検出器の対角攻撃時のロバスト性評価と解析を行った。
  論文  参考訳（メタデータ） (2022-12-20T13:09:58Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• A Certifiable Security Patch for Object Tracking in Self-Driving Systems via Historical Deviation Modeling [22.753164675538457]
  自動運転車における物体追跡の安全性に関する最初の体系的研究について述べる。 我々は,KF(Kalman Filter)に基づくメインストリームマルチオブジェクトトラッカー(MOT)が,マルチセンサ融合機構が有効であっても安全でないことを証明した。 我々は、KFベースのMOTのための単純かつ効果的なセキュリティパッチを提案し、その中核は、KFの観測と予測に対する焦点のバランスをとるための適応戦略である。
  論文  参考訳（メタデータ） (2022-07-18T12:30:24Z)
• Miti-DETR: Object Detection based on Transformers with Mitigatory Self-Attention Convergence [17.854940064699985]
  本稿では,緩和的自己認識機構を備えたトランスフォーマーアーキテクチャを提案する。 Miti-DETRは、各注意層の入力をそのレイヤの出力に予約し、「非注意」情報が注意伝播に関与するようにします。 Miti-DETRは、既存のDETRモデルに対する平均検出精度と収束速度を大幅に向上させる。
  論文  参考訳（メタデータ） (2021-12-26T03:23:59Z)
• CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
  安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。 意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。 我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
  論文  参考訳（メタデータ） (2021-09-22T12:46:04Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• Towards robust sensing for Autonomous Vehicles: An adversarial perspective [82.83630604517249]
  結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。 敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。 より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
  論文  参考訳（メタデータ） (2020-07-14T05:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。