論文の概要: Robust Backdoor Attacks on Object Detection in Real World

• arxiv url: http://arxiv.org/abs/2309.08953v1
• Date: Sat, 16 Sep 2023 11:09:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-19 18:25:08.698822
• Title: Robust Backdoor Attacks on Object Detection in Real World
• Title（参考訳）: 実世界における物体検出に対するロバストバックドア攻撃
• Authors: Yaguan Qian, Boyuan Ji, Shuke He, Shenhui Huang, Xiang Ling, Bin Wang, Wei Wang
• Abstract要約: 攻撃対象の異なるサイズに対応するために,可変サイズバックドアトリガを提案する。 さらに,悪質な対人訓練というバックドアトレーニングを提案し,バックドア物体検出装置が物理的ノイズでトリガの特徴を学習できるようにした。
• 参考スコア（独自算出の注目度）: 8.910615149604201
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning models are widely deployed in many applications, such as object detection in various security fields. However, these models are vulnerable to backdoor attacks. Most backdoor attacks were intensively studied on classified models, but little on object detection. Previous works mainly focused on the backdoor attack in the digital world, but neglect the real world. Especially, the backdoor attack's effect in the real world will be easily influenced by physical factors like distance and illumination. In this paper, we proposed a variable-size backdoor trigger to adapt to the different sizes of attacked objects, overcoming the disturbance caused by the distance between the viewing point and attacked object. In addition, we proposed a backdoor training named malicious adversarial training, enabling the backdoor object detector to learn the feature of the trigger with physical noise. The experiment results show this robust backdoor attack (RBA) could enhance the attack success rate in the real world.
• Abstract（参考訳）: ディープラーニングモデルは、さまざまなセキュリティ分野におけるオブジェクト検出など、多くのアプリケーションに広く展開されている。 しかし、これらのモデルはバックドア攻撃に弱い。 ほとんどのバックドア攻撃は分類されたモデルで集中的に研究されたが、オブジェクト検出ではそうではなかった。 以前の作品は、主にデジタル世界のバックドア攻撃に焦点を当てていたが、現実世界を無視していた。 特に、現実世界におけるバックドア攻撃の効果は、距離や照明といった物理的要因の影響を受けやすい。 本稿では,攻撃対象の異なるサイズに対応するための可変サイズのバックドアトリガーを提案し,視聴地点と攻撃対象の距離による乱れを克服する。 さらに,悪質な敵意トレーニングと呼ばれるバックドアトレーニングを提案し,バックドア物体検出装置がトリガーの特徴を物理ノイズで学習できるようにした。 実験の結果,このロバストバックドアアタック(rba)は,実世界の攻撃成功率を高めることができることがわかった。

関連論文リスト

• Mitigating Backdoor Attack by Injecting Proactive Defensive Backdoor [63.84477483795964]
  データ中毒のバックドア攻撃は、機械学習モデルにとって深刻なセキュリティ上の脅威である。 本稿では,トレーニング中のバックドアディフェンスに着目し,データセットが有害になりうる場合でもクリーンなモデルをトレーニングすることを目的とした。 PDB(Proactive Defensive Backdoor)と呼ばれる新しい防衛手法を提案する。
  論文  参考訳（メタデータ） (2024-05-25T07:52:26Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Dangerous Cloaking: Natural Trigger based Backdoor Attacks on Object Detectors in the Physical World [20.385028861767218]
  この研究は、既存の物体検出器が物理的バックドア攻撃の影響を受けやすいことを実証している。 このようなバックドアを2つの悪用可能な攻撃シナリオからオブジェクト検出器に埋め込むことができることを示す。 我々は, アンカーベースYolo-V3, Yolo-V4, アンカーフリーCenterNetの3つの人気物体検出アルゴリズムを評価する。
  論文  参考訳（メタデータ） (2022-01-21T10:11:27Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Robust Backdoor Attacks against Deep Neural Networks in Real Physical World [6.622414121450076]
  ディープニューラルネットワーク(DNN)は様々な応用に広く利用されている。 既存のバックドアのほとんどがデジタルドメインに焦点を当てているが、実際の現実世界におけるバックドア攻撃を調査する研究はほとんどない。 本稿では,物理世界のディープラーニングモデルに対するバックドア攻撃を実装するためのロバストな物理バックドア攻撃手法ptbを提案する。
  論文  参考訳（メタデータ） (2021-04-15T11:51:14Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)
• Backdoor Attacks Against Deep Learning Systems in the Physical World [23.14528973663843]
  実世界の様々な条件下での物理的バックドア攻撃の実現可能性について検討した。 物理的なオブジェクトが課す制約を克服するように慎重に設定されている場合、物理的なバックドア攻撃は高い成功を収める。 今日の(デジタル)バックドアに対する最先端の防御のうち4つは、物理的なバックドアに対して効果がない。
  論文  参考訳（メタデータ） (2020-06-25T17:26:20Z)
• Clean-Label Backdoor Attacks on Video Recognition Models [87.46539956587908]
  画像バックドア攻撃は、ビデオでははるかに効果が低いことを示す。 本稿では,映像認識モデルに対するバックドアトリガとして,ユニバーサル・ディバイサル・トリガーを提案する。 提案したバックドア攻撃は,最先端のバックドア防御・検出手法に耐性がある。
  論文  参考訳（メタデータ） (2020-03-06T04:51:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。