論文の概要: TOG: Targeted Adversarial Objectness Gradient Attacks on Real-time
Object Detection Systems
- arxiv url: http://arxiv.org/abs/2004.04320v1
- Date: Thu, 9 Apr 2020 01:36:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-15 01:51:39.727858
- Title: TOG: Targeted Adversarial Objectness Gradient Attacks on Real-time
Object Detection Systems
- Title(参考訳): TOG:リアルタイム物体検出システムにおける対向的対象度勾配攻撃
- Authors: Ka-Ho Chow, Ling Liu, Mehmet Emre Gursoy, Stacey Truex, Wenqi Wei,
Yanzhao Wu
- Abstract要約: 本稿では,3つの対象対向対象度勾配攻撃により,オブジェクトの消滅,オブジェクトのファブリケーション,オブジェクトのミスラベリングが生じることを示す。
また,ブラックボックス攻撃に対して,対向移動性を利用する汎用的オブジェクト指向勾配攻撃を提案する。
その結果、深刻な敵の脆弱性が示され、堅牢な物体検出システムを開発するための説得力のある必要性が示された。
- 参考スコア(独自算出の注目度): 14.976840260248913
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rapid growth of real-time huge data capturing has pushed the deep
learning and data analytic computing to the edge systems. Real-time object
recognition on the edge is one of the representative deep neural network (DNN)
powered edge systems for real-world mission-critical applications, such as
autonomous driving and augmented reality. While DNN powered object detection
edge systems celebrate many life-enriching opportunities, they also open doors
for misuse and abuse. This paper presents three Targeted adversarial Objectness
Gradient attacks, coined as TOG, which can cause the state-of-the-art deep
object detection networks to suffer from object-vanishing, object-fabrication,
and object-mislabeling attacks. We also present a universal objectness gradient
attack to use adversarial transferability for black-box attacks, which is
effective on any inputs with negligible attack time cost, low human
perceptibility, and particularly detrimental to object detection edge systems.
We report our experimental measurements using two benchmark datasets (PASCAL
VOC and MS COCO) on two state-of-the-art detection algorithms (YOLO and SSD).
The results demonstrate serious adversarial vulnerabilities and the compelling
need for developing robust object detection systems.
- Abstract(参考訳): リアルタイムの巨大なデータキャプチャの急速な成長は、ディープラーニングとデータ分析コンピューティングをエッジシステムへと押し上げた。
エッジ上のリアルタイムオブジェクト認識は、自律運転や拡張現実など、現実のミッションクリティカルなアプリケーションのための代表的ディープニューラルネットワーク(DNN)駆動エッジシステムの1つである。
dnnによる物体検出エッジシステムは、多くのライフエンリッチな機会を祝っているが、悪用や悪用の扉も開けている。
本稿では,対象とする3つの対向的対象性勾配攻撃をtogとして,最先端の深層物体検出ネットワークがオブジェクト破壊,オブジェクト生成,オブジェクトミスラベル攻撃に苦しむ原因について述べる。
また,ブラックボックス攻撃に対する対向的伝達性を利用する汎用的オブジェクト指向勾配攻撃も提案する。これは攻撃時間や人間の知覚能力の低い入力,特に物体検出エッジシステムに対する有害な入力に対して有効である。
2つのベンチマークデータセット(PASCAL VOCとMS COCO)を用いて2つの最先端検出アルゴリズム(YOLOとSSD)について実験を行った。
その結果, 深刻な敵対的脆弱性と, 堅牢な物体検出システムの開発の必要性が示された。
関連論文リスト
- Uncertainty Estimation for 3D Object Detection via Evidential Learning [63.61283174146648]
本稿では,3次元検出器における鳥の視線表示における明らかな学習損失を利用して,3次元物体検出の不確かさを定量化するためのフレームワークを提案する。
本研究では,これらの不確実性評価の有効性と重要性を,分布外シーンの特定,局所化の不十分な物体の発見,および(偽陰性)検出の欠如について示す。
論文 参考訳(メタデータ) (2024-10-31T13:13:32Z) - Run-time Monitoring of 3D Object Detection in Automated Driving Systems Using Early Layer Neural Activation Patterns [12.384452095533396]
自動運転システム(ADS)の統合性監視は安全性を確保する上で最重要である。
近年のディープニューラルネットワーク(DNN)を用いた物体検出装置の進歩,検出誤差への感受性は重要な懸念点である。
論文 参考訳(メタデータ) (2024-04-11T12:24:47Z) - Run-time Introspection of 2D Object Detection in Automated Driving
Systems Using Learning Representations [13.529124221397822]
ディープニューラルネットワーク(DNN)に基づく2次元物体検出のための新しいイントロスペクションソリューションを提案する。
KITTIとBDDのデータセットで評価された1段階および2段階のオブジェクト検出器を用いて,2次元オブジェクト検出におけるエラー検出のためのSOTAイントロスペクション機構を実装した。
性能評価の結果,提案手法はSOTA法より優れており,BDDデータセットのエラー率を9%から17%まで絶対的に削減できることがわかった。
論文 参考訳(メタデータ) (2024-03-02T10:56:14Z) - Identifying Out-of-Distribution Samples in Real-Time for Safety-Critical
2D Object Detection with Margin Entropy Loss [0.0]
本稿では,2次元物体検出におけるOOD検出の限界エントロピー(ME)損失を利用したアプローチを提案する。
ME損失をトレーニングしたCNNは、標準信頼度スコアを用いてOOD検出を著しく上回る。
論文 参考訳(メタデータ) (2022-09-01T11:14:57Z) - Adversarially-Aware Robust Object Detector [85.10894272034135]
本稿では,ロバスト検出器 (RobustDet) を提案する。
本モデルは, クリーン画像の検出能力を維持しながら, 傾きを効果的に解き, 検出堅牢性を著しく向上させる。
論文 参考訳(メタデータ) (2022-07-13T13:59:59Z) - Adversarial Attack and Defense of YOLO Detectors in Autonomous Driving
Scenarios [3.236217153362305]
本稿では,自律走行車における視覚的検出の客観性に着目した効果的な攻撃戦略を提案する。
実験の結果、対象のアスペクトを標的とした攻撃は45.17%と43.50%が、分類や局所化の損失から生じた攻撃よりも効果的であることが示されている。
提案手法は, KITTI と COCO_traffic でそれぞれ最大21% と 12% mAP の目標指向攻撃に対する検出器の堅牢性を向上させることができる。
論文 参考訳(メタデータ) (2022-02-10T00:47:36Z) - Achieving Real-Time LiDAR 3D Object Detection on a Mobile Device [53.323878851563414]
本稿では,強化学習技術を用いたネットワーク拡張とpruning検索を組み込んだコンパイラ対応統一フレームワークを提案する。
具体的には,リカレントニューラルネットワーク(RNN)を用いて,ネットワークの強化とプルーニングの両面での統一的なスキームを自動で提供する。
提案手法は,モバイルデバイス上でのリアルタイム3次元物体検出を実現する。
論文 参考訳(メタデータ) (2020-12-26T19:41:15Z) - Measurement-driven Security Analysis of Imperceptible Impersonation
Attacks [54.727945432381716]
本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。
皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。
また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
論文 参考訳(メタデータ) (2020-08-26T19:27:27Z) - Understanding Object Detection Through An Adversarial Lens [14.976840260248913]
本稿では, 対向レンズ下での深部物体検出装置の脆弱性を分析し評価するための枠組みを提案する。
提案手法は, リアルタイムオブジェクト検出システムにおいて, 対向行動やリスクを解析するための方法論的ベンチマークとして機能することが実証された。
我々は、このフレームワークが、現実世界のアプリケーションにデプロイされるディープオブジェクト検出器のセキュリティリスクと敵の堅牢性を評価するツールとしても役立つと推測する。
論文 参考訳(メタデータ) (2020-07-11T18:41:47Z) - Progressive Object Transfer Detection [84.48927705173494]
本稿では,新しいプログレッシブオブジェクト転送検出(POTD)フレームワークを提案する。
第一に、POTDは様々なドメインの様々なオブジェクトを効果的にプログレッシブな検出手順に活用することができる。
第2に、POTDは2つの微妙な転送段階、すなわち、LSTD(low-Shot Transfer Detection)とWSTD(Weakly Supervised Transfer Detection)から構成される。
論文 参考訳(メタデータ) (2020-02-12T00:16:24Z) - SESS: Self-Ensembling Semi-Supervised 3D Object Detection [138.80825169240302]
具体的には、ラベルのない新しい未知のデータに基づくネットワークの一般化を促進するための、徹底的な摂動スキームを設計する。
我々のSESSは、50%のラベル付きデータを用いて、最先端の完全教師付き手法と比較して、競争性能を達成している。
論文 参考訳(メタデータ) (2019-12-26T08:48:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。