Fugu-MT 論文翻訳(概要): Physical Adversarial Attacks on Deep Neural Networks for Traffic Sign Recognition: A Feasibility Study

論文の概要: Physical Adversarial Attacks on Deep Neural Networks for Traffic Sign Recognition: A Feasibility Study

arxiv url: http://arxiv.org/abs/2302.13570v1
Date: Mon, 27 Feb 2023 08:10:58 GMT
ステータス: 処理完了
システム内更新日: 2023-02-28 16:22:10.724610
Title: Physical Adversarial Attacks on Deep Neural Networks for Traffic Sign Recognition: A Feasibility Study
Title（参考訳）: 交通信号認識のためのディープニューラルネットワークの物理的対立攻撃 : 可能性スタディ
Authors: Fabian Woitschek, Georg Schneider
Abstract要約: 物理的環境に適用され,異なる環境条件下でのシステムを騙すことができる摂動を生成するために,異なるブラックボックス攻撃法を適用した。本研究は, 異なる手法を用いて, 信頼性の高い物理的敵対攻撃を行うことができ, 結果として生じる摂動の認知度を低減できることを示す。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Deep Neural Networks (DNNs) are increasingly applied in the real world in safety critical applications like advanced driver assistance systems. An example for such use case is represented by traffic sign recognition systems. At the same time, it is known that current DNNs can be fooled by adversarial attacks, which raises safety concerns if those attacks can be applied under realistic conditions. In this work we apply different black-box attack methods to generate perturbations that are applied in the physical environment and can be used to fool systems under different environmental conditions. To the best of our knowledge we are the first to combine a general framework for physical attacks with different black-box attack methods and study the impact of the different methods on the success rate of the attack under the same setting. We show that reliable physical adversarial attacks can be performed with different methods and that it is also possible to reduce the perceptibility of the resulting perturbations. The findings highlight the need for viable defenses of a DNN even in the black-box case, but at the same time form the basis for securing a DNN with methods like adversarial training which utilizes adversarial attacks to augment the original training data.
Abstract（参考訳）: 深層ニューラルネットワーク(dnn)は、高度な運転支援システムのような安全上重要なアプリケーションにおいて、現実の世界にますます適用されている。そのようなユースケースの例として、交通標識認識システムがある。同時に、現在のDNNは敵攻撃によって騙されうることが知られており、現実的な条件下で攻撃を適用できれば安全上の懸念が高まる。本研究では,物理環境に適用され,異なる環境条件下でシステムを騙すことができる摂動を生成するために,異なるブラックボックス攻撃手法を適用する。我々の知る限りでは、我々は、物理攻撃の一般的な枠組みを異なるブラックボックス攻撃法と組み合わせて、同じ条件下での攻撃の成功率に対する異なる方法の影響を研究するのが最初である。異なる方法で信頼できる物理敵攻撃を行うことが出来、結果として生じる摂動の知覚可能性も低減できることを示す。この知見は,ブラックボックスの場合においても,DNNの有効防衛の必要性を浮き彫りにするが,同時に,敵の攻撃を利用して元の訓練データを増強する敵の訓練などの手法によるDNNの確保の基礎を形成する。

関連論文リスト

Detecting Adversarial Examples [24.585379549997743]
本稿では,Deep Neural Networks の層出力を解析して,敵のサンプルを検出する手法を提案する。提案手法はDNNアーキテクチャと互換性が高く,画像,ビデオ,オーディオなど,さまざまな領域にまたがって適用可能である。
論文参考訳（メタデータ） (2024-10-22T21:42:59Z)
Attack Anything: Blind DNNs via Universal Background Adversarial Attack [17.73886733971713]
ディープニューラルネットワーク(DNN)は、敵の摂動に感受性があり、弱いことが広く実証されている。本稿では,攻撃効果を多種多様な対象,モデル,タスク間でよく一般化する,攻撃の背景攻撃フレームワークを提案する。我々は,様々な対象,モデル,タスクにまたがるデジタルドメインと物理ドメインの両方において,包括的かつ厳密な実験を行い,提案手法のあらゆる攻撃の有効性を実証した。
論文参考訳（メタデータ） (2024-08-17T12:46:53Z)
RobustSense: Defending Adversarial Attack for Secure Device-Free Human Activity Recognition [37.387265457439476]
我々は、共通の敵攻撃を防御する新しい学習フレームワーク、RobustSenseを提案する。本手法は,無線による人間行動認識と人物識別システムに有効である。
論文参考訳（メタデータ） (2022-04-04T15:06:03Z)
Real-World Adversarial Examples involving Makeup Application [58.731070632586594]
フルフェイスメイクを用いた身体的敵攻撃を提案する。我々の攻撃は、色や位置関連エラーなどのメークアップアプリケーションにおける手動エラーを効果的に克服できる。
論文参考訳（メタデータ） (2021-09-04T05:29:28Z)
The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文参考訳（メタデータ） (2021-06-26T10:50:07Z)
Adversarial example generation with AdaBelief Optimizer and Crop Invariance [8.404340557720436]
敵攻撃は、安全クリティカルなアプリケーションにおいて堅牢なモデルを評価し、選択するための重要な方法である。本稿では,AdaBelief Iterative Fast Gradient Method (ABI-FGM)とCrop-Invariant attack Method (CIM)を提案する。我々の手法は、最先端の勾配に基づく攻撃法よりも成功率が高い。
論文参考訳（メタデータ） (2021-02-07T06:00:36Z)
A Targeted Attack on Black-Box Neural Machine Translation with Parallel Data Poisoning [60.826628282900955]
ブラックボックスNMTシステムに対する標的攻撃は、並列トレーニングデータのごく一部を毒殺することで実現可能であることを示す。この攻撃は、システムのトレーニングデータを形成するために、クローリングされたWebドキュメントのターゲットの破損によって現実的に実現可能であることを示す。大量の並列データで訓練された最先端のシステムでさえ、この攻撃は驚くほど低予算で(50%以上の成功率で)成功している。
論文参考訳（メタデータ） (2020-11-02T01:52:46Z)
Measurement-driven Security Analysis of Imperceptible Impersonation Attacks [54.727945432381716]
本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
論文参考訳（メタデータ） (2020-08-26T19:27:27Z)
ConFoc: Content-Focus Protection Against Trojan Attacks on Neural Networks [0.0]
トロイの木馬攻撃は、推測やテストの時間に悪用されるマークまたはトリガーのサンプルを使用して、トレーニング時にいくつかの誤った振る舞いを挿入する。本稿では、DNNが入力のスタイルを無視してコンテンツに集中するように教えられるトロイの木馬攻撃に対する防御手法を提案する。その結果,本手法は全攻撃における攻撃成功率を1%に低下させることがわかった。
論文参考訳（メタデータ） (2020-07-01T19:25:34Z)
A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。本稿では,入力空間における自己教師型対向学習機構を提案する。これは、反逆攻撃に対する強力な堅牢性を提供する。
論文参考訳（メタデータ） (2020-06-08T20:42:39Z)
Towards Transferable Adversarial Attack against Deep Face Recognition [58.07786010689529]
ディープ畳み込みニューラルネットワーク(DCNN)は敵の例に弱いことが判明した。転送可能な敵の例は、DCNNの堅牢性を著しく妨げます。 DFANetは畳み込み層で使用されるドロップアウトベースの手法であり,サロゲートモデルの多様性を高めることができる。クエリなしで4つの商用APIをうまく攻撃できる新しい対向顔ペアを生成します。
論文参考訳（メタデータ） (2020-04-13T06:44:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。