論文の概要: Consistent Attack: Universal Adversarial Perturbation on Embodied Vision
Navigation
- arxiv url: http://arxiv.org/abs/2206.05751v4
- Date: Sat, 25 Mar 2023 08:43:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-29 03:23:33.909296
- Title: Consistent Attack: Universal Adversarial Perturbation on Embodied Vision
Navigation
- Title(参考訳): コンシスタントアタック: 身体視ナビゲーションにおける普遍的対人摂動
- Authors: Chengyang Ying, You Qiaoben, Xinning Zhou, Hang Su, Wenbo Ding,
Jianyong Ai
- Abstract要約: 深層ニューラルネットワークと組み合わせた視覚ナビゲーションにおける身体的エージェントが注目されている。
ディープニューラルネットワークは、悪意のある敵のノイズに弱いことが示されており、身体視覚ナビゲーションにおいて破滅的な障害を引き起こす可能性がある。
本稿では, エージェント攻撃のための新しい攻撃手法として, Reward UAP と Trajectory UAP の2つを提案する。
- 参考スコア(独自算出の注目度): 11.263936924488545
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Embodied agents in vision navigation coupled with deep neural networks have
attracted increasing attention. However, deep neural networks have been shown
vulnerable to malicious adversarial noises, which may potentially cause
catastrophic failures in Embodied Vision Navigation. Among different
adversarial noises, universal adversarial perturbations (UAP), i.e., a constant
image-agnostic perturbation applied on every input frame of the agent, play a
critical role in Embodied Vision Navigation since they are
computation-efficient and application-practical during the attack. However,
existing UAP methods ignore the system dynamics of Embodied Vision Navigation
and might be sub-optimal. In order to extend UAP to the sequential decision
setting, we formulate the disturbed environment under the universal noise
$\delta$, as a $\delta$-disturbed Markov Decision Process ($\delta$-MDP). Based
on the formulation, we analyze the properties of $\delta$-MDP and propose two
novel Consistent Attack methods, named Reward UAP and Trajectory UAP, for
attacking Embodied agents, which consider the dynamic of the MDP and calculate
universal noises by estimating the disturbed distribution and the disturbed Q
function. For various victim models, our Consistent Attack can cause a
significant drop in their performance in the PointGoal task in Habitat with
different datasets and different scenes. Extensive experimental results
indicate that there exist serious potential risks for applying Embodied Vision
Navigation methods to the real world.
- Abstract(参考訳): 深層ニューラルネットワークと組み合わされた視覚ナビゲーションの具体化エージェントが注目を集めている。
しかし、ディープニューラルネットワークは悪意のある敵のノイズに弱いことが示されており、これは身体視覚ナビゲーションの破滅的な障害を引き起こす可能性がある。
様々な逆方向ノイズの中で、普遍的逆方向摂動(UAP)、すなわちエージェントの入力フレームに印加される一定の画像非依存の摂動は、攻撃中は計算効率が高く、応用実践的であるため、身体的視覚ナビゲーションにおいて重要な役割を果たす。
しかし、既存のUAP手法は、エンボディード・ビジョン・ナビゲーションのシステムの力学を無視し、準最適かもしれない。
uap をシーケンシャルな決定設定に拡張するために、普遍ノイズ$\delta$ の下で乱れた環境を$\delta$-disturbed markov 決定プロセス ($\delta$-mdp) として定式化する。
この定式化に基づいて、$\delta$-MDPの特性を分析し、乱れ分布と乱れQ関数を推定することにより、MDPのダイナミクスを考慮し、普遍的な雑音を計算する、Reward UAP と Trajectory UAP という2つの新しい Consistent Attack法を提案する。
さまざまな犠牲者モデルに対して、当社のConsistent Attackは、さまざまなデータセットと異なるシーンで、HabitatのPointGoalタスクのパフォーマンスが大幅に低下する可能性がある。
広汎な実験結果から,実世界への身体的視覚ナビゲーション手法の適用には重大なリスクが存在することが示唆された。
関連論文リスト
- SSAP: A Shape-Sensitive Adversarial Patch for Comprehensive Disruption of Monocular Depth Estimation in Autonomous Navigation Applications [7.631454773779265]
SSAP(Shape-Sensitive Adrial Patch)は,自律ナビゲーションアプリケーションにおける単眼深度推定(MDE)を阻害する新しい手法である。
我々のパッチは、推定距離を歪ませたり、システムの観点から消える物体の錯覚を作り出すことによって、2つの異なる方法でMDEを選択的に弱体化させる。
提案手法は平均深度推定誤差が0.5を超え,CNNベースMDEモデルの目標領域の99%に影響を及ぼす。
論文 参考訳(メタデータ) (2024-03-18T07:01:21Z) - FG-UAP: Feature-Gathering Universal Adversarial Perturbation [15.99512720802142]
本稿では,ニューラル・コラプス(NC)が発生する層を攻撃することにより,ユニバーサル・ディバイサル・摂動(UAP)を生成することを提案する。
NCにより、提案された攻撃は、すべての自然画像の特徴を周囲に集めることができ、それゆえ、FG-UAP(Feature-Gathering UAP)と呼ばれる。
提案アルゴリズムの有効性は,未目標および目標とする汎用攻撃,限られたデータセットによる攻撃,転送ベースのブラックボックス攻撃など,豊富な実験において評価される。
論文 参考訳(メタデータ) (2022-09-27T02:03:42Z) - Physical Passive Patch Adversarial Attacks on Visual Odometry Systems [6.391337032993737]
本研究では,視覚計測に基づく自律ナビゲーションシステムに対するパッチ対向攻撃について検討する。
本研究では,現場にパッチ対向攻撃を配置することにより,視覚計測モデルの誤差マージンを著しく向上させることができることを示す。
論文 参考訳(メタデータ) (2022-07-11T14:41:06Z) - Downlink Power Allocation in Massive MIMO via Deep Learning: Adversarial
Attacks and Training [62.77129284830945]
本稿では,無線環境における回帰問題を考察し,敵攻撃がDLベースのアプローチを損なう可能性があることを示す。
また,攻撃に対するDLベースの無線システムの堅牢性が著しく向上することを示す。
論文 参考訳(メタデータ) (2022-06-14T04:55:11Z) - Dual Spoof Disentanglement Generation for Face Anti-spoofing with Depth
Uncertainty Learning [54.15303628138665]
フェース・アンチ・スプーフィング(FAS)は、顔認識システムが提示攻撃を防ぐ上で重要な役割を担っている。
既存のフェース・アンチ・スプーフィング・データセットは、アイデンティティと重要なばらつきが不十分なため、多様性を欠いている。
我々は「生成によるアンチ・スプーフィング」によりこの問題に対処するデュアル・スポット・ディアンタングメント・ジェネレーション・フレームワークを提案する。
論文 参考訳(メタデータ) (2021-12-01T15:36:59Z) - A Survey On Universal Adversarial Attack [68.1815935074054]
ディープニューラルネットワーク(DNN)は、様々なアプリケーションで顕著な性能を示している。
敵の摂動の攻撃に弱いことが広く知られている。
ユニバーサル敵対的摂動(UAP)は、ほとんどの画像のターゲットDNNをだまします。
論文 参考訳(メタデータ) (2021-03-02T06:35:09Z) - Universal Adversarial Perturbations Through the Lens of Deep
Steganography: Towards A Fourier Perspective [78.05383266222285]
人間の知覚不能な摂動は、ほとんどの画像のディープニューラルネットワーク(DNN)をだますために生成することができる。
ディープステガノグラフィタスクでは同様の現象が観測されており、デコーダネットワークはわずかに乱れたカバー画像から秘密の画像を取得することができる。
1)攻撃と隠蔽を同時に行うユニバーサル・シークレット・アドバイサル・パーターベーション(USAP)、(2)人間の目では見えないハイパスUAP(HP-UAP)の2つの新しい変種を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:26:39Z) - Double Targeted Universal Adversarial Perturbations [83.60161052867534]
本稿では, インスタンス別画像依存摂動と汎用的普遍摂動のギャップを埋めるために, 二重目標普遍摂動(DT-UAP)を導入する。
提案したDTAアルゴリズムの幅広いデータセットに対する有効性を示すとともに,物理攻撃の可能性を示す。
論文 参考訳(メタデータ) (2020-10-07T09:08:51Z) - Learn2Perturb: an End-to-end Feature Perturbation Learning to Improve
Adversarial Robustness [79.47619798416194]
Learn2Perturbは、ディープニューラルネットワークの対角的堅牢性を改善するために、エンドツーエンドの機能摂動学習アプローチである。
予測最大化にインスパイアされ、ネットワークと雑音パラメータを連続的にトレーニングするために、交互にバックプロパゲーショントレーニングアルゴリズムが導入された。
論文 参考訳(メタデータ) (2020-03-02T18:27:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。