論文の概要: Consistent Attack: Universal Adversarial Perturbation on Embodied Vision Navigation

• arxiv url: http://arxiv.org/abs/2206.05751v1
• Date: Sun, 12 Jun 2022 14:45:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-14 14:58:42.309692
• Title: Consistent Attack: Universal Adversarial Perturbation on Embodied Vision Navigation
• Title（参考訳）: コンシスタントアタック: 身体視ナビゲーションにおける普遍的対人摂動
• Authors: You Qiaoben, Chengyang Ying, Xinning Zhou, Hang Su, Jun Zhu, Bo Zhang
• Abstract要約: 深層ニューラルネットワークと組み合わせた視覚ナビゲーションにおける身体的エージェントが注目されている。 ディープニューラルネットワークは悪意のある敵のノイズに弱いため、身体視覚ナビゲーションにおいて破滅的な障害を引き起こす可能性がある。
• 参考スコア（独自算出の注目度）: 29.653532047143976
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Embodied agents in vision navigation coupled with deep neural networks have attracted increasing attention. However, deep neural networks are vulnerable to malicious adversarial noises, which may potentially cause catastrophic failures in Embodied Vision Navigation. Among these adversarial noises, universal adversarial perturbations (UAP), i.e., the image-agnostic perturbation applied on each frame received by the agent, are more critical for Embodied Vision Navigation since they are computation-efficient and application-practical during the attack. However, existing UAP methods do not consider the system dynamics of Embodied Vision Navigation. For extending UAP in the sequential decision setting, we formulate the disturbed environment under the universal noise $\delta$, as a $\delta$-disturbed Markov Decision Process ($\delta$-MDP). Based on the formulation, we analyze the properties of $\delta$-MDP and propose two novel Consistent Attack methods for attacking Embodied agents, which first consider the dynamic of the MDP by estimating the disturbed Q function and the disturbed distribution. In spite of victim models, our Consistent Attack can cause a significant drop in the performance for the Goalpoint task in habitat. Extensive experimental results indicate that there exist potential risks for applying Embodied Vision Navigation methods to the real world.
• Abstract（参考訳）: 深層ニューラルネットワークと組み合わされた視覚ナビゲーションの具体化エージェントが注目を集めている。 しかし、ディープニューラルネットワークは悪意のある敵のノイズに弱いため、身体視覚ナビゲーションの破滅的な障害を引き起こす可能性がある。 これらの対向ノイズの中で、ユニバーサル対向摂動(UAP)、すなわちエージェントが受信した各フレームに適用される画像非依存の摂動は、攻撃中は計算効率が高く、応用実践的であるため、身体的視覚ナビゲーションにとってより重要となる。 しかし、既存のUAP手法では、エンボダイド・ビジョン・ナビゲーションのシステム力学を考慮していない。 逐次決定設定でUAPを拡張するためには、乱れた環境を$\delta$-disturbed Markov Decision Process($\delta$-MDP)としてユニバーサルノイズ$\delta$で定式化する。 この定式化に基づき,$\delta$-mdpの特性を解析し,乱れq関数と乱れ分布を推定し,まずmdpのダイナミックを考慮し,具体化剤を攻撃するための2つの新しい一貫した攻撃法を提案する。 被害モデルにもかかわらず、我々のコンスタントアタックは生息地におけるゴールポイントタスクのパフォーマンスを著しく低下させる可能性がある。 広範な実験結果から,実世界に具体的視覚ナビゲーション手法を適用するリスクが存在する可能性が示唆された。

関連論文リスト

• SSAP: A Shape-Sensitive Adversarial Patch for Comprehensive Disruption of Monocular Depth Estimation in Autonomous Navigation Applications [7.631454773779265]
  SSAP(Shape-Sensitive Adrial Patch)は,自律ナビゲーションアプリケーションにおける単眼深度推定(MDE)を阻害する新しい手法である。 我々のパッチは、推定距離を歪ませたり、システムの観点から消える物体の錯覚を作り出すことによって、2つの異なる方法でMDEを選択的に弱体化させる。 提案手法は平均深度推定誤差が0.5を超え,CNNベースMDEモデルの目標領域の99%に影響を及ぼす。
  論文  参考訳（メタデータ） (2024-03-18T07:01:21Z)
• FG-UAP: Feature-Gathering Universal Adversarial Perturbation [15.99512720802142]
  本稿では,ニューラル・コラプス(NC)が発生する層を攻撃することにより,ユニバーサル・ディバイサル・摂動(UAP)を生成することを提案する。 NCにより、提案された攻撃は、すべての自然画像の特徴を周囲に集めることができ、それゆえ、FG-UAP(Feature-Gathering UAP)と呼ばれる。 提案アルゴリズムの有効性は,未目標および目標とする汎用攻撃,限られたデータセットによる攻撃,転送ベースのブラックボックス攻撃など,豊富な実験において評価される。
  論文  参考訳（メタデータ） (2022-09-27T02:03:42Z)
• Physical Passive Patch Adversarial Attacks on Visual Odometry Systems [6.391337032993737]
  本研究では,視覚計測に基づく自律ナビゲーションシステムに対するパッチ対向攻撃について検討する。 本研究では,現場にパッチ対向攻撃を配置することにより,視覚計測モデルの誤差マージンを著しく向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-07-11T14:41:06Z)
• Downlink Power Allocation in Massive MIMO via Deep Learning: Adversarial Attacks and Training [62.77129284830945]
  本稿では,無線環境における回帰問題を考察し,敵攻撃がDLベースのアプローチを損なう可能性があることを示す。 また,攻撃に対するDLベースの無線システムの堅牢性が著しく向上することを示す。
  論文  参考訳（メタデータ） (2022-06-14T04:55:11Z)
• Dual Spoof Disentanglement Generation for Face Anti-spoofing with Depth Uncertainty Learning [54.15303628138665]
  フェース・アンチ・スプーフィング(FAS)は、顔認識システムが提示攻撃を防ぐ上で重要な役割を担っている。 既存のフェース・アンチ・スプーフィング・データセットは、アイデンティティと重要なばらつきが不十分なため、多様性を欠いている。 我々は「生成によるアンチ・スプーフィング」によりこの問題に対処するデュアル・スポット・ディアンタングメント・ジェネレーション・フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-12-01T15:36:59Z)
• A Survey On Universal Adversarial Attack [68.1815935074054]
  ディープニューラルネットワーク(DNN)は、様々なアプリケーションで顕著な性能を示している。 敵の摂動の攻撃に弱いことが広く知られている。 ユニバーサル敵対的摂動(UAP)は、ほとんどの画像のターゲットDNNをだまします。
  論文  参考訳（メタデータ） (2021-03-02T06:35:09Z)
• Universal Adversarial Perturbations Through the Lens of Deep Steganography: Towards A Fourier Perspective [78.05383266222285]
  人間の知覚不能な摂動は、ほとんどの画像のディープニューラルネットワーク(DNN)をだますために生成することができる。 ディープステガノグラフィタスクでは同様の現象が観測されており、デコーダネットワークはわずかに乱れたカバー画像から秘密の画像を取得することができる。 1)攻撃と隠蔽を同時に行うユニバーサル・シークレット・アドバイサル・パーターベーション(USAP)、(2)人間の目では見えないハイパスUAP(HP-UAP)の2つの新しい変種を提案する。
  論文  参考訳（メタデータ） (2021-02-12T12:26:39Z)
• Double Targeted Universal Adversarial Perturbations [83.60161052867534]
  本稿では, インスタンス別画像依存摂動と汎用的普遍摂動のギャップを埋めるために, 二重目標普遍摂動(DT-UAP)を導入する。 提案したDTAアルゴリズムの幅広いデータセットに対する有効性を示すとともに,物理攻撃の可能性を示す。
  論文  参考訳（メタデータ） (2020-10-07T09:08:51Z)
• Learn2Perturb: an End-to-end Feature Perturbation Learning to Improve Adversarial Robustness [79.47619798416194]
  Learn2Perturbは、ディープニューラルネットワークの対角的堅牢性を改善するために、エンドツーエンドの機能摂動学習アプローチである。 予測最大化にインスパイアされ、ネットワークと雑音パラメータを連続的にトレーニングするために、交互にバックプロパゲーショントレーニングアルゴリズムが導入された。
  論文  参考訳（メタデータ） (2020-03-02T18:27:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。