論文の概要: Jacks of All Trades, Masters Of None: Addressing Distributional Shift and Obtrusiveness via Transparent Patch Attacks

• arxiv url: http://arxiv.org/abs/2005.00656v1
• Date: Fri, 1 May 2020 23:50:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-07 23:28:19.273472
• Title: Jacks of All Trades, Masters Of None: Addressing Distributional Shift and Obtrusiveness via Transparent Patch Attacks
• Title（参考訳）: all trades, masters of none: 透過的パッチ攻撃による分布的シフトと妨害性に対処する
• Authors: Neil Fendley, Max Lennon, I-Jeng Wang, Philippe Burlina, Nathan Drenkow
• Abstract要約: 我々は,効果的な敵パッチ攻撃の開発に焦点をあてる。 我々は,新たな半透明パッチの設計を通じて,攻撃の成功と強迫性という敵意に対処する。
• 参考スコア（独自算出の注目度）: 16.61388475767519
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We focus on the development of effective adversarial patch attacks and -- for the first time -- jointly address the antagonistic objectives of attack success and obtrusiveness via the design of novel semi-transparent patches. This work is motivated by our pursuit of a systematic performance analysis of patch attack robustness with regard to geometric transformations. Specifically, we first elucidate a) key factors underpinning patch attack success and b) the impact of distributional shift between training and testing/deployment when cast under the Expectation over Transformation (EoT) formalism. By focusing our analysis on three principal classes of transformations (rotation, scale, and location), our findings provide quantifiable insights into the design of effective patch attacks and demonstrate that scale, among all factors, significantly impacts patch attack success. Working from these findings, we then focus on addressing how to overcome the principal limitations of scale for the deployment of attacks in real physical settings: namely the obtrusiveness of large patches. Our strategy is to turn to the novel design of irregularly-shaped, semi-transparent partial patches which we construct via a new optimization process that jointly addresses the antagonistic goals of mitigating obtrusiveness and maximizing effectiveness. Our study -- we hope -- will help encourage more focus in the community on the issues of obtrusiveness, scale, and success in patch attacks.
• Abstract（参考訳）: 我々は,効果的な敵パッチ攻撃の開発に焦点をあて,新たな半透明パッチの設計を通じて,攻撃の成功と強迫性という敵意的な目標に,初めて対処する。 この研究は、幾何学的変換に関するパッチアタックロバストネスの系統的性能解析を追求することによるものである。 具体的には 私たちはまず a)パッチ攻撃の成功を支える重要な要因 b) トランスフォーメーション(EoT)の定式化を期待した場合のトレーニングとテスト・デプロイの分散シフトの影響 我々の分析は,3種類の変換(回転,スケール,位置)に焦点をあてることで,有効なパッチアタックの設計に関する定量的知見を提供し,すべての要因において,スケールがパッチアタックの成功に大きな影響を及ぼすことを示した。 これらの結果から,実際の物理的環境でのアタックの展開において,スケールの限界を克服する方法,すなわち大規模パッチの遮蔽性に着目する。 提案手法は,不規則な形状の半透明部分パッチを新たに設計し,閉塞性軽減と有効性の最大化という敵意的目標を協調的に解決する新しい最適化プロセスによって構築するものである。 私たちの研究は、パッチ攻撃の強迫性、スケール、成功といった問題にコミュニティがより注力することを願っています。

関連論文リスト

• DePatch: Towards Robust Adversarial Patch for Evading Person Detectors in the Real World [13.030804897732185]
  本稿では,デカップリング逆パッチ(Decoupled adversarial Patch, DePatch)攻撃を導入し,逆パッチの自己結合問題に対処する。 具体的には、逆パッチをブロックワイドセグメントに分割し、これらのセグメント間の依存性を低減する。 さらに,攻撃能力を向上させるために,境界シフト操作とプログレッシブデカップリング戦略を導入する。
  論文  参考訳（メタデータ） (2024-08-13T04:25:13Z)
• Bag of Tricks to Boost Adversarial Transferability [5.803095119348021]
  ホワイトボックス設定で生成された逆例は、しばしば異なるモデル間で低い転送可能性を示す。 そこで本研究では,既存の敵攻撃の微妙な変化が攻撃性能に大きく影響することを発見した。 既存の敵攻撃の綿密な研究に基づいて、敵の移動性を高めるためのトリックの袋を提案する。
  論文  参考訳（メタデータ） (2024-01-16T17:42:36Z)
• Towards Robust Semantic Segmentation against Patch-based Attack via Attention Refinement [68.31147013783387]
  我々は,アテンション機構がパッチベースの敵攻撃に弱いことを観察した。 本稿では,意味的セグメンテーションモデルの堅牢性を改善するために,ロバスト注意機構(RAM)を提案する。
  論文  参考訳（メタデータ） (2024-01-03T13:58:35Z)
• Guidance Through Surrogate: Towards a Generic Diagnostic Attack [101.36906370355435]
  我々は、攻撃最適化中に局所最小限を避けるための誘導機構を開発し、G-PGAと呼ばれる新たな攻撃に繋がる。 修正された攻撃では、ランダムに再起動したり、多数の攻撃を繰り返したり、最適なステップサイズを検索したりする必要がありません。 効果的な攻撃以上に、G-PGAは敵防御における勾配マスキングによる解離性堅牢性を明らかにするための診断ツールとして用いられる。
  論文  参考訳（メタデータ） (2022-12-30T18:45:23Z)
• Simultaneously Optimizing Perturbations and Positions for Black-box Adversarial Patch Attacks [13.19708582519833]
  敵パッチは、ディープニューラルネットワークの堅牢性に重大なリスクをもたらす、現実世界の敵攻撃の重要な形態である。 従来の方法は、貼付位置を固定しながら摂動値を最適化するか、パッチの内容を修正しながら位置を操作することにより、敵パッチを生成する。 敵パッチの位置と摂動を同時に最適化し,ブラックボックス設定において高い攻撃成功率が得られる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-12-26T02:48:37Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Patch Attack Invariance: How Sensitive are Patch Attacks to 3D Pose? [7.717537870226507]
  我々は、パッチアタックの堅牢性と不変性を評価するために、mAST(Attack Success over Transformations)と呼ばれる新しい指標を開発した。 我々は、カメラに対するパッチの3Dポーズの関数として、攻撃効果に関する重要な定性的な洞察を提供する感度分析を行う。 我々は、外面回転角の程度に依存するパッチアタックの有効性において、基本的なカットオフ限界の存在に関する新たな知見を提供する。
  論文  参考訳（メタデータ） (2021-08-16T17:02:38Z)
• Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses [59.58128343334556]
  我々は、より適切な勾配方向を見つけ、攻撃効果を高め、より効率的な対人訓練をもたらす標準損失に緩和項を導入する。 本稿では, クリーン画像の関数マッピングを用いて, 敵生成を誘導するGAMA ( Guided Adversarial Margin Attack) を提案する。 また,一段防衛における最先端性能を実現するためのGAT ( Guided Adversarial Training) を提案する。
  論文  参考訳（メタデータ） (2020-11-30T16:39:39Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。