論文の概要: Adversarial Wear and Tear: Exploiting Natural Damage for Generating Physical-World Adversarial Examples

• arxiv url: http://arxiv.org/abs/2503.21164v1
• Date: Thu, 27 Mar 2025 05:19:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-28 12:54:56.976113
• Title: Adversarial Wear and Tear: Exploiting Natural Damage for Generating Physical-World Adversarial Examples
• Title（参考訳）: 逆境の摩耗と耳:物理世界における逆境の発生にともなう自然損傷の爆発
• Authors: Samra Irshad, Seungkyu Lee, Nassir Navab, Hong Joo Lee, Seong Tae Kim,
• Abstract要約: AdvWTは、物理世界の敵の新たなクラスである。 「自然に生ずる摩耗と涙の現象からインスピレーションを得る。」 本稿では,AdvWTがデジタルドメインと物理ドメインの両方で効果的に誤解を招くことを示す。
• 参考スコア（独自算出の注目度）: 44.16359029935054
• License:
• Abstract: The presence of adversarial examples in the physical world poses significant challenges to the deployment of Deep Neural Networks in safety-critical applications such as autonomous driving. Most existing methods for crafting physical-world adversarial examples are ad-hoc, relying on temporary modifications like shadows, laser beams, or stickers that are tailored to specific scenarios. In this paper, we introduce a new class of physical-world adversarial examples, AdvWT, which draws inspiration from the naturally occurring phenomenon of `wear and tear', an inherent property of physical objects. Unlike manually crafted perturbations, `wear and tear' emerges organically over time due to environmental degradation, as seen in the gradual deterioration of outdoor signboards. To achieve this, AdvWT follows a two-step approach. First, a GAN-based, unsupervised image-to-image translation network is employed to model these naturally occurring damages, particularly in the context of outdoor signboards. The translation network encodes the characteristics of damaged signs into a latent `damage style code'. In the second step, we introduce adversarial perturbations into the style code, strategically optimizing its transformation process. This manipulation subtly alters the damage style representation, guiding the network to generate adversarial images where the appearance of damages remains perceptually realistic, while simultaneously ensuring their effectiveness in misleading neural networks. Through comprehensive experiments on two traffic sign datasets, we show that AdvWT effectively misleads DNNs in both digital and physical domains. AdvWT achieves an effective attack success rate, greater robustness, and a more natural appearance compared to existing physical-world adversarial examples. Additionally, integrating AdvWT into training enhances a model's generalizability to real-world damaged signs.
• Abstract（参考訳）: 物理的世界における敵の例の存在は、自律運転のような安全クリティカルなアプリケーションにディープニューラルネットワークを配置する上で、大きな課題となる。 既存の物理世界の敵作法はアドホックで、影やレーザービーム、特定のシナリオに合わせて調整されたステッカーなどの一時的な修正に依存している。 本稿では, 自然発生の「衣服と涙」現象からインスピレーションを得た, 物理世界の逆転型AdvWTについて紹介する。 手作業による摂動とは異なり、屋外看板の段階的な劣化に見られるように、環境劣化により「衣服と涙」が有機的に現れる。 これを実現するために、AdvWTは2段階のアプローチを採用している。 まず、特に屋外看板の文脈において、自然に発生する損傷をモデル化するために、GANベースの教師なしイメージ・ツー・イメージ翻訳ネットワークが使用される。 翻訳ネットワークは、損傷した標識の特徴を潜伏した「損傷スタイルコード」に符号化する。 第2のステップでは、逆方向の摂動をスタイルコードに導入し、その変換プロセスを戦略的に最適化する。 この操作は、損傷スタイルの表現を微妙に変更し、ネットワークを誘導し、損傷の外観が知覚的に現実的のままである敵画像を生成するとともに、誤誘導ニューラルネットワークにおけるその効果を確実にする。 2つのトラフィックサインデータセットに関する総合的な実験を通して、AdvWTはデジタルと物理の両方の領域でDNNを効果的に誤解させることを示した。 AdvWTは、既存の物理世界の敵と比べて効果的な攻撃成功率、より堅牢性、そしてより自然な外観を達成する。 さらに、AdvWTをトレーニングに統合することで、実際の損傷標識に対するモデルの一般化性が向上する。

関連論文リスト

• Mechanistic Understandings of Representation Vulnerabilities and Engineering Robust Vision Transformers [1.1187085721899017]
  視覚変換器(ViT)の既知の表現脆弱性の源泉について検討し、知覚的に同一の画像が全く異なる表現を持つことを示す。 我々は,早期に脆弱な神経細胞を戦略的に中和する新しい防御機構であるNeuroShield-ViTを開発し,対向効果のカスケードを防止する。 我々の研究結果は、視力変換器が敵の攻撃に対して堅牢性を高めるための有望なアプローチを提供しながら、敵の効果がViT層を通してどのように伝播するかに新たな光を当てた。
  論文  参考訳（メタデータ） (2025-02-07T05:58:16Z)
• Imperceptible Adversarial Examples in the Physical World [10.981325924844167]
  我々は、ストレートスルー推定器(STE、別名BPDA)を用いて、物理世界における敵対例を知覚できないものにする。 我々のSTEのレンダリング拡張は、物理的世界における知覚できない敵パッチも可能にします。 我々の知る限りでは、これは物理的世界の小さな規範に縛られた、知覚できない敵の例を示す最初の作品である。
  論文  参考訳（メタデータ） (2024-11-25T18:02:23Z)
• F$^2$AT: Feature-Focusing Adversarial Training via Disentanglement of Natural and Perturbed Patterns [74.03108122774098]
  ディープニューラルネットワーク(DNN)は、よく設計された摂動によって構築された敵の例に対して脆弱である。 これは、自動運転車、監視セキュリティ、医療診断などの重要な応用について、悲惨な結果をもたらす可能性がある。 本稿では,自然パターンから中心となる特徴に焦点を合わせ,モデルに焦点をあてる機能集中型適応訓練(F$2$AT)を提案する。
  論文  参考訳（メタデータ） (2023-10-23T04:31:42Z)
• Why Don't You Clean Your Glasses? Perception Attacks with Dynamic Optical Perturbations [17.761200546223442]
  敵の攻撃を物理的世界に適応させることが、攻撃者にとって望ましい。 EvilEyeは、ディスプレイを透過的に利用し、ダイナミックな物理的逆転の例を生成する、中間者認識攻撃である。
  論文  参考訳（メタデータ） (2023-07-24T21:16:38Z)
• Mitigating Adversarial Attacks in Deepfake Detection: An Exploration of Perturbation and AI Techniques [1.0718756132502771]
  敵の例は微妙な摂動で きれいな画像やビデオに 巧みに注入される ディープフェイクは世論を操り、世論の評判を損なう強力なツールとして登場した。 この記事では、多面的な敵の例の世界を掘り下げ、ディープラーニングアルゴリズムを騙す能力の背後にある原則を解明する。
  論文  参考訳（メタデータ） (2023-02-22T23:48:19Z)
• Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon [79.33449311057088]
  我々は、非常に一般的な自然現象であるシャドーによって摂動が生じる新しい種類の光対角運動例について研究する。 我々は,シミュレーション環境と実環境の両方において,この新たな攻撃の有効性を広く評価した。
  論文  参考訳（メタデータ） (2022-03-08T02:40:18Z)
• On the Real-World Adversarial Robustness of Real-Time Semantic Segmentation Models for Autonomous Driving [59.33715889581687]
  現実世界の敵対的な例(通常はパッチの形で)の存在は、安全クリティカルなコンピュータビジョンタスクにおけるディープラーニングモデルの使用に深刻な脅威をもたらす。 本稿では,異なる種類の対立パッチを攻撃した場合のセマンティックセグメンテーションモデルのロバスト性を評価する。 画素の誤分類を誘導する攻撃者の能力を改善するために, 新たな損失関数を提案する。
  論文  参考訳（メタデータ） (2022-01-05T22:33:43Z)
• Real-World Adversarial Examples involving Makeup Application [58.731070632586594]
  フルフェイスメイクを用いた身体的敵攻撃を提案する。 我々の攻撃は、色や位置関連エラーなどのメークアップアプリケーションにおける手動エラーを効果的に克服できる。
  論文  参考訳（メタデータ） (2021-09-04T05:29:28Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles [40.57099683047126]
  そこで我々は,人間の観察者にとって正当な自然スタイルへの,工芸とカモフラージュの物理世界敵の新たなアプローチを提案する。 emphAdvCamは、ディープラーニングシステムによって個人情報が検出されるのを防ぐためにも使用できる。
  論文  参考訳（メタデータ） (2020-03-08T07:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。