論文の概要: Defensive Patches for Robust Recognition in the Physical World

• arxiv url: http://arxiv.org/abs/2204.06213v1
• Date: Wed, 13 Apr 2022 07:34:51 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-14 13:24:07.105698
• Title: Defensive Patches for Robust Recognition in the Physical World
• Title（参考訳）: 物理世界におけるロバスト認識のための防御パッチ
• Authors: Jiakai Wang, Zixin Yin, Pengfei Hu, Aishan Liu, Renshuai Tao, Haotong Qin, Xianglong Liu, Dacheng Tao
• Abstract要約: データエンドディフェンスは、モデルを変更する代わりに入力データの操作によって堅牢性を改善する。 従来のデータエンドディフェンスは、様々なノイズに対する低一般化と、複数のモデル間での弱い転送可能性を示している。 モデルがこれらの機能をよりよく活用することを支援することにより、これらの問題に対処するための防御パッチ生成フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 111.46724655123813
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To operate in real-world high-stakes environments, deep learning systems have to endure noises that have been continuously thwarting their robustness. Data-end defense, which improves robustness by operations on input data instead of modifying models, has attracted intensive attention due to its feasibility in practice. However, previous data-end defenses show low generalization against diverse noises and weak transferability across multiple models. Motivated by the fact that robust recognition depends on both local and global features, we propose a defensive patch generation framework to address these problems by helping models better exploit these features. For the generalization against diverse noises, we inject class-specific identifiable patterns into a confined local patch prior, so that defensive patches could preserve more recognizable features towards specific classes, leading models for better recognition under noises. For the transferability across multiple models, we guide the defensive patches to capture more global feature correlations within a class, so that they could activate model-shared global perceptions and transfer better among models. Our defensive patches show great potentials to improve application robustness in practice by simply sticking them around target objects. Extensive experiments show that we outperform others by large margins (improve 20+\% accuracy for both adversarial and corruption robustness on average in the digital and physical world). Our codes are available at https://github.com/nlsde-safety-team/DefensivePatch
• Abstract（参考訳）: 現実世界のハイテク環境で運用するには、ディープラーニングシステムは、その堅牢性を継続的に抑制してきたノイズに耐えなければならない。 データエンドディフェンス(data-end defense)は、モデルの修正ではなく、入力データの操作によるロバスト性を向上させる。 しかし、これまでのデータ・エンドのディフェンスでは、様々なノイズに対する低一般化と、複数のモデルにわたる弱い転送可能性を示している。 強固な認識は局所的特徴とグローバルな特徴の両方に依存するという事実に動機づけられ、我々はモデルがこれらの特徴をよりうまく活用するのを助けることによって、これらの問題に対処する防御的パッチ生成フレームワークを提案する。 多様な雑音に対する一般化のために,事前に限定された局所パッチにクラス固有の識別可能なパターンを注入することにより,特定のクラスに対するより認識可能な特徴を防御パッチが保持し,ノイズ下での認識を改善するモデルが導かれる。 複数のモデル間の転送可能性については、防御パッチをクラス内でよりグローバルな特徴相関を捉えるようにガイドし、モデル共有されたグローバルな知覚を活性化し、モデル間でよりよく伝達できるようにします。 私たちの防御パッチは、ターゲットオブジェクトに貼り付けるだけで、アプリケーションの堅牢性を改善する大きな可能性を示しています。 広範囲な実験により、私たちは他の人を大きなマージンで上回っている(デジタルと物理的な世界で平均して敵意と腐敗の強固さの両方に対して20+2%の正確さが向上している)。 私たちのコードはhttps://github.com/nlsde-safety-team/DefensivePatchで利用可能です。

関連論文リスト

• MOREL: Enhancing Adversarial Robustness through Multi-Objective Representation Learning [1.534667887016089]
  ディープニューラルネットワーク(DNN)は、わずかに敵対的な摂動に対して脆弱である。 トレーニング中の強力な特徴表現学習は、元のモデルの堅牢性を大幅に向上させることができることを示す。 本稿では,多目的特徴表現学習手法であるMORELを提案する。
  論文  参考訳（メタデータ） (2024-10-02T16:05:03Z)
• Rethinking Robustness of Model Attributions [24.317595434521504]
  多くの属性手法は脆弱であり,これらの手法やモデルトレーニングの改良が提案されている。 まず、ロバスト性に関する既存の指標は、アトリビューションにおける合理的な局所的なシフトを過度に負担する。 本稿では,ロバストネス指標における画素の局所性と属性における画素位置の多様性を組み込んだ既存メトリクスと属性手法の簡易な強化手法を提案する。
  論文  参考訳（メタデータ） (2023-12-16T20:20:38Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• Harnessing Perceptual Adversarial Patches for Crowd Counting [92.79051296850405]
  群衆のカウントは、物理的な世界の敵の例に弱い。 本稿では,モデル間での知覚的特徴の共有を学習するためのPAP(Perceptual Adrial Patch)生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-16T13:51:39Z)
• Virtual Data Augmentation: A Robust and General Framework for Fine-tuning Pre-trained Models [51.46732511844122]
  強力な事前訓練型言語モデル(PLM)は、小さな摂動や意図的な攻撃によって騙されることがある。 VDA(Virtual Data Augmentation)は,PLMを高度に微調整するための一般的なフレームワークである。 本手法は, PLMの堅牢性を向上し, 敵攻撃時の性能劣化を軽減する。
  論文  参考訳（メタデータ） (2021-09-13T09:15:28Z)
• Learning to Learn from Mistakes: Robust Optimization for Adversarial Noise [1.976652238476722]
  我々はメタ最適化器を訓練し、敵対的な例を使ってモデルを堅牢に最適化することを学び、学習した知識を新しいモデルに転送することができる。 実験の結果、メタ最適化は異なるアーキテクチャやデータセット間で一貫性があることが示され、敵の脆弱性を自動的にパッチすることができることが示唆された。
  論文  参考訳（メタデータ） (2020-08-12T11:44:01Z)
• Bias-based Universal Adversarial Patch Attack for Automatic Check-out [59.355948824578434]
  逆の例は、ディープニューラルネットワーク(DNN)を簡単に誤解させる、知覚不能な摂動を持つ入力である。 既存の戦略は強力な一般化能力を持つ敵パッチを生成できなかった。 本稿では,強い一般化能力を持つクラス非依存の普遍的敵パッチを生成するためのバイアスベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-05-19T07:38:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。