論文の概要: On Saliency Maps and Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2006.07828v2
• Date: Mon, 13 Jul 2020 15:02:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 10:08:01.379522
• Title: On Saliency Maps and Adversarial Robustness
• Title（参考訳）: 塩分マップと対向ロバスト性について
• Authors: Puneet Mangla, Vedant Singh, Vineeth N Balasubramanian
• Abstract要約: サリエンシをベースとした適応学習(SAT)は、サリエンシマップを用いてモデルの敵の堅牢性を改善する。 よりきめ細やかで強力なサリエンシマップを使うことで、より堅牢なモデルがもたらされることを示す。
• 参考スコア（独自算出の注目度）: 22.75851089729379
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A Very recent trend has emerged to couple the notion of interpretability and adversarial robustness, unlike earlier efforts which solely focused on good interpretations or robustness against adversaries. Works have shown that adversarially trained models exhibit more interpretable saliency maps than their non-robust counterparts, and that this behavior can be quantified by considering the alignment between input image and saliency map. In this work, we provide a different perspective to this coupling, and provide a method, Saliency based Adversarial training (SAT), to use saliency maps to improve adversarial robustness of a model. In particular, we show that using annotations such as bounding boxes and segmentation masks, already provided with a dataset, as weak saliency maps, suffices to improve adversarial robustness with no additional effort to generate the perturbations themselves. Our empirical results on CIFAR-10, CIFAR-100, Tiny ImageNet and Flower-17 datasets consistently corroborate our claim, by showing improved adversarial robustness using our method. saliency maps. We also show how using finer and stronger saliency maps leads to more robust models, and how integrating SAT with existing adversarial training methods, further boosts performance of these existing methods.
• Abstract（参考訳）: 非常に最近の傾向は、敵に対する優れた解釈や堅牢性にのみ焦点を絞った以前の試みとは異なり、解釈可能性と敵の堅牢性という概念を混同している。 逆向きに訓練されたモデルでは、非ロバストモデルよりも解釈可能なサリエンシマップが示され、入力画像とサリエンシマップのアライメントを考慮することで、この挙動を定量化できることが示されている。 本研究では、この結合に対する異なる視点を提供し、モデルの対角性を改善するために、サリエンシマップを使用するために、サリエンシベースの適応トレーニング(SAT)を提供する。 特に,バウンディングボックスやセグメンテーションマスクなどのアノテーションを使用することで,弱いサリエンシーマップとしてデータセットがすでに提供されており,摂動自身を生成するための追加の努力なしに,敵対的ロバスト性を改善することができることを示す。 CIFAR-10, CIFAR-100, Tiny ImageNet, Flower-17データセットに対する実験結果は、我々の主張を一貫して裏付けるものである。 敬礼地図。 さらに,より精巧でより強固なサリエンシーマップを用いることにより,より堅牢なモデルがもたらされることを示すとともに,satと既存の敵対的トレーニング手法との統合により,これらの既存手法の性能がさらに向上することを示す。

関連論文リスト

• Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
  アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。 データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
  論文  参考訳（メタデータ） (2024-07-26T10:49:14Z)
• Carefully Blending Adversarial Training and Purification Improves Adversarial Robustness [1.2289361708127877]
  CARSOは、防御のために考案された適応的なエンドツーエンドのホワイトボックス攻撃から自身を守ることができる。 提案手法はCIFAR-10, CIFAR-100, TinyImageNet-200の最先端技術により改善されている。
  論文  参考訳（メタデータ） (2023-05-25T09:04:31Z)
• Bayesian Learning with Information Gain Provably Bounds Risk for a Robust Adversarial Defense [27.545466364906773]
  敵攻撃に対して堅牢なディープニューラルネットワークモデルを学習するための新しいアルゴリズムを提案する。 本モデルでは, PGD 攻撃下での対人訓練と Adv-BNN との比較により, 強靭性は20%まで向上した。
  論文  参考訳（メタデータ） (2022-12-05T03:26:08Z)
• CAMERAS: Enhanced Resolution And Sanity preserving Class Activation Mapping for image saliency [61.40511574314069]
  バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。 CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
  論文  参考訳（メタデータ） (2021-06-20T08:20:56Z)
• Adaptive Clustering of Robust Semantic Representations for Adversarial Image Purification [0.9203366434753543]
  我々は、モデルに依存しず、目に見えない敵に対して汎用可能な、敵対攻撃に対する堅牢な防御を提案します。 本稿では,各クラスの潜在表現を抽出し,意味的類似性を持つ潜在表現を適応的にクラスタ化する。 我々は、逆空間表現と真のクラスタ分布の間の距離を最小化するために、潜空間表現を制限する新しいモデルを逆向きに訓練する。
  論文  参考訳（メタデータ） (2021-04-05T21:07:04Z)
• Optimal Transport as a Defense Against Adversarial Attacks [4.6193503399184275]
  敵対的攻撃は、訓練されたモデルを誤解させる画像に対して、人間の知覚できない摂動を見つけることができる。 従来の研究は、原画像と敵対画像の整合性をドメイン適応と同等に調整し、堅牢性を向上させることを目的としていた。 地上距離を忠実に反映した分布間の損失を用いることを提案する。 これによりSAT (Sinkhorn Adversarial Training) は敵の攻撃に対してより堅牢な防衛を行う。
  論文  参考訳（メタデータ） (2021-02-05T13:24:36Z)
• Stereopagnosia: Fooling Stereo Networks with Adversarial Perturbations [71.00754846434744]
  知覚不能な加法的摂動は,差分マップを著しく変更できることを示す。 敵データ拡張に使用すると、我々の摂動はより堅牢なトレーニングされたモデルをもたらすことを示す。
  論文  参考訳（メタデータ） (2020-09-21T19:20:09Z)
• Stylized Adversarial Defense [105.88250594033053]
  逆行訓練は摂動パターンを生成し、モデルを堅牢化するためのトレーニングセットにそれらを含む。 我々は、より強力な敵を作るために、機能空間から追加情報を活用することを提案する。 我々の対人訓練アプローチは、最先端の防御と比べて強い堅牢性を示している。
  論文  参考訳（メタデータ） (2020-07-29T08:38:10Z)
• Bridging Mode Connectivity in Loss Landscapes and Adversarial Robustness [97.67477497115163]
  我々は、モード接続を用いて、ディープニューラルネットワークの対角的堅牢性を研究する。 実験では、異なるネットワークアーキテクチャやデータセットに適用される様々な種類の敵攻撃について取り上げる。 以上の結果から,モード接続は,敵の強靭性を評価・改善するための総合的なツールであり,実用的な手段であることが示唆された。
  論文  参考訳（メタデータ） (2020-04-30T19:12:50Z)
• Towards Achieving Adversarial Robustness by Enforcing Feature Consistency Across Bit Planes [51.31334977346847]
  我々は、高ビット平面の情報に基づいて粗い印象を形成するためにネットワークを訓練し、低ビット平面を用いて予測を洗練させる。 異なる量子化画像間で学習した表現に一貫性を付与することにより、ネットワークの対角的ロバスト性が大幅に向上することを示した。
  論文  参考訳（メタデータ） (2020-04-01T09:31:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。