論文の概要: Gradient Obfuscation Checklist Test Gives a False Sense of Security

• arxiv url: http://arxiv.org/abs/2206.01705v1
• Date: Fri, 3 Jun 2022 17:27:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-06 14:42:41.167513
• Title: Gradient Obfuscation Checklist Test Gives a False Sense of Security
• Title（参考訳）: 勾配難読化チェックリストテストはセキュリティの誤った感覚をもたらす
• Authors: Nikola Popovic, Danda Pani Paudel, Thomas Probst, Luc Van Gool
• Abstract要約: このような防御の堅牢性の主な源は、しばしば勾配の難読化によるものであり、誤ったセキュリティの感覚を与えている。 5つの特徴が同定され, 強靭性の改善は, 主に勾配難読化によって引き起こされる。 この5つの特徴を十分なテストとして利用し、勾配難読化がロバスト性の主要な源であるかどうかを判断する傾向が強まっている。
• 参考スコア（独自算出の注目度）: 85.8719866710494
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: One popular group of defense techniques against adversarial attacks is based on injecting stochastic noise into the network. The main source of robustness of such stochastic defenses however is often due to the obfuscation of the gradients, offering a false sense of security. Since most of the popular adversarial attacks are optimization-based, obfuscated gradients reduce their attacking ability, while the model is still susceptible to stronger or specifically tailored adversarial attacks. Recently, five characteristics have been identified, which are commonly observed when the improvement in robustness is mainly caused by gradient obfuscation. It has since become a trend to use these five characteristics as a sufficient test, to determine whether or not gradient obfuscation is the main source of robustness. However, these characteristics do not perfectly characterize all existing cases of gradient obfuscation, and therefore can not serve as a basis for a conclusive test. In this work, we present a counterexample, showing this test is not sufficient for concluding that gradient obfuscation is not the main cause of improvements in robustness.
• Abstract（参考訳）: 敵攻撃に対する防御手法の一般的なグループは、ネットワークに確率的ノイズを注入することに基づいている。 しかし、そのような確率的防御の堅牢性の主な源は、しばしば勾配の難解さによるものであり、誤ったセキュリティの感覚を与える。 一般的な敵攻撃のほとんどは最適化に基づくものであるため、難解な勾配は攻撃能力を低下させ、一方でモデルがより強く、特別に調整された敵攻撃の影響を受けやすい。 近年, 強靭性向上は, 主に勾配難燃化によって引き起こされる5つの特徴が確認されている。 この5つの特徴を十分なテストとして利用し、勾配難読化がロバスト性の主要な源であるかどうかを判断する傾向が強まっている。 しかし、これらの特徴は既存の勾配難読化のすべてのケースを完璧に特徴づけるものではなく、したがって決定的なテストの基礎として機能することができない。 本研究では, 強靭性向上の主因には勾配難読化が欠如していることを結論する上で, 本試験は不十分であることを示す。

関連論文リスト

• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• IDEA: Invariant Defense for Graph Adversarial Robustness [60.0126873387533]
  敵攻撃に対する不変因果判定法(IDEA)を提案する。 我々は,情報理論の観点から,ノードと構造に基づく分散目標を導出する。 実験によると、IDEAは5つのデータセットすべてに対する5つの攻撃に対して、最先端の防御性能を達成している。
  論文  参考訳（メタデータ） (2023-05-25T07:16:00Z)
• Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning [31.374376311614675]
  グラディエント・インバージョン・アタックは、フェデレート学習におけるモデル勾配からのトレーニングサンプルの回復を可能にする。 既存の防御は、単純な適応攻撃によって破壊される可能性があることを示す。
  論文  参考訳（メタデータ） (2022-10-19T20:41:30Z)
• Attacking Adversarial Defences by Smoothing the Loss Landscape [15.11530043291188]
  この効果を達成する共通の方法は、ニューラルネットワークを使用することである。 これは勾配難読化の一形態であり、勾配に基づく敵に対する一般的な拡張を提案する。 両対人防御および非対人防御に対する損失平滑化法の有効性を実証した。
  論文  参考訳（メタデータ） (2022-08-01T13:45:47Z)
• How many perturbations break this model? Evaluating robustness beyond adversarial accuracy [28.934863462633636]
  入力点と摂動方向の制約の両方が与えられた摂動を成功させることがいかに困難であるかを定量化する。 空間性は、ニューラルネットワークに関する貴重な洞察を、複数の方法で提供することを示す。
  論文  参考訳（メタデータ） (2022-07-08T21:25:17Z)
• Increasing Confidence in Adversarial Robustness Evaluations [53.2174171468716]
  本稿では,弱い攻撃を識別し,防御評価を弱めるテストを提案する。 本テストでは,各サンプルに対する逆例の存在を保証するため,ニューラルネットワークをわずかに修正した。 これまでに公表された13の防衛のうち、11の防衛について、元の防衛評価は我々のテストに失敗し、これらの防衛を破る強力な攻撃はそれを通過する。
  論文  参考訳（メタデータ） (2022-06-28T13:28:13Z)
• Adversarially Robust Classification by Conditional Generative Model Inversion [4.913248451323163]
  本稿では,攻撃の事前知識を仮定することなく,勾配を難読化せず,構造的に堅牢な分類モデルを提案する。 提案手法は,未成熟な自然画像に基づいて訓練された条件生成器を「反転」する最適化問題である。 我々のモデルはブラックボックス攻撃に対して非常に堅牢であり、ホワイトボックス攻撃に対するロバスト性を改善したことを実証する。
  論文  参考訳（メタデータ） (2022-01-12T23:11:16Z)
• Imbalanced Gradients: A Subtle Cause of Overestimated Adversarial Robustness [75.30116479840619]
  本稿では,不均衡勾配という,過度に推定された敵の強靭性も引き起こす,より微妙な状況を特定する。 不均衡勾配の現象は、マージン損失の一項の勾配が支配的となり、攻撃を準最適方向に押し上げるときに起こる。 本稿では、マージン分解攻撃(MD)について、個々の項にマージン損失を分解し、これらの項の攻撃可能性について個別に検討する。
  論文  参考訳（メタデータ） (2020-06-24T13:41:37Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。