論文の概要: On the Limitations of Stochastic Pre-processing Defenses

• arxiv url: http://arxiv.org/abs/2206.09491v1
• Date: Sun, 19 Jun 2022 21:54:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-22 19:26:01.028402
• Title: On the Limitations of Stochastic Pre-processing Defenses
• Title（参考訳）: 確率的前処理防御の限界について
• Authors: Yue Gao, Ilia Shumailov, Kassem Fawaz, Nicolas Papernot
• Abstract要約: 敵の例に対する防御は依然として未解決の問題である。 推論におけるランダム性は、逆入力を見つけるコストを増大させるという考え方が一般的である。 本稿では,そのような前処理の防御について検討し,その欠陥を実証する。
• 参考スコア（独自算出の注目度）: 42.80542472276451
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Defending against adversarial examples remains an open problem. A common belief is that randomness at inference increases the cost of finding adversarial inputs. An example of such a defense is to apply a random transformation to inputs prior to feeding them to the model. In this paper, we empirically and theoretically investigate such stochastic pre-processing defenses and demonstrate that they are flawed. First, we show that most stochastic defenses are weaker than previously thought; they lack sufficient randomness to withstand even standard attacks like projected gradient descent. This casts doubt on a long-held assumption that stochastic defenses invalidate attacks designed to evade deterministic defenses and force attackers to integrate the Expectation over Transformation (EOT) concept. Second, we show that stochastic defenses confront a trade-off between adversarial robustness and model invariance; they become less effective as the defended model acquires more invariance to their randomization. Future work will need to decouple these two effects. Our code is available in the supplementary material.
• Abstract（参考訳）: 敵対的な例に対する防御は未解決の問題である。 推論におけるランダム性は、逆入力を見つけるコストを増大させるという考え方が一般的である。 そのような防御の例として、モデルに入力を渡す前にランダム変換を適用することが挙げられる。 本稿では,このような確率的前処理防御を経験的かつ理論的に検討し,その欠陥を実証する。 まず,ほとんどの確率的防御は従来考えられていたよりも弱いことを示し,予測された勾配降下のような標準的な攻撃に耐える十分なランダム性が欠けていることを示した。 このことは、確率的防御が決定論的防御を避けるために設計された攻撃を無効にし、攻撃者に変換に対する期待(EOT)の概念を統合するよう強制するという長年の仮定に疑問を投げかけている。 第2に、確率的防御は、対向的ロバスト性とモデル不変性の間のトレードオフに直面していることを示す。 今後この2つの効果を分離する必要がある。 私たちのコードは補足資料で入手できる。

関連論文リスト

• Distributional Adversarial Loss [15.258476329309044]
  敵の攻撃に対して防衛する上での大きな課題は、単純な敵さえも実行可能な攻撃の巨大な空間である。 これにはランダムな平滑化手法が含まれており、敵の影響を除去するために入力にノイズを加える。 もう一つのアプローチは入力の離散化であり、敵の可能なアクションの数を制限する。
  論文  参考訳（メタデータ） (2024-06-05T17:03:47Z)
• Confidence-driven Sampling for Backdoor Attacks [49.72680157684523]
  バックドア攻撃は、悪質なトリガをDNNモデルに過剰に挿入することを目的としており、テストシナリオ中に不正な制御を許可している。 既存の方法では防衛戦略に対する堅牢性が欠如しており、主に無作為な試薬を無作為に選別しながら、引き金の盗難を強化することに重点を置いている。 信頼性スコアの低いサンプルを選別し、これらの攻撃を識別・対処する上で、守備側の課題を著しく増大させる。
  論文  参考訳（メタデータ） (2023-10-08T18:57:36Z)
• Hindering Adversarial Attacks with Multiple Encrypted Patch Embeddings [13.604830818397629]
  効率性とロバスト性の両方に着目したキーベースの新たな防衛手法を提案する。 我々は,(1)効率的なトレーニングと(2)任意ランダム化という2つの大きな改善をともなう,以前の防衛基盤を構築した。 実験はImageNetデータセット上で行われ、提案された防御は最先端の攻撃兵器に対して評価された。
  論文  参考訳（メタデータ） (2023-09-04T14:08:34Z)
• Defending against Insertion-based Textual Backdoor Attacks via Attribution [18.935041122443675]
  本稿では,2つの挿入型毒殺攻撃を防ぎ,効果的な帰属型パイプラインであるAttDefを提案する。 具体的には、より大きな帰属語が誤予測結果に寄与するため、より大きな帰属スコアを持つトークンを潜在的トリガーとみなす。 提案手法は2つの共通攻撃シナリオにおいて十分に一般化可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-03T19:29:26Z)
• Rethinking Textual Adversarial Defense for Pre-trained Language Models [79.18455635071817]
  文献レビューでは、事前訓練された言語モデル(PrLM)が敵の攻撃に弱いことが示されている。 本稿では、現在の敵攻撃アプローチにより、より自然で知覚不能な敵の例を生成するための新しい指標(異常の度合い)を提案する。 我々は,我々のユニバーサル・ディフェンス・フレームワークが,他の特定のディフェンスと同等あるいはそれ以上のアフターアタック・ディフェンスの精度を達成することを示す。
  論文  参考訳（メタデータ） (2022-07-21T07:51:45Z)
• Output Randomization: A Novel Defense for both White-box and Black-box Adversarial Models [8.189696720657247]
  敵対的な例は、さまざまなシナリオでディープニューラルネットワークモデルに脅威をもたらす。 ブラックボックスモデルとホワイトボックスモデルの両方における攻撃に対する防御手段としての出力ランダム化の利用について検討する。
  論文  参考訳（メタデータ） (2021-07-08T12:27:19Z)
• A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses [4.94950858749529]
  均衡状態にある攻撃や防御を研究するためのゲーム理論の枠組みを提案する。 データ生成分布から有限個のサンプルからこの平衡防衛を近似する方法を示す。
  論文  参考訳（メタデータ） (2020-09-14T15:51:15Z)
• Adversarial Example Games [51.92698856933169]
  Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
  論文  参考訳（メタデータ） (2020-07-01T19:47:23Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)
• Defensive Few-shot Learning [77.82113573388133]
  本稿では,防御的数発学習という新たな課題について検討する。 敵の攻撃に対して頑丈な数発のモデルを学習することを目的としている。 提案したフレームワークは、既存の数発のモデルを敵攻撃に対して効果的に堅牢にすることができる。
  論文  参考訳（メタデータ） (2019-11-16T05:57:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。