論文の概要: A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses

• arxiv url: http://arxiv.org/abs/2009.06530v2
• Date: Wed, 11 Nov 2020 20:19:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-18 11:41:22.410382
• Title: A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses
• Title（参考訳）: 付加的な敵意攻撃と防御のゲーム理論的解析
• Authors: Ambar Pal, Ren\'e Vidal
• Abstract要約: 均衡状態にある攻撃や防御を研究するためのゲーム理論の枠組みを提案する。 データ生成分布から有限個のサンプルからこの平衡防衛を近似する方法を示す。
• 参考スコア（独自算出の注目度）: 4.94950858749529
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Research in adversarial learning follows a cat and mouse game between attackers and defenders where attacks are proposed, they are mitigated by new defenses, and subsequently new attacks are proposed that break earlier defenses, and so on. However, it has remained unclear as to whether there are conditions under which no better attacks or defenses can be proposed. In this paper, we propose a game-theoretic framework for studying attacks and defenses which exist in equilibrium. Under a locally linear decision boundary model for the underlying binary classifier, we prove that the Fast Gradient Method attack and the Randomized Smoothing defense form a Nash Equilibrium. We then show how this equilibrium defense can be approximated given finitely many samples from a data-generating distribution, and derive a generalization bound for the performance of our approximation.
• Abstract（参考訳）: 敵対的学習の研究は、攻撃が提案される攻撃者と防衛者の間の猫とマウスのゲームに続き、それらは新たな防御によって緩和され、その後、以前の防御を壊すような新たな攻撃が提案される。 しかし、より優れた攻撃や防御策が提案できない条件が存在するかどうかについては、いまだに不明である。 本稿では,均衡状態にある攻撃と防御を研究するためのゲーム理論フレームワークを提案する。 基礎となる二分法に対する局所線形決定境界モデルの下では、高速勾配法攻撃とランダム化平滑化防御がナッシュ平衡を形成することを示す。 次に、この平衡防衛が、データ生成分布から有限個のサンプルからどのように近似されるかを示し、近似の性能の一般化を導出する。

関連論文リスト

• Hindering Adversarial Attacks with Multiple Encrypted Patch Embeddings [13.604830818397629]
  効率性とロバスト性の両方に着目したキーベースの新たな防衛手法を提案する。 我々は,(1)効率的なトレーニングと(2)任意ランダム化という2つの大きな改善をともなう,以前の防衛基盤を構築した。 実験はImageNetデータセット上で行われ、提案された防御は最先端の攻撃兵器に対して評価された。
  論文  参考訳（メタデータ） (2023-09-04T14:08:34Z)
• Randomness in ML Defenses Helps Persistent Attackers and Hinders Evaluators [49.52538232104449]
  堅牢なMLディフェンスを設計することがますます重要になっている。 近年の研究では、当初最先端の攻撃に抵抗する多くの防衛は、適応的な敵によって破壊される可能性があることが判明している。 我々は、防御設計をシンプルにし、ホワイトボックスの防御は可能な限りランダム性を損なうべきだと論じる。
  論文  参考訳（メタデータ） (2023-02-27T01:33:31Z)
• Game Theoretic Mixed Experts for Combinational Adversarial Machine Learning [10.368343314144553]
  我々は、敵の攻撃と防御をアンサンブルするためのゲーム理論の枠組みを提供する。 本稿では, ランダム化変換, マルチモデル投票方式, 対向検出器アーキテクチャによる防御を目標とする3つの新しい攻撃アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-11-26T21:35:01Z)
• On the Limitations of Stochastic Pre-processing Defenses [42.80542472276451]
  敵の例に対する防御は依然として未解決の問題である。 推論におけるランダム性は、逆入力を見つけるコストを増大させるという考え方が一般的である。 本稿では,そのような前処理の防御について検討し,その欠陥を実証する。
  論文  参考訳（メタデータ） (2022-06-19T21:54:42Z)
• Output Randomization: A Novel Defense for both White-box and Black-box Adversarial Models [8.189696720657247]
  敵対的な例は、さまざまなシナリオでディープニューラルネットワークモデルに脅威をもたらす。 ブラックボックスモデルとホワイトボックスモデルの両方における攻撃に対する防御手段としての出力ランダム化の利用について検討する。
  論文  参考訳（メタデータ） (2021-07-08T12:27:19Z)
• Adversarial Attack and Defense in Deep Ranking [100.17641539999055]
  本稿では,敵対的摂動によって選抜された候補者のランクを引き上げたり下げたりできる,ディープランキングシステムに対する2つの攻撃を提案する。 逆に、全ての攻撃に対するランキングモデルロバスト性を改善するために、反崩壊三重項防御法が提案されている。 MNIST, Fashion-MNIST, CUB200-2011, CARS196およびStanford Online Productsデータセットを用いて, 敵のランク付け攻撃と防御を評価した。
  論文  参考訳（メタデータ） (2021-06-07T13:41:45Z)
• Theoretical Study of Random Noise Defense against Query-Based Black-Box Attacks [72.8152874114382]
  本研究では、クエリベースのブラックボックス攻撃に対するランダムノイズ防御(RND)と呼ばれる単純だが有望な防御手法を検討する。 軽量で、既製のモデルやその他の防衛戦略と直接組み合わせることができます。 本研究では,クエリベースのブラックボックス攻撃に対する rnd の防御効果と対応する適応攻撃がマグニチュード比に大きく依存することを示すための理論的解析を行った。
  論文  参考訳（メタデータ） (2021-04-23T08:39:41Z)
• Are Adversarial Examples Created Equal? A Learnable Weighted Minimax Risk for Robustness under Non-uniform Attacks [70.11599738647963]
  敵の訓練は、強力な攻撃に耐える数少ない防衛の1つである。 従来の防御機構は、基礎となるデータ分布に従って、サンプルに対する均一な攻撃を前提とします。 非一様攻撃に対して重み付けされたミニマックスリスク最適化を提案する。
  論文  参考訳（メタデータ） (2020-10-24T21:20:35Z)
• Adversarial Example Games [51.92698856933169]
  Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
  論文  参考訳（メタデータ） (2020-07-01T19:47:23Z)
• Deflecting Adversarial Attacks [94.85315681223702]
  我々は、攻撃者が攻撃対象クラスに似た入力を生成することによって、敵攻撃を「防御」するこのサイクルを終わらせる新しいアプローチを提案する。 本稿ではまず,3つの検出機構を組み合わせたカプセルネットワークに基づくより強力な防御手法を提案する。
  論文  参考訳（メタデータ） (2020-02-18T06:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。