論文の概要: Measuring Equality in Machine Learning Security Defenses

• arxiv url: http://arxiv.org/abs/2302.08973v3
• Date: Mon, 17 Apr 2023 01:24:34 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-18 21:03:31.036786
• Title: Measuring Equality in Machine Learning Security Defenses
• Title（参考訳）: マシンラーニングのセキュリティ防衛における品質測定
• Authors: Luke E. Richards, Edward Raff, Cynthia Matuszek
• Abstract要約: 機械学習のセキュリティコミュニティは、過去10年にわたって、回避攻撃のための無数の防御を開発してきた。 このコミュニティの根底にある疑問は: この防衛は、誰のために防御されるのか? 機械学習のセキュリティ手法の公正性に関する実証的な結果を通じて、この問題に答えることのできる単純なパリティ指標と分析のためのフレームワークについて概説する。
• 参考スコア（独自算出の注目度）: 39.96812311550351
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The machine learning security community has developed myriad defenses for evasion attacks over the past decade. An understudied question in that community is: for whom do these defenses defend? In this work, we consider some common approaches to defending learned systems and whether those approaches may offer unexpected performance inequities when used by different sub-populations. We outline simple parity metrics and a framework for analysis that can begin to answer this question through empirical results of the fairness implications of machine learning security methods. Many methods have been proposed that can cause direct harm, which we describe as biased vulnerability and biased rejection. Our framework and metric can be applied to robustly trained models, preprocessing-based methods, and rejection methods to capture behavior over security budgets. We identify a realistic dataset with a reasonable computational cost suitable for measuring the equality of defenses. Through a case study in speech command recognition, we show how such defenses do not offer equal protection for social subgroups and how to perform such analyses for robustness training, and we present a comparison of fairness between two rejection-based defenses: randomized smoothing and neural rejection. We offer further analysis of factors that correlate to equitable defenses to stimulate the future investigation of how to assist in building such defenses. To the best of our knowledge, this is the first work that examines the fairness disparity in the accuracy-robustness trade-off in speech data and addresses fairness evaluation for rejection-based defenses.
• Abstract（参考訳）: 機械学習セキュリティコミュニティは、過去10年間にわたって、回避攻撃に対する無数の防御を開発してきた。 このコミュニティの未熟な疑問は: この防御策は誰を擁護するのか? 本研究では,学習システムを守るための一般的なアプローチと,それらのアプローチが異なるサブ集団で使用する場合,予期せぬ性能の低下をもたらすかどうかを検討する。 機械学習のセキュリティ手法の公正性に関する実証的な結果を通じて、この問題に答えることのできる単純なパリティ指標と分析のためのフレームワークについて概説する。 直接的害を引き起こす可能性のある多くの手法が提案されているが、これは偏りの脆弱性と偏りの拒絶である。 当社のフレームワークとメトリックは,堅牢にトレーニングされたモデル,前処理ベースのメソッド,セキュリティ予算を越える行動をキャプチャする拒否メソッドにも適用可能です。 我々は、防衛の平等性を測定するのに適した合理的な計算コストを持つ現実的なデータセットを特定する。 音声認識におけるケーススタディを通じて、このような防衛が社会的サブグループに対して平等な保護を提供していないこと、そして、ロバストネストレーニングのためにそのような分析を行う方法を示し、ランダム化スムーシングとニューラルリジェクションの2つの拒否に基づく防御の公平性の比較を示す。 我々は, 公平防衛と相関する要因のさらなる分析を行い, 今後, 防衛体制の整備を支援する方法についての調査を促進させる。 我々の知る限りでは、音声データの正確さと損益性とのトレードオフの公平性を検証し、拒絶に基づく防御に対する公平性評価に対処する最初の研究である。

関連論文リスト

• Among Us: Adversarially Robust Collaborative Perception by Consensus [50.73128191202585]
  複数のロボットは、シーン(例えば物体)を個人よりも協調的に知覚することができる。 本稿では,未知の攻撃者に対して一般化可能な新しいサンプリングベース防衛戦略であるROBOSACを提案する。 自律運転シナリオにおける協調3次元物体検出の課題に対して,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2023-03-16T17:15:25Z)
• Adversarial Purification with the Manifold Hypothesis [14.085013765853226]
  この枠組みを用いた逆浄化法を開発した。 我々のアプローチは、攻撃者が防衛の存在を認識しているとしても、敵の堅牢性を提供することができる。
  論文  参考訳（メタデータ） (2022-10-26T01:00:57Z)
• Towards Fair Classification against Poisoning Attacks [52.57443558122475]
  攻撃者が少数のサンプルを訓練データに挿入できる毒殺シナリオについて検討する。 本稿では,従来の防犯手法に適合する汎用的かつ理論的に保証された枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-18T00:49:58Z)
• Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
  深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。 我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。 我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
  論文  参考訳（メタデータ） (2022-08-18T08:19:26Z)
• Searching for an Effective Defender: Benchmarking Defense against Adversarial Word Substitution [83.84968082791444]
  ディープニューラルネットワークは、意図的に構築された敵の例に対して脆弱である。 ニューラルNLPモデルに対する敵対的単語置換攻撃を防御する様々な方法が提案されている。
  論文  参考訳（メタデータ） (2021-08-29T08:11:36Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• Adversarial robustness via stochastic regularization of neural activation sensitivity [24.02105949163359]
  両防衛目標を同時に扱う新しい防衛機構を提案する。 損失面の勾配を平坦化し、逆例を見つけるのが難しくなる。 さらに、ジャコビアン正則化を利用して、正しく分類された入力から決定を遠ざける。
  論文  参考訳（メタデータ） (2020-09-23T19:31:55Z)
• Defensive Few-shot Learning [77.82113573388133]
  本稿では,防御的数発学習という新たな課題について検討する。 敵の攻撃に対して頑丈な数発のモデルを学習することを目的としている。 提案したフレームワークは、既存の数発のモデルを敵攻撃に対して効果的に堅牢にすることができる。
  論文  参考訳（メタデータ） (2019-11-16T05:57:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。