論文の概要: On the robustness of randomized classifiers to adversarial examples

• arxiv url: http://arxiv.org/abs/2102.10875v1
• Date: Mon, 22 Feb 2021 10:16:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-23 14:49:48.978737
• Title: On the robustness of randomized classifiers to adversarial examples
• Title（参考訳）: 逆例に対するランダム化分類器の堅牢性について
• Authors: Rafael Pinot and Laurent Meunier and Florian Yger and C\'edric Gouy-Pailler and Yann Chevaleyre and Jamal Atif
• Abstract要約: 確率指標を用いて局所リプシッツ性を強制するランダム化分類器の堅牢性の新しい概念を紹介する。 本研究の結果は,温和な仮説下での幅広い機械学習モデルに適用可能であることを示す。 トレーニングしたすべての堅牢なモデルは、最新の精度を同時に達成できます。
• 参考スコア（独自算出の注目度）: 11.359085303200981
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper investigates the theory of robustness against adversarial attacks. We focus on randomized classifiers (\emph{i.e.} classifiers that output random variables) and provide a thorough analysis of their behavior through the lens of statistical learning theory and information theory. To this aim, we introduce a new notion of robustness for randomized classifiers, enforcing local Lipschitzness using probability metrics. Equipped with this definition, we make two new contributions. The first one consists in devising a new upper bound on the adversarial generalization gap of randomized classifiers. More precisely, we devise bounds on the generalization gap and the adversarial gap (\emph{i.e.} the gap between the risk and the worst-case risk under attack) of randomized classifiers. The second contribution presents a yet simple but efficient noise injection method to design robust randomized classifiers. We show that our results are applicable to a wide range of machine learning models under mild hypotheses. We further corroborate our findings with experimental results using deep neural networks on standard image datasets, namely CIFAR-10 and CIFAR-100. All robust models we trained models can simultaneously achieve state-of-the-art accuracy (over $0.82$ clean accuracy on CIFAR-10) and enjoy \emph{guaranteed} robust accuracy bounds ($0.45$ against $\ell_2$ adversaries with magnitude $0.5$ on CIFAR-10).
• Abstract（参考訳）: 本稿では,敵対的攻撃に対する堅牢性理論について考察する。 ランダム化分類器 (\emph{i.e.}) に焦点を当てる。 確率変数を出力し、統計学習理論と情報理論のレンズを通してそれらの振る舞いを徹底的に分析する分類器。 そこで本研究では,確率メトリクスを用いた局所リプシッツネスを強制するランダム化分類器に対する新しいロバスト性概念を提案する。 この定義を満たして、私たちは2つの新しい貢献をする。 1つ目は、ランダム化分類器の逆一般化ギャップに新しい上界を考案することである。 より正確には、一般化ギャップと対角ギャップ (\emph{i.e}) の境界を考案する。 ランダム化分類器のリスクと攻撃中の最悪のリスクの間のギャップ。 第2の貢献は、堅牢なランダム化分類器を設計するためのシンプルで効率的なノイズ注入方法を提示する。 本研究の結果は,温和な仮説下での幅広い機械学習モデルに適用可能であることを示す。 さらに, CIFAR-10 や CIFAR-100 といった標準画像データセットの深層ニューラルネットワークを用いた実験結果と相関する。 トレーニングした全てのロバストモデルは、最先端の精度(CIFAR-10で0.82ドル以上)を同時に達成し、CIFAR-10で0.5ドル以上の敵に対して0.45ドル以上の堅牢な精度バウンダリを楽しめる。

関連論文リスト

• The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
  ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。 入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。 新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
  論文  参考訳（メタデータ） (2023-09-28T22:41:47Z)
• Wasserstein distributional robustness of neural networks [9.79503506460041]
  ディープニューラルネットワークは敵攻撃(AA)に弱いことが知られている 画像認識タスクでは、元の小さな摂動によって画像が誤分類される可能性がある。 本稿では,Wassersteinの分散ロバスト最適化(DRO)技術を用いて問題を再検討し,新しいコントリビューションを得た。
  論文  参考訳（メタデータ） (2023-06-16T13:41:24Z)
• Adversarially Robust Classifier with Covariate Shift Adaptation [25.39995678746662]
  既存の敵の訓練されたモデルは通常、テスト例に対して互いに独立して推論を行う。 単純な適応バッチ正規化(BN)技術は、ランダムな摂動に対してこれらのモデルのロバスト性を大幅に向上させることができることを示す。 さらに,適応BN手法は,敵攻撃に対する性能を高めつつも,一般的な汚職に対する堅牢性を著しく向上させることを示した。
  論文  参考訳（メタデータ） (2021-02-09T19:51:56Z)
• Almost Tight L0-norm Certified Robustness of Top-k Predictions against Adversarial Perturbations [78.23408201652984]
  トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。 我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。 例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
  論文  参考訳（メタデータ） (2020-11-15T21:34:44Z)
• Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification [54.22421582955454]
  逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。 結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
  論文  参考訳（メタデータ） (2020-06-29T21:06:52Z)
• Consistency Regularization for Certified Robustness of Smoothed Classifiers [89.72878906950208]
  最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。 その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
  論文  参考訳（メタデータ） (2020-06-07T06:57:43Z)
• Hidden Cost of Randomized Smoothing [72.93630656906599]
  本稿では、現在のランダム化平滑化による副作用を指摘する。 具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
  論文  参考訳（メタデータ） (2020-03-02T23:37:42Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。