論文の概要: Almost Tight L0-norm Certified Robustness of Top-k Predictions against Adversarial Perturbations

• arxiv url: http://arxiv.org/abs/2011.07633v2
• Date: Fri, 3 Jun 2022 20:02:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-25 07:50:33.155611
• Title: Almost Tight L0-norm Certified Robustness of Top-k Predictions against Adversarial Perturbations
• Title（参考訳）: 対向摂動に対するトップk予測のほぼタイトなl0-norm認定ロバスト性
• Authors: Jinyuan Jia, Binghui Wang, Xiaoyu Cao, Hongbin Liu, Neil Zhenqiang Gong
• Abstract要約: トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。 我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。 例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
• 参考スコア（独自算出の注目度）: 78.23408201652984
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Top-k predictions are used in many real-world applications such as machine learning as a service, recommender systems, and web searches. $\ell_0$-norm adversarial perturbation characterizes an attack that arbitrarily modifies some features of an input such that a classifier makes an incorrect prediction for the perturbed input. $\ell_0$-norm adversarial perturbation is easy to interpret and can be implemented in the physical world. Therefore, certifying robustness of top-$k$ predictions against $\ell_0$-norm adversarial perturbation is important. However, existing studies either focused on certifying $\ell_0$-norm robustness of top-$1$ predictions or $\ell_2$-norm robustness of top-$k$ predictions. In this work, we aim to bridge the gap. Our approach is based on randomized smoothing, which builds a provably robust classifier from an arbitrary classifier via randomizing an input. Our major theoretical contribution is an almost tight $\ell_0$-norm certified robustness guarantee for top-$k$ predictions. We empirically evaluate our method on CIFAR10 and ImageNet. For instance, our method can build a classifier that achieves a certified top-3 accuracy of 69.2\% on ImageNet when an attacker can arbitrarily perturb 5 pixels of a testing image.
• Abstract（参考訳）: top-k予測は、マシンラーニング・アズ・ア・サービス、レコメンダシステム、web検索など、多くの現実世界のアプリケーションで使用されている。 $\ell_0$-norm 逆摂動は、入力のいくつかの特徴を任意に修正する攻撃を特徴付け、分類器が摂動入力の誤った予測を行う。 $\ell_0$-norm 逆摂動は容易に解釈でき、物理的な世界で実装できる。 したがって、$\ell_0$-norm逆摂動に対する上位k$予測の堅牢性を証明することが重要である。 しかし、既存の研究は、上位1$予測の$\ell_0$-normロバスト性または上位1$予測の$\ell_2$-normロバスト性を証明することに焦点を当てている。 この作業では、ギャップを埋めることを目指しています。 提案手法はランダム化平滑化に基づいており,入力をランダム化することで任意の分類器から確固とした分類器を構築する。 私たちの理論上の大きな貢献は、トップ$k$予測に対するほぼ厳密な$\ell_0$-norm認定ロバスト性保証です。 CIFAR10 と ImageNet の手法を実証的に評価した。 例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、imagenet上で認定top-3精度69.2\%を達成する分類器を構築することができる。

関連論文リスト

• Verifiably Robust Conformal Prediction [1.391198481393699]
  本稿では、ニューラルネットワーク検証手法を利用して、敵攻撃時のカバレッジ保証を回復する新しいフレームワークであるVRCP(Verifiably Robust Conformal Prediction)を紹介する。 私たちのメソッドは、回帰タスクだけでなく、$ell1$, $ell2$, $ellinfty$といった任意のノルムで束縛された摂動をサポートする最初の方法です。 いずれの場合も、VRCPは名目上の範囲を達成し、SotAよりもはるかに効率的で情報的な予測領域が得られる。
  論文  参考訳（メタデータ） (2024-05-29T09:50:43Z)
• Robust width: A lightweight and certifiable adversarial defense [0.0]
  逆例は、モデルが誤った予測や分類を行うように意図的に構築される。 本研究では,最近圧縮センシングに導入された頑健な幅特性(RWP)に基づく対角防御について検討する。 本稿では、RWPに基づく特定の入力浄化方式により、ほぼスパースな画像に対して理論的ロバスト性を保証することを示す。
  論文  参考訳（メタデータ） (2024-05-24T22:50:50Z)
• Mind the Gap: A Causal Perspective on Bias Amplification in Prediction & Decision-Making [58.06306331390586]
  本稿では,閾値演算による予測値がS$変化の程度を測るマージン補数の概念を導入する。 適切な因果仮定の下では、予測スコア$S$に対する$X$の影響は、真の結果$Y$に対する$X$の影響に等しいことを示す。
  論文  参考訳（メタデータ） (2024-05-24T11:22:19Z)
• Getting a-Round Guarantees: Floating-Point Attacks on Certified Robustness [19.380453459873298]
  敵の例は、わずかな入力摂動によって機械学習分類器の決定を変更できるため、セキュリティリスクを引き起こす。 これらの保証は、ラウンドエラーを引き起こす浮動小数点表現の制限により無効化可能であることを示す。 この攻撃は、正確な認証保証を持つ線形分類器や、保守的な認証を持つニューラルネットワークに対して実行可能であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T13:07:36Z)
• On the robustness of randomized classifiers to adversarial examples [11.359085303200981]
  確率指標を用いて局所リプシッツ性を強制するランダム化分類器の堅牢性の新しい概念を紹介する。 本研究の結果は,温和な仮説下での幅広い機械学習モデルに適用可能であることを示す。 トレーニングしたすべての堅牢なモデルは、最新の精度を同時に達成できます。
  論文  参考訳（メタデータ） (2021-02-22T10:16:58Z)
• Uncertainty Sets for Image Classifiers using Conformal Prediction [112.54626392838163]
  本稿では,任意の分類器を修飾して真のラベルを含む予測集合を,90%などのユーザ指定確率で出力するアルゴリズムを提案する。 このアルゴリズムはPlatetスケーリングのようにシンプルで高速だが、すべてのモデルとデータセットに対して正式な有限サンプルカバレッジを保証する。 提案手法は,Plattスケーリング後の可逆クラスの小さなスコアを正規化することにより,より安定した予測セットを与えるために,既存の共形予測アルゴリズムを改良する。
  論文  参考訳（メタデータ） (2020-09-29T17:58:04Z)
• Certifying Confidence via Randomized Smoothing [151.67113334248464]
  ランダムな平滑化は、高次元の分類問題に対して良好な証明されたロバスト性を保証することが示されている。 ほとんどの平滑化法は、下層の分類器が予測する信頼性に関する情報を与えてくれない。 そこで本研究では,スムーズな分類器の予測信頼度を評価するために,認証ラジイを生成する手法を提案する。
  論文  参考訳（メタデータ） (2020-09-17T04:37:26Z)
• Consistency Regularization for Certified Robustness of Smoothed Classifiers [89.72878906950208]
  最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。 その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
  論文  参考訳（メタデータ） (2020-06-07T06:57:43Z)
• Black-Box Certification with Randomized Smoothing: A Functional Optimization Based Framework [60.981406394238434]
  本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。 提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-02-21T07:52:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。