論文の概要: Adversarial robustness via robust low rank representations
- arxiv url: http://arxiv.org/abs/2007.06555v2
- Date: Sat, 1 Aug 2020 04:25:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-10 23:42:28.097334
- Title: Adversarial robustness via robust low rank representations
- Title（参考訳）: 頑健な低階表現による対向ロバスト性
- Authors: Pranjal Awasthi, Himanshu Jain, Ankit Singh Rawat, Aravindan
Vijayaraghavan
- Abstract要約: 本研究では、画像などの実データに対してしばしば存在する自然な下級表現の利点を強調する。
低ランクデータ表現を利用して、最先端のランダム化スムーシングに基づくアプローチに対する保証を改善する。
第二の貢献は、$ell_infty$ normで測定された摂動に対する証明された堅牢性のより困難な設定である。
- 参考スコア（独自算出の注目度）: 44.41534627858075
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Adversarial robustness measures the susceptibility of a classifier to
imperceptible perturbations made to the inputs at test time. In this work we
highlight the benefits of natural low rank representations that often exist for
real data such as images, for training neural networks with certified
robustness guarantees.
Our first contribution is for certified robustness to perturbations measured
in $\ell_2$ norm. We exploit low rank data representations to provide improved
guarantees over state-of-the-art randomized smoothing-based approaches on
standard benchmark datasets such as CIFAR-10 and CIFAR-100.
Our second contribution is for the more challenging setting of certified
robustness to perturbations measured in $\ell_\infty$ norm. We demonstrate
empirically that natural low rank representations have inherent robustness
properties, that can be leveraged to provide significantly better guarantees
for certified robustness to $\ell_\infty$ perturbations in those
representations. Our certificate of $\ell_\infty$ robustness relies on a
natural quantity involving the $\infty \to 2$ matrix operator norm associated
with the representation, to translate robustness guarantees from $\ell_2$ to
$\ell_\infty$ perturbations.
A key technical ingredient for our certification guarantees is a fast
algorithm with provable guarantees based on the multiplicative weights update
method to provide upper bounds on the above matrix norm. Our algorithmic
guarantees improve upon the state of the art for this problem, and may be of
independent interest.
- Abstract（参考訳）: 逆のロバスト性は、テスト時の入力に対する知覚できない摂動に対する分類器の感受性を測定する。
本研究では、画像などの実データに対してしばしば存在する自然な低ランク表現の利点を強調し、確証された堅牢性を保証するニューラルネットワークのトレーニングを行う。
最初の貢献は、$\ell_2$ normで測定された摂動に対する認証された堅牢性です。
我々は、CIFAR-10やCIFAR-100のような標準ベンチマークデータセットに対して、最先端のランダム化スムーシングに基づくアプローチの改善を保証するために、低ランクデータ表現を利用する。
第二の貢献は、$\ell_\infty$ normで測定された摂動に対する証明された堅牢性のより困難な設定である。
我々は、自然な低階表現が本質的に堅牢性を持つことを実証的に証明し、それらの表現における$\ell_\infty$摂動に対する証明されたロバスト性を保証するために利用することができる。
我々の $\ell_\infty$ robustness の証明は、表現に付随する $\infty \to 2$ matrix operator norm を含む自然量に依存し、ロバストネス保証を $\ell_2$ から $\ell_\infty$ 摂動に変換する。
証明保証のための重要な技術的要素は、上記の行列ノルムに上限を与える乗法重み更新法に基づく証明可能な保証付き高速アルゴリズムである。
我々のアルゴリズムによる保証は、この問題に対する技術の現状を改善し、独立した関心を持つかもしれない。
関連論文リスト
- Certified Robustness against Sparse Adversarial Perturbations via Data Localization [39.883465335244594]
本論では,MNISTデータセットとFashion-MNISTデータセットのスパース攻撃に対する信頼性の高いロバスト性において,この問題の幾何学を自然に組み込んだ単純な分類器であるBox-NNについて述べる。
論文 参考訳（メタデータ） (2024-05-23T05:02:00Z) - Getting a-Round Guarantees: Floating-Point Attacks on Certified Robustness [19.380453459873298]
敵の例は、わずかな入力摂動によって機械学習分類器の決定を変更できるため、セキュリティリスクを引き起こす。
これらの保証は、ラウンドエラーを引き起こす浮動小数点表現の制限により無効化可能であることを示す。
この攻撃は、正確な認証保証を持つ線形分類器や、保守的な認証を持つニューラルネットワークに対して実行可能であることを示す。
論文 参考訳（メタデータ） (2022-05-20T13:07:36Z) - Robust and Accurate -- Compositional Architectures for Randomized
Smoothing [5.161531917413708]
本稿では,保証付きスムーズな予測モデルを使用するか,保証なしのより正確な標準モデルを適用すべきかを,サンプル単位で確実に決定する合成アーキテクチャACESを提案する。
これは、従来のアプローチとは対照的に、高い標準精度と顕著な証明可能な堅牢性の両方を可能にする。
論文 参考訳（メタデータ） (2022-04-01T14:46:25Z) - Certifiably Robust Interpretation via Renyi Differential Privacy [77.04377192920741]
我々はRenyi差分プライバシー(RDP)の新しい視点から解釈堅牢性の問題を研究する。
まず、証明可能で証明可能なトップ$k$ロバスト性を提供する。
第二に、提案手法は既存の手法よりも実験的堅牢性を$sim10%$で提供する。
第3に,ロバスト性と計算効率のトレードオフを円滑に行うことができる。
論文 参考訳（メタデータ） (2021-07-04T06:58:01Z) - Almost Tight L0-norm Certified Robustness of Top-k Predictions against
Adversarial Perturbations [78.23408201652984]
トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。
我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。
例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
論文 参考訳（メタデータ） (2020-11-15T21:34:44Z) - Higher-Order Certification for Randomized Smoothing [78.00394805536317]
本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。
我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。
また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
論文 参考訳（メタデータ） (2020-10-13T19:35:48Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳（メタデータ） (2020-06-07T06:57:43Z) - Towards Assessment of Randomized Smoothing Mechanisms for Certifying
Adversarial Robustness [50.96431444396752]
主な課題は、各ランダム化メカニズムの適切性を評価する方法である。
まず最初に、ガウスのメカニズムが$ell$-normを証明するための適切な選択肢であると結論付ける。
驚いたことに、ガウスのメカニズムは指数機構の代わりに$ell_infty$-normを証明するための適切な選択肢でもある。
論文 参考訳（メタデータ） (2020-05-15T03:54:53Z) - Regularized Training and Tight Certification for Randomized Smoothed
Classifier with Provable Robustness [15.38718018477333]
我々は新たな正規化リスクを導出し、正規化器はスムーズな手法の精度と堅牢性を適応的に促進することができる。
また、正規化効果を利用して、高い確率で保持されるより厳密なロバスト性の下限を提供する新しい認証アルゴリズムを設計する。
論文 参考訳（メタデータ） (2020-02-17T20:54:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。