論文の概要: UniCR: Universally Approximated Certified Robustness via Randomized
Smoothing
- arxiv url: http://arxiv.org/abs/2207.02152v1
- Date: Tue, 5 Jul 2022 16:17:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-06 15:27:00.533251
- Title: UniCR: Universally Approximated Certified Robustness via Randomized
Smoothing
- Title(参考訳): UniCR: ランダムな平滑化による普遍的に近似されたロバスト性
- Authors: Hanbin Hong, Binghui Wang, and Yuan Hong
- Abstract要約: 機械学習分類器の対向的摂動に対する堅牢性について検討した。
本稿では,UniCR(UniCR)フレームワークを提案する。
- 参考スコア(独自算出の注目度): 23.517559790836145
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study certified robustness of machine learning classifiers against
adversarial perturbations. In particular, we propose the first universally
approximated certified robustness (UniCR) framework, which can approximate the
robustness certification of any input on any classifier against any $\ell_p$
perturbations with noise generated by any continuous probability distribution.
Compared with the state-of-the-art certified defenses, UniCR provides many
significant benefits: (1) the first universal robustness certification
framework for the above 4 'any's; (2) automatic robustness certification that
avoids case-by-case analysis, (3) tightness validation of certified robustness,
and (4) optimality validation of noise distributions used by randomized
smoothing. We conduct extensive experiments to validate the above benefits of
UniCR and the advantages of UniCR over state-of-the-art certified defenses
against $\ell_p$ perturbations.
- Abstract(参考訳): 機械学習分類器の対向的摂動に対する堅牢性について検討した。
特に,任意の分類器における任意の入力のロバスト性証明を,任意の連続確率分布から発生する雑音を伴う$\ell_p$摂動に対して近似することができる,普遍的に近似された最初の認証ロバストネス(UniCR)フレームワークを提案する。
以上の4つの「あらゆる」に対する最初の普遍的ロバスト性認証フレームワーク,ケース・バイ・ケース分析を回避する自動ロバスト性認証,(3)証明されたロバスト性の厳密性検証,(4)ランダム化スムーディングで使用する雑音分布の最適性検証などである。
我々は、上記のUniCRの利点とUniCRの利点を、$\ell_p$の摂動に対する最先端の防御に対して検証する広範囲な実験を行う。
関連論文リスト
- Provably Robust Cost-Sensitive Learning via Randomized Smoothing [21.698527267902158]
我々は、ロバストネス認定のためのスケーラブルなフレームワークであるランダム化スムーシングが、コスト感受性のロバストネスの認定とトレーニングに活用できるかどうかを検討する。
まず、ランダム化スムージングの標準的な認証アルゴリズムを適用して、任意のバイナリコスト行列に対して厳密な堅牢性証明を生成する方法について説明する。
そこで我々は,モデル全体の精度を維持しつつ,信頼性の高いコスト感受性を向上するためのロバストなトレーニング手法を開発した。
論文 参考訳(メタデータ) (2023-10-12T21:39:16Z) - Certifying Ensembles: A General Certification Theory with
S-Lipschitzness [128.2881318211724]
組み立ては、一般化、不確実性推定、校正、コンセプトドリフトの効果の緩和に有用であることが示されている。
本研究では、S-Lipschitz分類器を導入し、アンサンブルの理論的堅牢性を分析することにより、リプシッツ連続性を一般化する。
論文 参考訳(メタデータ) (2023-04-25T17:50:45Z) - Certified Adversarial Robustness Within Multiple Perturbation Bounds [38.3813286696956]
ランダムスムーシング(Randomized smoothing、RS)は、敵の攻撃に対するよく知られた防御である。
本研究では,複数の摂動境界に対して同時に認証された対向ロバスト性を改善することを目的としている。
論文 参考訳(メタデータ) (2023-04-20T16:42:44Z) - Confidence-aware Training of Smoothed Classifiers for Certified
Robustness [75.95332266383417]
我々は「ガウス雑音下での精度」を、入力に対する対角的ロバスト性の容易に計算可能なプロキシとして利用する。
実験の結果, 提案手法は, 最先端の訓練手法による信頼性向上を継続的に示すことがわかった。
論文 参考訳(メタデータ) (2022-12-18T03:57:12Z) - SmoothMix: Training Confidence-calibrated Smoothed Classifiers for
Certified Robustness [61.212486108346695]
自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。
提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。
提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
論文 参考訳(メタデータ) (2021-11-17T18:20:59Z) - ANCER: Anisotropic Certification via Sample-wise Volume Maximization [134.7866967491167]
本稿では,与えられたテストセットのサンプルに対して,ボリュームを介して異方性証明書を取得するためのフレームワークであるanceRを紹介する。
その結果,CERはCIFAR-10とImageNetの両方で複数の半径で精度を導入し,ボリュームの面ではかなり大きな領域を認証していることがわかった。
論文 参考訳(メタデータ) (2021-07-09T17:42:38Z) - CROP: Certifying Robust Policies for Reinforcement Learning through
Functional Smoothing [41.093241772796475]
本稿では, 逆境状態の摂動に対する強化学習(CROP)のためのロバスト政策の認定のための最初の枠組みを提案する。
本研究では,国家ごとの行動の堅牢性と累積報酬の低限界の2種類のロバスト性認定基準を提案する。
論文 参考訳(メタデータ) (2021-06-17T07:58:32Z) - Certified Distributional Robustness on Smoothed Classifiers [27.006844966157317]
本稿では,ロバスト性証明として,入力分布に対する最悪の逆損失を提案する。
双対性と滑らか性を利用して、証明書のサロゲートとして容易に計算できる上限を与える。
論文 参考訳(メタデータ) (2020-10-21T13:22:25Z) - Certifiably Adversarially Robust Detection of Out-of-Distribution Data [111.67388500330273]
我々は,OOD点における信頼度を低くすることで,OOD検出の証明可能な最悪のケースを保証することを目的としている。
トレーニング時に見られるOODデータセットを超えて一般化されたOODデータの信頼性の非自明な境界が可能であることを示す。
論文 参考訳(メタデータ) (2020-07-16T17:16:47Z) - Adversarial robustness via robust low rank representations [44.41534627858075]
本研究では、画像などの実データに対してしばしば存在する自然な下級表現の利点を強調する。
低ランクデータ表現を利用して、最先端のランダム化スムーシングに基づくアプローチに対する保証を改善する。
第二の貢献は、$ell_infty$ normで測定された摂動に対する証明された堅牢性のより困難な設定である。
論文 参考訳(メタデータ) (2020-07-13T17:57:00Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳(メタデータ) (2020-06-07T06:57:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。