論文の概要: Black-Box Certification with Randomized Smoothing: A Functional
Optimization Based Framework
- arxiv url: http://arxiv.org/abs/2002.09169v2
- Date: Tue, 20 Oct 2020 08:27:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 01:00:28.808938
- Title: Black-Box Certification with Randomized Smoothing: A Functional
Optimization Based Framework
- Title(参考訳): ランダムな平滑化によるブラックボックス認証:機能最適化に基づくフレームワーク
- Authors: Dinghuai Zhang, Mao Ye, Chengyue Gong, Zhanxing Zhu, Qiang Liu
- Abstract要約: 本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。
提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
- 参考スコア(独自算出の注目度): 60.981406394238434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Randomized classifiers have been shown to provide a promising approach for
achieving certified robustness against adversarial attacks in deep learning.
However, most existing methods only leverage Gaussian smoothing noise and only
work for $\ell_2$ perturbation. We propose a general framework of adversarial
certification with non-Gaussian noise and for more general types of attacks,
from a unified functional optimization perspective. Our new framework allows us
to identify a key trade-off between accuracy and robustness via designing
smoothing distributions, helping to design new families of non-Gaussian
smoothing distributions that work more efficiently for different $\ell_p$
settings, including $\ell_1$, $\ell_2$ and $\ell_\infty$ attacks. Our proposed
methods achieve better certification results than previous works and provide a
new perspective on randomized smoothing certification.
- Abstract(参考訳): ランダム化分類器は、ディープラーニングにおける敵対的攻撃に対して確固たる堅牢性を達成するための有望なアプローチを提供する。
しかし、既存のほとんどの手法はガウス滑らか化ノイズのみを利用し、$\ell_2$摂動に対してのみ機能する。
非ガウス雑音とより一般的な攻撃に対して、統一された機能最適化の観点から、敵対的認証の一般的な枠組みを提案する。
我々の新しいフレームワークは、スムーズな分布を設計することで、正確性とロバスト性の間の重要なトレードオフを識別し、より効率的に$\ell_p$の設定で機能する非ガウス的なスムーズな分布の新しいファミリーを設計するのに役立ちます。
提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムース化認証の新しい視点を提供する。
関連論文リスト
- Promoting Robustness of Randomized Smoothing: Two Cost-Effective
Approaches [28.87505826018613]
クリーンな性能を維持しつつ, ランダム化平滑化の堅牢性を高めるための2つのコスト効率な手法を提案する。
最初のアプローチでは、敵のトレーニングとランダムな平滑化のための認証を組み合わせた、新しい堅牢なトレーニング手法AdvMacerを導入している。
第2のアプローチでは、モデルアンサンブル構築に基づくロバスト性証明を大幅に改善する後処理手法であるEsbRSを導入している。
論文 参考訳(メタデータ) (2023-10-11T18:06:05Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Certified Adversarial Robustness Within Multiple Perturbation Bounds [38.3813286696956]
ランダムスムーシング(Randomized smoothing、RS)は、敵の攻撃に対するよく知られた防御である。
本研究では,複数の摂動境界に対して同時に認証された対向ロバスト性を改善することを目的としている。
論文 参考訳(メタデータ) (2023-04-20T16:42:44Z) - SmoothMix: Training Confidence-calibrated Smoothed Classifiers for
Certified Robustness [61.212486108346695]
自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。
提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。
提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
論文 参考訳(メタデータ) (2021-11-17T18:20:59Z) - Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。
一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。
これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
論文 参考訳(メタデータ) (2021-03-17T21:49:53Z) - Higher-Order Certification for Randomized Smoothing [78.00394805536317]
本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。
我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。
また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
論文 参考訳(メタデータ) (2020-10-13T19:35:48Z) - Extensions and limitations of randomized smoothing for robustness
guarantees [13.37805637358556]
平滑化対策の相違が最終ロバスト性保証にどのように影響するかを検討する。
我々は,任意の$ell_p$$pinmathbbN_>0$に対するロバスト性を証明する手法を開発した。
論文 参考訳(メタデータ) (2020-06-07T17:22:32Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳(メタデータ) (2020-06-07T06:57:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。