論文の概要: Input-Specific Robustness Certification for Randomized Smoothing
- arxiv url: http://arxiv.org/abs/2112.12084v1
- Date: Tue, 21 Dec 2021 12:16:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-23 15:40:38.709945
- Title: Input-Specific Robustness Certification for Randomized Smoothing
- Title(参考訳): ランダム化平滑化のための入力特定ロバスト性証明
- Authors: Ruoxin Chen, Jie Li, Junchi Yan, Ping Li, Bin Sheng
- Abstract要約: 本稿では,ロバストネス認証の費用対効果を達成するために,インプット・スペクティブ・サンプリング(ISS)の高速化を提案する。
ISSは、認定半径0.05の限られたコストで3回以上、認定をスピードアップすることができる。
- 参考スコア(独自算出の注目度): 76.76115360719837
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although randomized smoothing has demonstrated high certified robustness and
superior scalability to other certified defenses, the high computational
overhead of the robustness certification bottlenecks the practical
applicability, as it depends heavily on the large sample approximation for
estimating the confidence interval. In existing works, the sample size for the
confidence interval is universally set and agnostic to the input for
prediction. This Input-Agnostic Sampling (IAS) scheme may yield a poor Average
Certified Radius (ACR)-runtime trade-off which calls for improvement. In this
paper, we propose Input-Specific Sampling (ISS) acceleration to achieve the
cost-effectiveness for robustness certification, in an adaptive way of reducing
the sampling size based on the input characteristic. Furthermore, our method
universally controls the certified radius decline from the ISS sample size
reduction. The empirical results on CIFAR-10 and ImageNet show that ISS can
speed up the certification by more than three times at a limited cost of 0.05
certified radius. Meanwhile, ISS surpasses IAS on the average certified radius
across the extensive hyperparameter settings. Specifically, ISS achieves
ACR=0.958 on ImageNet ($\sigma=1.0$) in 250 minutes, compared to ACR=0.917 by
IAS under the same condition. We release our code in
\url{https://github.com/roy-ch/Input-Specific-Certification}.
- Abstract(参考訳): ランダム化された平滑化は、他の認証された防御よりも高い信頼性の堅牢性と優れたスケーラビリティを示すが、頑健性認定の高い計算オーバーヘッドは、信頼区間を推定するための大規模なサンプル近似に大きく依存するため、実用的な適用性をボトルネックにしている。
既存の研究では、信頼区間のサンプルサイズが普遍的に設定され、予測のための入力に依存しない。
このIAS (Input-Agnostic Sampling) スキームは、改善を求める平均認定基数(ACR)-ランタイムトレードオフをもたらす可能性がある。
本稿では、入力特性に基づいてサンプリングサイズを縮小する適応的な方法で、ロバストネス認証のコスト効率を達成するための入力特異サンプリング(ISS)加速度を提案する。
さらに,本手法は,ISSの試料サイズ削減による半径減少を普遍的に制御する。
CIFAR-10とImageNetの実証実験の結果、ISSは半径0.05の限られたコストで3回以上、認証をスピードアップできることが示された。
一方、ISSは、幅広いハイパーパラメータ設定で平均認定半径でIASを上回っている。
具体的には、ISSは画像NetでACR=0.958(\sigma=1.0$)を250分で達成している。
私たちはコードを \url{https://github.com/roy-ch/Input-Specific-Certification} でリリースします。
関連論文リスト
- Incremental Randomized Smoothing Certification [3.6968057835251407]
ごく少数のサンプルで近似モデルの認証を行うために、元のスムーズなモデルに対する認証保証を再利用する方法を示す。
提案手法の有効性を実験的に実証し,スクラッチから近似モデルのランダムな平滑化を適用した認証に対して,最大3倍の認証スピードアップを示す。
論文 参考訳(メタデータ) (2023-05-31T03:11:15Z) - Double Bubble, Toil and Trouble: Enhancing Certified Robustness through
Transitivity [27.04033198073254]
ニューラルネットワークモデルの分類を反転させる微妙な敵の例に反応して、最近の研究は、ソリューションとして証明された堅牢性を促進している。
我々は,今日の"最適"証明書が,認証の推移性と入力空間の幾何学の両方を活用することで,どのように改善できるかを示す。
また, 得られた認定半径の4ドルパーセンテージを均一に増加させることにより, さらに有望な結果が得られた。
論文 参考訳(メタデータ) (2022-10-12T10:42:21Z) - Towards Evading the Limits of Randomized Smoothing: A Theoretical
Analysis [74.85187027051879]
決定境界を複数の雑音分布で探索することにより,任意の精度で最適な証明を近似できることを示す。
この結果は、分類器固有の認証に関するさらなる研究を後押しし、ランダム化された平滑化が依然として調査に値することを示す。
論文 参考訳(メタデータ) (2022-06-03T17:48:54Z) - Certified Error Control of Candidate Set Pruning for Two-Stage Relevance
Ranking [57.42241521034744]
本稿では、妥当性ランキングのための候補セットプルーニングの認証エラー制御の概念を提案する。
提案手法は,第1段階から抽出した候補集合を抽出し,第2段階の復位速度を向上する。
論文 参考訳(メタデータ) (2022-05-19T16:00:13Z) - Smooth-Reduce: Leveraging Patches for Improved Certified Robustness [100.28947222215463]
本研究では,Smooth-Reduce の学習自由な修正スムース化手法を提案する。
提案アルゴリズムは,入力画像から抽出した重なり合うパッチを分類し,予測ロジットを集約して,入力周辺の半径が大きいことを証明する。
我々は,このような証明書の理論的保証を提供し,他のランダムな平滑化手法に対する顕著な改善を実証的に示す。
論文 参考訳(メタデータ) (2022-05-12T15:26:20Z) - Certified Defense via Latent Space Randomized Smoothing with Orthogonal
Encoders [13.723000245697866]
ネットワークの潜在空間におけるランダムなスムース化とロバストな認証の確立の可能性について検討する。
我々は、リプシッツの性質が設計上自由であることが知られている加群を用いて、潜在空間で推定される証明された半径を入力空間に伝播する。
CIFAR10 と ImageNet を用いた実験により,テスト期間中に高い効率向上を図った。
論文 参考訳(メタデータ) (2021-08-01T16:48:43Z) - Data Dependent Randomized Smoothing [127.34833801660233]
データ依存フレームワークは、3つのランダムな平滑化アプローチにシームレスに組み込むことができます。
CIFAR10とImageNetで0.5の半径の最強ベースラインの認定精度よりも9%と6%の改善が得られています。
論文 参考訳(メタデータ) (2020-12-08T10:53:11Z) - Certifying Neural Network Robustness to Random Input Noise from Samples [14.191310794366075]
入力の不確実性の存在下でのニューラルネットワークの堅牢性を証明する方法は、安全クリティカルな設定において不可欠である。
本稿では,入力雑音が任意の確率分布に従う場合に,誤分類の確率を上限とする新しいロバスト性証明法を提案する。
論文 参考訳(メタデータ) (2020-10-15T05:27:21Z) - Second-Order Provable Defenses against Adversarial Attacks [63.34032156196848]
ネットワークの固有値が有界であれば、凸最適化を用いて$l$ノルムの証明を効率的に計算できることを示す。
認証精度は5.78%,44.96%,43.19%であった。
論文 参考訳(メタデータ) (2020-06-01T05:55:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。