論文の概要: Higher-Order Certification for Randomized Smoothing
- arxiv url: http://arxiv.org/abs/2010.06651v1
- Date: Tue, 13 Oct 2020 19:35:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-07 23:04:33.572219
- Title: Higher-Order Certification for Randomized Smoothing
- Title（参考訳）: ランダム化平滑化のための高次認証
- Authors: Jeet Mohapatra, Ching-Yun Ko, Tsui-Wei Weng, Pin-Yu Chen, Sijia Liu,
Luca Daniel
- Abstract要約: 本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。
我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。
また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
- 参考スコア（独自算出の注目度）: 78.00394805536317
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Randomized smoothing is a recently proposed defense against adversarial
attacks that has achieved SOTA provable robustness against $\ell_2$
perturbations. A number of publications have extended the guarantees to other
metrics, such as $\ell_1$ or $\ell_\infty$, by using different smoothing
measures. Although the current framework has been shown to yield near-optimal
$\ell_p$ radii, the total safety region certified by the current framework can
be arbitrarily small compared to the optimal. In this work, we propose a
framework to improve the certified safety region for these smoothed classifiers
without changing the underlying smoothing scheme. The theoretical contributions
are as follows: 1) We generalize the certification for randomized smoothing by
reformulating certified radius calculation as a nested optimization problem
over a class of functions. 2) We provide a method to calculate the certified
safety region using $0^{th}$-order and $1^{st}$-order information for
Gaussian-smoothed classifiers. We also provide a framework that generalizes the
calculation for certification using higher-order information. 3) We design
efficient, high-confidence estimators for the relevant statistics of the
first-order information. Combining the theoretical contribution 2) and 3)
allows us to certify safety region that are significantly larger than the ones
provided by the current methods. On CIFAR10 and Imagenet datasets, the new
regions certified by our approach achieve significant improvements on general
$\ell_1$ certified radii and on the $\ell_2$ certified radii for color-space
attacks ($\ell_2$ restricted to 1 channel) while also achieving smaller
improvements on the general $\ell_2$ certified radii. Our framework can also
provide a way to circumvent the current impossibility results on achieving
higher magnitude of certified radii without requiring the use of data-dependent
smoothing techniques.
- Abstract（参考訳）: ランダムスムーシング(Randomized smoothing)は、SOTAによる$\ell_2$摂動に対する堅牢性を達成した敵攻撃に対する最近提案された防御である。
多くの出版物は、様々なスムーズな尺度を用いて、$\ell_1$や$\ell_\infty$といった他の指標に保証を拡張している。
現在のフレームワークは、ほぼ最適に近い$\ell_p$ radiiが得られることが示されているが、現在のフレームワークによって認証された全安全領域は、最適よりも任意に小さい。
本研究では,この平滑化方式を変更することなく,これらの平滑化分類器の認証安全領域を改善する枠組みを提案する。
理論的貢献は以下の通りである。
1) 認定半径計算をネスト最適化問題として, 関数のクラス上で再構成することにより, ランダム化平滑化の認証を一般化する。
2)gaussian-smoothed分類器に対する$0^{th}$-orderと$1^{st}$-order情報を用いて認証された安全領域を計算する方法を提案する。
また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
3) 1次情報の関連統計量に対する効率的な高信頼度推定器を設計する。
理論的貢献の組合せ
2)と
3) 現在の手法よりはるかに大きい安全領域の認証が可能となる。
cifar10とimagenetデータセットでは、認証された新しいリージョンは、一般的な$\ell_1$認定radiiと、色空間攻撃用の$\ell_2$認定radii(1チャンネルに限定される)に対して大幅に改善され、一般的な$\ell_2$認定radiiに対してより小さな改善を達成しています。
当社のフレームワークは,データ依存型平滑化手法を必要とせずに,より高い大きさの認定radiiを達成するための,現在の不可能性を回避できる手段を提供することもできる。
関連論文リスト
- Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。
セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。
本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
論文 参考訳（メタデータ） (2024-02-13T11:59:43Z) - Towards Large Certified Radius in Randomized Smoothing using
Quasiconcave Optimization [3.5133481941064164]
本研究では,疑似固定問題構造を利用することで,計算オーバーヘッドの少ないほとんどのデータポイントに対して最適な認証ラジイを求めることができることを示す。
これにより、効率的で効果的な入力特化ランダム化平滑化アルゴリズムが実現される。
論文 参考訳（メタデータ） (2023-02-01T03:25:43Z) - Smooth-Reduce: Leveraging Patches for Improved Certified Robustness [100.28947222215463]
本研究では,Smooth-Reduce の学習自由な修正スムース化手法を提案する。
提案アルゴリズムは,入力画像から抽出した重なり合うパッチを分類し,予測ロジットを集約して,入力周辺の半径が大きいことを証明する。
我々は,このような証明書の理論的保証を提供し,他のランダムな平滑化手法に対する顕著な改善を実証的に示す。
論文 参考訳（メタデータ） (2022-05-12T15:26:20Z) - ANCER: Anisotropic Certification via Sample-wise Volume Maximization [134.7866967491167]
本稿では,与えられたテストセットのサンプルに対して,ボリュームを介して異方性証明書を取得するためのフレームワークであるanceRを紹介する。
その結果,CERはCIFAR-10とImageNetの両方で複数の半径で精度を導入し,ボリュームの面ではかなり大きな領域を認証していることがわかった。
論文 参考訳（メタデータ） (2021-07-09T17:42:38Z) - Certifying Confidence via Randomized Smoothing [151.67113334248464]
ランダムな平滑化は、高次元の分類問題に対して良好な証明されたロバスト性を保証することが示されている。
ほとんどの平滑化法は、下層の分類器が予測する信頼性に関する情報を与えてくれない。
そこで本研究では,スムーズな分類器の予測信頼度を評価するために,認証ラジイを生成する手法を提案する。
論文 参考訳（メタデータ） (2020-09-17T04:37:26Z) - Adversarial robustness via robust low rank representations [44.41534627858075]
本研究では、画像などの実データに対してしばしば存在する自然な下級表現の利点を強調する。
低ランクデータ表現を利用して、最先端のランダム化スムーシングに基づくアプローチに対する保証を改善する。
第二の貢献は、$ell_infty$ normで測定された摂動に対する証明された堅牢性のより困難な設定である。
論文 参考訳（メタデータ） (2020-07-13T17:57:00Z) - Black-Box Certification with Randomized Smoothing: A Functional
Optimization Based Framework [60.981406394238434]
本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。
提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
論文 参考訳（メタデータ） (2020-02-21T07:52:47Z) - Randomized Smoothing of All Shapes and Sizes [29.40896576138737]
最適」ノルムの適切な概念に対して、任意の「ニッチ」ノルムに対する最適な滑らか化はノルムの *Wulff Crystal* によって与えられるレベル集合を持つことを示す。
ここでは、*バナッハ空間コタイプ*の理論を通して、現在のランダム化平滑化技術に基本的な限界を示す。
論文 参考訳（メタデータ） (2020-02-19T11:41:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。