論文の概要: Randomized Smoothing of All Shapes and Sizes

• arxiv url: http://arxiv.org/abs/2002.08118v5
• Date: Thu, 23 Jul 2020 21:20:51 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-30 12:43:22.691505
• Title: Randomized Smoothing of All Shapes and Sizes
• Title（参考訳）: 全形状・大きさのランダム化平滑化
• Authors: Greg Yang, Tony Duan, J. Edward Hu, Hadi Salman, Ilya Razenshteyn, Jerry Li
• Abstract要約: 最適」ノルムの適切な概念に対して、任意の「ニッチ」ノルムに対する最適な滑らか化はノルムの *Wulff Crystal* によって与えられるレベル集合を持つことを示す。 ここでは、*バナッハ空間コタイプ*の理論を通して、現在のランダム化平滑化技術に基本的な限界を示す。
• 参考スコア（独自算出の注目度）: 29.40896576138737
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Randomized smoothing is the current state-of-the-art defense with provable robustness against $\ell_2$ adversarial attacks. Many works have devised new randomized smoothing schemes for other metrics, such as $\ell_1$ or $\ell_\infty$; however, substantial effort was needed to derive such new guarantees. This begs the question: can we find a general theory for randomized smoothing? We propose a novel framework for devising and analyzing randomized smoothing schemes, and validate its effectiveness in practice. Our theoretical contributions are: (1) we show that for an appropriate notion of "optimal", the optimal smoothing distributions for any "nice" norms have level sets given by the norm's *Wulff Crystal*; (2) we propose two novel and complementary methods for deriving provably robust radii for any smoothing distribution; and, (3) we show fundamental limits to current randomized smoothing techniques via the theory of *Banach space cotypes*. By combining (1) and (2), we significantly improve the state-of-the-art certified accuracy in $\ell_1$ on standard datasets. Meanwhile, we show using (3) that with only label statistics under random input perturbations, randomized smoothing cannot achieve nontrivial certified accuracy against perturbations of $\ell_p$-norm $\Omega(\min(1, d^{\frac{1}{p} - \frac{1}{2}}))$, when the input dimension $d$ is large. We provide code in github.com/tonyduan/rs4a.
• Abstract（参考訳）: ランダムな平滑化は現在の最先端の防御であり、$\ell_2$敵攻撃に対する証明可能な堅牢性を持つ。 多くの研究は、$\ell_1$ や $\ell_\infty$ のような他のメトリクスに対する新しいランダム化スムーシングスキームを考案しているが、そのような新しい保証を導き出すためにはかなりの努力が必要であった。 ランダム化平滑化に関する一般的な理論を見つけることはできますか? 本稿では,ランダム化平滑化スキームを考案・分析するための新しい枠組みを提案し,その有効性を検証する。 1) 任意の "nice" ノルムに対する最適平滑化分布がノルムの *wulff 結晶* によって与えられるレベル集合を持つこと, (2) 任意の平滑化分布に対して有理的にロバストな半径を導出するための2つの新規かつ相補的な方法,(3) バナッハ空間共型の理論による現在のランダム化平滑化手法への根本的な限界を示すこと,の理論的貢献である。 1)と(2)を組み合わせることで、標準データセットに対して$\ell_1$の認証精度が大幅に向上する。 一方,ランダムな入力摂動下でのラベル統計だけでは,$\ell_p$-norm $\Omega(\min(1, d^{\frac{1}{p} - \frac{1}{2}}))$の摂動に対して,ランダムな平滑化は,入力次元$d$が大きければ,非自明な精度を達成できないことを示す。 github.com/tonyduan/rs4aでコードを提供します。

関連論文リスト

• SPLITZ: Certifiable Robustness via Split Lipschitz Randomized Smoothing [8.471466670802817]
  敵の例に証明可能な堅牢性を提供するための2つのアプローチがある。 実用的で斬新なアプローチである textitSPLITZ を提案する。 textitSPLITZは、既存の最先端のアプローチを一貫して改善することを示す。
  論文  参考訳（メタデータ） (2024-07-03T05:13:28Z)
• An Oblivious Stochastic Composite Optimization Algorithm for Eigenvalue Optimization Problems [76.2042837251496]
  相補的な合成条件に基づく2つの難解なミラー降下アルゴリズムを導入する。 注目すべきは、どちらのアルゴリズムも、目的関数のリプシッツ定数や滑らかさに関する事前の知識なしで機能する。 本稿では,大規模半確定プログラム上での手法の効率性とロバスト性を示す。
  論文  参考訳（メタデータ） (2023-06-30T08:34:29Z)
• Near-Optimal Non-Convex Stochastic Optimization under Generalized Smoothness [21.865728815935665]
  2つの最近の研究は、$O(epsilon-3)$サンプル複雑性を確立し、$O(epsilon)$-定常点を得る。 しかし、どちらも$mathrmploy(epsilon-1)$という大きなバッチサイズを必要とする。 本研究では,STORMアルゴリズムの単純な変種を再検討することにより,従来の2つの問題を同時に解決する。
  論文  参考訳（メタデータ） (2023-02-13T00:22:28Z)
• Best Policy Identification in Linear MDPs [70.57916977441262]
  縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。 複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
  論文  参考訳（メタデータ） (2022-08-11T04:12:50Z)
• Minimax Optimal Quantization of Linear Models: Information-Theoretic Limits and Efficient Algorithms [59.724977092582535]
  測定から学習した線形モデルの定量化の問題を考える。 この設定の下では、ミニマックスリスクに対する情報理論の下限を導出する。 本稿では,2層ReLUニューラルネットワークに対して,提案手法と上界を拡張可能であることを示す。
  論文  参考訳（メタデータ） (2022-02-23T02:39:04Z)
• Smoothed Analysis with Adaptive Adversaries [28.940767013349408]
  オンライン問題に対する新しいアルゴリズムの保証を平滑化解析モデルで証明する。 このモデルでは、敵は各時間に一様分布の$tfrac1sigma$倍の密度関数を持つ入力分布を選択する。 本研究の結果は,アルゴリズムの決定と前回の時間ステップにおける入力の実現に基づいて,入力分布を選択可能な適応的敵に対して成り立っている。
  論文  参考訳（メタデータ） (2021-02-16T20:54:49Z)
• Higher-Order Certification for Randomized Smoothing [78.00394805536317]
  本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。 我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。 また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
  論文  参考訳（メタデータ） (2020-10-13T19:35:48Z)
• Provable Robust Classification via Learned Smoothed Densities [1.599072005190786]
  雑音の測定値から、$widehatx(Y)$, $textitBayes estimator$$ $X$という、ロバストな分類の問題を定式化する。 学習されたスムーズなエネルギー関数と線形分類器により、経験的防御と競合する堅牢な精度の証明可能な$ellを達成できることが示される。
  論文  参考訳（メタデータ） (2020-05-09T19:52:32Z)
• Black-Box Certification with Randomized Smoothing: A Functional Optimization Based Framework [60.981406394238434]
  本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。 提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-02-21T07:52:47Z)
• Curse of Dimensionality on Randomized Smoothing for Certifiable Robustness [151.67113334248464]
  我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。 我々はCIFARに関する実験結果を示し,その理論を検証した。
  論文  参考訳（メタデータ） (2020-02-08T22:02:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。