論文の概要: Accelerated Smoothing: A Scalable Approach to Randomized Smoothing

• arxiv url: http://arxiv.org/abs/2402.07498v1
• Date: Mon, 12 Feb 2024 09:07:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-13 14:54:51.904818
• Title: Accelerated Smoothing: A Scalable Approach to Randomized Smoothing
• Title（参考訳）: accelerated smoothing:ランダム化平滑化へのスケーラブルなアプローチ
• Authors: Devansh Bhardwaj, Kshitiz Kaushik, Sarthak Gupta
• Abstract要約: 本稿では,モンテカルロサンプリングを代理ニューラルネットワークのトレーニングに置き換える新しい手法を提案する。 提案手法はロバスト半径認定プロセスを大幅に加速し,600ドル近い改善が得られた。
• 参考スコア（独自算出の注目度）: 4.530339602471495
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Randomized smoothing has emerged as a potent certifiable defense against adversarial attacks by employing smoothing noises from specific distributions to ensure the robustness of a smoothed classifier. However, the utilization of Monte Carlo sampling in this process introduces a compute-intensive element, which constrains the practicality of randomized smoothing on a larger scale. To address this limitation, we propose a novel approach that replaces Monte Carlo sampling with the training of a surrogate neural network. Through extensive experimentation in various settings, we demonstrate the efficacy of our approach in approximating the smoothed classifier with remarkable precision. Furthermore, we demonstrate that our approach significantly accelerates the robust radius certification process, providing nearly $600$X improvement in computation time, overcoming the computational bottlenecks associated with traditional randomized smoothing.
• Abstract（参考訳）: ランダム化スムーシングは, 特定分布からのスムースな雑音を利用して, スムースな分類器の堅牢性を確保することで, 敵攻撃に対する強力な防御法として出現している。 しかし、このプロセスでのモンテカルロサンプリングの利用は、より大きなスケールでのランダム化平滑化の実用性を制約する計算集約要素を導入する。 この制限に対処するために,モンテカルロサンプリングを代理ニューラルネットワークのトレーニングに置き換える新しい手法を提案する。 様々な場面で広範囲な実験を行い, 特異な精度で平滑化分類器を近似する手法の有効性を実証した。 さらに,本手法はロバスト半径認証プロセスを大幅に高速化し,従来のランダム化スムージングに伴う計算ボトルネックを克服し,600ドル近い計算時間の改善を実現した。

関連論文リスト

• Variational Randomized Smoothing for Sample-Wise Adversarial Robustness [12.455543308060196]
  本稿では,ノイズレベルセレクタを導入し,各入力に適したサンプルごとのノイズレベルを用いた新しい変分フレームワークを提案する。 実験の結果,敵攻撃に対する経験的堅牢性の向上が示された。
  論文  参考訳（メタデータ） (2024-07-16T15:25:13Z)
• Promoting Robustness of Randomized Smoothing: Two Cost-Effective Approaches [28.87505826018613]
  クリーンな性能を維持しつつ, ランダム化平滑化の堅牢性を高めるための2つのコスト効率な手法を提案する。 最初のアプローチでは、敵のトレーニングとランダムな平滑化のための認証を組み合わせた、新しい堅牢なトレーニング手法AdvMacerを導入している。 第2のアプローチでは、モデルアンサンブル構築に基づくロバスト性証明を大幅に改善する後処理手法であるEsbRSを導入している。
  論文  参考訳（メタデータ） (2023-10-11T18:06:05Z)
• The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
  ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。 入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。 新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
  論文  参考訳（メタデータ） (2023-09-28T22:41:47Z)
• SmoothMix: Training Confidence-calibrated Smoothed Classifiers for Certified Robustness [61.212486108346695]
  自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。 提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。 提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2021-11-17T18:20:59Z)
• Minibatch and Momentum Model-based Methods for Stochastic Non-smooth Non-convex Optimization [3.4809730725241597]
  モデルベース手法に対する2つの重要な拡張を行う。 まず,各イテレーションのモデル関数を近似するために,サンプルの集合を用いる新しいミニバッチを提案する。 第二に、運動量法の成功により、新しい凸モデルを提案する。
  論文  参考訳（メタデータ） (2021-06-06T05:31:57Z)
• Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
  分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。 一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。 これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
  論文  参考訳（メタデータ） (2021-03-17T21:49:53Z)
• Stochastic Optimization with Heavy-Tailed Noise via Accelerated Gradient Clipping [69.9674326582747]
  そこで本研究では,重み付き分散雑音を用いたスムーズな凸最適化のための,クリップ付きSSTMと呼ばれる新しい1次高速化手法を提案する。 この場合、最先端の結果を上回る新たな複雑さが証明される。 本研究は,SGDにおいて,ノイズに対する光細かな仮定を伴わずにクリッピングを施した最初の非自明な高確率複雑性境界を導出した。
  論文  参考訳（メタデータ） (2020-05-21T17:05:27Z)
• Black-Box Certification with Randomized Smoothing: A Functional Optimization Based Framework [60.981406394238434]
  本稿では,非ガウス雑音とより一般的な攻撃に対する対向的認証の一般的な枠組みを提案する。 提案手法は,従来の手法よりも優れた認証結果を得るとともに,ランダム化スムーズな認証の新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-02-21T07:52:47Z)
• Distributed Sketching Methods for Privacy Preserving Regression [54.51566432934556]
  ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。 従来のスケッチ手法に対する新しい近似保証を導出し、分散スケッチにおけるパラメータ平均化の精度を解析する。 大規模実験によるサーバレスコンピューティングプラットフォームにおける分散スケッチのパフォーマンスについて説明する。
  論文  参考訳（メタデータ） (2020-02-16T08:35:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。