論文の概要: Projected Randomized Smoothing for Certified Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2309.13794v1
• Date: Mon, 25 Sep 2023 01:12:55 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-26 17:33:03.318511
• Title: Projected Randomized Smoothing for Certified Adversarial Robustness
• Title（参考訳）: 逆数ロバスト性証明のためのランダムな平滑化
• Authors: Samuel Pfrommer, Brendon G. Anderson, Somayeh Sojoudi
• Abstract要約: ランダム化平滑化(Randomized smoothing)は、証明可能な堅牢な分類器を生成する最先端の手法である。 近年の研究では、異なる標準球や異方性領域に対する証明可能な堅牢性が一般化されている。 提案手法は, 最先端の精度を桁違いに向上することを示す。
• 参考スコア（独自算出の注目度）: 9.771011198361865
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Randomized smoothing is the current state-of-the-art method for producing provably robust classifiers. While randomized smoothing typically yields robust $\ell_2$-ball certificates, recent research has generalized provable robustness to different norm balls as well as anisotropic regions. This work considers a classifier architecture that first projects onto a low-dimensional approximation of the data manifold and then applies a standard classifier. By performing randomized smoothing in the low-dimensional projected space, we characterize the certified region of our smoothed composite classifier back in the high-dimensional input space and prove a tractable lower bound on its volume. We show experimentally on CIFAR-10 and SVHN that classifiers without the initial projection are vulnerable to perturbations that are normal to the data manifold and yet are captured by the certified regions of our method. We compare the volume of our certified regions against various baselines and show that our method improves on the state-of-the-art by many orders of magnitude.
• Abstract（参考訳）: ランダム化平滑化は、証明可能な堅牢な分類器を生成する最先端の手法である。 ランダムな平滑化は一般に$\ell_2$-ball証明をもたらすが、最近の研究は異なる標準球と異方性領域に証明可能な堅牢性を一般化した。 この仕事は、まずデータ多様体の低次元近似に投影し、次に標準分類器を適用する分類器アーキテクチャを考える。 低次元射影空間でランダムな平滑化を行うことにより、高次元入力空間において、平滑化複合分類器の認定領域を特徴付け、その体積上の可搬下界を証明した。 CIFAR-10 と SVHN で実験したところ,初期投影のない分類器はデータ多様体に正規な摂動に対して脆弱であり,しかもその証明された領域によって捕捉されることがわかった。 我々は認定領域のボリュームを様々な基準値と比較し、その手法が最先端の精度を桁違いに向上することを示す。

関連論文リスト

• Certified Robustness against Sparse Adversarial Perturbations via Data Localization [39.883465335244594]
  本論では,MNISTデータセットとFashion-MNISTデータセットのスパース攻撃に対する信頼性の高いロバスト性において,この問題の幾何学を自然に組み込んだ単純な分類器であるBox-NNについて述べる。
  論文  参考訳（メタデータ） (2024-05-23T05:02:00Z)
• The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
  ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。 入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。 新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
  論文  参考訳（メタデータ） (2023-09-28T22:41:47Z)
• Towards Better Certified Segmentation via Diffusion Models [62.21617614504225]
  セグメンテーションモデルは敵の摂動に弱いため、医療や自動運転といった重要な意思決定システムでの使用を妨げます。 近年,理論的保証を得るためにガウス雑音を入力に加えることにより,セグメント化予測のランダム化が提案されている。 本稿では,ランダムな平滑化と拡散モデルを組み合わせたセグメンテーション予測の問題に対処する。
  論文  参考訳（メタデータ） (2023-06-16T16:30:39Z)
• Understanding Noise-Augmented Training for Randomized Smoothing [14.061680807550722]
  ランダムスムーシング(Randomized smoothing)は、敵攻撃に対する証明可能な堅牢性を保証する技術である。 より強い分布仮定を作らずに、雑音増強の訓練を受けた予測者から利益を期待できないことを示す。 本分析は, ランダム化平滑化の実践的展開に直接的な意味を持つ。
  論文  参考訳（メタデータ） (2023-05-08T14:46:34Z)
• A Geometric Perspective on Variational Autoencoders [0.0]
  本稿では、完全に幾何学的な視点から、変分オートエンコーダフレームワークの新たな解釈を提案する。 このスキームを使うことで、バニラVAEと競合し、いくつかのベンチマークデータセットのより高度なバージョンよりも優れていることが示される。
  論文  参考訳（メタデータ） (2022-09-15T15:32:43Z)
• Hilbert Flattening: a Locality-Preserving Matrix Unfolding Method for Visual Discrimination [51.432453379052724]
  平坦な行列の局所性を維持する革新的な方法としてヒルベルト曲線平坦化を提案する。 また、トークンサンプリングとトークンアグリゲータを組み込んだ視覚変換器アーキテクチャであるLocalformerを導入し、その局所性バイアスを高める。
  論文  参考訳（メタデータ） (2022-02-21T13:53:04Z)
• SmoothMix: Training Confidence-calibrated Smoothed Classifiers for Certified Robustness [61.212486108346695]
  自己混合によるスムーズな分類器のロバスト性を制御するためのトレーニングスキームSmoothMixを提案する。 提案手法は, 厳密性に制限された原因として, 信頼性の低い, オフクラスに近いサンプルを効果的に同定する。 提案手法はスムーズな分類器の検証値である$ell$-robustnessを大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2021-11-17T18:20:59Z)
• Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
  分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。 一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。 これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
  論文  参考訳（メタデータ） (2021-03-17T21:49:53Z)
• Consistency Regularization for Certified Robustness of Smoothed Classifiers [89.72878906950208]
  最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。 その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
  論文  参考訳（メタデータ） (2020-06-07T06:57:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。