論文の概要: Mitigating the Curse of Dimensionality for Certified Robustness via Dual Randomized Smoothing

• arxiv url: http://arxiv.org/abs/2404.09586v3
• Date: Mon, 27 May 2024 11:23:37 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 05:57:17.666794
• Title: Mitigating the Curse of Dimensionality for Certified Robustness via Dual Randomized Smoothing
• Title（参考訳）: Dual Randomized Smoothing によるロバスト性認定のための次元曲線の修正
• Authors: Song Xia, Yu Yi, Xudong Jiang, Henghui Ding,
• Abstract要約: 本稿では,2次元平滑化による高次元入力に対する$ell$認証ロバスト性の実現可能性について検討する。 提案したDual Smoothing (DRS)は入力イメージを2つのサブイメージにダウンサンプルし、下位次元で2つのサブイメージを滑らかにする。 広汎な実験は、確立された方法論と統合する顕著な能力を示すDSSの一般化性と有効性を示す。
• 参考スコア（独自算出の注目度）: 42.18194525196864
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Randomized Smoothing (RS) has been proven a promising method for endowing an arbitrary image classifier with certified robustness. However, the substantial uncertainty inherent in the high-dimensional isotropic Gaussian noise imposes the curse of dimensionality on RS. Specifically, the upper bound of ${\ell_2}$ certified robustness radius provided by RS exhibits a diminishing trend with the expansion of the input dimension $d$, proportionally decreasing at a rate of $1/\sqrt{d}$. This paper explores the feasibility of providing ${\ell_2}$ certified robustness for high-dimensional input through the utilization of dual smoothing in the lower-dimensional space. The proposed Dual Randomized Smoothing (DRS) down-samples the input image into two sub-images and smooths the two sub-images in lower dimensions. Theoretically, we prove that DRS guarantees a tight ${\ell_2}$ certified robustness radius for the original input and reveal that DRS attains a superior upper bound on the ${\ell_2}$ robustness radius, which decreases proportionally at a rate of $(1/\sqrt m + 1/\sqrt n )$ with $m+n=d$. Extensive experiments demonstrate the generalizability and effectiveness of DRS, which exhibits a notable capability to integrate with established methodologies, yielding substantial improvements in both accuracy and ${\ell_2}$ certified robustness baselines of RS on the CIFAR-10 and ImageNet datasets. Code is available at https://github.com/xiasong0501/DRS.
• Abstract（参考訳）: Randomized Smoothing (RS) は、任意の画像分類器に確証のあるロバスト性を与えるための有望な手法であることが証明されている。 しかし、高次元等方性ガウスノイズに固有のかなりの不確実性は、RSに次元性の呪いを課す。 具体的には、RS によって与えられる証明されたロバストネス半径 ${\ell_2}$ の上界は、入力次元 $d$ の膨張とともに減少傾向を示し、比例的に 1/\sqrt{d}$ の速度で減少する。 本稿では,低次元空間における双対平滑化の利用を通じて,高次元入力に対して${\ell_2}$認証ロバスト性を提供することの実現可能性について検討する。 提案したDual Randomized Smoothing (DRS)は、入力イメージを2つのサブイメージにダウンサンプルし、下位次元で2つのサブイメージを滑らかにする。 理論的には、DRSが元の入力に対して厳密な${\ell_2}$証明されたロバストネス半径を保証し、DRSが${\ell_2}$ロバストネス半径の上位境界に達することを証明し、$m+n=d$で$(1/\sqrt m + 1/\sqrt n )$で比例的に減少することを示す。 CIFAR-10 と ImageNet のデータセット上での RS の信頼性向上を${\ell_2}$ の証明されたロバストネスベースラインが得られた。 コードはhttps://github.com/xiasong0501/DRSで入手できる。

関連論文リスト

• Effects of Exponential Gaussian Distribution on (Double Sampling) Randomized Smoothing [21.618349628349115]
  指数標準ガウス分布(Exponential Standard Gaussian, ESG)と指数一般ガウス分布(Exponential General Gaussian, EGG)の2種類の分布がランダム化平滑化および二重ランダム化平滑化(DSRS)に及ぼす影響について検討した。 実世界のデータセットに関する我々の実験は、ESGの理論的解析を確認し、RSとDSRSの双方に対して、異なる指数$eta$でほぼ同じ認証を提供する。 原始DSRSと比較して、EGGが提供する認証精度の上昇は、ImageNetで最大6.4%まで顕著である。
  論文  参考訳（メタデータ） (2024-06-04T13:41:00Z)
• DiffIR: Efficient Diffusion Model for Image Restoration [108.82579440308267]
  拡散モデル(DM)は、画像合成過程をデノナイジングネットワークのシーケンシャルな応用にモデル化することで、SOTA性能を達成した。 画像全体や特徴マップを推定する大規模なモデルで大規模なイテレーションを実行する従来のDMは、画像復元には非効率である。 本稿では、小型IR先行抽出ネットワーク(CPEN)、ダイナミックIR変換器(DIRformer)、デノナイズネットワーク(Denoising Network)からなるDiffIRを提案する。
  論文  参考訳（メタデータ） (2023-03-16T16:47:14Z)
• Normalized/Clipped SGD with Perturbation for Differentially Private Non-Convex Optimization [94.06564567766475]
  DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。 DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
  論文  参考訳（メタデータ） (2022-06-27T03:45:02Z)
• Double Sampling Randomized Smoothing [19.85592163703077]
  二重サンプリングランダム化平滑化フレームワークを提案する。 サンプリングされた確率を、追加の滑らかな分布から利用して、以前の滑らかな分類器の堅牢性認証を強化する。 本研究では,DSRSが既存のデータセットよりも高いロバストラジイを常に異なる設定で証明していることを示す。
  論文  参考訳（メタデータ） (2022-06-16T04:34:28Z)
• Robust and Accurate -- Compositional Architectures for Randomized Smoothing [5.161531917413708]
  本稿では,保証付きスムーズな予測モデルを使用するか,保証なしのより正確な標準モデルを適用すべきかを,サンプル単位で確実に決定する合成アーキテクチャACESを提案する。 これは、従来のアプローチとは対照的に、高い標準精度と顕著な証明可能な堅牢性の両方を可能にする。
  論文  参考訳（メタデータ） (2022-04-01T14:46:25Z)
• Certifiably Robust Interpretation via Renyi Differential Privacy [77.04377192920741]
  我々はRenyi差分プライバシー(RDP)の新しい視点から解釈堅牢性の問題を研究する。 まず、証明可能で証明可能なトップ$k$ロバスト性を提供する。 第二に、提案手法は既存の手法よりも実験的堅牢性を$sim10%$で提供する。 第3に,ロバスト性と計算効率のトレードオフを円滑に行うことができる。
  論文  参考訳（メタデータ） (2021-07-04T06:58:01Z)
• Higher-Order Certification for Randomized Smoothing [78.00394805536317]
  本研究では,スムーズな分類器の安全性向上のための枠組みを提案する。 我々は,0th$-orderと1st$-order情報を用いて,認証された安全領域を計算する方法を提案する。 また,高次情報を用いた認証計算を一般化するフレームワークも提供する。
  論文  参考訳（メタデータ） (2020-10-13T19:35:48Z)
• Improve the Robustness and Accuracy of Deep Neural Network with $L_{2,\infty}$ Normalization [0.0]
  ディープニューラルネットワーク(DNN)の堅牢性と精度は、$L_2,infty$正規化を導入することで向上した。 L_2,infty$正規化は、DNN関数のポリヘドロングラフの隣接する2つの面の間の大きな二面角をもたらすことが証明されている。
  論文  参考訳（メタデータ） (2020-10-10T05:45:45Z)
• Curse of Dimensionality on Randomized Smoothing for Certifiable Robustness [151.67113334248464]
  我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。 我々はCIFARに関する実験結果を示し,その理論を検証した。
  論文  参考訳（メタデータ） (2020-02-08T22:02:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。