論文の概要: Estimating the Robustness Radius for Randomized Smoothing with 100$\times$ Sample Efficiency
- arxiv url: http://arxiv.org/abs/2404.17371v1
- Date: Fri, 26 Apr 2024 12:43:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-29 13:15:01.474028
- Title: Estimating the Robustness Radius for Randomized Smoothing with 100$\times$ Sample Efficiency
- Title（参考訳）: 100$\times$サンプル効率によるランダム化平滑化におけるロバストネス半径の推定
- Authors: Emmanouil Seferis, Stefanos Kollias, Chih-Hong Cheng,
- Abstract要約: この研究は、サンプルの数を1桁から2桁に減らすことで、わずかに小さなロバストネス半径の計算が可能になることを証明している。
我々は、標準CIFAR-10およびImageNetデータセットで有望な結果を実験的に示しながら、この現象を説明する数学的基礎を提供する。
- 参考スコア（独自算出の注目度）: 6.199300239433395
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Randomized smoothing (RS) has successfully been used to improve the robustness of predictions for deep neural networks (DNNs) by adding random noise to create multiple variations of an input, followed by deciding the consensus. To understand if an RS-enabled DNN is effective in the sampled input domains, it is mandatory to sample data points within the operational design domain, acquire the point-wise certificate regarding robustness radius, and compare it with pre-defined acceptance criteria. Consequently, ensuring that a point-wise robustness certificate for any given data point is obtained relatively cost-effectively is crucial. This work demonstrates that reducing the number of samples by one or two orders of magnitude can still enable the computation of a slightly smaller robustness radius (commonly ~20% radius reduction) with the same confidence. We provide the mathematical foundation for explaining the phenomenon while experimentally showing promising results on the standard CIFAR-10 and ImageNet datasets.
- Abstract（参考訳）: ランダムスムーシング(RS)は、入力の複数のバリエーションを生成するためにランダムノイズを追加することによって、ディープニューラルネットワーク(DNN)の予測の堅牢性向上に成功し、コンセンサスを決定する。
RS対応DNNがサンプル入力領域で有効であるかどうかを理解するためには、運用設計領域内のデータポイントをサンプリングし、ロバストネス半径に関するポイントワイド証明書を取得し、予め定義された受け入れ基準と比較する必要がある。
これにより、任意のデータポイントに対するポイントワイドロバスト性証明が比較的コスト効率良く取得されることが重要となる。
この研究は、サンプルの数を1桁から2桁に減らすことで、同じ信頼性を持つわずかに小さなロバストネス半径(通常約20%の半径減少)の計算が可能になることを証明している。
我々は、標準CIFAR-10およびImageNetデータセットで有望な結果を実験的に示しながら、この現象を説明する数学的基礎を提供する。
関連論文リスト
- Certified Adversarial Robustness via Partition-based Randomized Smoothing [9.054540533394926]
我々は、ニューラルネットワークの信頼度を高めるために、Pixel Partitioningベースのランダム化平滑化(PPRS)手法を提案する。
提案するPPRSアルゴリズムは,加法ガウス雑音下での画像の可視性を向上させる。
論文 参考訳（メタデータ） (2024-09-20T14:41:47Z) - Approximate Thompson Sampling via Epistemic Neural Networks [26.872304174606278]
てんかん性ニューラルネットワーク(ENN)は、正確な関節の予測分布を生成するように設計されている。
ENNがこの目的をうまく果たし、共同予測分布の質がいかに性能を向上させるかを示す。
論文 参考訳（メタデータ） (2023-02-18T01:58:15Z) - Towards Large Certified Radius in Randomized Smoothing using
Quasiconcave Optimization [3.5133481941064164]
本研究では,疑似固定問題構造を利用することで,計算オーバーヘッドの少ないほとんどのデータポイントに対して最適な認証ラジイを求めることができることを示す。
これにより、効率的で効果的な入力特化ランダム化平滑化アルゴリズムが実現される。
論文 参考訳（メタデータ） (2023-02-01T03:25:43Z) - Double Sampling Randomized Smoothing [19.85592163703077]
二重サンプリングランダム化平滑化フレームワークを提案する。
サンプリングされた確率を、追加の滑らかな分布から利用して、以前の滑らかな分類器の堅牢性認証を強化する。
本研究では,DSRSが既存のデータセットよりも高いロバストラジイを常に異なる設定で証明していることを示す。
論文 参考訳（メタデータ） (2022-06-16T04:34:28Z) - Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。
一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。
これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
論文 参考訳（メタデータ） (2021-03-17T21:49:53Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳（メタデータ） (2021-03-15T16:16:18Z) - Data Dependent Randomized Smoothing [127.34833801660233]
データ依存フレームワークは、3つのランダムな平滑化アプローチにシームレスに組み込むことができます。
CIFAR10とImageNetで0.5の半径の最強ベースラインの認定精度よりも9%と6%の改善が得られています。
論文 参考訳（メタデータ） (2020-12-08T10:53:11Z) - Deep Networks for Direction-of-Arrival Estimation in Low SNR [89.45026632977456]
我々は,真の配列多様体行列の変異チャネルデータから学習した畳み込みニューラルネットワーク(CNN)を導入する。
我々は低SNR体制でCNNを訓練し、すべてのSNRでDoAを予測する。
私たちの堅牢なソリューションは、ワイヤレスアレイセンサーから音響マイクロフォンやソナーまで、いくつかの分野に適用できます。
論文 参考訳（メタデータ） (2020-11-17T12:52:18Z) - Sequential Density Ratio Estimation for Simultaneous Optimization of
Speed and Accuracy [11.470070927586017]
本稿では,この2つの障害を克服する深層ニューラルネットワークに基づくSPRTアルゴリズムであるSPRT-TANDEMを提案する。
1つのオリジナルと2つの公開ビデオデータベースでのテストでは、SPRT-TANDEMは他のベースラインよりも統計的にかなり優れた分類精度を達成する。
論文 参考訳（メタデータ） (2020-06-10T01:05:00Z) - RAIN: A Simple Approach for Robust and Accurate Image Classification
Networks [156.09526491791772]
既存の敵防衛手法の大部分は、予測精度を犠牲にして堅牢性を実現することが示されている。
本稿では,ロバストおよび高精度画像分類N(RAIN)と呼ぶ新しい前処理フレームワークを提案する。
RAINは入力に対してランダム化を適用して、モデルフォワード予測パスと後方勾配パスの関係を壊し、モデルロバスト性を改善する。
STL10 と ImageNet のデータセットを用いて、様々な種類の敵攻撃に対する RAIN の有効性を検証する。
論文 参考訳（メタデータ） (2020-04-24T02:03:56Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳（メタデータ） (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。