論文の概要: Towards Assessment of Randomized Smoothing Mechanisms for Certifying
Adversarial Robustness
- arxiv url: http://arxiv.org/abs/2005.07347v3
- Date: Sun, 7 Jun 2020 18:39:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 22:43:55.678416
- Title: Towards Assessment of Randomized Smoothing Mechanisms for Certifying
Adversarial Robustness
- Title（参考訳）: ランダム化平滑化機構の検証に向けて
- Authors: Tianhang Zheng, Di Wang, Baochun Li, Jinhui Xu
- Abstract要約: 主な課題は、各ランダム化メカニズムの適切性を評価する方法である。
まず最初に、ガウスのメカニズムが$ell$-normを証明するための適切な選択肢であると結論付ける。
驚いたことに、ガウスのメカニズムは指数機構の代わりに$ell_infty$-normを証明するための適切な選択肢でもある。
- 参考スコア（独自算出の注目度）: 50.96431444396752
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As a certified defensive technique, randomized smoothing has received
considerable attention due to its scalability to large datasets and neural
networks. However, several important questions remain unanswered, such as (i)
whether the Gaussian mechanism is an appropriate option for certifying
$\ell_2$-norm robustness, and (ii) whether there is an appropriate randomized
(smoothing) mechanism to certify $\ell_\infty$-norm robustness. To shed light
on these questions, we argue that the main difficulty is how to assess the
appropriateness of each randomized mechanism. In this paper, we propose a
generic framework that connects the existing frameworks in
\cite{lecuyer2018certified, li2019certified}, to assess randomized mechanisms.
Under our framework, for a randomized mechanism that can certify a certain
extent of robustness, we define the magnitude of its required additive noise as
the metric for assessing its appropriateness. We also prove lower bounds on
this metric for the $\ell_2$-norm and $\ell_\infty$-norm cases as the criteria
for assessment. Based on our framework, we assess the Gaussian and Exponential
mechanisms by comparing the magnitude of additive noise required by these
mechanisms and the lower bounds (criteria). We first conclude that the Gaussian
mechanism is indeed an appropriate option to certify $\ell_2$-norm robustness.
Surprisingly, we show that the Gaussian mechanism is also an appropriate option
for certifying $\ell_\infty$-norm robustness, instead of the Exponential
mechanism. Finally, we generalize our framework to $\ell_p$-norm for any
$p\geq2$. Our theoretical findings are verified by evaluations on CIFAR10 and
ImageNet.
- Abstract（参考訳）: 認証された防御技術として、大規模なデータセットやニューラルネットワークへのスケーラビリティのため、ランダム化されたスムーシングが注目されている。
しかし、いくつかの重要な質問は未回答のままである。
i)ガウス機構が$\ell_2$-normのロバスト性を証明する適切な選択肢であるか否か、そして
(ii)$\ell_\infty$-normロバスト性を証明する適切なランダム化(smoothing)メカニズムがあるかどうか。
これらの疑問を浮き彫りにするために、各ランダム化メカニズムの適切性を評価するのが主な難しさである、と論じる。
本稿では,既存のフレームワークであるcite{lecuyer2018certified, li2019certified} を連結してランダム化機構を評価する汎用フレームワークを提案する。
筆者らの枠組みでは, ある程度の頑健さを証明できるランダム化機構に対して, 必要な付加雑音の大きさを, その妥当性を評価する指標として定義する。
また、評価基準として $\ell_2$-norm と $\ell_\infty$-norm に対して、この計量に対する下限も証明する。
この枠組みに基づき, ガウス的および指数的メカニズムを, これらの機構が要求する付加雑音の大きさと下限(クリトリア)を比較して評価する。
まず、ガウス機構は実際に $\ell_2$-norm のロバスト性を証明する適切な選択肢であると結論付ける。
驚いたことに、ガウスのメカニズムは指数機構の代わりに$\ell_\infty$-normのロバスト性を証明するための適切な選択肢でもある。
最後に、フレームワークを$p\geq2$に対して$\ell_p$-normに一般化します。
理論的知見はcifar10とimagenetの評価によって検証された。
関連論文リスト
- Adaptive Data Analysis in a Balanced Adversarial Model [26.58630744414181]
適応データ解析において、メカニズムは未知の分布から$n$、すなわち$D$のサンプルを取得し、正確な推定を行う必要がある。
我々は、それぞれが2つの分離されたアルゴリズムから構成されるアンフバランスドと呼ばれる、より制限された敵を考える。
これらの強い硬さの仮定は、計算的に有界なアンフバランス逆元が公開鍵暗号の存在を示唆するという意味では避けられないことを示す。
論文 参考訳（メタデータ） (2023-05-24T15:08:05Z) - A Robustness Analysis of Blind Source Separation [91.3755431537592]
ブラインドソース分離(BSS)は、変換$f$が可逆であるが未知であるという条件の下で、その混合である$X=f(S)$から観測されていない信号を復元することを目的としている。
このような違反を分析し、その影響を$X$から$S$のブラインドリカバリに与える影響を定量化するための一般的なフレームワークを提案する。
定義された構造的仮定からの偏差に対する一般的なBSS溶出は、明示的な連続性保証という形で、利益的に分析可能であることを示す。
論文 参考訳（メタデータ） (2023-03-17T16:30:51Z) - Constrained Pure Exploration Multi-Armed Bandits with a Fixed Budget [4.226118870861363]
固定予算の下で、制約のある純粋な探索、多武装バンディットの定式化を検討する。
本稿では,Successive Rejects フレームワークに基づく textscConstrained-SR というアルゴリズムを提案する。
また, ある特別な場合において, 関連する崩壊速度は情報理論的下界に対してほぼ最適であることを示した。
論文 参考訳（メタデータ） (2022-11-27T08:58:16Z) - Random Rank: The One and Only Strategyproof and Proportionally Fair
Randomized Facility Location Mechanism [103.36492220921109]
我々は、強い比例性は動機が良く基本的な公理であるが、その性質を満たす決定論的戦略防御機構は存在しないことを示した。
次に、予測において強い比例性を満たすランダムランクと呼ばれるランダム化メカニズムを同定する。
我々の主な特徴はランダムランクを、普遍的真理性、普遍的匿名性、期待における強い比喩性を達成するユニークなメカニズムとして特徴づけている。
論文 参考訳（メタデータ） (2022-05-30T00:51:57Z) - Almost Tight L0-norm Certified Robustness of Top-k Predictions against
Adversarial Perturbations [78.23408201652984]
トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。
我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。
例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
論文 参考訳（メタデータ） (2020-11-15T21:34:44Z) - Adversarial robustness via robust low rank representations [44.41534627858075]
本研究では、画像などの実データに対してしばしば存在する自然な下級表現の利点を強調する。
低ランクデータ表現を利用して、最先端のランダム化スムーシングに基づくアプローチに対する保証を改善する。
第二の貢献は、$ell_infty$ normで測定された摂動に対する証明された堅牢性のより困難な設定である。
論文 参考訳（メタデータ） (2020-07-13T17:57:00Z) - Sharp Statistical Guarantees for Adversarially Robust Gaussian
Classification [54.22421582955454]
逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。
結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
論文 参考訳（メタデータ） (2020-06-29T21:06:52Z) - Consistency Regularization for Certified Robustness of Smoothed
Classifiers [89.72878906950208]
最近のランダムな平滑化技術は、最悪の$ell$-robustnessを平均ケースのロバストネスに変換することができることを示している。
その結果,スムーズな分類器の精度と信頼性の高いロバスト性とのトレードオフは,ノイズに対する予測一貫性の規則化によって大きく制御できることが判明した。
論文 参考訳（メタデータ） (2020-06-07T06:57:43Z) - Estimating Principal Components under Adversarial Perturbations [25.778123431786653]
本研究では,高次元統計的推定問題に対するロバストネスの自然なモデルについて検討する。
我々のモデルは、低精度機械学習や対人訓練といった新しいパラダイムによって動機付けられている。
論文 参考訳（メタデータ） (2020-05-31T20:27:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。