論文の概要: Certified Defense via Latent Space Randomized Smoothing with Orthogonal
Encoders
- arxiv url: http://arxiv.org/abs/2108.00491v1
- Date: Sun, 1 Aug 2021 16:48:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-03 15:00:27.574211
- Title: Certified Defense via Latent Space Randomized Smoothing with Orthogonal
Encoders
- Title(参考訳): 直交エンコーダを用いた潜時空間ランダム化平滑化による認証防御
- Authors: Huimin Zeng, Jiahao Su, Furong Huang
- Abstract要約: ネットワークの潜在空間におけるランダムなスムース化とロバストな認証の確立の可能性について検討する。
我々は、リプシッツの性質が設計上自由であることが知られている加群を用いて、潜在空間で推定される証明された半径を入力空間に伝播する。
CIFAR10 と ImageNet を用いた実験により,テスト期間中に高い効率向上を図った。
- 参考スコア(独自算出の注目度): 13.723000245697866
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Randomized Smoothing (RS), being one of few provable defenses, has been
showing great effectiveness and scalability in terms of defending against
$\ell_2$-norm adversarial perturbations. However, the cost of MC sampling
needed in RS for evaluation is high and computationally expensive. To address
this issue, we investigate the possibility of performing randomized smoothing
and establishing the robust certification in the latent space of a network, so
that the overall dimensionality of tensors involved in computation could be
drastically reduced. To this end, we propose Latent Space Randomized Smoothing.
Another important aspect is that we use orthogonal modules, whose Lipschitz
property is known for free by design, to propagate the certified radius
estimated in the latent space back to the input space, providing valid
certifiable regions for the test samples in the input space. Experiments on
CIFAR10 and ImageNet show that our method achieves competitive certified
robustness but with a significant improvement of efficiency during the test
phase.
- Abstract(参考訳): ランダム化平滑化(英語版)(rs)は証明可能な数少ない防御の1つであり、$\ell_2$-norm の敵対的摂動に対する防御に関して大きな効果と拡張性を示している。
しかしながら、評価にrsで必要となるmcサンプリングのコストは高く計算コストが高い。
この問題に対処するために,ネットワークの潜在空間においてランダムな平滑化を行い,ロバストな認証を確立する可能性を検証し,計算に関わるテンソルの全体次元を劇的に削減できることを示す。
この目的のために、Latent Space Randomized Smoothingを提案する。
もう一つの重要な側面は、リプシッツ特性が設計によって自由であることが知られている直交加群を用いて、潜在空間で推定される認定半径を入力空間に伝播させ、入力空間におけるテストサンプルに対して有効な証明可能な領域を提供することである。
CIFAR10 と ImageNet を用いた実験により,本手法は競争力のある堅牢性を実現するが,試験段階における効率の大幅な向上を図っている。
関連論文リスト
- The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [91.51897617724816]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
本稿では,モンテカルロサンプリングによるランダムな平滑化過程推定における分散が,分類器のリプシッツ定数とマージンと密接な相互作用を示す。
我々はベルンシュタインの濃度不等式と拡張されたリプシッツ境界をランダム化平滑化に利用し、実験結果から現在の最先端手法と比較して精度が著しく向上したことを示す。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Projected Randomized Smoothing for Certified Adversarial Robustness [9.771011198361865]
ランダム化平滑化(Randomized smoothing)は、証明可能な堅牢な分類器を生成する最先端の手法である。
近年の研究では、異なる標準球や異方性領域に対する証明可能な堅牢性が一般化されている。
提案手法は, 最先端の精度を桁違いに向上することを示す。
論文 参考訳(メタデータ) (2023-09-25T01:12:55Z) - Fast Adaptive Test-Time Defense with Robust Features [15.866079116942817]
本稿では,既存の(ロバストな)訓練手順と容易に統合できる新しい適応型テストタイム防衛戦略を提案する。
鍵となるアイデアは、トレーニングされたモデルを最も堅牢な特徴空間に投影することで、非破壊的な攻撃に対する脆弱性を低減することである。
論文 参考訳(メタデータ) (2023-07-21T16:18:58Z) - Systematic Investigation of Sparse Perturbed Sharpness-Aware
Minimization Optimizer [158.2634766682187]
ディープニューラルネットワークは、複雑で非構造的なロスランドスケープのため、しばしば一般化の貧弱さに悩まされる。
SharpnessAware Minimization (SAM) は、摂動を加える際の景観の変化を最小限に抑えることで損失を平滑化するポピュラーなソリューションである。
本稿では,二元マスクによる摂動を効果的かつ効果的に行う訓練手法であるスパースSAMを提案する。
論文 参考訳(メタデータ) (2023-06-30T09:33:41Z) - Adversarial robustness of VAEs through the lens of local geometry [1.6244541005112747]
可変オートエンコーダ (VAEs) に対する教師なし攻撃では、敵は入力サンプルに小さな摂動を発見し、潜時空間の符号化を著しく変化させる。
本稿では, VAEを攻撃するための最適手法として, プルバック計量テンソルの方向バイアスを利用する方法を示す。
論文 参考訳(メタデータ) (2022-08-08T05:53:57Z) - Double Sampling Randomized Smoothing [19.85592163703077]
二重サンプリングランダム化平滑化フレームワークを提案する。
サンプリングされた確率を、追加の滑らかな分布から利用して、以前の滑らかな分類器の堅牢性認証を強化する。
本研究では,DSRSが既存のデータセットよりも高いロバストラジイを常に異なる設定で証明していることを示す。
論文 参考訳(メタデータ) (2022-06-16T04:34:28Z) - Input-Specific Robustness Certification for Randomized Smoothing [76.76115360719837]
本稿では,ロバストネス認証の費用対効果を達成するために,インプット・スペクティブ・サンプリング(ISS)の高速化を提案する。
ISSは、認定半径0.05の限られたコストで3回以上、認定をスピードアップすることができる。
論文 参考訳(メタデータ) (2021-12-21T12:16:03Z) - Improved, Deterministic Smoothing for L1 Certified Robustness [119.86676998327864]
分割雑音を伴う非加法的決定論的平滑化法(dssn)を提案する。
一様加法平滑化とは対照的に、ssn認証は無作為なノイズコンポーネントを独立に必要としない。
これは、規範ベースの敵対的脅威モデルに対して決定論的「ランダム化平滑化」を提供する最初の仕事である。
論文 参考訳(メタデータ) (2021-03-17T21:49:53Z) - Tight Second-Order Certificates for Randomized Smoothing [106.06908242424481]
また、ガウス的ランダムな滑らか化のための普遍曲率的境界が存在することを示す。
この新たな証明書の正確性を証明することに加えて、SoS証明書は実現可能であり、したがって厳密であることを示す。
論文 参考訳(メタデータ) (2020-10-20T18:03:45Z) - Nearly Dimension-Independent Sparse Linear Bandit over Small Action
Spaces via Best Subset Selection [71.9765117768556]
本研究では,高次元線形モデルの下での文脈的帯域問題について考察する。
この設定は、パーソナライズされたレコメンデーション、オンライン広告、パーソナライズされた医療など、不可欠な応用を見出す。
本稿では,最適部分集合選択法を用いて2重成長エポックを推定する手法を提案する。
論文 参考訳(メタデータ) (2020-09-04T04:10:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。