論文の概要: TSS: Transformation-Specific Smoothing for Robustness Certification
- arxiv url: http://arxiv.org/abs/2002.12398v5
- Date: Tue, 16 Nov 2021 10:11:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 07:22:03.673022
- Title: TSS: Transformation-Specific Smoothing for Robustness Certification
- Title（参考訳）: TSS:ロバストネス認証のための変換特異な平滑化
- Authors: Linyi Li, Maurice Weber, Xiaojun Xu, Luka Rimanic, Bhavya Kailkhura,
Tao Xie, Ce Zhang, Bo Li
- Abstract要約: 動機付けられた敵は、セマンティックトランスフォーメーションを使用してテストデータを摂動することで、機械学習システムを誤解させる可能性がある。
TSS -- 汎用の敵対的セマンティックトランスフォーメーションに対して、MLの堅牢性を証明するための統一的なフレームワークを提供する。
TSSは大規模なImageNetデータセット上で、非自明な証明された堅牢性を実現する最初のアプローチであることを示す。
- 参考スコア（独自算出の注目度）: 37.87602431929278
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As machine learning (ML) systems become pervasive, safeguarding their
security is critical. However, recently it has been demonstrated that motivated
adversaries are able to mislead ML systems by perturbing test data using
semantic transformations. While there exists a rich body of research providing
provable robustness guarantees for ML models against $\ell_p$ norm bounded
adversarial perturbations, guarantees against semantic perturbations remain
largely underexplored. In this paper, we provide TSS -- a unified framework for
certifying ML robustness against general adversarial semantic transformations.
First, depending on the properties of each transformation, we divide common
transformations into two categories, namely resolvable (e.g., Gaussian blur)
and differentially resolvable (e.g., rotation) transformations. For the former,
we propose transformation-specific randomized smoothing strategies and obtain
strong robustness certification. The latter category covers transformations
that involve interpolation errors, and we propose a novel approach based on
stratified sampling to certify the robustness. Our framework TSS leverages
these certification strategies and combines with consistency-enhanced training
to provide rigorous certification of robustness. We conduct extensive
experiments on over ten types of challenging semantic transformations and show
that TSS significantly outperforms the state of the art. Moreover, to the best
of our knowledge, TSS is the first approach that achieves nontrivial certified
robustness on the large-scale ImageNet dataset. For instance, our framework
achieves 30.4% certified robust accuracy against rotation attack (within $\pm
30^\circ$) on ImageNet. Moreover, to consider a broader range of
transformations, we show TSS is also robust against adaptive attacks and
unforeseen image corruptions such as CIFAR-10-C and ImageNet-C.
- Abstract（参考訳）: 機械学習(ML)システムが普及するにつれて、セキュリティの保護が重要になる。
しかし、近年、モチベーションのある敵がセマンティックトランスフォーメーションを用いてテストデータを摂動することでMLシステムを誤解させることができることが実証されている。
MLモデルに対して$\ell_p$ノルム有界対向摂動に対する証明可能な堅牢性を保証するためのリッチな研究団体が存在するが、セマンティック摂動に対する保証はほとんど探索されていない。
本稿では,汎用対角的セマンティックトランスフォーメーションに対して,MLの堅牢性を証明する統一的なフレームワークであるTSSを提案する。
まず、各変換の性質によって、共通変換は可解(例えばガウスのぼけ)と微分可解(例えば回転)変換の2つのカテゴリに分けられる。
前者に対しては,変換特異的なランダム化平滑化戦略を提案し,強固な堅牢性認定を得る。
後者のカテゴリは補間誤差を伴う変換を対象とし,ロバスト性を証明するための階層化サンプリングに基づく新しいアプローチを提案する。
当社のフレームワークであるTSSは,これらの認証戦略を活用して,一貫性向上したトレーニングと組み合わせて,堅牢性の厳格な認証を提供する。
我々は10種類以上の挑戦的セマンティックトランスフォーメーションに関する広範な実験を行い、TSSが芸術の状態を著しく上回ることを示す。
さらに、私たちの知る限りでは、tssは大規模なimagenetデータセットで非自明な認証堅牢性を達成する最初のアプローチです。
例えば、このフレームワークはimagenetの回転攻撃に対する30.4%のロバストな精度を実現している($\pm 30^\circ$)。
さらに,広い範囲の変換を考えるために,適応攻撃やcifar-10-cやimagenet-cといった予期せぬ画像破損に対しても,tssが頑健であることを示す。
関連論文リスト
- COMMIT: Certifying Robustness of Multi-Sensor Fusion Systems against
Semantic Attacks [24.37030085306459]
本稿では,マルチセンサ融合システムのセマンティックアタックに対する堅牢性を証明した最初のロバストネス認証フレームワークCOMMITを提案する。
特に,マルチモーダルデータを用いたランダム化平滑化を利用した実用的な異方性雑音機構を提案する。
MSFモデルの認証は、MSFモデルの利点を検証するシングルモーダルモデルよりも少なくとも48.39%高いことが示されている。
論文 参考訳（メタデータ） (2024-03-04T18:57:11Z) - Diagnosing and Rectifying Fake OOD Invariance: A Restructured Causal
Approach [51.012396632595554]
不変表現学習(IRL)は、不変因果的特徴から環境から切り離されたラベルへの予測を促進する。
最近の理論的結果は、IRLによって回復されたいくつかの因果的特徴は、訓練環境ではドメイン不変のふりをするが、目に見えない領域では失敗する。
本研究では,RS-SCMに関する条件付き相互情報に基づく手法を開発し,その効果を巧みに補正する。
論文 参考訳（メタデータ） (2023-12-15T12:58:05Z) - General Lipschitz: Certified Robustness Against Resolvable Semantic Transformations via Transformation-Dependent Randomized Smoothing [5.5855074442298696]
構成可能な可解なセマンティック摂動に対してニューラルネットワークを認証する新しいフレームワークであるEmph General Lipschitz (GL)を提案する。
提案手法は,ImageNetデータセットにおける最先端のアプローチと同等に機能する。
論文 参考訳（メタデータ） (2023-08-17T14:39:24Z) - GSmooth: Certified Robustness against Semantic Transformations via
Generalized Randomized Smoothing [40.38555458216436]
一般的な意味変換に対する堅牢性を証明するための統一的な理論的枠組みを提案する。
GSmoothフレームワークでは,画像と画像の代理ネットワークを用いて複雑な変換を近似するスケーラブルなアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-06-09T07:12:17Z) - Safe Self-Refinement for Transformer-based Domain Adaptation [73.8480218879]
Unsupervised Domain Adaptation (UDA)は、ラベル豊富なソースドメインを活用して、関連するラベルのないターゲットドメイン上のタスクを解決することを目的としている。
特にソースとターゲットドメインの間に大きなドメインギャップがある場合、これは難しい問題です。
SSRT (Safe Self-Refinement for Transformer-based domain adaptation) という新しい手法を提案する。
論文 参考訳（メタデータ） (2022-04-16T00:15:46Z) - From Environmental Sound Representation to Robustness of 2D CNN Models
Against Adversarial Attacks [82.21746840893658]
本稿では, 各種環境音響表現(スペクトログラム)が, 被害者残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。
DWTスペクトログラムでトレーニングしたResNet-18モデルでは高い認識精度が得られたが、このモデルに対する攻撃は敵にとって比較的コストがかかる。
論文 参考訳（メタデータ） (2022-04-14T15:14:08Z) - Enhancing Adversarial Robustness via Test-time Transformation Ensembling [51.51139269928358]
テスト時間変換を組み込んだモデルを組み込むことが,敵攻撃に対する信頼性の高い防御手段として有効であることを示す。
TTEは、再トレーニングを必要とせずに、様々な強力な攻撃に対するモデルロバスト性を一貫して改善することを示します。
論文 参考訳（メタデータ） (2021-07-29T15:32:35Z) - Certified Robustness to Programmable Transformations in LSTMs [14.587069421684157]
自然言語処理のためのディープニューラルネットワークは、逆の例に直面して脆弱である。
本稿では,LSTMを効率よく検証可能な拡張LSTMの認証手法を提案する。
論文 参考訳（メタデータ） (2021-02-15T19:54:59Z) - Probabilistic Spatial Transformer Networks [0.6999740786886537]
本稿では、決定論的ではなく、変換を推定する確率的拡張を提案する。
これら2つの特性が,分類性能,ロバスト性,モデル校正性の向上につながることを示す。
さらに、時系列データにおけるモデル性能を改善することにより、非視覚領域へのアプローチが一般化されることを実証する。
論文 参考訳（メタデータ） (2020-04-07T18:22:02Z) - Robustness Verification for Transformers [165.25112192811764]
我々はトランスフォーマーのための最初のロバスト性検証アルゴリズムを開発した。
提案手法で計算したロバスト性境界は, 素粒子間境界伝播法で計算したロバスト性境界よりもかなり厳密である。
これらの境界はまた、感情分析における異なる単語の重要性を常に反映しているトランスフォーマーの解釈にも光を当てている。
論文 参考訳（メタデータ） (2020-02-16T17:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。