論文の概要: Certified Zeroth-order Black-Box Defense with Robust UNet Denoiser

• arxiv url: http://arxiv.org/abs/2304.06430v2
• Date: Sat, 6 Jul 2024 08:51:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-10 03:48:51.265700
• Title: Certified Zeroth-order Black-Box Defense with Robust UNet Denoiser
• Title（参考訳）: ロバストなUNetデノイザを用いたゼロオーダーブラックボックスディフェンス認証
• Authors: Astha Verma, A V Subramanyam, Siddhesh Bangar, Naman Lal, Rajiv Ratn Shah, Shin'ichi Satoh,
• Abstract要約: ブラックボックス設定において,攻撃画像から逆方向の摂動を取り除くための認証済みZO前処理手法を提案する。 本研究では,高次元データセットでトレーニングしたブラックボックスモデルのロバスト性を保証するロバストなUNetデノイザ(RDUNet)を提案する。 CIFAR-10, CIFAR-10, Tiny Imagenet, STL-10, MNISTの4つの分類データセットの実験を行った。
• 参考スコア（独自算出の注目度）: 32.994697118863805
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Certified defense methods against adversarial perturbations have been recently investigated in the black-box setting with a zeroth-order (ZO) perspective. However, these methods suffer from high model variance with low performance on high-dimensional datasets due to the ineffective design of the denoiser and are limited in their utilization of ZO techniques. To this end, we propose a certified ZO preprocessing technique for removing adversarial perturbations from the attacked image in the black-box setting using only model queries. We propose a robust UNet denoiser (RDUNet) that ensures the robustness of black-box models trained on high-dimensional datasets. We propose a novel black-box denoised smoothing (DS) defense mechanism, ZO-RUDS, by prepending our RDUNet to the black-box model, ensuring black-box defense. We further propose ZO-AE-RUDS in which RDUNet followed by autoencoder (AE) is prepended to the black-box model. We perform extensive experiments on four classification datasets, CIFAR-10, CIFAR-10, Tiny Imagenet, STL-10, and the MNIST dataset for image reconstruction tasks. Our proposed defense methods ZO-RUDS and ZO-AE-RUDS beat SOTA with a huge margin of $35\%$ and $9\%$, for low dimensional (CIFAR-10) and with a margin of $20.61\%$ and $23.51\%$ for high-dimensional (STL-10) datasets, respectively.
• Abstract（参考訳）: 近年,ゼロオーダー(ZO)視点のブラックボックス設定において,対向的摂動に対する認証防御法が検討されている。 しかし、これらの手法は、デノイザの非効率設計による高次元データセット上での低性能のモデル分散に悩まされており、ZO技術の利用に制限がある。 そこで本研究では,モデルクエリのみを用いたブラックボックス設定において,攻撃画像から逆方向の摂動を取り除くための認証ZO前処理手法を提案する。 本研究では,高次元データセットでトレーニングしたブラックボックスモデルのロバスト性を保証するロバストなUNetデノイザ(RDUNet)を提案する。 我々は,我々のRDUNetをブラックボックスモデルに前倒しし,ブラックボックスの防御を確実にすることで,新しいブラックボックス型スムーシング(DS)防御機構ZO-RUDSを提案する。 さらに,RDUNetと自動エンコーダ(AE)を併用したZO-AE-RUDSを提案する。 CIFAR-10, CIFAR-10, Tiny Imagenet, STL-10, MNISTの4つの分類データセットについて広範囲に実験を行った。 提案した防衛手法であるZO-RUDSとZO-AE-RUDSは,低次元(CIFAR-10)と20.61\%,高次元(STL-10)データセットで23.51\%という大きなマージンでSOTAを破る。

関連論文リスト

• A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense [6.476298483207895]
  ディープニューラルネットワーク(DNN)は、敵の例(AE)に弱いことがよく知られている。 ホワイトボックス攻撃とブラックボックス攻撃の双方に対してロバスト性を高めるために,暗号化されたモデルのランダムアンサンブルである視覚変換器(ViT)を用いた新しい手法を提案する。 実験では, 画像分類作業において, ホワイトボックス攻撃だけでなくブラックボックス攻撃に対しても頑健であることが実証された。
  論文  参考訳（メタデータ） (2024-02-11T12:35:28Z)
• Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
  ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。 証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。 この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
  論文  参考訳（メタデータ） (2023-04-10T01:12:09Z)
• Data-free Defense of Black Box Models Against Adversarial Attacks [12.935628113055913]
  データフリーセットアップにおける敵攻撃に対するブラックボックスモデルに対する新しい防御機構を提案する。 生成モデルを用いて合成データを構築し, モデルステルス手法を用いてサロゲートネットワークを訓練する。 本手法は,CIFAR-10の対向精度を38.98%,32.01%向上させる。
  論文  参考訳（メタデータ） (2022-11-03T04:19:27Z)
• How to Robustify Black-Box ML Models? A Zeroth-Order Optimization Perspective [74.47093382436823]
  入力クエリと出力フィードバックだけでブラックボックスモデルを堅牢化する方法? 我々は,ブラックボックスモデルに適用可能な防御操作の一般的な概念を提案し,それを復号化スムーシング(DS)のレンズを通して設計する。 我々は,ZO-AE-DSが既存のベースラインよりも精度,堅牢性,クエリの複雑さを向上できることを実証的に示す。
  論文  参考訳（メタデータ） (2022-03-27T03:23:32Z)
• Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes [80.9350052404617]
  そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
  論文  参考訳（メタデータ） (2020-07-13T04:34:57Z)
• Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
  Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。 ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。 本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-11T05:57:15Z)
• Cooling-Shrinking Attack: Blinding the Tracker with Imperceptible Noises [87.53808756910452]
  The method is proposed to deceive-of-the-the-art SiameseRPN-based tracker。 本手法は転送性に優れ,DaSiamRPN,DaSiamRPN-UpdateNet,DiMPなどの他のトップパフォーマンストラッカーを騙すことができる。
  論文  参考訳（メタデータ） (2020-03-21T07:13:40Z)
• Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent [92.4348499398224]
  ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。 敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。 ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
  論文  参考訳（メタデータ） (2020-02-18T21:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。