論文の概要: Randomized Smoothing under Attack: How Good is it in Pratice?

• arxiv url: http://arxiv.org/abs/2204.14187v1
• Date: Thu, 28 Apr 2022 11:37:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-02 13:44:03.836563
• Title: Randomized Smoothing under Attack: How Good is it in Pratice?
• Title（参考訳）: ランダムな平滑化攻撃: 実用性はどの程度優れているか?
• Authors: Thibault Maho, Teddy Furon, Erwan Le Merrer
• Abstract要約: まず、理論的証明と分類器に対する攻撃の実践のミスマッチを強調した。 次に,無作為な平滑化を防御として攻撃する。 我々の主な観察は、高い信頼性のロバスト性を得たり、ブラックボックス攻撃を打ち負かす際に、RSの設定に大きなミスマッチがあることである。
• 参考スコア（独自算出の注目度）: 17.323638042215013
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Randomized smoothing is a recent and celebrated solution to certify the robustness of any classifier. While it indeed provides a theoretical robustness against adversarial attacks, the dimensionality of current classifiers necessarily imposes Monte Carlo approaches for its application in practice. This paper questions the effectiveness of randomized smoothing as a defense, against state of the art black-box attacks. This is a novel perspective, as previous research works considered the certification as an unquestionable guarantee. We first formally highlight the mismatch between a theoretical certification and the practice of attacks on classifiers. We then perform attacks on randomized smoothing as a defense. Our main observation is that there is a major mismatch in the settings of the RS for obtaining high certified robustness or when defeating black box attacks while preserving the classifier accuracy.
• Abstract（参考訳）: ランダムな平滑化は、任意の分類器の堅牢性を証明するための、最近で有名な解である。 反逆攻撃に対して理論的な堅牢性を提供するが、現在の分類器の次元性は必ずモンテカルロの応用を強制する。 本稿では,芸術的ブラックボックス攻撃に対する防御手段としてのランダム化平滑化の有効性を疑問視する。 これは新しい視点であり、以前の研究は認証を疑わしい保証と見なしていた。 まず、理論的証明と分類器に対する攻撃の実践のミスマッチを正式に強調する。 次に,無作為な平滑化を防御として攻撃する。 本研究の主目的は,分類器の精度を保ちながら高い信頼性のロバスト性を得たり,ブラックボックス攻撃を打ち負かす場合に,RSの設定に重大なミスマッチがあることである。

関連論文リスト

• FCert: Certifiably Robust Few-Shot Classification in the Era of Foundation Models [38.019489232264796]
  FCertは、データ中毒攻撃に対する最初の認証された防御法であり、数発の分類である。 1)攻撃なしでの分類精度を維持すること,2)データ中毒攻撃に対する既存の認証された防御能力を上回ること,3)効率的で汎用的なこと,である。
  論文  参考訳（メタデータ） (2024-04-12T17:50:40Z)
• The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
  ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。 入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。 新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
  論文  参考訳（メタデータ） (2023-09-28T22:41:47Z)
• Adversarial attacks for mixtures of classifiers [7.612259653177203]
  我々は、混合体を原則的に攻撃する問題について論じる。 本稿では,この問題の幾何学的解析に基づいて,攻撃の望ましい2つの特性を紹介する。 次に、既存の攻撃が両方の特性を満たしていないことを示す。
  論文  参考訳（メタデータ） (2023-07-20T11:38:55Z)
• Towards Fair Classification against Poisoning Attacks [52.57443558122475]
  攻撃者が少数のサンプルを訓練データに挿入できる毒殺シナリオについて検討する。 本稿では,従来の防犯手法に適合する汎用的かつ理論的に保証された枠組みを提案する。
  論文  参考訳（メタデータ） (2022-10-18T00:49:58Z)
• Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
  この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。 我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
  論文  参考訳（メタデータ） (2020-07-07T18:40:19Z)
• Robustness Verification for Classifier Ensembles [3.5884936187733394]
  堅牢性チェック問題は、ランダムな攻撃が存在するかどうかに関わらず、分類器とラベル付きデータセットのセットを与えられた評価によって成る。 問題のNP硬度を示し、最適なランダム化攻撃を形成するのに十分な攻撃数に上限を与える。 プロトタイプ実装では、画像分類タスクのために訓練された複数のニューラルネットワークアンサンブルを検証する。
  論文  参考訳（メタデータ） (2020-05-12T07:38:43Z)
• Denoised Smoothing: A Provable Defense for Pretrained Classifiers [101.67773468882903]
  本稿では,事前訓練された画像分類器を$ell_p$の敵攻撃に対して確実に防御する手法を提案する。 この方法では、公開ビジョンAPIプロバイダやユーザは、トレーニング済みの非ロバスト分類サービスを、確実に堅牢なものにシームレスに変換することができる。
  論文  参考訳（メタデータ） (2020-03-04T06:15:55Z)
• Randomization matters. How to defend against strong adversarial attacks [17.438104235331085]
  敵の攻撃と防御は、古典的な結果が適用されない無限ゼロサムゲームを形成することを示す。 本研究の防御方法は,最先端攻撃に対する対人訓練を著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2020-02-26T15:31:31Z)
• (De)Randomized Smoothing for Certifiable Defense against Patch Attacks [136.79415677706612]
  我々は、所定の画像とパッチ攻撃サイズを保証する、パッチ攻撃に対する認証可能な防御を導入する。 本手法はランダム化スムースなロバスト性スキームの幅広いクラスに関係している。 その結果,CIFAR-10およびImageNetに対するパッチ攻撃に対する認証済みの防御技術が確立した。
  論文  参考訳（メタデータ） (2020-02-25T08:39:46Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。