論文の概要: CrossCert: A Cross-Checking Detection Approach to Patch Robustness Certification for Deep Learning Models

• arxiv url: http://arxiv.org/abs/2405.07668v1
• Date: Mon, 13 May 2024 11:54:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-14 13:55:08.814985
• Title: CrossCert: A Cross-Checking Detection Approach to Patch Robustness Certification for Deep Learning Models
• Title（参考訳）: CrossCert:ディープラーニングモデルのためのパッチロバストネス認定のためのクロスチェッキング検出アプローチ
• Authors: Qilin Zhou, Zhengyuan Wei, Haipeng Wang, Bo Jiang, W. K. Chan,
• Abstract要約: パッチ堅牢性認証は、証明可能な保証付き敵パッチ攻撃に対する、新たな防御技術である。 本稿ではCrossCertと呼ばれる新しい防御技術を提案する。
• 参考スコア（独自算出の注目度）: 6.129515045488372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Patch robustness certification is an emerging kind of defense technique against adversarial patch attacks with provable guarantees. There are two research lines: certified recovery and certified detection. They aim to label malicious samples with provable guarantees correctly and issue warnings for malicious samples predicted to non-benign labels with provable guarantees, respectively. However, existing certified detection defenders suffer from protecting labels subject to manipulation, and existing certified recovery defenders cannot systematically warn samples about their labels. A certified defense that simultaneously offers robust labels and systematic warning protection against patch attacks is desirable. This paper proposes a novel certified defense technique called CrossCert. CrossCert formulates a novel approach by cross-checking two certified recovery defenders to provide unwavering certification and detection certification. Unwavering certification ensures that a certified sample, when subjected to a patched perturbation, will always be returned with a benign label without triggering any warnings with a provable guarantee. To our knowledge, CrossCert is the first certified detection technique to offer this guarantee. Our experiments show that, with a slightly lower performance than ViP and comparable performance with PatchCensor in terms of detection certification, CrossCert certifies a significant proportion of samples with the guarantee of unwavering certification.
• Abstract（参考訳）: パッチ堅牢性認証は、証明可能な保証付き敵パッチ攻撃に対する、新たな防御技術である。 確認された回復と確認された検出の2つの研究線がある。 彼らは、証明可能な保証で悪意のあるサンプルをラベル付けし、証明可能な保証で良質でないラベルに予測される悪意のあるサンプルに対して警告を発することを目指している。 しかし、既存の認証された検出ディフェンダーは操作対象ラベルの保護に悩まされており、既存の認証されたリカバリディフェンダーは、そのラベルに関するサンプルを体系的に警告することはできない。 堅牢なラベルと、パッチ攻撃に対する体系的な警告を同時に提供する認証された防御が望ましい。 本稿ではCrossCertと呼ばれる新しい防御技術を提案する。 CrossCertは、2つの認定されたリカバリディフェンダーをクロスチェックして、不安定な認証と検出の認定を提供するという、新しいアプローチを定式化している。 アンウェーブリング認証は、認証されたサンプルが、パッチされた摂動を受けると、常に良心的なラベルで返され、証明可能な保証で警告を起こさないようにする。 私たちの知る限り、CrossCertはこの保証を提供する最初の認証検出テクニックです。 実験の結果,PatchCensorはVPよりも若干低い性能,PatchCensorと同等の性能を示した。

関連論文リスト

• sec-certs: Examining the security certification practice for better vulnerability mitigation [0.2886273197127056]
  致命的な脆弱性は保証レベルの高い認定製品で発見される。 このような脆弱性によって認定された製品が影響を受けるかを評価するのは、非構造化の認定関連データが大量にあるため、複雑である。 NISTのNational Vulnerability Databaseから、既存の認定製品に影響を与える脆弱性を学ぶために、教師なしのモデルをトレーニングしました。
  論文  参考訳（メタデータ） (2023-11-29T12:55:16Z)
• It's Simplex! Disaggregating Measures to Improve Certified Robustness [32.63920797751968]
  本研究は,認証機構の分析を改善するための2つのアプローチを提案する。 新しい認証アプローチは、達成可能な認定範囲の2倍以上の可能性を秘めている。 経験的評価は、我々の新しいアプローチがノイズスケール$sigma = 1$で9%以上のサンプルを認証できることを検証する。
  論文  参考訳（メタデータ） (2023-09-20T02:16:19Z)
• PointCert: Point Cloud Classification with Deterministic Certified Robustness Guarantees [63.85677512968049]
  ポイントクラウド分類は、自律運転や拡張現実など、多くのセキュリティクリティカルなアプリケーションにおいて重要なコンポーネントである。 既存の対向点雲に対する認証された防御は、重要な制限を被る。 本稿では,任意の点クラウド分類器を対向点クラウドに対して確実に堅牢に変換できる一般フレームワークであるPointCertを提案する。
  論文  参考訳（メタデータ） (2023-03-03T14:32:48Z)
• Et Tu Certifications: Robustness Certificates Yield Better Adversarial Examples [30.42301446202426]
  我々の新しいEmphCertification Aware Attackは、計算効率のよい規範最小化対逆例を生成するために認証を利用する。 これらの攻撃は、認証境界の厳密性を評価するために使用できるが、認定のリリースは、パラドックス的にセキュリティを低下させる可能性があることも強調している。
  論文  参考訳（メタデータ） (2023-02-09T00:10:05Z)
• COPA: Certifying Robust Policies for Offline Reinforcement Learning against Poisoning Attacks [49.15885037760725]
  本研究は, 中毒発生時におけるオフライン強化学習(RL)の堅牢性を検証することに注力する。 本報告では, 許容可能な毒素トラジェクトリの数を認証する最初の認証フレームワークであるCOPAを提案する。 提案手法のいくつかは理論的に厳密であり,一部はNP-Complete問題であることを示す。
  論文  参考訳（メタデータ） (2022-03-16T05:02:47Z)
• PatchCensor: Patch Robustness Certification for Transformers via Exhaustive Testing [7.88628640954152]
  Vision Transformer (ViT)は、他の古典的ニューラルネットワークと同様に非常に非線形であることが知られており、自然なパッチの摂動と逆パッチの摂動の両方によって容易に騙される。 この制限は、特に安全クリティカルなシナリオにおいて、実際の産業環境におけるViTの展開に脅威をもたらす可能性がある。 PatchCensorを提案する。このPatchCensorは、徹底的なテストを適用することで、ViTのパッチ堅牢性を証明することを目的としている。
  論文  参考訳（メタデータ） (2021-11-19T23:45:23Z)
• Deep Partition Aggregation: Provable Defense against General Poisoning Attacks [136.79415677706612]
  アドリアリン中毒は、分類器の試験時間挙動を損なうために訓練データを歪ませる。 毒殺攻撃に対する2つの新たな防御策を提案する。 DPAは一般的な中毒脅威モデルに対する認証された防御である。 SS-DPAはラベルフリップ攻撃に対する認証された防御である。
  論文  参考訳（メタデータ） (2020-06-26T03:16:31Z)
• Breaking certified defenses: Semantic adversarial examples with spoofed robustness certificates [57.52763961195292]
  本稿では,分類器のラベル付け機能だけでなく,証明書生成機能を利用した新たな攻撃を提案する。 提案手法は, 画像がクラス境界から遠ざかる大きな摂動を, 対向例の不受容性を保ちながら適用する。
  論文  参考訳（メタデータ） (2020-03-19T17:59:44Z)
• Certified Defenses for Adversarial Patches [72.65524549598126]
  敵パッチ攻撃は、現実世界のコンピュータビジョンシステムに対する最も実用的な脅威モデルの一つである。 本稿では,パッチアタックに対する認証と実証的防御について検討する。
  論文  参考訳（メタデータ） (2020-03-14T19:57:31Z)
• (De)Randomized Smoothing for Certifiable Defense against Patch Attacks [136.79415677706612]
  我々は、所定の画像とパッチ攻撃サイズを保証する、パッチ攻撃に対する認証可能な防御を導入する。 本手法はランダム化スムースなロバスト性スキームの幅広いクラスに関係している。 その結果,CIFAR-10およびImageNetに対するパッチ攻撃に対する認証済みの防御技術が確立した。
  論文  参考訳（メタデータ） (2020-02-25T08:39:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。