論文の概要: DeBackdoor: A Deductive Framework for Detecting Backdoor Attacks on Deep Models with Limited Data

• arxiv url: http://arxiv.org/abs/2503.21305v1
• Date: Thu, 27 Mar 2025 09:31:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-28 12:53:39.723902
• Title: DeBackdoor: A Deductive Framework for Detecting Backdoor Attacks on Deep Models with Limited Data
• Title（参考訳）: DeBackdoor: 限られたデータを持つディープモデル上でのバックドア攻撃を検出するためのデダクティブフレームワーク
• Authors: Dorde Popovic, Amin Sadeghi, Ting Yu, Sanjay Chawla, Issa Khalil,
• Abstract要約: 本稿では,現実的な制約下でのバックドア検出のための新しい枠組みを提案する。 可能なトリガの空間を誘導的に探索することで、候補トリガを生成する。 我々は、広範囲の攻撃、モデル、およびデータセットについて広範な評価を行う。
• 参考スコア（独自算出の注目度）: 9.119547676789631
• License:
• Abstract: Backdoor attacks are among the most effective, practical, and stealthy attacks in deep learning. In this paper, we consider a practical scenario where a developer obtains a deep model from a third party and uses it as part of a safety-critical system. The developer wants to inspect the model for potential backdoors prior to system deployment. We find that most existing detection techniques make assumptions that are not applicable to this scenario. In this paper, we present a novel framework for detecting backdoors under realistic restrictions. We generate candidate triggers by deductively searching over the space of possible triggers. We construct and optimize a smoothed version of Attack Success Rate as our search objective. Starting from a broad class of template attacks and just using the forward pass of a deep model, we reverse engineer the backdoor attack. We conduct extensive evaluation on a wide range of attacks, models, and datasets, with our technique performing almost perfectly across these settings.
• Abstract（参考訳）: バックドア攻撃は、ディープラーニングにおいて最も効果的で実用的でステルス的な攻撃である。 本稿では,開発者がサードパーティから深層モデルを取得し,安全クリティカルシステムの一部として利用する現実的なシナリオについて考察する。 開発者は、システムをデプロイする前に、潜在的バックドアのモデルを検査したい。 既存の検出手法のほとんどは,このシナリオには適用不可能な仮定を導出する。 本稿では,現実的な制約下でのバックドア検出のための新しい枠組みを提案する。 可能なトリガの空間を誘導的に探索することで、候補トリガを生成する。 探索目的として,攻撃成功率のスムーズなバージョンを構築し,最適化する。 幅広い種類のテンプレートアタックから始まり、深層モデルの前方パスを使用するだけで、バックドアアタックをリバースエンジニアリングします。 我々は、広範囲の攻撃、モデル、データセットに対して広範囲に評価を行い、この技術はこれらの設定でほぼ完全に機能する。

関連論文リスト

• A Backdoor Attack Scheme with Invisible Triggers Based on Model Architecture Modification [12.393139669821869]
  従来のバックドア攻撃では、トレーニングデータに特定のトリガーで悪意のあるサンプルを注入する。 より高度な攻撃は、モデルのアーキテクチャを直接変更する。 本論文では、新たなバックドア攻撃方法を示す。 モデルアーキテクチャ内にバックドアを埋め込んで,目立たない,ステルス的なトリガを生成する機能を備えている。
  論文  参考訳（メタデータ） (2024-12-22T07:39:43Z)
• Exploiting the Vulnerability of Large Language Models via Defense-Aware Architectural Backdoor [0.24335447922683692]
  基盤となるモデルアーキテクチャ内に隠蔽する新しいタイプのバックドアアタックを導入します。 モデルアーキテクチャレイヤのアドオンモジュールは、入力トリガトークンの存在を検出し、レイヤの重みを変更することができる。 我々は,5つの大言語データセットの2つのモデルアーキテクチャ設定を用いて,攻撃方法を評価するための広範囲な実験を行った。
  論文  参考訳（メタデータ） (2024-09-03T14:54:16Z)
• Rethinking Backdoor Detection Evaluation for Language Models [45.34806299803778]
  バックドア攻撃は、公開された言語モデルに依存する実践者にとって大きなセキュリティリスクをもたらす。 バックドア検出方法は、リリースされたモデルにバックドアが含まれているかどうかを検出することを目的としている。 既存のバックドア検出手法は標準ベンチマークでバックドアモデルを検出するのに高い精度を持っているが、野生のバックドアを堅牢に識別できるかどうかは不明である。
  論文  参考訳（メタデータ） (2024-08-31T09:19:39Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
  検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。 また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
  論文  参考訳（メタデータ） (2021-09-12T12:44:52Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。