論文の概要: Backdooring Outlier Detection Methods: A Novel Attack Approach

• arxiv url: http://arxiv.org/abs/2412.05010v1
• Date: Fri, 06 Dec 2024 13:03:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-09 15:58:04.918197
• Title: Backdooring Outlier Detection Methods: A Novel Attack Approach
• Title（参考訳）: バックドア外乱検出法:新しい攻撃手法
• Authors: ZeinabSadat Taghavi, Hossein Mirzaei,
• Abstract要約: 外乱検出は、重要な現実世界のアプリケーションに分類器を配置するのに不可欠である。 本稿では,アウトリア検出タスクをターゲットとした新しいバックドアアタックであるBATODを提案する。
• 参考スコア（独自算出の注目度）: 2.19238269573727
• License:
• Abstract: There have been several efforts in backdoor attacks, but these have primarily focused on the closed-set performance of classifiers (i.e., classification). This has left a gap in addressing the threat to classifiers' open-set performance, referred to as outlier detection in the literature. Reliable outlier detection is crucial for deploying classifiers in critical real-world applications such as autonomous driving and medical image analysis. First, we show that existing backdoor attacks fall short in affecting the open-set performance of classifiers, as they have been specifically designed to confuse intra-closed-set decision boundaries. In contrast, an effective backdoor attack for outlier detection needs to confuse the decision boundary between the closed and open sets. Motivated by this, in this study, we propose BATOD, a novel Backdoor Attack targeting the Outlier Detection task. Specifically, we design two categories of triggers to shift inlier samples to outliers and vice versa. We evaluate BATOD using various real-world datasets and demonstrate its superior ability to degrade the open-set performance of classifiers compared to previous attacks, both before and after applying defenses.
• Abstract（参考訳）: バックドア攻撃にはいくつかの取り組みがあったが、それらは主に分類器(分類器)のクローズドセットのパフォーマンスに焦点を当てている。 このことは、文献で「外れ値検出」と呼ばれる、分類器のオープンセットのパフォーマンスに対する脅威に対処する際のギャップを残している。 自律運転や医用画像解析といった重要な現実世界のアプリケーションに分類器を配置するためには、信頼性の高い異常検出が不可欠である。 まず, 既存のバックドア攻撃は, クローズド・セット内決定境界を混乱させるように設計されているため, 分類器のオープン・セット性能に影響を及ぼさないことを示す。 対照的に、外乱検出のための効果的なバックドア攻撃は、閉集合と開集合の間の決定境界を混乱させる必要がある。 そこで本研究では,アウトリア検出タスクを対象とした新しいバックドアアタックであるBATODを提案する。 具体的には、2つのトリガのカテゴリを設計し、インリアーサンプルをオフリアーにシフトさせ、その逆を処理します。 実世界の各種データセットを用いてBATODを評価し, 攻撃前後の攻撃と比較して, 分類器のオープンセット性能を低下させる優れた能力を実証した。

関連論文リスト

• Proactive Adversarial Defense: Harnessing Prompt Tuning in Vision-Language Models to Detect Unseen Backdoored Images [0.0]
  バックドア攻撃は、隠れたトリガーを入力に埋め込むことで重大な脅威となり、モデルがそれらをターゲットラベルに誤って分類する。 トレーニングと推論の両方において、未確認のバックドア画像を検出するための画期的な手法を提案する。 われわれのアプローチは、学習可能なテキストプロンプトを訓練し、クリーンな画像と隠れたバックドアトリガーを区別する。
  論文  参考訳（メタデータ） (2024-12-11T19:54:14Z)
• Twin Trigger Generative Networks for Backdoor Attacks against Object Detection [14.578800906364414]
  オブジェクト検出器は、現実世界のアプリケーションで広く使われているが、バックドア攻撃に弱い。 バックドア攻撃に関するほとんどの研究は画像分類に焦点を合わせており、物体検出について限定的な研究がなされている。 本研究では,トレーニング中のモデルにバックドアを埋め込むための目に見えないトリガと,推論中の安定したアクティベーションのための目に見えるトリガを生成する新しいツイントリガ生成ネットワークを提案する。
  論文  参考訳（メタデータ） (2024-11-23T03:46:45Z)
• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
  バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。 このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。 この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
  論文  参考訳（メタデータ） (2024-02-28T21:29:16Z)
• Model X-ray:Detecting Backdoored Models via Decision Boundary [62.675297418960355]
  バックドア攻撃はディープニューラルネットワーク(DNN)に重大な脆弱性をもたらす 図形化された2次元(2次元)決定境界の解析に基づく新しいバックドア検出手法であるモデルX線を提案する。 提案手法は,クリーンサンプルが支配する意思決定領域とラベル分布の集中度に着目した2つの戦略を含む。
  論文  参考訳（メタデータ） (2024-02-27T12:42:07Z)
• Backdoor Mitigation by Correcting the Distribution of Neural Activations [30.554700057079867]
  バックドア(トロイジャン)攻撃はディープニューラルネットワーク(DNN)に対する敵対的攻撃の重要なタイプである バックドア攻撃の重要な特性を解析し、バックドア・トリガー・インスタンスの内部層活性化の分布の変化を引き起こす。 本稿では,分散変化を補正し,学習後のバックドア緩和を効果的かつ効果的に行う方法を提案する。
  論文  参考訳（メタデータ） (2023-08-18T22:52:29Z)
• Post-Training Detection of Backdoor Attacks for Two-Class and Multi-Attack Scenarios [22.22337220509128]
  バックドア攻撃(BA)は、ディープニューラルネットワーク分類器に対する新たな脅威である。 本稿では,BPリバースエンジニアリングに基づく検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-20T22:21:38Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Detection of Adversarial Supports in Few-shot Classifiers Using Feature Preserving Autoencoders and Self-Similarity [89.26308254637702]
  敵対的なサポートセットを強調するための検出戦略を提案する。 我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。 提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
  論文  参考訳（メタデータ） (2020-12-09T14:13:41Z)
• Poisoned classifiers are not only backdoored, they are fundamentally broken [84.67778403778442]
  一般的に研究されている、分類モデルに対するバックドア中毒攻撃の下で、攻撃者はトレーニングデータのサブセットに小さなトリガーを追加する。 毒を盛った分類器は、引き金を持つ敵のみに弱いと推定されることが多い。 本稿では,このバックドア型分類器の考え方が誤りであることを実証的に示す。
  論文  参考訳（メタデータ） (2020-10-18T19:42:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。