論文の概要: Countering Backdoor Attacks in Image Recognition: A Survey and Evaluation of Mitigation Strategies

• arxiv url: http://arxiv.org/abs/2411.11200v1
• Date: Sun, 17 Nov 2024 23:30:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:33:47.681196
• Title: Countering Backdoor Attacks in Image Recognition: A Survey and Evaluation of Mitigation Strategies
• Title（参考訳）: 画像認識におけるバックドア攻撃対策:緩和戦略の調査と評価
• Authors: Kealan Dunnett, Reza Arablouei, Dimity Miller, Volkan Dedeoglu, Raja Jurdak,
• Abstract要約: 本稿では,画像認識におけるバックドア攻撃に対する既存の緩和策について概説する。 我々は、8つの異なるバックドア攻撃に対して、16の最先端アプローチの広範なベンチマークを行う。 この結果は122,236個の個別実験から得られたものであり、多くのアプローチがある程度の保護を提供する一方で、その性能はかなり異なる可能性があることを示唆している。
• 参考スコア（独自算出の注目度）: 10.801476967873173
• License:
• Abstract: The widespread adoption of deep learning across various industries has introduced substantial challenges, particularly in terms of model explainability and security. The inherent complexity of deep learning models, while contributing to their effectiveness, also renders them susceptible to adversarial attacks. Among these, backdoor attacks are especially concerning, as they involve surreptitiously embedding specific triggers within training data, causing the model to exhibit aberrant behavior when presented with input containing the triggers. Such attacks often exploit vulnerabilities in outsourced processes, compromising model integrity without affecting performance on clean (trigger-free) input data. In this paper, we present a comprehensive review of existing mitigation strategies designed to counter backdoor attacks in image recognition. We provide an in-depth analysis of the theoretical foundations, practical efficacy, and limitations of these approaches. In addition, we conduct an extensive benchmarking of sixteen state-of-the-art approaches against eight distinct backdoor attacks, utilizing three datasets, four model architectures, and three poisoning ratios. Our results, derived from 122,236 individual experiments, indicate that while many approaches provide some level of protection, their performance can vary considerably. Furthermore, when compared to two seminal approaches, most newer approaches do not demonstrate substantial improvements in overall performance or consistency across diverse settings. Drawing from these findings, we propose potential directions for developing more effective and generalizable defensive mechanisms in the future.
• Abstract（参考訳）: 様々な産業でディープラーニングが広く採用されていることで、特にモデル説明可能性やセキュリティの観点から、大きな課題がもたらされている。 ディープラーニングモデルの本質的な複雑さは、その効果に寄与する一方で、敵の攻撃の影響を受けやすいものでもある。 これらのうち、バックドア攻撃は、トレーニングデータに特定のトリガを極端に埋め込むため、トリガーを含む入力が提示されたときにモデルが異常な振る舞いを示すため、特に関係している。 このような攻撃は、しばしばアウトソースされたプロセスの脆弱性を悪用し、クリーンな(トリガーフリーな)入力データのパフォーマンスに影響を与えることなく、モデルの整合性を損なう。 本稿では,画像認識におけるバックドア攻撃に対抗するために設計された既存の緩和策について概説する。 我々は,これらの手法の理論的基礎,実践的有効性,限界を詳細に分析する。 さらに,3つのデータセット,4つのモデルアーキテクチャ,3つの毒素比を利用して,8つの異なるバックドア攻撃に対して,最先端の16のアプローチを広範囲にベンチマークする。 この結果は122,236個の個別実験から得られたものであり、多くのアプローチがある程度の保護を提供する一方で、その性能はかなり異なる可能性があることを示唆している。 さらに、2つのセミナルアプローチと比較して、ほとんどの新しいアプローチは、様々な設定で全体的なパフォーマンスや一貫性を大幅に改善するものではない。 これらの知見から,将来,より効果的で汎用的な防御機構を開発するための潜在的方向性を提案する。

関連論文リスト

• Unlearning Backdoor Attacks through Gradient-Based Model Pruning [10.801476967873173]
  本研究では,その軽減を未学習課題として扱うことによって,バックドア攻撃に対抗する新しい手法を提案する。 このアプローチは単純さと有効性を提供し、データ可用性に制限のあるシナリオに適しています。
  論文  参考訳（メタデータ） (2024-05-07T00:36:56Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• Model X-ray:Detecting Backdoored Models via Decision Boundary [62.675297418960355]
  バックドア攻撃はディープニューラルネットワーク(DNN)に重大な脆弱性をもたらす 図形化された2次元(2次元)決定境界の解析に基づく新しいバックドア検出手法であるモデルX線を提案する。 提案手法は,クリーンサンプルが支配する意思決定領域とラベル分布の集中度に着目した2つの戦略を含む。
  論文  参考訳（メタデータ） (2024-02-27T12:42:07Z)
• An Extensive Study on Adversarial Attack against Pre-trained Models of Code [14.948361027395748]
  Transformer-based pre-trained code (PTMC) は広く利用されており、多くのミッションクリティカルなアプリケーションで最先端のパフォーマンスを実現している。 識別子の置換やコーディングスタイルの変換によって、敵の攻撃に弱い可能性がある。 本研究は,5つの対人攻撃アプローチを3つの観点から体系的に分析する。
  論文  参考訳（メタデータ） (2023-11-13T18:48:54Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Resisting Adversarial Attacks in Deep Neural Networks using Diverse Decision Boundaries [12.312877365123267]
  深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。 我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。 我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
  論文  参考訳（メタデータ） (2022-08-18T08:19:26Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
  モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。 本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。 本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2021-10-13T13:54:24Z)
• Increasing the Confidence of Deep Neural Networks by Coverage Analysis [71.57324258813674]
  本稿では、異なる安全でない入力に対してモデルを強化するために、カバレッジパラダイムに基づく軽量な監視アーキテクチャを提案する。 実験結果から,提案手法は強力な対向例とアウト・オブ・ディストリビューション・インプットの両方を検出するのに有効であることが示唆された。
  論文  参考訳（メタデータ） (2021-01-28T16:38:26Z)
• A Comprehensive Evaluation Framework for Deep Model Robustness [44.20580847861682]
  ディープニューラルネットワーク(DNN)は、幅広いアプリケーションで顕著なパフォーマンスを達成しています。 彼らは敵の防御を動機付ける敵の例に弱い。 本稿では,包括的で厳密で一貫性のある評価指標を含むモデル評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-01-24T01:04:25Z)
• Detection Defense Against Adversarial Attacks with Saliency Map [7.736844355705379]
  ニューラルネットワークは、人間の視覚にほとんど受容できない敵の例に弱いことがよく確認されている。 既存の防衛は、敵の攻撃に対するモデルの堅牢性を強化する傾向にある。 本稿では,新たな雑音と組み合わせた新しい手法を提案し,不整合戦略を用いて敵のサンプルを検出する。
  論文  参考訳（メタデータ） (2020-09-06T13:57:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。