Fugu-MT 論文翻訳(概要): Dynamic Backdoor Attacks Against Machine Learning Models

論文の概要: Dynamic Backdoor Attacks Against Machine Learning Models

arxiv url: http://arxiv.org/abs/2003.03675v2
Date: Thu, 3 Mar 2022 19:04:16 GMT
ステータス: 処理完了
システム内更新日: 2022-12-25 19:29:39.033091
Title: Dynamic Backdoor Attacks Against Machine Learning Models
Title（参考訳）: 機械学習モデルに対する動的バックドア攻撃
Authors: Ahmed Salem and Rui Wen and Michael Backes and Shiqing Ma and Yang Zhang
Abstract要約: 本研究では,DNN(Random Backdoor,Backdoor Generating Network,BaN)および条件付きBackdoor Generating Network(c-BaN)に対する動的バックドア技術の最初のクラスを提案する。新たな生成ネットワークに基づくBaNとc-BaNは、アルゴリズムによってトリガを生成する最初の2つのスキームである。本手法は, バックドアデータに対するほぼ完璧な攻撃性能を実現し, 実用性に欠ける損失を生じさせる。
参考スコア（独自算出の注目度）: 28.799895653866788
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Machine learning (ML) has made tremendous progress during the past decade and is being adopted in various critical real-world applications. However, recent research has shown that ML models are vulnerable to multiple security and privacy attacks. In particular, backdoor attacks against ML models have recently raised a lot of awareness. A successful backdoor attack can cause severe consequences, such as allowing an adversary to bypass critical authentication systems. Current backdooring techniques rely on adding static triggers (with fixed patterns and locations) on ML model inputs which are prone to detection by the current backdoor detection mechanisms. In this paper, we propose the first class of dynamic backdooring techniques against deep neural networks (DNN), namely Random Backdoor, Backdoor Generating Network (BaN), and conditional Backdoor Generating Network (c-BaN). Triggers generated by our techniques can have random patterns and locations, which reduce the efficacy of the current backdoor detection mechanisms. In particular, BaN and c-BaN based on a novel generative network are the first two schemes that algorithmically generate triggers. Moreover, c-BaN is the first conditional backdooring technique that given a target label, it can generate a target-specific trigger. Both BaN and c-BaN are essentially a general framework which renders the adversary the flexibility for further customizing backdoor attacks. We extensively evaluate our techniques on three benchmark datasets: MNIST, CelebA, and CIFAR-10. Our techniques achieve almost perfect attack performance on backdoored data with a negligible utility loss. We further show that our techniques can bypass current state-of-the-art defense mechanisms against backdoor attacks, including ABS, Februus, MNTD, Neural Cleanse, and STRIP.
Abstract（参考訳）: 機械学習(ML)は過去10年間に大きく進歩し、さまざまな重要な現実世界のアプリケーションで採用されています。しかし、最近の研究では、MLモデルは複数のセキュリティやプライバシ攻撃に弱いことが示されている。特に、MLモデルに対するバックドア攻撃は、最近多くの注目を集めています。バックドア攻撃の成功は、敵が重要な認証システムをバイパスするなど、深刻な結果をもたらす可能性がある。現在のバックドア検出技術は、現在のバックドア検出メカニズムによって検出されがちなMLモデル入力に静的トリガ(固定パターンと位置)を追加することに依存している。本稿では,ディープニューラルネットワーク(dnn)に対して,ランダムバックドア,バックドア生成ネットワーク(ban),条件付きバックドア生成ネットワーク(c-ban)という,第1級の動的バックドア化手法を提案する。我々の手法によって生成されるトリガーはランダムなパターンと位置を持ち、現在のバックドア検出機構の有効性を低下させる。特に、新しい生成ネットワークに基づくBaNとc-BaNは、アルゴリズムによってトリガを生成する最初の2つのスキームである。さらに、c-BaNは、ターゲットラベルが与えられた最初の条件付きバックドア技術であり、ターゲット固有のトリガを生成することができる。 BaNとc-BaNはどちらも基本的に、バックドア攻撃をさらにカスタマイズするための柔軟性を敵に与える一般的なフレームワークである。我々は、mnist、celeba、cifar-10の3つのベンチマークデータセットでこの技術を広範囲に評価した。本手法は,バックドアデータに対するほぼ完璧な攻撃性能を実現する。さらに,我々の技術は,ABS,Februus,MNTD,Neural Cleanse,STRIPなどのバックドア攻撃に対して,現在最先端の防御機構を回避可能であることを示す。

関連論文リスト

Unlearn to Relearn Backdoors: Deferred Backdoor Functionality Attacks on Deep Learning Models [6.937795040660591]
バックドア攻撃の新たなパラダイムとして,Deferred Activated Backdoor Functionality (DABF)を紹介した。従来の攻撃とは異なり、DABFは当初バックドアを隠蔽し、起動しても良質な出力を生成する。 DABF攻撃は、マシンラーニングモデルのライフサイクルで一般的なプラクティスを利用して、モデル更新と初期デプロイ後の微調整を実行する。
論文参考訳（メタデータ） (2024-11-10T07:01:53Z)
Reconstructive Neuron Pruning for Backdoor Defense [96.21882565556072]
本稿では, バックドアニューロンの露出とプルーンの抑制を目的とした, emphReconstructive Neuron Pruning (RNP) という新しい防御法を提案する。 RNPでは、アンラーニングはニューロンレベルで行われ、リカバリはフィルタレベルで行われ、非対称再構成学習手順を形成する。このような非対称なプロセスは、少数のクリーンサンプルだけが、広範囲の攻撃によって移植されたバックドアニューロンを効果的に露出し、刺激することができることを示す。
論文参考訳（メタデータ） (2023-05-24T08:29:30Z)
Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。バックドアアタックは、訓練段階の脅威を脅かしている。軽度で目に見えないバックドアアタック(SIBA)を提案する。
論文参考訳（メタデータ） (2023-05-11T10:05:57Z)
Backdoor Defense via Deconfounded Representation Learning [17.28760299048368]
我々は、信頼性の高い分類のための非定型表現を学ぶために、因果性に着想を得たバックドアディフェンス(CBD)を提案する。 CBDは、良性サンプルの予測において高い精度を維持しながら、バックドアの脅威を減らすのに有効である。
論文参考訳（メタデータ） (2023-03-13T02:25:59Z)
An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
論文参考訳（メタデータ） (2022-08-22T12:14:13Z)
Model-Contrastive Learning for Backdoor Defense [13.781375023320981]
モデル・コントラスト学習に基づく新しいバックドア・ディフェンス手法 MCL を提案する。 MCLは、良質なデータの高い精度を維持しながら、バックドアの脅威を減らすのに効果的である。
論文参考訳（メタデータ） (2022-05-09T16:36:46Z)
Check Your Other Door! Establishing Backdoor Attacks in the Frequency Domain [80.24811082454367]
検出不能で強力なバックドア攻撃を確立するために周波数領域を利用する利点を示す。また、周波数ベースのバックドア攻撃を成功させる2つの防御方法と、攻撃者がそれらを回避できる可能性を示す。
論文参考訳（メタデータ） (2021-09-12T12:44:52Z)
Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
論文参考訳（メタデータ） (2021-03-24T12:06:40Z)
WaNet -- Imperceptible Warping-based Backdoor Attack [20.289889150949836]
サードパーティーのモデルは、通常の状況でうまく機能するようにトレーニング中に毒を盛るが、トリガーパターンが現れると悪質に振る舞う。本稿では,サードパーティモデルに対してワーピングベースのトリガーを用いた攻撃手法を提案する。提案したバックドアは、人間の検査試験における従来の方法よりも広いマージンで優れており、そのステルス性を証明している。
論文参考訳（メタデータ） (2021-02-20T15:25:36Z)
Backdoor Learning: A Survey [75.59571756777342]
バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込むバックドア学習は、急速に成長する研究分野である。本稿では,この領域を包括的に調査する。
論文参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。