論文の概要: Dual Model Replacement:invisible Multi-target Backdoor Attack based on Federal Learning

• arxiv url: http://arxiv.org/abs/2404.13946v1
• Date: Mon, 22 Apr 2024 07:44:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-23 14:55:25.824053
• Title: Dual Model Replacement:invisible Multi-target Backdoor Attack based on Federal Learning
• Title（参考訳）: デュアルモデル置換:連邦学習に基づく視覚的マルチターゲットバックドアアタック
• Authors: Rong Wang, Guichen Zhou, Mingjun Gao, Yunpeng Xiao,
• Abstract要約: 本稿では,フェデレート学習に基づくバックドア攻撃手法を設計する。 バックドアトリガの隠蔽を目的としたエンコーダデコーダ構造を備えたトロイジャンガンステガノグラフィーモデルが設計されている。 フェデレート学習に基づく二重モデル置換バックドア攻撃アルゴリズムを設計する。
• 参考スコア（独自算出の注目度）: 21.600003684064706
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, the neural network backdoor hidden in the parameters of the federated learning model has been proved to have great security risks. Considering the characteristics of trigger generation, data poisoning and model training in backdoor attack, this paper designs a backdoor attack method based on federated learning. Firstly, aiming at the concealment of the backdoor trigger, a TrojanGan steganography model with encoder-decoder structure is designed. The model can encode specific attack information as invisible noise and attach it to the image as a backdoor trigger, which improves the concealment and data transformations of the backdoor trigger.Secondly, aiming at the problem of single backdoor trigger mode, an image poisoning attack method called combination trigger attack is proposed. This method realizes multi-backdoor triggering by multiplexing combined triggers and improves the robustness of backdoor attacks. Finally, aiming at the problem that the local training mechanism leads to the decrease of the success rate of backdoor attack, a dual model replacement backdoor attack algorithm based on federated learning is designed. This method can improve the success rate of backdoor attack while maintaining the performance of the federated learning aggregation model. Experiments show that the attack strategy in this paper can not only achieve high backdoor concealment and diversification of trigger forms under federated learning, but also achieve good attack success rate in multi-target attacks.door concealment and diversification of trigger forms but also achieve good results in multi-target attacks.
• Abstract（参考訳）: 近年、連合学習モデルのパラメータに隠されたニューラルネットワークのバックドアは、大きなセキュリティリスクがあることが証明されている。 本稿では, バックドア攻撃におけるトリガ生成, データ中毒, モデル訓練の特徴を考慮し, フェデレート学習に基づくバックドア攻撃法を設計する。 まず、バックドアトリガの隠蔽を目的としたエンコーダ・デコーダ構造を持つトロイジャンガンステガノグラフィーモデルの設計を行う。 本モデルは,バックドアトリガの隠蔽やデータ変換を改善するバックドアトリガとして,特定の攻撃情報を目に見えないノイズとしてエンコードし,イメージにアタッチすることで,バックドアトリガーの隠蔽とデータ変換を改善する。 本手法は,複合トリガの多重化によるマルチバックドアトリガを実現し,バックドア攻撃の堅牢性を向上させる。 最後に, 局所学習機構がバックドア攻撃の成功率の低下につながる問題に対して, フェデレート学習に基づく二重モデル置換バックドア攻撃アルゴリズムを設計する。 この方法は、連合学習集約モデルの性能を維持しつつ、バックドア攻撃の成功率を向上させることができる。 実験により,本論文の攻撃戦略は,多目的攻撃において高いバックドアの隠蔽とトリガーフォームの多様化を達成できるだけでなく,優れた攻撃成功率を達成できることが示されている。

関連論文リスト

• Act in Collusion: A Persistent Distributed Multi-Target Backdoor in Federated Learning [5.91728247370845]
  フェデレーション学習は、その分散した性質のため、バックドア攻撃に対して脆弱である。 我々は、分散マルチターゲットバックドアであるフェデレーション学習のためのより実用的な脅威モデルを提案する。 攻撃後30ラウンド、各種顧客からの3つの異なるバックドアのアタック成功率は93%以上である。
  論文  参考訳（メタデータ） (2024-11-06T13:57:53Z)
• Efficient Backdoor Defense in Multimodal Contrastive Learning: A Token-Level Unlearning Method for Mitigating Threats [52.94388672185062]
  本稿では,機械学習という概念を用いて,バックドアの脅威に対する効果的な防御機構を提案する。 これは、モデルがバックドアの脆弱性を迅速に学習するのを助けるために、小さな毒のサンプルを戦略的に作成することを必要とする。 バックドア・アンラーニング・プロセスでは,新しいトークン・ベースの非ラーニング・トレーニング・システムを提案する。
  論文  参考訳（メタデータ） (2024-09-29T02:55:38Z)
• PureDiffusion: Using Backdoor to Counter Backdoor in Generative Diffusion Models [5.957580737396457]
  拡散モデル(DM)は、幅広い生成タスクにおいて最先端の能力を達成した高度なディープラーニングモデルである。 近年の研究では、バックドア攻撃に関する脆弱性が示されており、バックドアDMは、バックドアターゲットと呼ばれる指定結果を一貫して生成している。 DMに埋め込まれたバックドアトリガを反転させることで、バックドア攻撃を効率的に検出できる新しいバックドア防御フレームワークであるPureDiffusionを導入する。
  論文  参考訳（メタデータ） (2024-09-20T23:19:26Z)
• LOTUS: Evasive and Resilient Backdoor Attacks through Sub-Partitioning [49.174341192722615]
  バックドア攻撃は、ディープラーニングアプリケーションに重大なセキュリティ脅威をもたらす。 近年の研究では、特殊な変換機能によって作られたサンプル特異的に見えないトリガーを用いた攻撃が導入されている。 我々は、回避性とレジリエンスの両方に対処するために、新しいバックドアアタックLOTUSを導入する。
  論文  参考訳（メタデータ） (2024-03-25T21:01:29Z)
• From Shortcuts to Triggers: Backdoor Defense with Denoised PoE [51.287157951953226]
  言語モデルは、しばしば多様なバックドア攻撃、特にデータ中毒の危険にさらされる。 既存のバックドア防御手法は主に明示的なトリガーによるバックドア攻撃に焦点を当てている。 我々は,様々なバックドア攻撃を防御するために,エンド・ツー・エンドアンサンブルに基づくバックドア防御フレームワークDPoEを提案する。
  論文  参考訳（メタデータ） (2023-05-24T08:59:25Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• Marksman Backdoor: Backdoor Attacks with Arbitrary Target Class [17.391987602738606]
  近年、機械学習モデルはバックドア攻撃に弱いことが示されている。 この論文は、マークスマン(Marksman)と呼ばれるより強力なペイロードを持つ、新しいバックドア攻撃を利用する。 提案するフレームワークは,複数のベンチマークデータセットにおいてクリーンデータ性能を維持しつつ,高い攻撃性能を実現することを実証的に示す。
  論文  参考訳（メタデータ） (2022-10-17T15:46:57Z)
• Backdoors Stuck At The Frontdoor: Multi-Agent Backdoor Attacks That Backfire [8.782809316491948]
  複数の攻撃者が同時に被害者モデルをバックドアしようとするマルチエージェントバックドア攻撃シナリオについて検討する。 エージェントが集団攻撃の成功率の低いゲームで一貫したバックファイリング現象が観察される。 その結果,実践環境におけるバックドア・ディフェンス研究の再評価の動機となった。
  論文  参考訳（メタデータ） (2022-01-28T16:11:40Z)
• Backdoor Attack in the Physical World [49.64799477792172]
  ディープニューラルネットワーク(DNN)に隠れたバックドアを注入するバックドア攻撃 既存のバックドア攻撃のほとんどは、トレーニングおよびテスト画像にまたがる静的トリガ、すなわち$$トリガの設定を採用した。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、この攻撃パラダイムは脆弱であることを示す。
  論文  参考訳（メタデータ） (2021-04-06T08:37:33Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。