論文の概要: A GAN-based data poisoning framework against anomaly detection in vertical federated learning

• arxiv url: http://arxiv.org/abs/2401.08984v1
• Date: Wed, 17 Jan 2024 05:31:08 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-18 16:46:14.609510
• Title: A GAN-based data poisoning framework against anomaly detection in vertical federated learning
• Title（参考訳）: 垂直フェデレート学習における異常検出に対するgan型データ中毒フレームワーク
• Authors: Xiaolin Chen, Daoguang Zan, Wei Li, Bei Guan, Yongji Wang
• Abstract要約: 悪意のある参加者による毒殺攻撃は、協調モデルの性能を低下させる可能性がある。 我々は、革新的なエンド・ツー・エンドの毒殺フレームワークP-GANを導入する。 また,Deep Auto-Encoder (DAE) に基づく異常検出アルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 12.989382646943506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In vertical federated learning (VFL), commercial entities collaboratively train a model while preserving data privacy. However, a malicious participant's poisoning attack may degrade the performance of this collaborative model. The main challenge in achieving the poisoning attack is the absence of access to the server-side top model, leaving the malicious participant without a clear target model. To address this challenge, we introduce an innovative end-to-end poisoning framework P-GAN. Specifically, the malicious participant initially employs semi-supervised learning to train a surrogate target model. Subsequently, this participant employs a GAN-based method to produce adversarial perturbations to degrade the surrogate target model's performance. Finally, the generator is obtained and tailored for VFL poisoning. Besides, we develop an anomaly detection algorithm based on a deep auto-encoder (DAE), offering a robust defense mechanism to VFL scenarios. Through extensive experiments, we evaluate the efficacy of P-GAN and DAE, and further analyze the factors that influence their performance.
• Abstract（参考訳）: 垂直連合学習(VFL)では、商用エンティティがデータのプライバシを保持しながらモデルを協調的にトレーニングする。 しかし、悪意のある参加者の毒殺攻撃は、この協調モデルの性能を低下させる可能性がある。 毒殺攻撃を達成する上での最大の課題は、サーバーサイドのトップモデルへのアクセスの欠如であり、悪意のある参加者は明確なターゲットモデルを持たないままである。 この課題に対処するために、革新的なエンドツーエンド毒殺フレームワークP-GANを導入する。 具体的には、悪意のある参加者は、当初は準教師付き学習を使用して代理ターゲットモデルを訓練する。 その後、この参加者はganベースの手法を用いて逆摂動を生成し、サーロゲートモデルの性能を劣化させる。 最後に、VFL中毒用のジェネレータを取得し、調整する。 さらに,VFLシナリオに対して堅牢な防御機構を提供するディープオートエンコーダ(DAE)に基づく異常検出アルゴリズムを開発した。 広範な実験により,p-ganおよびdaeの有効性を評価し,その性能に影響を与える因子について検討した。

関連論文リスト

• Formal Logic-guided Robust Federated Learning against Poisoning Attacks [6.997975378492098]
  Federated Learning (FL)は、集中型機械学習(ML)に関連するプライバシー問題に対して、有望な解決策を提供する。 FLは、敵クライアントがトレーニングデータやモデル更新を操作して全体的なモデルパフォーマンスを低下させる、毒殺攻撃など、さまざまなセキュリティ上の脅威に対して脆弱である。 本稿では,時系列タスクにおけるフェデレート学習における中毒攻撃の軽減を目的とした防御機構を提案する。
  論文  参考訳（メタデータ） (2024-11-05T16:23:19Z)
• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• EAB-FL: Exacerbating Algorithmic Bias through Model Poisoning Attacks in Federated Learning [3.699715556687871]
  フェデレートラーニング(FL)は、複数のパーティがプライベートデータを開示することなく、共同で共有モデルをトレーニングできる技術である。 FLモデルは、データの異質性や党の選択により、特定の人口集団に対する偏見に悩まされることがある。 そこで本研究では, モデル有効性を維持しつつ, グループ不公平性を高めることを目的とした, 新たなモデル中毒攻撃であるERB-FLを提案する。
  論文  参考訳（メタデータ） (2024-10-02T21:22:48Z)
• Defending against Data Poisoning Attacks in Federated Learning via User Elimination [0.0]
  本稿では,フェデレーションモデルにおける敵ユーザの戦略的排除に焦点を当てた,新たなフレームワークを提案する。 我々は、ローカルトレーニングインスタンスが収集したメタデータと差分プライバシー技術を統合することにより、フェデレートアルゴリズムのアグリゲーションフェーズにおける異常を検出する。 提案手法の有効性を実証し,ユーザのプライバシとモデル性能を維持しながらデータ汚染のリスクを大幅に軽減する。
  論文  参考訳（メタデータ） (2024-04-19T10:36:00Z)
• Towards Robust Federated Learning via Logits Calibration on Non-IID Data [49.286558007937856]
  Federated Learning(FL)は、エッジネットワークにおける分散デバイスの共同モデルトレーニングに基づく、プライバシ保護のための分散管理フレームワークである。 近年の研究では、FLは敵の例に弱いことが示されており、その性能は著しく低下している。 本研究では,対戦型訓練(AT)フレームワークを用いて,対戦型実例(AE)攻撃に対するFLモデルの堅牢性を向上させる。
  論文  参考訳（メタデータ） (2024-03-05T09:18:29Z)
• Securing NextG Systems against Poisoning Attacks on Federated Learning: A Game-Theoretic Solution [9.800359613640763]
  本稿では,フェデレートラーニング(FL)システムにおける毒性攻撃と防御相互作用について検討する。 FLは、クライアントがデータサンプルを交換する必要なしに、グローバルモデルを集合的にトレーニングする。 悪意のあるクライアントの存在は、偽造されたローカルモデル交換を通じてグローバルモデルを操作するためのトレーニングデータを汚染するリスクをもたらす。
  論文  参考訳（メタデータ） (2023-12-28T17:52:21Z)
• Towards Reliable Participation in UAV-Enabled Federated Edge Learning on Non-IID Data [22.775113283662883]
  Federated Learning(FL)は、多くの参加者が共同でMLモデルをトレーニングできる、分散機械学習(ML)技術である。 FLは、悪意のあるUAVが有毒なローカルモデルをFLサーバーにアップロードする攻撃によって標的にすることができる。 本稿では,信頼性の高い高速UAVを優先することで収束性を高める新しいクライアント選択方式を提案する。
  論文  参考訳（メタデータ） (2023-12-16T10:35:06Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。