Fugu-MT 論文翻訳(概要): Privacy Leakage of Adversarial Training Models in Federated Learning Systems

論文の概要: Privacy Leakage of Adversarial Training Models in Federated Learning Systems

arxiv url: http://arxiv.org/abs/2202.10546v1
Date: Mon, 21 Feb 2022 22:03:58 GMT
ステータス: 処理完了
システム内更新日: 2022-02-24 07:57:42.866206
Title: Privacy Leakage of Adversarial Training Models in Federated Learning Systems
Title（参考訳）: フェデレーション学習システムにおける逆学習モデルのプライバシー漏洩
Authors: Jingyang Zhang, Yiran Chen, Hai Li
Abstract要約: 敵の攻撃に対して堅牢なディープニューラルネットワークを得るためには、敵の訓練(AT)が不可欠である。本研究では,プライバシに敏感なフェデレーション学習(FL)システムに適用可能な,新たなプライバシ攻撃を設計することで,ATの不安定な特性を明らかにする。
参考スコア（独自算出の注目度）: 43.515706358047815
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Adversarial Training (AT) is crucial for obtaining deep neural networks that are robust to adversarial attacks, yet recent works found that it could also make models more vulnerable to privacy attacks. In this work, we further reveal this unsettling property of AT by designing a novel privacy attack that is practically applicable to the privacy-sensitive Federated Learning (FL) systems. Using our method, the attacker can exploit AT models in the FL system to accurately reconstruct users' private training images even when the training batch size is large. Code is available at https://github.com/zjysteven/PrivayAttack_AT_FL.
Abstract（参考訳）: 敵対的トレーニング(AT)は、敵対的攻撃に対して堅牢なディープニューラルネットワークを取得するために不可欠だが、最近の研究により、モデルがプライバシ攻撃に対してより脆弱になることが判明した。本稿では,プライバシに敏感な連合学習(fl)システムに適用可能な,新たなプライバシー攻撃を設計することで,atのこの不確実性をさらに明らかにする。この手法を用いることで,flシステムのモデルを利用して,訓練バッチサイズが大きい場合でも,ユーザのプライベートトレーニングイメージを正確に再現することができる。コードはhttps://github.com/zjysteven/PrivayAttack_AT_FLで公開されている。

関連論文リスト

No Vandalism: Privacy-Preserving and Byzantine-Robust Federated Learning [18.1129191782913]
フェデレートされた学習により、複数のクライアントがプライベートデータを共有せずに1つの機械学習モデルを共同でトレーニングし、プライバシ保護を提供する。従来の連合学習は、毒性攻撃に弱いため、モデルの性能を低下させるだけでなく、悪意のあるバックドアを埋め込むこともできる。本稿では,悪意ある参加者からの攻撃に対して,有害行為(NoV)のない環境を提供するために,プライバシ保護とビザンチン損なうフェデレーション・ラーニング・スキームを構築することを目的とする。
論文参考訳（メタデータ） (2024-06-03T07:59:10Z)
Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
論文参考訳（メタデータ） (2024-04-01T16:50:54Z)
SaFL: Sybil-aware Federated Learning with Application to Face Recognition [13.914187113334222]
Federated Learning(FL)は、顧客間で共同学習を行う機械学習パラダイムである。マイナス面として、FLは研究を開始したばかりのセキュリティとプライバシに関する懸念を提起している。本稿では,SAFL と呼ばれる FL の毒殺攻撃に対する新しい防御法を提案する。
論文参考訳（メタデータ） (2023-11-07T21:06:06Z)
RecUP-FL: Reconciling Utility and Privacy in Federated Learning via User-configurable Privacy Defense [9.806681555309519]
フェデレートラーニング(FL)は、クライアントがプライベートデータを共有せずに、協力的にモデルをトレーニングすることを可能にする。近年の研究では、共有勾配によってプライベート情報が漏洩する可能性があることが示されている。本稿では、ユーザ指定の機密属性により焦点を絞ることができる、ユーザ設定可能なプライバシ保護(RecUP-FL)を提案する。
論文参考訳（メタデータ） (2023-04-11T10:59:45Z)
FedML-HE: An Efficient Homomorphic-Encryption-Based Privacy-Preserving Federated Learning System [24.39699808493429]
Federated Learningは、ローカルデータではなく、ローカルモデルのアップデートを集約することによって、分散デバイス上の機械学習モデルをトレーニングする。サーバ上の集約されたローカルモデルは、逆攻撃によって機密性の高い個人情報を明らかにする可能性があるため、プライバシー上の懸念が生じる。我々は,HedML-HEをベースとした安全なモデルアグリゲーションを実現するための,最初の実践的フェデレーション学習システムを提案する。
論文参考訳（メタデータ） (2023-03-20T02:44:35Z)
Backdoor Attacks in Peer-to-Peer Federated Learning [11.235386862864397]
Peer-to-Peer Federated Learning (P2PFL)は、プライバシと信頼性の両面でアドバンテージを提供する。本稿では,P2PFLに対する新たなバックドア攻撃を提案する。
論文参考訳（メタデータ） (2023-01-23T21:49:28Z)
CANIFE: Crafting Canaries for Empirical Privacy Measurement in Federated Learning [77.27443885999404]
Federated Learning(FL)は、分散環境で機械学習モデルをトレーニングするための設定である。本稿では,訓練ラウンドの経験的プライバシを評価するために,強敵による慎重なサンプル作成手法であるCANIFEを提案する。
論文参考訳（メタデータ） (2022-10-06T13:30:16Z)
RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文参考訳（メタデータ） (2022-07-12T19:34:47Z)
Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
論文参考訳（メタデータ） (2022-02-14T18:33:12Z)
Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
論文参考訳（メタデータ） (2020-10-08T16:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。