論文の概要: Defense against Privacy Leakage in Federated Learning

• arxiv url: http://arxiv.org/abs/2209.05724v1
• Date: Tue, 13 Sep 2022 04:19:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-14 12:41:45.561205
• Title: Defense against Privacy Leakage in Federated Learning
• Title（参考訳）: 連合学習におけるプライバシー漏洩防止
• Authors: Jing Wu, Munawar Hayat, Mingyi Zhou, Mehrtash Harandi
• Abstract要約: Federated Learning(FL)は、プライベートデータを共有しないことでユーザのプライバシを保護するため、有望な分散学習パラダイムを提供する。 近年の研究では、FLはインバージョン攻撃のモデルとなり、共有勾配を盗聴することでユーザーのプライベートデータを再構築することができることが示されている。 我々は、機密データの勾配を隠蔽データで隠蔽することに基づく、単純かつ効果的な防衛戦略を提案する。
• 参考スコア（独自算出の注目度）: 35.581104084269164
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Federated Learning (FL) provides a promising distributed learning paradigm, since it seeks to protect users privacy by not sharing their private training data. Recent research has demonstrated, however, that FL is susceptible to model inversion attacks, which can reconstruct users' private data by eavesdropping on shared gradients. Existing defense solutions cannot survive stronger attacks and exhibit a poor trade-off between privacy and performance. In this paper, we present a straightforward yet effective defense strategy based on obfuscating the gradients of sensitive data with concealing data. Specifically, we alter a few samples within a mini batch to mimic the sensitive data at the gradient levels. Using a gradient projection technique, our method seeks to obscure sensitive data without sacrificing FL performance. Our extensive evaluations demonstrate that, compared to other defenses, our technique offers the highest level of protection while preserving FL performance. Our source code is located in the repository.
• Abstract（参考訳）: Federated Learning(FL)は、プライベートトレーニングデータを共有しないことでユーザのプライバシを保護するため、有望な分散学習パラダイムを提供する。 しかし、近年の研究により、flは、共有勾配を盗聴することでユーザーのプライベートデータを再構築できる、モデル反転攻撃の影響を受けやすいことが示されている。 既存の防衛ソリューションは強力な攻撃に耐えられず、プライバシとパフォーマンスのトレードオフが乏しい。 本稿では,機密データの勾配を隠蔽データで隠蔽することに基づく,単純かつ効果的な防御戦略を提案する。 具体的には、勾配レベルの機密データを模倣するために、ミニバッチ内のいくつかのサンプルを変更します。 勾配投影法を用いて,FL性能を犠牲にすることなく不明瞭な機密データを求める。 本手法は,他の防御技術と比較して,FL性能を保ちながら高い保護レベルを提供することを示す。 ソースコードはリポジトリにあります。

関連論文リスト

• Defending against Data Poisoning Attacks in Federated Learning via User Elimination [0.0]
  本稿では,フェデレーションモデルにおける敵ユーザの戦略的排除に焦点を当てた,新たなフレームワークを提案する。 我々は、ローカルトレーニングインスタンスが収集したメタデータと差分プライバシー技術を統合することにより、フェデレートアルゴリズムのアグリゲーションフェーズにおける異常を検出する。 提案手法の有効性を実証し,ユーザのプライバシとモデル性能を維持しながらデータ汚染のリスクを大幅に軽減する。
  論文  参考訳（メタデータ） (2024-04-19T10:36:00Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• Refiner: Data Refining against Gradient Leakage Attacks in Federated Learning [28.76786159247595]
  グラデーションリーク攻撃は クライアントのアップロードした勾配を利用して 機密データを再構築する 本稿では,従来の勾配摂動から分離した新しい防御パラダイムについて検討する。 プライバシ保護とパフォーマンス維持のための2つのメトリクスを共同で最適化するRefinerを設計する。
  論文  参考訳（メタデータ） (2022-12-05T05:36:15Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• Defense Against Gradient Leakage Attacks via Learning to Obscure Data [48.67836599050032]
  フェデレートラーニングは、効果的なプライバシー保護学習メカニズムと考えられている。 本稿では,不明瞭なデータに学習することで,クライアントのデータ保護のための新しい防御手法を提案する。
  論文  参考訳（メタデータ） (2022-06-01T21:03:28Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Privacy-Preserving Federated Learning on Partitioned Attributes [6.661716208346423]
  フェデレーション学習は、ローカルデータやモデルを公開することなく、協調的なトレーニングを促進する。 ローカルモデルをチューニングし、プライバシー保護された中間表現をリリースする逆学習ベースの手順を紹介します。 精度低下を緩和するために,前方後方分割アルゴリズムに基づく防御法を提案する。
  論文  参考訳（メタデータ） (2021-04-29T14:49:14Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。