論文の概要: Understanding Data Reconstruction Leakage in Federated Learning from a Theoretical Perspective

• arxiv url: http://arxiv.org/abs/2408.12119v1
• Date: Thu, 22 Aug 2024 04:20:48 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-23 15:13:16.522171
• Title: Understanding Data Reconstruction Leakage in Federated Learning from a Theoretical Perspective
• Title（参考訳）: 理論的観点からのフェデレーション学習におけるデータ再構成漏れの理解
• Authors: Zifan Wang, Binghui Zhang, Meng Pang, Yuan Hong, Binghui Wang,
• Abstract要約: フェデレートラーニング(Federated Learning, FL)は、データプライバシ保護を目的とした、新たなコラボレーティブラーニングパラダイムである。 近年の研究では、FLアルゴリズムは深刻なデータ再構成攻撃に弱いことが示されている。 FLに対するデータ再構成攻撃を理解するための理論的枠組みを提案する。
• 参考スコア（独自算出の注目度）: 33.68646515160024
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Federated learning (FL) is an emerging collaborative learning paradigm that aims to protect data privacy. Unfortunately, recent works show FL algorithms are vulnerable to the serious data reconstruction attacks. However, existing works lack a theoretical foundation on to what extent the devices' data can be reconstructed and the effectiveness of these attacks cannot be compared fairly due to their unstable performance. To address this deficiency, we propose a theoretical framework to understand data reconstruction attacks to FL. Our framework involves bounding the data reconstruction error and an attack's error bound reflects its inherent attack effectiveness. Under the framework, we can theoretically compare the effectiveness of existing attacks. For instance, our results on multiple datasets validate that the iDLG attack inherently outperforms the DLG attack.
• Abstract（参考訳）: フェデレートラーニング(Federated Learning, FL)は、データプライバシ保護を目的とした、新たなコラボレーティブラーニングパラダイムである。 残念ながら、最近の研究は、FLアルゴリズムが深刻なデータ再構成攻撃に対して脆弱であることを示している。 しかし、既存の研究は、デバイスのデータがどの程度再構成可能か、そしてそれらの不安定な性能のためにこれらの攻撃の有効性を公平に比較できないかという理論的基盤を欠いている。 この欠陥に対処するために、FLに対するデータ再構成攻撃を理解するための理論的枠組みを提案する。 我々のフレームワークは、データ再構成エラーをバウンドし、攻撃のエラーバウンドはその固有の攻撃効果を反映する。 この枠組みでは,既存の攻撃の有効性を理論的に比較できる。 例えば、複数のデータセットに対する我々の結果は、iDLG攻撃が本質的にDLG攻撃を上回っていることを検証する。

関連論文リスト

• FEDLAD: Federated Evaluation of Deep Leakage Attacks and Defenses [50.921333548391345]
  フェデレーテッド・ラーニング(Federated Learning)は、分散型機械学習パラダイムをプライバシ保護するものだ。 近年の研究では、Deep Leakageと呼ばれる勾配技術によって、民間の真実データを復元できることが判明している。 本稿では、Deep Leakage攻撃と防御を評価するための総合的なベンチマークであるFEDLAD Framework(Federated Evaluation of Deep Leakage Attacks and Defenses)を紹介する。
  論文  参考訳（メタデータ） (2024-11-05T11:42:26Z)
• Data Reconstruction Attacks and Defenses: A Systematic Evaluation [27.34562026045369]
  本稿では,この問題を逆問題とみなし,理論的,定量的にデータ再構成問題を体系的に評価することを提案する。 本報告では, 従来の防衛手法の強みに対する理解を深める上で有効な, 強力な再建攻撃を提案する。
  論文  参考訳（メタデータ） (2024-02-13T05:06:34Z)
• Data-Agnostic Model Poisoning against Federated Learning: A Graph Autoencoder Approach [65.2993866461477]
  本稿では,フェデレートラーニング(FL)に対するデータに依存しないモデル中毒攻撃を提案する。 この攻撃はFLトレーニングデータの知識を必要とせず、有効性と検出不能の両方を達成する。 実験により、FLの精度は提案した攻撃の下で徐々に低下し、既存の防御機構では検出できないことが示された。
  論文  参考訳（メタデータ） (2023-11-30T12:19:10Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Refiner: Data Refining against Gradient Leakage Attacks in Federated Learning [28.76786159247595]
  グラデーションリーク攻撃は クライアントのアップロードした勾配を利用して 機密データを再構築する 本稿では,従来の勾配摂動から分離した新しい防御パラダイムについて検討する。 プライバシ保護とパフォーマンス維持のための2つのメトリクスを共同で最適化するRefinerを設計する。
  論文  参考訳（メタデータ） (2022-12-05T05:36:15Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)
• Fabricated Flips: Poisoning Federated Learning without Data [9.060263645085564]
  フェデレートラーニング(FL)に対する攻撃は、生成されたモデルの品質を大幅に低下させる。 本稿では、悪意のあるデータを合成し、敵対的モデルを構築するデータフリーな未標的攻撃(DFA)を提案する。 DFAは、最先端の未標的攻撃と同じような、あるいはそれ以上の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2022-02-07T20:38:28Z)
• Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
  データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。 本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
  論文  参考訳（メタデータ） (2021-02-01T06:06:21Z)
• Provable Defense against Privacy Leakage in Federated Learning from Representation Perspective [47.23145404191034]
  Federated Learning(FL)は、プライベートデータを明示的に共有しないことでプライバシーリスクを低減できる人気の分散学習フレームワークです。 近年の研究では、モデル更新の共有がflを推論攻撃に対して脆弱にすることを示した。 我々は,勾配からのデータ表現漏洩がflにおけるプライバシー漏洩の本質的原因であることを示す。
  論文  参考訳（メタデータ） (2020-12-08T20:42:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。