論文の概要: Verifiably Forgotten? Gradient Differences Still Enable Data Reconstruction in Federated Unlearning

• arxiv url: http://arxiv.org/abs/2505.11097v1
• Date: Fri, 16 May 2025 10:28:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-19 14:36:14.674037
• Title: Verifiably Forgotten? Gradient Differences Still Enable Data Reconstruction in Federated Unlearning
• Title（参考訳）: 忘れられるか?フェデレーション・アンラーニングにおけるデータ再構成の相違点
• Authors: Fuyao Zhang, Wenjie Li, Yurong Hao, Xinyu Yan, Yang Cao, Wei Yang Bryan Lim,
• Abstract要約: Federated Unlearning(FU)は、データプライバシ規制の重要なコンプライアンスメカニズムとして登場した。 本稿では,新しい学習ベース再構築攻撃フレームワークであるForgotten Data (IGF) のグラディエント差分を変換する手法を提案する。 IGFは、構造的およびセマンティックなキューの両方をキャプチャする複合的な損失によって最適化された、調整されたピクセルレベルの逆変換モデルを組み込んでいる。
• 参考スコア（独自算出の注目度）: 12.13642771298657
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated Unlearning (FU) has emerged as a critical compliance mechanism for data privacy regulations, requiring unlearned clients to provide verifiable Proof of Federated Unlearning (PoFU) to auditors upon data removal requests. However, we uncover a significant privacy vulnerability: when gradient differences are used as PoFU, honest-but-curious auditors may exploit mathematical correlations between gradient differences and forgotten samples to reconstruct the latter. Such reconstruction, if feasible, would face three key challenges: (i) restricted auditor access to client-side data, (ii) limited samples derivable from individual PoFU, and (iii) high-dimensional redundancy in gradient differences. To overcome these challenges, we propose Inverting Gradient difference to Forgotten data (IGF), a novel learning-based reconstruction attack framework that employs Singular Value Decomposition (SVD) for dimensionality reduction and feature extraction. IGF incorporates a tailored pixel-level inversion model optimized via a composite loss that captures both structural and semantic cues. This enables efficient and high-fidelity reconstruction of large-scale samples, surpassing existing methods. To counter this novel attack, we design an orthogonal obfuscation defense that preserves PoFU verification utility while preventing sensitive forgotten data reconstruction. Experiments across multiple datasets validate the effectiveness of the attack and the robustness of the defense. The code is available at https://anonymous.4open.science/r/IGF.
• Abstract（参考訳）: Federated Unlearning(FU)は、データプライバシ規制の重要なコンプライアンスメカニズムとして浮上し、未学習のクライアントがデータ削除要求の監査者に対して検証可能なPoFU(Proof of Federated Unlearning)を提供する必要がある。 勾配差がPoFUとして使用される場合、正直だが正確な監査者は、勾配差と忘れられたサンプルの間の数学的相関を利用して後者を再構築する。 このような再建が実現できれば,3つの重要な課題に直面することになる。 (i)クライアント側データへの監査人アクセスの制限。 二 個別のPoFUから得られる限られた試料、及び (3)勾配差の高次元冗長性 これらの課題を克服するために,次元削減と特徴抽出にSVD(Singular Value Decomposition)を用いた新しい学習ベース再構築攻撃フレームワークであるForgotten Data (IGF) の逆勾配差を提案する。 IGFは、構造的およびセマンティックなキューの両方をキャプチャする複合的な損失によって最適化された、調整されたピクセルレベルの逆変換モデルを組み込んでいる。 これにより、既存の手法を超越した大規模サンプルの効率的かつ高忠実な再構築が可能となる。 この新たな攻撃に対抗するために,PoFU検証ユーティリティを保護し,機密性の高いデータ再構成を防止できる直交難読化対策を設計する。 複数のデータセットにわたる実験は、攻撃の有効性と防御の堅牢性を検証する。 コードはhttps://anonymous.4open.science/r/IGFで公開されている。

関連論文リスト

• Defending the Edge: Representative-Attention for Mitigating Backdoor Attacks in Federated Learning [7.808916974942399]
  不均一エッジデバイスは、多種多様で非独立で、同一に分散された(非IID)データを生成する。 本稿では, 悪意のあるクライアントと良識を区別するための, FeRA という, 表現力に基づく防衛機構を提案する。 本評価では,エッジデバイスに典型的な非IIDデータ分散に挑戦するなど,さまざまなFLシナリオにおけるFeRAの堅牢性を示す。
  論文  参考訳（メタデータ） (2025-05-15T13:44:32Z)
• Theoretical Insights in Model Inversion Robustness and Conditional Entropy Maximization for Collaborative Inference Systems [89.35169042718739]
  協調推論により、クラウドサーバに機密データを公開することなく、エンドユーザは強力なディープラーニングモデルを活用することができる。 近年の研究では、これらの中間機能は、情報が漏洩し、生データをモデル反転攻撃(MIA)によって再構築できるため、プライバシーを十分に保持できないことが判明している。 この研究はまず、与えられた中間特徴の入力の条件エントロピーが、任意のMIAの下での再構成平均二乗誤差(MSE)の保証された下界を与えることを理論的に証明する。 そして、ガウス混合推定に基づいて、この条件付きエントロピーを有界化するための微分可能かつ可解な尺度を導出し、逆ロバスト性を高める条件付きエントロピーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-01T07:15:21Z)
• Just a Simple Transformation is Enough for Data Protection in Vertical Federated Learning [83.90283731845867]
  我々は、入力データ妥協を目標とする一般的なリスクである特徴再構成攻撃について検討する。 フェデレーションベースのモデルは、最先端の機能再構築攻撃に耐性があることが示される。
  論文  参考訳（メタデータ） (2024-12-16T12:02:12Z)
• QBI: Quantile-Based Bias Initialization for Efficient Private Data Reconstruction in Federated Learning [0.5497663232622965]
  フェデレーション学習は、ユーザのプライバシを損なうことなく、分散データ上で機械学習モデルのトレーニングを可能にする。 近年の研究では、中央のエンティティが共有モデル更新からプライベートデータを完全に再構築できることが示されている。
  論文  参考訳（メタデータ） (2024-06-26T20:19:32Z)
• GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
  Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。 近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
  論文  参考訳（メタデータ） (2023-08-09T04:34:21Z)
• Refiner: Data Refining against Gradient Leakage Attacks in Federated Learning [28.76786159247595]
  グラデーションリーク攻撃は クライアントのアップロードした勾配を利用して 機密データを再構築する 本稿では,従来の勾配摂動から分離した新しい防御パラダイムについて検討する。 プライバシ保護とパフォーマンス維持のための2つのメトリクスを共同で最適化するRefinerを設計する。
  論文  参考訳（メタデータ） (2022-12-05T05:36:15Z)
• Enhancing Privacy against Inversion Attacks in Federated Learning by using Mixing Gradients Strategies [0.31498833540989407]
  フェデレーション学習は情報漏洩のリスクを低減するが、攻撃に対して脆弱である。 いくつかのニューラルネットワーク設計決定が、勾配逆攻撃に対してどのように防御できるかを示す。 これらの戦略は、画像認識のためのLeNETのような深層畳み込みニューラルネットワークにも有用である。
  論文  参考訳（メタデータ） (2022-04-26T12:08:28Z)
• CAFE: Catastrophic Data Leakage in Vertical Federated Learning [65.56360219908142]
  近年の研究では、分散機械学習システムにデプロイされた勾配共有機構を通じて、プライベートトレーニングデータがリークされることが示されている。 本稿では,共有集約勾配からバッチデータを効率よく回収する理論的正当性を持つ高度なデータ漏洩攻撃を提案する。
  論文  参考訳（メタデータ） (2021-10-26T23:22:58Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。