論文の概要: Byzantine Outside, Curious Inside: Reconstructing Data Through Malicious Updates

• arxiv url: http://arxiv.org/abs/2506.11413v1
• Date: Fri, 13 Jun 2025 02:23:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-16 17:50:49.628494
• Title: Byzantine Outside, Curious Inside: Reconstructing Data Through Malicious Updates
• Title（参考訳）: ビザンティンの裏側:悪質なアップデートでデータを再構築
• Authors: Kai Yue, Richeng Jin, Chau-Wai Wong, Huaiyu Dai,
• Abstract要約: フェデレートラーニング(FL)は、生データを共有せずに分散機械学習を可能にする。 一般に採用されているFLプロトコルでは、プライバシリークが可能である。 FLに新たな脅威モデルを導入し、悪意ある好奇心をそそるクライアントと名づけた。
• 参考スコア（独自算出の注目度）: 36.2911560725828
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) enables decentralized machine learning without sharing raw data, allowing multiple clients to collaboratively learn a global model. However, studies reveal that privacy leakage is possible under commonly adopted FL protocols. In particular, a server with access to client gradients can synthesize data resembling the clients' training data. In this paper, we introduce a novel threat model in FL, named the maliciously curious client, where a client manipulates its own gradients with the goal of inferring private data from peers. This attacker uniquely exploits the strength of a Byzantine adversary, traditionally aimed at undermining model robustness, and repurposes it to facilitate data reconstruction attack. We begin by formally defining this novel client-side threat model and providing a theoretical analysis that demonstrates its ability to achieve significant reconstruction success during FL training. To demonstrate its practical impact, we further develop a reconstruction algorithm that combines gradient inversion with malicious update strategies. Our analysis and experimental results reveal a critical blind spot in FL defenses: both server-side robust aggregation and client-side privacy mechanisms may fail against our proposed attack. Surprisingly, standard server- and client-side defenses designed to enhance robustness or privacy may unintentionally amplify data leakage. Compared to the baseline approach, a mistakenly used defense may instead improve the reconstructed image quality by 10-15%.
• Abstract（参考訳）: フェデレートラーニング(FL)は、生データを共有せずに分散機械学習を可能にし、複数のクライアントが協力してグローバルモデルを学ぶことを可能にする。 しかし、一般に採用されているFLプロトコルでは、プライバシー漏洩が可能であることが研究で明らかになった。 特に、クライアントのグラデーションにアクセスするサーバは、クライアントのトレーニングデータに似たデータを合成することができる。 本稿では,FLにおける新たな脅威モデルについて紹介する。悪質な好奇心を抱くクライアントは,個人データをピアから推測する目的で,クライアントが自身の勾配を操作できる。 この攻撃者は、伝統的にモデルの堅牢性を損なうことを目的としたビザンツの敵の強みを独自に活用し、データ再構築攻撃を促進するためにそれを再利用する。 まず、この新たなクライアント側脅威モデルを定義し、FLトレーニング中に大幅な再構築を達成できることを示す理論的分析を行うことから始める。 その実用的影響を示すために、勾配反転と悪意のある更新戦略を組み合わせた再構成アルゴリズムをさらに開発する。 サーバ側ロバストアグリゲーションとクライアント側プライバシメカニズムの両方が、提案した攻撃に対して失敗する可能性がある。 驚くべきことに、ロバスト性やプライバシを高めるために設計された標準的なサーバサイドおよびクライアントサイドの防御は、意図せずにデータ漏洩を増幅する可能性がある。 ベースラインアプローチと比較して、誤って使用されるディフェンスは、再構成画像の品質を10～15%向上させる可能性がある。

関連論文リスト

• A Stealthy Wrongdoer: Feature-Oriented Reconstruction Attack against Split Learning [14.110303634976272]
  Split Learning(SL)は、プライバシ保護機能と最小限の計算要件で有名な分散学習フレームワークである。 以前の研究は、トレーニングデータを再構築するサーバ敵によるSLシステムの潜在的なプライバシー侵害について、一貫して強調している。 本稿では,特徴指向再構築攻撃 (FORA) という,SL上での半正直なデータ再構成攻撃について紹介する。
  論文  参考訳（メタデータ） (2024-05-07T08:38:35Z)
• Client-side Gradient Inversion Against Federated Learning from Poisoning [59.74484221875662]
  フェデレートラーニング(FL)により、分散参加者は、データを中央サーバに直接共有することなく、グローバルモデルをトレーニングできる。 近年の研究では、FLは元のトレーニングサンプルの再構築を目的とした勾配反転攻撃(GIA)に弱いことが判明している。 本稿では,クライアント側から起動可能な新たな攻撃手法であるクライアント側中毒性グレーディエント・インバージョン(CGI)を提案する。
  論文  参考訳（メタデータ） (2023-09-14T03:48:27Z)
• Mitigating Cross-client GANs-based Attack in Federated Learning [78.06700142712353]
  マルチ分散マルチメディアクライアントは、グローバル共有モデルの共同学習のために、フェデレートラーニング(FL)を利用することができる。 FLは、GAN(C-GANs)をベースとしたクロスクライアント・ジェネレーティブ・敵ネットワーク(GANs)攻撃に苦しむ。 C-GAN攻撃に抵抗する現在のFLスキームを改善するためのFed-EDKD手法を提案する。
  論文  参考訳（メタデータ） (2023-07-25T08:15:55Z)
• FedDefender: Client-Side Attack-Tolerant Federated Learning [60.576073964874]
  フェデレーション学習は、プライバシを損なうことなく、分散化されたデータソースからの学習を可能にする。 悪意のあるクライアントがトレーニングプロセスに干渉する、毒殺攻撃のモデル化には脆弱である。 我々はFedDefenderと呼ばれるクライアントサイドに焦点を当てた新しい防御機構を提案し、クライアントの堅牢なローカルモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2023-07-18T08:00:41Z)
• FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
  我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。 本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。 競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
  論文  参考訳（メタデータ） (2022-10-23T22:24:03Z)
• CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
  本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。 CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。 評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
  論文  参考訳（メタデータ） (2022-10-14T11:27:49Z)
• RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
  フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。 クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。 悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
  論文  参考訳（メタデータ） (2021-07-07T15:42:49Z)
• A Framework for Evaluating Gradient Leakage Attacks in Federated Learning [14.134217287912008]
  Federated Learning(FL)は、クライアントのネットワークと協調的なモデルトレーニングのための、新興の分散機械学習フレームワークである。 最近の研究では、クライアントからフェデレーションサーバにローカルパラメータの更新を共有しても、グラデーションリーク攻撃の影響を受けやすいことが示されている。 本稿では,クライアントプライバシ漏洩攻撃のさまざまな形態の評価と比較を行うための原則的フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-04-22T05:15:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。