論文の概要: A Framework for Evaluating Privacy-Utility Trade-off in Vertical Federated Learning

• arxiv url: http://arxiv.org/abs/2209.03885v3
• Date: Sun, 14 Jul 2024 10:23:56 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-17 05:46:45.300533
• Title: A Framework for Evaluating Privacy-Utility Trade-off in Vertical Federated Learning
• Title（参考訳）: 垂直的フェデレーション学習におけるプライバシ・ユーティリティのトレードオフ評価フレームワーク
• Authors: Yan Kang, Jiahuan Luo, Yuanqin He, Xiaojin Zhang, Lixin Fan, Qiang Yang,
• Abstract要約: プライバシ・ユーティリティ評価問題を定式化する評価フレームワークを提案する。 我々は,3つの広くデプロイされたVFLアルゴリズムに対して,最先端のプライバシ攻撃に対する幅広い保護機構を評価する。 VFLシステムのプライバシー保護機能を改善するための具体的なアドバイスを提供する。
• 参考スコア（独自算出の注目度）: 18.046256152691743
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) has emerged as a practical solution to tackle data silo issues without compromising user privacy. One of its variants, vertical federated learning (VFL), has recently gained increasing attention as the VFL matches the enterprises' demands of leveraging more valuable features to build better machine learning models while preserving user privacy. Current works in VFL concentrate on developing a specific protection or attack mechanism for a particular VFL algorithm. In this work, we propose an evaluation framework that formulates the privacy-utility evaluation problem. We then use this framework as a guide to comprehensively evaluate a broad range of protection mechanisms against most of the state-of-the-art privacy attacks for three widely deployed VFL algorithms. These evaluations may help FL practitioners select appropriate protection mechanisms given specific requirements. Our evaluation results demonstrate that: the model inversion and most of the label inference attacks can be thwarted by existing protection mechanisms; the model completion (MC) attack is difficult to be prevented, which calls for more advanced MC-targeted protection mechanisms. Based on our evaluation results, we offer concrete advice on improving the privacy-preserving capability of VFL systems. The code is available at https://github.com/yankang18/VFL-Attack-Defense
• Abstract（参考訳）: フェデレートラーニング(FL)は、ユーザのプライバシを損なうことなく、データサイロ問題に取り組むための実践的なソリューションとして登場した。 VFLは、より価値の高い機能を活用して、より優れた機械学習モデルを構築し、ユーザのプライバシを保存するという、企業の要求に適合するものだ。 VFLにおける現在の研究は、特定のVFLアルゴリズムの特定の保護または攻撃メカニズムの開発に集中している。 本研究では,プライバシ・ユーティリティ評価問題を定式化する評価フレームワークを提案する。 次に、このフレームワークを3つの広くデプロイされたVFLアルゴリズムに対する最先端のプライバシ攻撃に対して、幅広い保護メカニズムを包括的に評価するためのガイドとして使用します。 これらの評価は、FL実践者が特定の要件を満たす適切な保護メカニズムを選択するのに役立つかもしれない。 モデルインバージョンとラベル推論攻撃のほとんどが既存の保護機構によって抑制され,モデル完了(MC)攻撃の防止が困難であり,より高度なMC目標保護機構が要求される。 評価結果に基づいて,VFLシステムのプライバシ保護機能を改善するための具体的なアドバイスを提供する。 コードはhttps://github.com/yankang18/VFL-Attack-Defenseで公開されている。

関連論文リスト

• UIFV: Data Reconstruction Attack in Vertical Federated Learning [5.404398887781436]
  Vertical Federated Learning (VFL)は、参加者が生のプライベートデータを共有することなく、協調的な機械学習を促進する。 近年の研究では、学習プロセス中にデータ漏洩によって、敵が機密性を再構築する可能性のあるプライバシーリスクが明らかにされている。 我々の研究は、実用的なVFLアプリケーションに真の脅威をもたらす、VFLシステム内の深刻なプライバシー上の脆弱性を露呈する。
  論文  参考訳（メタデータ） (2024-06-18T13:18:52Z)
• Universal Adversarial Backdoor Attacks to Fool Vertical Federated Learning in Cloud-Edge Collaboration [13.067285306737675]
  本稿では,二元分類タスクの文脈における垂直連合学習(VFL)の脆弱性について検討する。 VFLの予測に悪影響を及ぼすため,UAB攻撃を導入した。 我々の手法は既存の最先端の手法を超越し、最大100%のバックドアタスク性能を実現している。
  論文  参考訳（メタデータ） (2023-04-22T15:31:15Z)
• Revisiting Personalized Federated Learning: Robustness Against Backdoor Attacks [53.81129518924231]
  pFLフレームワークにおけるバックドア攻撃の最初の研究を行う。 モデル共有部分を持つpFL法は,バックドア攻撃に対するロバスト性を大幅に向上させることができることを示す。 本稿では,バックドア攻撃に対する防御性能を実証的に向上する軽量防御手法Simple-Tuningを提案する。
  論文  参考訳（メタデータ） (2023-02-03T11:58:14Z)
• Vertical Federated Learning: Concepts, Advances and Challenges [18.38260017835129]
  VFL(Vertical Federated Learning)の概念とアルゴリズムについてレビューする。 VFL設定とプライバシ保護プロトコルを網羅的に分類する。 本稿では,コミュニケーション,計算,プライバシ,有効性,公平性といった制約を考慮した統合フレームワーク VFLow を提案する。
  論文  参考訳（メタデータ） (2022-11-23T10:00:06Z)
• Unraveling the Connections between Privacy and Certified Robustness in Federated Learning Against Poisoning Attacks [68.20436971825941]
  フェデレートラーニング(FL)は、分散ユーザのデータを活用するグローバルモデルを共同でトレーニングするための、効率的なパラダイムを提供する。 いくつかの研究により、FLは毒殺攻撃に弱いことが示されている。 ローカルユーザのプライバシを保護するため、FLは通常、差分プライベートな方法でトレーニングされる。
  論文  参考訳（メタデータ） (2022-09-08T21:01:42Z)
• Trading Off Privacy, Utility and Efficiency in Federated Learning [22.53326117450263]
  プライバシリーク、ユーティリティ損失、効率低下の間のトレードオフを定式化し、定量化する。 我々は, プライバシー漏洩, ユーティリティ損失, 効率の低下など, 広く認識されている保護機構の下位領域を解析した。
  論文  参考訳（メタデータ） (2022-09-01T05:20:04Z)
• Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive Privacy Analysis and Beyond [57.10914865054868]
  垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。 我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
  論文  参考訳（メタデータ） (2022-07-19T05:47:30Z)
• Desirable Companion for Vertical Federated Learning: New Zeroth-Order Gradient Based Algorithm [140.25480610981504]
  VFLアルゴリズムを評価するための指標の完全なリストには、モデル適用性、プライバシ、通信、計算効率が含まれるべきである。 ブラックボックスのスケーラビリティを備えた新しいVFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-19T13:55:47Z)
• RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
  フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。 クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。 悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
  論文  参考訳（メタデータ） (2021-07-07T15:42:49Z)
• Meta Federated Learning [57.52103907134841]
  フェデレートラーニング(FL)は、時間的敵攻撃の訓練に弱い。 本稿では,メタフェデレーション学習(Meta Federated Learning, Meta-FL)を提案する。
  論文  参考訳（メタデータ） (2021-02-10T16:48:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。