論文の概要: KDk: A Defense Mechanism Against Label Inference Attacks in Vertical Federated Learning

• arxiv url: http://arxiv.org/abs/2404.12369v1
• Date: Thu, 18 Apr 2024 17:51:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-19 11:52:23.148313
• Title: KDk: A Defense Mechanism Against Label Inference Attacks in Vertical Federated Learning
• Title（参考訳）: KDk:垂直的フェデレーション学習におけるラベル推論攻撃に対する防御機構
• Authors: Marco Arazzi, Serena Nicolazzo, Antonino Nocera,
• Abstract要約: Vertical Federated Learning (VFL) のシナリオでは、サンプルのラベルは、ラベル所有者である集約サーバを除くすべてのパーティからプライベートに保持される。 最近の研究で、サーバからボトムモデルに返される勾配情報を利用することで、敵がプライベートラベルを推測できることが判明した。 我々は,KDkという,知識蒸留とk匿名を組み合わせて防御機構を提供する新しいフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 2.765106384328772
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vertical Federated Learning (VFL) is a category of Federated Learning in which models are trained collaboratively among parties with vertically partitioned data. Typically, in a VFL scenario, the labels of the samples are kept private from all the parties except for the aggregating server, that is the label owner. Nevertheless, recent works discovered that by exploiting gradient information returned by the server to bottom models, with the knowledge of only a small set of auxiliary labels on a very limited subset of training data points, an adversary can infer the private labels. These attacks are known as label inference attacks in VFL. In our work, we propose a novel framework called KDk, that combines Knowledge Distillation and k-anonymity to provide a defense mechanism against potential label inference attacks in a VFL scenario. Through an exhaustive experimental campaign we demonstrate that by applying our approach, the performance of the analyzed label inference attacks decreases consistently, even by more than 60%, maintaining the accuracy of the whole VFL almost unaltered.
• Abstract（参考訳）: 垂直フェデレートラーニング(Vertical Federated Learning、VFL)は、垂直に分割されたデータを持つ当事者間でモデルが協調的に訓練される、フェデレーションラーニングのカテゴリである。 通常、VFLのシナリオでは、サンプルのラベルは、ラベル所有者である集約サーバを除くすべてのパーティからプライベートに保持される。 しかし、最近の研究により、サーバからボトムモデルに返される勾配情報を活用することで、訓練データポイントのごく限られたサブセットの補助ラベルのみを知識として、敵がプライベートラベルを推測できることが判明した。 これらの攻撃は、VFLにおけるラベル推論攻撃として知られている。 本稿では,知識蒸留とk-匿名性を組み合わせた新しいフレームワークKDkを提案し,VFLシナリオにおける潜在的なラベル推論攻撃に対する防御機構を提供する。 本手法の適用により,解析されたラベル推論攻撃の性能は60%以上も一貫して低下し,VFL全体の精度はほぼ変わらず維持されることを示した。

関連論文リスト

• Federated Learning with Only Positive Labels by Exploring Label Correlations [78.59613150221597]
  フェデレートラーニングは、プライバシー上の制約の下で複数のユーザのデータを使用することで、モデルを協調的に学習することを目的としている。 本稿では,フェデレート学習環境下でのマルチラベル分類問題について検討する。 ラベル相関(FedALC)を探索してフェデレート平均化(Federated Averaging)と呼ばれる新しい,汎用的な手法を提案する。
  論文  参考訳（メタデータ） (2024-04-24T02:22:50Z)
• Robust Federated Learning Mitigates Client-side Training Data Distribution Inference Attacks [48.70867241987739]
  InferGuardは、クライアント側のトレーニングデータ分散推論攻撃に対する防御を目的とした、新しいビザンチン・ロバスト集約ルールである。 実験の結果,我々の防衛機構はクライアント側のトレーニングデータ分布推定攻撃に対する防御に極めて有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-05T17:41:35Z)
• Appeal: Allow Mislabeled Samples the Chance to be Rectified in Partial Label Learning [55.4510979153023]
  部分ラベル学習(PLL)では、各インスタンスは候補ラベルのセットに関連付けられ、そのうち1つだけが接地真実である。 誤記されたサンプルの「アペアル」を支援するため,最初の魅力に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-18T09:09:52Z)
• Label Inference Attacks against Node-level Vertical Federated GNNs [26.80658307067889]
  ゼロ・バックグラウンドの知識戦略を用いて,VFL (Vertical Federated Learning) のラベル推論攻撃について検討した。 提案した攻撃であるBlindSageは、実験で素晴らしい結果をもたらし、ほとんどのケースで100%近い精度を実現しています。
  論文  参考訳（メタデータ） (2023-08-04T17:04:58Z)
• BadVFL: Backdoor Attacks in Vertical Federated Learning [22.71527711053385]
  フェデレートラーニング(FL)は、複数のパーティがデータを共有することなく、機械学習モデルを協調的にトレーニングすることを可能にする。 本稿では,VFLのロバスト性,特にバックドアアタックに焦点をあてる。 VFLでは,ラベル推論とバックドアフェーズという2つのフェーズからなる第1種クリーンラベルバックドアアタックが提案されている。
  論文  参考訳（メタデータ） (2023-04-18T09:22:32Z)
• Label Inference Attack against Split Learning under Regression Setting [24.287752556622312]
  回帰モデルのシナリオにおいて,プライベートラベルが連続数である場合の漏洩について検討する。 グラデーション情報と追加学習正規化目標を統合した,新たな学習ベースアタックを提案する。
  論文  参考訳（メタデータ） (2023-01-18T03:17:24Z)
• Mutual Information Regularization for Vertical Federated Learning [6.458078197870505]
  Vertical Federated Learning (VFL)は、データプライバシと安全性を保護しながら協調学習を可能にするために、現実世界のアプリケーションで広く利用されている。 以前の研究によると、VFLのラベル(パッシブパーティ)を持たない当事者は、その当事者が所有する機密ラベル情報をラベル(アクティブパーティ)で推測したり、VFLに対するバックドアアタックを実行することができる。 本稿では,特徴とラベル,中間出力を含むプライベート生データ間の相互情報を制限し,モデルユーティリティとプライバシのトレードオフを改善するための汎用防衛手法を提案する。
  論文  参考訳（メタデータ） (2023-01-01T02:03:34Z)
• Transductive CLIP with Class-Conditional Contrastive Learning [68.51078382124331]
  雑音ラベル付き分類ネットワークをスクラッチから学習するための新しいフレームワークであるTransductive CLIPを提案する。 擬似ラベルへの依存を軽減するために,クラス条件のコントラスト学習機構を提案する。 アンサンブルラベルは、ノイズラベル付きディープニューラルネットワークのトレーニングを安定化するための擬似ラベル更新戦略として採用されている。
  論文  参考訳（メタデータ） (2022-06-13T14:04:57Z)
• Defending Label Inference and Backdoor Attacks in Vertical Federated Learning [11.319694528089773]
  共同学習では、好奇心が強いパリティは正直かもしれないが、推論攻撃を通じて他人の個人データを推測しようとしている。 本稿では,サンプルごとの勾配から,プライベートラベルを再構築可能であることを示す。 本稿では、オートエンコーダとエントロピー正規化に基づく、混乱型オートエンコーダ(CoAE)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-12-10T09:32:09Z)
• The Role of Global Labels in Few-Shot Classification and How to Infer Them [55.64429518100676]
  メタ学習では、ほとんどショット学習が中心的な問題であり、学習者は新しいタスクに迅速に適応しなければならない。 本稿では,メタラベル学習(MeLa)を提案する。メタラベル学習(MeLa)は,グローバルラベルを推論し,標準分類によるロバストな少数ショットモデルを得る新しいアルゴリズムである。
  論文  参考訳（メタデータ） (2021-08-09T14:07:46Z)
• Label-Only Membership Inference Attacks [67.46072950620247]
  ラベルのみのメンバシップ推論攻撃を導入する。 我々の攻撃は、摂動下でのモデルが予測するラベルの堅牢性を評価する。 差分プライバシーと(強い)L2正規化を備えたトレーニングモデルは、唯一知られている防衛戦略である。
  論文  参考訳（メタデータ） (2020-07-28T15:44:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。