論文の概要: Evaluating Differential Privacy Against Membership Inference in Federated Learning: Insights from the NIST Genomics Red Team Challenge
- arxiv url: http://arxiv.org/abs/2604.12737v2
- Date: Wed, 15 Apr 2026 10:00:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-16 13:09:57.533248
- Title: Evaluating Differential Privacy Against Membership Inference in Federated Learning: Insights from the NIST Genomics Red Team Challenge
- Title（参考訳）: フェデレーションラーニングにおけるメンバーシップ推論に対する差別的プライバシの評価:NISTゲノミクスレッドチームチャレンジからの考察
- Authors: Gustavo de Carvalho Bertoli,
- Abstract要約: 本稿では,フェデレーテッド・ラーニング(FL)におけるMIA攻撃に対する防御機構として,差分プライバシー(DP)を実証的に評価する。
予測確率とクロスエントロピー損失に基づいてメタ分類器を訓練するために、7つのブラックボックス推定器をアンサンブルするスタック攻撃戦略を提案する。
この手法を3つのプライバシ構成下でターゲットモデルに対して評価する。
- 参考スコア（独自算出の注目度）: 0.20305676256390934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Federated Learning (FL) mitigates direct data exposure, the resulting trained models remain susceptible to membership inference attacks (MIAs). This paper presents an empirical evaluation of Differential Privacy (DP) as a defense mechanism against MIAs in FL, leveraging the environment of the 2025 NIST Genomics Privacy-Preserving Federated Learning (PPFL) Red Teaming Event. To improve inference accuracy, we propose a stacking attack strategy that ensembles seven black-box estimators to train a meta-classifier on prediction probabilities and cross-entropy losses. We evaluate this methodology against target models under three privacy configurations: an unprotected convolutional neural network (CNN, $ε=\infty$), a low-privacy DP model ($ε=200$), and a high-privacy DP model ($ε=10$). The attack outperforms all baselines in the No DP and Low Privacy settings and, critically, maintains measurable membership leakage at $ε=200$ where a single-signal LiRA baseline collapses. Evaluated on an independent third-party benchmark, these results provide an empirical characterisation of how stacking-based inference degrades across calibrated DP tiers in FL.
- Abstract（参考訳）: フェデレートラーニング(FL)は直接的なデータ露出を緩和するが、結果として得られたトレーニングされたモデルは、メンバーシップ推論攻撃(MIA)の影響を受けないままである。
本稿では,2025年のNIST Genomics Privacy-Preserving Federated Learning (PPFL) Red Teaming Eventの環境を利用した,FLにおけるMIAに対する防御機構としての差分プライバシー(DP)を実証的に評価する。
予測精度を向上させるために,予測確率とクロスエントロピー損失に基づいてメタ分類器を訓練する7つのブラックボックス推定器をアンサンブルするスタック攻撃戦略を提案する。
この手法を,保護されていない畳み込みニューラルネットワーク(CNN,$ε=\infty$),低プライバシDPモデル(ε=200$),高プライバシDPモデル(ε=10$)の3つのプライバシ構成で評価した。
この攻撃は、No DPおよびLow Privacy設定におけるすべてのベースラインを上回り、重要なことに、単一信号のLiRAベースラインが崩壊するε=200$で測定可能なメンバーシップリークを維持する。
独立なサードパーティのベンチマークで評価し、これらの結果はFLのキャリブレーションされたDP層でスタックベース推論がいかに劣化するかを実証的に特徴付ける。
関連論文リスト
- FL-PBM: Pre-Training Backdoor Mitigation for Federated Learning [15.911410230033816]
バックドア攻撃は、人工知能(AI)モデルの完全性と信頼性に重大な脅威をもたらす。
本稿では,フェデレートラーニングのための事前学習バックドア緩和を提案する。
フェデレートされた学習環境において、モデルトレーニングの前に、クライアント側の有毒データを積極的にフィルタリングする。
論文 参考訳（メタデータ） (2026-03-30T16:56:38Z) - Differential Privacy: Gradient Leakage Attacks in Federated Learning Environments [0.6850683267295249]
フェデレート・ラーニング(FL)は、センシティブなデータを共有せずに、協調的に機械学習モデルのトレーニングを可能にする。
Gradient Leakage Attacks (GLAs)は、共有モデルの更新からプライベート情報を公開することができる。
GLAに対する防衛手段としての差別化プライバシメカニズムの有効性について検討する。
論文 参考訳（メタデータ） (2025-10-27T23:33:21Z) - Towards Robust Federated Learning via Logits Calibration on Non-IID Data [49.286558007937856]
Federated Learning(FL)は、エッジネットワークにおける分散デバイスの共同モデルトレーニングに基づく、プライバシ保護のための分散管理フレームワークである。
近年の研究では、FLは敵の例に弱いことが示されており、その性能は著しく低下している。
本研究では,対戦型訓練(AT)フレームワークを用いて,対戦型実例(AE)攻撃に対するFLモデルの堅牢性を向上させる。
論文 参考訳（メタデータ） (2024-03-05T09:18:29Z) - Gaussian Membership Inference Privacy [22.745970468274173]
我々は、$f$-Membership Inference Privacy(f$-MIP)という新しい実用的なプライバシー概念を提案する。
我々は、比例比に基づく勾配降下(SGD)に対する会員推測攻撃を理論的に分析することにより、$mu$-Gaussian Membership Inference Privacy(mu$-GMIP)と呼ばれる、$f$-MIPの家族を導出する。
論文 参考訳（メタデータ） (2023-06-12T17:57:05Z) - Avoid Adversarial Adaption in Federated Learning by Multi-Metric
Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。
FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。
我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。
MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文 参考訳（メタデータ） (2023-06-06T11:44:42Z) - FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated
Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。
本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。
競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文 参考訳（メタデータ） (2022-10-23T22:24:03Z) - FedDef: Defense Against Gradient Leakage in Federated Learning-based
Network Intrusion Detection Systems [15.39058389031301]
FLベースのNIDS向けに設計された2つのプライバシ評価指標を提案する。
提案するFedDefは,理論的保証を備えた新しい最適化型入力摂動防御戦略である。
4つのデータセットに対する4つの既存の防御を実験的に評価し、プライバシ保護の観点から、我々の防衛がすべてのベースラインを上回っていることを示す。
論文 参考訳（メタデータ） (2022-10-08T15:23:30Z) - No Free Lunch in "Privacy for Free: How does Dataset Condensation Help
Privacy" [75.98836424725437]
データプライバシを保護するために設計された新しい手法は、慎重に精査する必要がある。
プライバシ保護の失敗は検出し難いが,プライバシ保護法を実装したシステムが攻撃された場合,破滅的な結果につながる可能性がある。
論文 参考訳（メタデータ） (2022-09-29T17:50:23Z) - RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。
RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。
当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文 参考訳（メタデータ） (2022-07-12T19:34:47Z) - Optimal Membership Inference Bounds for Adaptive Composition of Sampled
Gaussian Mechanisms [93.44378960676897]
トレーニングされたモデルとデータサンプルが与えられた場合、メンバシップ推論(MI)アタックは、サンプルがモデルのトレーニングセットにあるかどうかを予測する。
MI攻撃に対する一般的な対策は、モデルトレーニング中に差分プライバシー(DP)を利用して個々の事例の存在を隠蔽することである。
本稿では,MI攻撃を装着した相手のテキスト・アドバンテージのバウンダリを導出し,広く利用されているガウス機構の厳密性を示す。
論文 参考訳（メタデータ） (2022-04-12T22:36:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。