論文の概要: Some Targets Are Harder to Identify than Others: Quantifying the Target-dependent Membership Leakage

• arxiv url: http://arxiv.org/abs/2402.10065v2
• Date: Thu, 06 Mar 2025 18:17:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-07 15:56:39.432968
• Title: Some Targets Are Harder to Identify than Others: Quantifying the Target-dependent Membership Leakage
• Title（参考訳）: いくつかのターゲットは他よりも識別が難しい:ターゲットに依存したメンバーシップリークの定量化
• Authors: Achraf Azize, Debabrota Basu,
• Abstract要約: メンバーシップ推論(MI)ゲームでは、攻撃者はアルゴリズムの入力にターゲットポイントが含まれているか否かを推測しようとする。 本稿では,固定ターゲットMIゲームにおける最適攻撃のパワーを研究することで,会員攻撃の目標依存性の硬さを説明する。
• 参考スコア（独自算出の注目度）: 11.086440815804227
• License:
• Abstract: In a Membership Inference (MI) game, an attacker tries to infer whether a target point was included or not in the input of an algorithm. Existing works show that some target points are easier to identify, while others are harder. This paper explains the target-dependent hardness of membership attacks by studying the powers of the optimal attacks in a fixed-target MI game. We characterise the optimal advantage and trade-off functions of attacks against the empirical mean in terms of the Mahalanobis distance between the target point and the data-generating distribution. We further derive the impacts of two privacy defences, i.e. adding Gaussian noise and sub-sampling, and that of target misspecification on optimal attacks. As by-products of our novel analysis of the Likelihood Ratio (LR) test, we provide a new covariance attack which generalises and improves the scalar product attack. Also, we propose a new optimal canary-choosing strategy for auditing privacy in the white-box federated learning setting. Our experiments validate that the Mahalanobis score explains the hardness of fixed-target MI games.
• Abstract（参考訳）: メンバーシップ推論(MI)ゲームでは、攻撃者はアルゴリズムの入力にターゲットポイントが含まれているか否かを推測しようとする。 既存の作業では、いくつかのターゲットポイントが識別しやすく、他のポイントは識別が難しいことが示されています。 本稿では,固定ターゲットMIゲームにおける最適攻撃のパワーを研究することで,会員攻撃の目標依存性の硬さを説明する。 目的点とデータ生成分布の間のマハラノビス距離の観点から,経験的平均に対する攻撃の最適優位性とトレードオフ関数を特徴づける。 さらに、ガウスノイズとサブサンプリングを付加する2つのプライバシ・ディフェンスと、最適な攻撃に対するターゲットの誤特定の影響も引き起こす。 新たに開発した同種比(LR)テストの副産物として,スカラー製品攻撃を一般化し改善する新しい共分散攻撃を提供する。 また,ホワイトボックス・フェデレーション学習環境におけるプライバシ監査のための最適なカナリア選択手法を提案する。 マハラノビススコアが固定ターゲットMIゲームの硬さを説明することを検証する。

関連論文リスト

• Sub-optimal Learning in Meta-Classifier Attacks: A Study of Membership Inference on Differentially Private Location Aggregates [19.09251452596829]
  情報攻撃者であっても,DPが期待する攻撃精度と経験的攻撃精度との間には,有意なギャップがあることが示唆された。 提案手法は,1閾値攻撃と2閾値攻撃の2つである。
  論文  参考訳（メタデータ） (2024-12-29T12:51:34Z)
• Data Lineage Inference: Uncovering Privacy Vulnerabilities of Dataset Pruning [31.888075470799908]
  余剰集合内のデータがモデルトレーニングの前にのみ使用される場合でも、攻撃によってプルーニングフェーズのメンバシップ状態が検出可能であることを示す。 我々は、Data-Centric Membership Inferenceと呼ばれる新しいタスクを導入し、Data Lineage Inferenceというデータ中心のプライバシ推論パラダイムを提案する。 異なるプライバシリークのレベルが異なり、同じプルーニング手法でも異なるプライバシリスクを異なるプルーニング率で提示できることがわかった。
  論文  参考訳（メタデータ） (2024-11-24T11:46:59Z)
• Membership inference attack with relative decision boundary distance [9.764492069791991]
  メンバシップ推論攻撃は、マシンラーニングにおける最も一般的なプライバシ攻撃の1つだ。 ラベルのみの設定において,ミューティクラス適応型メンバシップ推論攻撃と呼ばれる新たな攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-06-07T02:29:58Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Enabling Trade-offs in Privacy and Utility in Genomic Data Beacons and Summary Statistics [26.99521354120141]
  要約データやBeaconの応答とプライバシを明示的にトレードオフするための最適化ベースのアプローチを導入します。 第一に、攻撃者はメンバーシップ推論のクレームを行うために確率比テストを適用する。 第2に、攻撃者は、個人間のスコアの分離に対するデータリリースの影響を考慮に入れたしきい値を使用する。
  論文  参考訳（メタデータ） (2023-01-11T19:16:13Z)
• Optimal Membership Inference Bounds for Adaptive Composition of Sampled Gaussian Mechanisms [93.44378960676897]
  トレーニングされたモデルとデータサンプルが与えられた場合、メンバシップ推論(MI)アタックは、サンプルがモデルのトレーニングセットにあるかどうかを予測する。 MI攻撃に対する一般的な対策は、モデルトレーニング中に差分プライバシー(DP)を利用して個々の事例の存在を隠蔽することである。 本稿では,MI攻撃を装着した相手のテキスト・アドバンテージのバウンダリを導出し,広く利用されているガウス機構の厳密性を示す。
  論文  参考訳（メタデータ） (2022-04-12T22:36:56Z)
• Partial Identification with Noisy Covariates: A Robust Optimization Approach [94.10051154390237]
  観測データセットからの因果推論は、しばしば共変量の測定と調整に依存する。 このロバストな最適化手法により、広範囲な因果調整法を拡張し、部分的同定を行うことができることを示す。 合成および実データセット全体で、このアプローチは既存の手法よりも高いカバレッジ確率でATEバウンダリを提供する。
  論文  参考訳（メタデータ） (2022-02-22T04:24:26Z)
• On the Practicality of Differential Privacy in Federated Learning by Tuning Iteration Times [51.61278695776151]
  フェデレートラーニング(FL)は、分散クライアント間で機械学習モデルを協調的にトレーニングする際のプライバシ保護でよく知られている。 最近の研究では、naive flは勾配リーク攻撃の影響を受けやすいことが指摘されている。 ディファレンシャルプライバシ(dp)は、勾配漏洩攻撃を防御するための有望な対策として現れる。
  論文  参考訳（メタデータ） (2021-01-11T19:43:12Z)
• Sparse Feature Selection Makes Batch Reinforcement Learning More Sample Efficient [62.24615324523435]
  本稿では,スパース線形関数近似を用いた高次元バッチ強化学習(RL)の統計的解析を行う。 候補となる機能が多数存在する場合,提案手法がバッチRLをより効率的にサンプリングできるという事実に光を当てる。
  論文  参考訳（メタデータ） (2020-11-08T16:48:02Z)
• On Primes, Log-Loss Scores and (No) Privacy [8.679020335206753]
  本稿では,この追加情報により,任意のデータポイントのメンバシップを1つのクエリで完全精度で推測できることを示す。 我々のアプローチは、攻撃モデルのトレーニングや、敵とのサイド知識へのアクセスを妨げます。
  論文  参考訳（メタデータ） (2020-09-17T23:35:12Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。