論文の概要: Membership Leakage in Label-Only Exposures

• arxiv url: http://arxiv.org/abs/2007.15528v3
• Date: Fri, 17 Sep 2021 17:40:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-05 13:50:15.267395
• Title: Membership Leakage in Label-Only Exposures
• Title（参考訳）: ラベルオンリー露光におけるメンバーシップリーク
• Authors: Zheng Li and Yang Zhang
• Abstract要約: 本稿では,機械学習モデルに対する決定に基づくメンバシップ推論攻撃を提案する。 特に、転送攻撃と境界攻撃という2種類の意思決定ベースの攻撃を考案する。 また,量的および質的分析に基づく会員推定の成功に関する新たな知見も提示する。
• 参考スコア（独自算出の注目度）: 10.875144776014533
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning (ML) has been widely adopted in various privacy-critical applications, e.g., face recognition and medical image analysis. However, recent research has shown that ML models are vulnerable to attacks against their training data. Membership inference is one major attack in this domain: Given a data sample and model, an adversary aims to determine whether the sample is part of the model's training set. Existing membership inference attacks leverage the confidence scores returned by the model as their inputs (score-based attacks). However, these attacks can be easily mitigated if the model only exposes the predicted label, i.e., the final model decision. In this paper, we propose decision-based membership inference attacks and demonstrate that label-only exposures are also vulnerable to membership leakage. In particular, we develop two types of decision-based attacks, namely transfer attack, and boundary attack. Empirical evaluation shows that our decision-based attacks can achieve remarkable performance, and even outperform the previous score-based attacks in some cases. We further present new insights on the success of membership inference based on quantitative and qualitative analysis, i.e., member samples of a model are more distant to the model's decision boundary than non-member samples. Finally, we evaluate multiple defense mechanisms against our decision-based attacks and show that our two types of attacks can bypass most of these defenses.
• Abstract（参考訳）: 機械学習(ML)は、顔認識や医用画像解析など、さまざまなプライバシクリティカルなアプリケーションで広く採用されている。 しかし、最近の研究では、MLモデルはトレーニングデータに対する攻撃に弱いことが示されている。 データサンプルとモデルが与えられたとき、敵は、そのサンプルがモデルのトレーニングセットの一部であるかどうかを判断することを目的としています。 既存のメンバシップ推論攻撃は、モデルが入力として返す信頼度スコア(scoreベースの攻撃)を活用する。 しかし、モデルが予測されたラベル、すなわち最終的なモデル決定だけを公開すれば、これらの攻撃は容易に軽減できる。 本稿では,決定に基づくメンバシップ推論攻撃を提案し,ラベルのみの露出もメンバシップリークに対して脆弱であることを示す。 特に, 伝達攻撃と境界攻撃という2種類の意思決定に基づく攻撃を展開する。 経験的評価により、我々の意思決定に基づく攻撃は驚くべきパフォーマンスを達成でき、場合によっては過去のスコアベースの攻撃よりも優れています。 さらに,定量的・定性的分析に基づくメンバシップ推論の成功,すなわち,非メンバのサンプルよりもモデルの決定境界に近いモデルのメンバサンプルについて,新たな知見を与える。 最後に、決定に基づく攻撃に対する複数の防御機構を評価し、我々の2種類の攻撃がこれらの防御の多くを回避可能であることを示す。

関連論文リスト

• Model X-ray:Detecting Backdoored Models via Decision Boundary [62.675297418960355]
  バックドア攻撃はディープニューラルネットワーク(DNN)に重大な脆弱性をもたらす 図形化された2次元(2次元)決定境界の解析に基づく新しいバックドア検出手法であるモデルX線を提案する。 提案手法は,クリーンサンプルが支配する意思決定領域とラベル分布の集中度に着目した2つの戦略を含む。
  論文  参考訳（メタデータ） (2024-02-27T12:42:07Z)
• Membership Inference Attacks by Exploiting Loss Trajectory [19.900473800648243]
  そこで本研究では,対象モデルのトレーニングプロセス全体から,メンバシップ情報を利用する新たな攻撃手法であるシステムを提案する。 我々の攻撃は、既存の方法よりも0.1%低い偽陽性率で、少なくとも6$times$高い真陽性率を達成する。
  論文  参考訳（メタデータ） (2022-08-31T16:02:26Z)
• Membership-Doctor: Comprehensive Assessment of Membership Inference Against Machine Learning Models [11.842337448801066]
  本稿では,様々なメンバーシップ推論攻撃と防衛の大規模測定を行う。 脅威モデル(例えば、同一構造や、シャドーモデルとターゲットモデルとの同一分布)のいくつかの仮定は不要である。 また、実験室のデータセットではなく、インターネットから収集された実世界のデータに対する攻撃を最初に実施しました。
  論文  参考訳（メタデータ） (2022-08-22T17:00:53Z)
• A Unified Evaluation of Textual Backdoor Learning: Frameworks and Benchmarks [72.7373468905418]
  我々は,テキストバックドア学習の実装と評価を促進するオープンソースツールキットOpenBackdoorを開発した。 また,単純なクラスタリングに基づく防御ベースラインであるCUBEを提案する。
  論文  参考訳（メタデータ） (2022-06-17T02:29:23Z)
• Identifying a Training-Set Attack's Target Using Renormalized Influence Estimation [11.663072799764542]
  本研究は、特定のテストインスタンスがトレーニングセットアタックのターゲットであるかどうかを判定するターゲット識別タスクを提案する。 単一の攻撃方法やデータモダリティではなく、各トレーニングインスタンスのモデル予測への貢献度を定量化するインフルエンス推定に基づいて構築する。
  論文  参考訳（メタデータ） (2022-01-25T02:36:34Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Membership Inference Attacks on Machine Learning: A Survey [6.468846906231666]
  メンバシップ推論攻撃は、データサンプルがマシンラーニングモデルのトレーニングに使用されたかどうかを識別することを目的としている。 会員が個人の機密情報を開示できるため、深刻なプライバシーリスクを引き起こす可能性があります。 会員の推論攻撃に関する最初の包括的な調査を紹介します。
  論文  参考訳（メタデータ） (2021-03-14T06:10:47Z)
• ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models [64.03398193325572]
  機械学習(ML)モデルに対する推論攻撃により、敵はトレーニングデータやモデルパラメータなどを学ぶことができる。 私たちは、メンバシップ推論、モデル反転、属性推論、モデル盗難の4つの攻撃に集中しています。 私たちの分析では、MLモデルオーナがモデルをデプロイするリスクを評価することができる、モジュール化された再使用可能なソフトウェアであるML-Doctorに依存しています。
  論文  参考訳（メタデータ） (2021-02-04T11:35:13Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)
• Label-Only Membership Inference Attacks [67.46072950620247]
  ラベルのみのメンバシップ推論攻撃を導入する。 我々の攻撃は、摂動下でのモデルが予測するラベルの堅牢性を評価する。 差分プライバシーと(強い)L2正規化を備えたトレーニングモデルは、唯一知られている防衛戦略である。
  論文  参考訳（メタデータ） (2020-07-28T15:44:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。