論文の概要: Are Attribute Inference Attacks Just Imputation?

• arxiv url: http://arxiv.org/abs/2209.01292v1
• Date: Fri, 2 Sep 2022 23:13:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-07 15:21:25.323977
• Title: Are Attribute Inference Attacks Just Imputation?
• Title（参考訳）: 属性推論攻撃は単なるインプテーションか?
• Authors: Bargav Jayaraman and David Evans
• Abstract要約: 属性推論攻撃では、敵は一部の訓練記録について部分的に知識を持ち、それらの記録に基づいて訓練されたモデルにアクセスすることができる。 差分的プライベートトレーニングや脆弱な記録をトレーニングから取り除くなど、提案された防御策が、このプライバシーリスクを軽減するものではないことを示す。
• 参考スコア（独自算出の注目度）: 12.56413718364189
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Models can expose sensitive information about their training data. In an attribute inference attack, an adversary has partial knowledge of some training records and access to a model trained on those records, and infers the unknown values of a sensitive feature of those records. We study a fine-grained variant of attribute inference we call \emph{sensitive value inference}, where the adversary's goal is to identify with high confidence some records from a candidate set where the unknown attribute has a particular sensitive value. We explicitly compare attribute inference with data imputation that captures the training distribution statistics, under various assumptions about the training data available to the adversary. Our main conclusions are: (1) previous attribute inference methods do not reveal more about the training data from the model than can be inferred by an adversary without access to the trained model, but with the same knowledge of the underlying distribution as needed to train the attribute inference attack; (2) black-box attribute inference attacks rarely learn anything that cannot be learned without the model; but (3) white-box attacks, which we introduce and evaluate in the paper, can reliably identify some records with the sensitive value attribute that would not be predicted without having access to the model. Furthermore, we show that proposed defenses such as differentially private training and removing vulnerable records from training do not mitigate this privacy risk. The code for our experiments is available at \url{https://github.com/bargavj/EvaluatingDPML}.
• Abstract（参考訳）: モデルはトレーニングデータに関する機密情報を公開することができる。 属性推論攻撃では、敵はいくつかのトレーニングレコードに関する部分的な知識と、それらのレコードでトレーニングされたモデルへのアクセスを持ち、それらのレコードの繊細な特徴の未知の値を推測する。 我々は、我々が \emph{sensitive value inference}と呼ぶ属性推論の細かな変種を調査し、敵の目標は、未知の属性が特定の敏感な値を持つ候補集合から、いくつかのレコードを高い信頼度で識別することである。 属性推論とトレーニング分布統計をキャプチャするデータインプテーションを,敵が利用可能なトレーニングデータに関する様々な仮定の下で明示的に比較する。 Our main conclusions are: (1) previous attribute inference methods do not reveal more about the training data from the model than can be inferred by an adversary without access to the trained model, but with the same knowledge of the underlying distribution as needed to train the attribute inference attack; (2) black-box attribute inference attacks rarely learn anything that cannot be learned without the model; but (3) white-box attacks, which we introduce and evaluate in the paper, can reliably identify some records with the sensitive value attribute that would not be predicted without having access to the model. さらに,差分プライベートトレーニングや脆弱な記録をトレーニングから削除するといった防衛策は,このプライバシーリスクを軽減するものではないことを示す。 実験のコードは \url{https://github.com/bargavj/evaluatingdpml} で利用可能です。

関連論文リスト

• FullCert: Deterministic End-to-End Certification for Training and Inference of Neural Networks [62.897993591443594]
  FullCertは、音と決定論的境界を持つ最初のエンドツーエンドの認証器である。 2つのデータセットに対してFullCertの有効性を実験的に示す。
  論文  参考訳（メタデータ） (2024-06-17T13:23:52Z)
• Confidence Is All You Need for MI Attacks [7.743155804758186]
  モデルのトレーニングセットにおけるデータポイントのメンバシップを計測する新しい手法を提案する。 トレーニング中、モデルは基本的にトレーニングデータに'適合'しており、目に見えないデータへの一般化において特に困難に直面している可能性がある。
  論文  参考訳（メタデータ） (2023-11-26T18:09:24Z)
• Client-specific Property Inference against Secure Aggregation in Federated Learning [52.8564467292226]
  フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。 多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。 単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
  論文  参考訳（メタデータ） (2023-03-07T14:11:01Z)
• Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers [71.70205894168039]
  そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。 本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
  論文  参考訳（メタデータ） (2023-01-27T07:53:50Z)
• Reconstructing Training Data from Model Gradient, Provably [68.21082086264555]
  ランダムに選択されたパラメータ値で1つの勾配クエリからトレーニングサンプルを再構成する。 センシティブなトレーニングデータを示す証明可能な攻撃として、われわれの発見はプライバシーに対する深刻な脅威を示唆している。
  論文  参考訳（メタデータ） (2022-12-07T15:32:22Z)
• Truth Serum: Poisoning Machine Learning Models to Reveal Their Secrets [53.866927712193416]
  トレーニングデータセットを有害にすることができる敵が、このデータセットでトレーニングされたモデルに、他の当事者のプライベート詳細を漏洩させる可能性があることを示す。 私たちの攻撃は、メンバーシップ推論、属性推論、データ抽出に効果的です。 私たちの結果は、機械学習のためのマルチパーティプロトコルにおける暗号化プライバシ保証の関連性に疑問を投げかけました。
  論文  参考訳（メタデータ） (2022-03-31T18:06:28Z)
• Are Your Sensitive Attributes Private? Novel Model Inversion Attribute Inference Attacks on Classification Models [22.569705869469814]
  トレーニングデータ中のレコードの非感受性属性を敵が知る場合のモデル反転攻撃に着目した。 我々は,信頼性スコアに基づくモデル逆属性推論攻撃を考案し,その精度を著しく向上させる。 また、ターゲットレコードの他の(非感受性の)属性が敵に未知なシナリオにまで攻撃を拡大します。
  論文  参考訳（メタデータ） (2022-01-23T21:27:20Z)
• On the (In)Feasibility of Attribute Inference Attacks on Machine Learning Models [4.1245935888536325]
  分類モデルがメンバーシップ推論攻撃に結びついたとしても、アトリビュート推論攻撃の影響を受けにくいことが示されています。 メンバーシップ推論攻撃は,この強力な設定ではメンバーシップを推測できないことを示す。 属性推論の緩やかな概念の下では、真の属性に近い属性を推測することは可能であることを示す。
  論文  参考訳（メタデータ） (2021-03-12T06:21:56Z)
• Black-box Model Inversion Attribute Inference Attacks on Classification Models [32.757792981935815]
  我々は、トレーニングデータのインスタンスに関する非感受性属性を敵が知るような、ある種類のモデル反転攻撃に焦点を当てる。 信頼モデルに基づく攻撃と信頼スコアに基づく攻撃の2つの新しいモデル反転属性推論攻撃を考案した。 2つの実際のデータセットでトレーニングされた決定木とディープニューラルネットワークの2種類の機械学習モデルに対する攻撃を評価した。
  論文  参考訳（メタデータ） (2020-12-07T01:14:19Z)
• Intrinsic Certified Robustness of Bagging against Data Poisoning Attacks [75.46678178805382]
  emphdata中毒攻撃では、攻撃者は学習した機械学習モデルを破損させるためにいくつかのトレーニング例を変更し、削除し、または挿入する。 データ中毒攻撃に対するバッグングの本質的確固たる堅牢性を証明する。 本手法は, 任意の修正, 削除, 挿入を行う場合, MNIST 上で 911.1% の精度を達成している。
  論文  参考訳（メタデータ） (2020-08-11T03:12:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。