論文の概要: Membership Inference Attack Using Self Influence Functions

• arxiv url: http://arxiv.org/abs/2205.13680v1
• Date: Thu, 26 May 2022 23:52:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-31 09:16:19.107741
• Title: Membership Inference Attack Using Self Influence Functions
• Title（参考訳）: 自己影響関数を用いたメンバーシップ推論攻撃
• Authors: Gilad Cohen, Raja Giryes
• Abstract要約: メンバ推論(MI)攻撃は、特定のデータサンプルが機械学習モデルのトレーニングに使用されたかどうかを判断することを目的としている。 我々は,MI予測を行うために,影響関数,具体的にはサンプルの自己影響スコアを利用する新しいMI攻撃を提案する。 本手法は,データ拡張によるトレーニングと無用なトレーニングの両面において,新たな最先端性を実現する。
• 参考スコア（独自算出の注目度）: 43.10140199124212
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Member inference (MI) attacks aim to determine if a specific data sample was used to train a machine learning model. Thus, MI is a major privacy threat to models trained on private sensitive data, such as medical records. In MI attacks one may consider the black-box settings, where the model's parameters and activations are hidden from the adversary, or the white-box case where they are available to the attacker. In this work, we focus on the latter and present a novel MI attack for it that employs influence functions, or more specifically the samples' self-influence scores, to perform the MI prediction. We evaluate our attack on CIFAR-10, CIFAR-100, and Tiny ImageNet datasets, using versatile architectures such as AlexNet, ResNet, and DenseNet. Our attack method achieves new state-of-the-art results for both training with and without data augmentations. Code is available at https://github.com/giladcohen/sif_mi_attack.
• Abstract（参考訳）: メンバ推論(MI)攻撃は、機械学習モデルのトレーニングに特定のデータサンプルを使用したかどうかを判断することを目的としている。 したがって、miは医療記録のようなプライベート機密データでトレーニングされたモデルにとって大きなプライバシーの脅威である。 MI攻撃では、モデルのパラメータとアクティベーションが敵から隠されているブラックボックス設定や、攻撃者が利用できるホワイトボックスケースを考えることができる。 そこで本研究では,後者に着目し,影響関数,具体的にはサンプルの自己影響スコアを用いてmi予測を行う新しいmi攻撃を提案する。 我々は、AlexNet、ResNet、DenseNetといった汎用アーキテクチャを用いて、CIFAR-10、CIFAR-100、Tiny ImageNetデータセットに対する攻撃を評価した。 攻撃方法は,データ拡張の有無にかかわらず,新たな最先端結果が得られる。 コードはhttps://github.com/giladcohen/sif_mi_attackで入手できる。

関連論文リスト

• Model Inversion Robustness: Can Transfer Learning Help? [27.883074562565877]
  Model Inversion (MI)攻撃は、機械学習モデルへのアクセスを悪用することで、プライベートトレーニングデータを再構築することを目的としている。 我々は,MI-robustモデルをレンダリングするために,Transfer Learning-based Defense against Model Inversion (TL-DMI)を提案する。 ベルとホイッスルを使わずにSOTA(State-of-the-art)MIロバスト性を実現する。
  論文  参考訳（メタデータ） (2024-05-09T07:24:28Z)
• Pandora's White-Box: Precise Training Data Detection and Extraction in Large Language Models [4.081098869497239]
  我々は,大規模言語モデル(LLM)に対する最先端のプライバシ攻撃を開発する。 事前訓練されたLLMに対する新たなメンバーシップ推論攻撃(MIA)は、ベースライン攻撃の数百倍の精度で実行される。 微調整では, ベースモデルと微調整モデルとの損失率に基づく単純な攻撃により, ほぼ完全なMIA性能が得られることがわかった。
  論文  参考訳（メタデータ） (2024-02-26T20:41:50Z)
• Mitigating Adversarial Attacks in Federated Learning with Trusted Execution Environments [1.8240624028534085]
  画像ベースアプリケーションでは、敵対的な例は、局所モデルによって誤って分類される人間の目に対してわずかに摂動した画像で構成されている。 PeltaはTrusted Execution Environments(TEEs)を利用した新しい遮蔽機構で、攻撃者が敵のサンプルを作る能力を減らす。 Peltaは6つのホワイトボックスの対人攻撃を緩和する効果を示した。
  論文  参考訳（メタデータ） (2023-09-13T14:19:29Z)
• Membership Inference Attacks against Synthetic Data through Overfitting Detection [84.02632160692995]
  我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。 生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
  論文  参考訳（メタデータ） (2023-02-24T11:27:39Z)
• Pseudo Label-Guided Model Inversion Attack via Conditional Generative Adversarial Network [102.21368201494909]
  モデル反転(MI)攻撃はプライバシーに対する懸念を高めている。 近年のMI攻撃では,探索空間を狭める前にGAN(Generative Adversarial Network)を画像として活用している。 我々は条件付きGAN(cGAN)による擬似ラベル誘導MI(PLG-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2023-02-20T07:29:34Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)
• How Does Data Augmentation Affect Privacy in Machine Learning? [94.52721115660626]
  拡張データの情報を活用するために,新たなMI攻撃を提案する。 モデルが拡張データで訓練された場合、最適な会員推定値を確立する。
  論文  参考訳（メタデータ） (2020-07-21T02:21:10Z)
• On the Difficulty of Membership Inference Attacks [11.172550334631921]
  近年の研究では,深層モデルに対するMI攻撃が提案されている。 明らかな成功にもかかわらず、これらの研究は正のクラス(メンバークラス)の正確さ、正確さ、リコールのみを報告している。 報告されていない偽陽性率や誤警報率(FAR)に悩まされているため,MI攻撃の報告方法が誤解を招くことが多い。
  論文  参考訳（メタデータ） (2020-05-27T23:09:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。