論文の概要: Privacy Leaks by Adversaries: Adversarial Iterations for Membership Inference Attack

• arxiv url: http://arxiv.org/abs/2506.02711v1
• Date: Tue, 03 Jun 2025 10:09:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-05 04:22:50.791786
• Title: Privacy Leaks by Adversaries: Adversarial Iterations for Membership Inference Attack
• Title（参考訳）: 敵によるプライバシリーク:メンバーシップ推論攻撃に対する敵の反復
• Authors: Jing Xue, Zhishen Sun, Haishan Ye, Luo Luo, Xiangyu Chang, Ivor Tsang, Guang Dai,
• Abstract要約: IMIAは、敵のサンプルを生成するプロセスを利用して、メンバーシップを推測する新たな攻撃戦略である。 我々は,複数のモデルとデータセットをまたいだ実験を行い,その結果から,対数サンプルを生成する反復回数が,メンバーシップ推論の信頼性の高い特徴であることを実証した。
• 参考スコア（独自算出の注目度）: 21.396030274654073
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Membership inference attack (MIA) has become one of the most widely used and effective methods for evaluating the privacy risks of machine learning models. These attacks aim to determine whether a specific sample is part of the model's training set by analyzing the model's output. While traditional membership inference attacks focus on leveraging the model's posterior output, such as confidence on the target sample, we propose IMIA, a novel attack strategy that utilizes the process of generating adversarial samples to infer membership. We propose to infer the member properties of the target sample using the number of iterations required to generate its adversarial sample. We conduct experiments across multiple models and datasets, and our results demonstrate that the number of iterations for generating an adversarial sample is a reliable feature for membership inference, achieving strong performance both in black-box and white-box attack scenarios. This work provides a new perspective for evaluating model privacy and highlights the potential of adversarial example-based features for privacy leakage assessment.
• Abstract（参考訳）: メンバーシップ推論攻撃(MIA)は、機械学習モデルのプライバシーリスクを評価する最も広く使われ、効果的な方法の1つである。 これらの攻撃は、モデルの出力を分析することによって、特定のサンプルがモデルのトレーニングセットの一部であるかどうかを判断することを目的としている。 従来のメンバシップ推論攻撃は,対象サンプルに対する信頼度など,モデルの後部出力の活用に重点を置いているが,敵サンプルの生成プロセスを利用してメンバシップを推定する新たな攻撃戦略であるIMIAを提案する。 そこで本研究では, 対角試料の生成に必要な反復回数を用いて, 対象試料の部材特性を推定する。 我々は,複数のモデルやデータセットに対して実験を行い,敵のサンプルを生成するためのイテレーション回数が,ブラックボックスとホワイトボックスの攻撃シナリオの両方において強力なパフォーマンスを達成し,メンバーシップ推論の信頼性の高い機能であることを実証した。 この研究は、モデルのプライバシを評価するための新しい視点を提供し、プライバシ漏洩評価のための敵のサンプルベースの機能の可能性を強調します。

関連論文リスト

• MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
  本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。 本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。 異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-06-13T15:55:04Z)
• SA-Attack: Improving Adversarial Transferability of Vision-Language Pre-training Models via Self-Augmentation [56.622250514119294]
  ホワイトボックスの敵攻撃とは対照的に、転送攻撃は現実世界のシナリオをより反映している。 本稿では,SA-Attackと呼ばれる自己拡張型転送攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-12-08T09:08:50Z)
• Assessing Privacy Risks in Language Models: A Case Study on Summarization Tasks [65.21536453075275]
  我々は要約作業に焦点をあて、会員推測(MI)攻撃について調査する。 テキストの類似性や文書修正に対するモデルの抵抗をMI信号として活用する。 我々は、MI攻撃から保護するための要約モデルの訓練と、プライバシとユーティリティの本質的にのトレードオフについて議論する。
  論文  参考訳（メタデータ） (2023-10-20T05:44:39Z)
• Leveraging Adversarial Examples to Quantify Membership Information Leakage [30.55736840515317]
  パターン認識モデルにおけるメンバシップ推論の問題に対処する新しいアプローチを開発する。 この量はトレーニングデータに属する可能性を反映していると我々は主張する。 我々の手法は、最先端の戦略に匹敵する、あるいは上回る性能を発揮する。
  論文  参考訳（メタデータ） (2022-03-17T19:09:38Z)
• MIAShield: Defending Membership Inference Attacks via Preemptive Exclusion of Members [9.301268830193072]
  メンバーシップ推論攻撃では、相手はモデルの予測を観察し、サンプルがモデルのトレーニングデータの一部であるかどうかを判断する。 そこで我々は,MIAShieldを提案する。MIAShieldは,メンバーの存在を隠蔽する代わりに,メンバーサンプルのプリエンプティブ排除に基づく新しいMIAディフェンスである。 我々は,MIAShieldが多岐にわたるMIAの会員推定を効果的に緩和し,最先端の防衛技術と比較してはるかに優れたプライバシー利用トレードオフを実現し,適応的敵に対する耐性を保っていることを示す。
  論文  参考訳（メタデータ） (2022-03-02T07:53:21Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)
• Membership Leakage in Label-Only Exposures [10.875144776014533]
  本稿では,機械学習モデルに対する決定に基づくメンバシップ推論攻撃を提案する。 特に、転送攻撃と境界攻撃という2種類の意思決定ベースの攻撃を考案する。 また,量的および質的分析に基づく会員推定の成功に関する新たな知見も提示する。
  論文  参考訳（メタデータ） (2020-07-30T15:27:55Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)
• Systematic Evaluation of Privacy Risks of Machine Learning Models [41.017707772150835]
  メンバーシップ推論攻撃に対する事前の取り組みは、プライバシーリスクを著しく過小評価する可能性があることを示す。 まず、既存の非ニューラルネットワークベースの推論攻撃を改善することで、メンバーシップ推論のプライバシリスクをベンチマークする。 次に、プライバシリスクスコアと呼ばれる新しい指標を定式化し、導出することで、詳細なプライバシ分析のための新しいアプローチを導入する。
  論文  参考訳（メタデータ） (2020-03-24T00:53:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。