Fugu-MT 論文翻訳(概要): Membership Inference Attacks Beyond Overfitting

論文の概要: Membership Inference Attacks Beyond Overfitting

arxiv url: http://arxiv.org/abs/2511.16792v1
Date: Thu, 20 Nov 2025 20:40:56 GMT
ステータス: 翻訳完了
システム内更新日: 2025-11-24 18:08:18.806829
Title: Membership Inference Attacks Beyond Overfitting
Title（参考訳）: メンバーシップ推論攻撃はオーバーフィッティングを超えた
Authors: Mona Khalil, Alberto Blanco-Justicia, Najeeb Jebreel, Josep Domingo-Ferrer,
Abstract要約: メンバーシップ推論攻撃(MIA)は、与えられたデータポイントがモデルのトレーニングデータの一部であるかどうかを判断することを目的としている。 MIAsは、トレーニング中に見てきたサンプルの予測を行う際に、モデルの振る舞いの違いを利用する。不適合なMLモデルでさえ、トレーニングデータの小さなサブセットに関する情報をリークすることができる。
参考スコア（独自算出の注目度）: 3.549717032380187
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Membership inference attacks (MIAs) against machine learning (ML) models aim to determine whether a given data point was part of the model training data. These attacks may pose significant privacy risks to individuals whose sensitive data were used for training, which motivates the use of defenses such as differential privacy, often at the cost of high accuracy losses. MIAs exploit the differences in the behavior of a model when making predictions on samples it has seen during training (members) versus those it has not seen (non-members). Several studies have pointed out that model overfitting is the major factor contributing to these differences in behavior and, consequently, to the success of MIAs. However, the literature also shows that even non-overfitted ML models can leak information about a small subset of their training data. In this paper, we investigate the root causes of membership inference vulnerabilities beyond traditional overfitting concerns and suggest targeted defenses. We empirically analyze the characteristics of the training data samples vulnerable to MIAs in models that are not overfitted (and hence able to generalize). Our findings reveal that these samples are often outliers within their classes (e.g., noisy or hard to classify). We then propose potential defensive strategies to protect these vulnerable samples and enhance the privacy-preserving capabilities of ML models. Our code is available at https://github.com/najeebjebreel/mia_analysis.
Abstract（参考訳）: 機械学習(ML)モデルに対するメンバーシップ推論攻撃(MIA)は、与えられたデータポイントがモデルのトレーニングデータの一部であるかどうかを判断することを目的としている。これらの攻撃は、機密データが訓練に使用された個人に対して重大なプライバシーリスクを引き起こす可能性がある。 MIAは、トレーニング中に見てきたサンプル(メンバー)と、見ていないもの(非メンバー)の予測を行う際のモデルの振る舞いの違いを利用する。いくつかの研究は、モデルオーバーフィッティングがこれらの行動の違いに寄与し、その結果、MIAの成功に寄与する主要な要因であると指摘した。しかし、この文献は、過度に適合していないMLモデルでさえ、トレーニングデータの小さなサブセットに関する情報を漏らす可能性があることも示している。本稿では,従来の過度なオーバーフィッティングの懸念を超えて,メンバシップ推論脆弱性の根本原因を調査し,目標とする防御策を提案する。過度に適合していない(従って一般化できる)モデルにおいて、MIAに脆弱なトレーニングデータサンプルの特性を経験的に分析する。以上の結果から,これらのサンプルはクラス内の異常値(例えば,うるさい,分類が難しい)が多いことが判明した。次に、脆弱性のあるサンプルを保護し、MLモデルのプライバシ保護能力を向上するための潜在的防衛戦略を提案する。私たちのコードはhttps://github.com/najeebjebreel/mia_analysis.comで利用可能です。

関連論文リスト

Inexact Unlearning Needs More Careful Evaluations to Avoid a False Sense of Privacy [45.413801663923564]
会員推論攻撃(MIA)の未学習環境への適応について論じる。未学習文学において一般的に用いられるU-MIAは、既存の未学習技術が視覚モデルと言語モデルの両方で持つプライバシー保護を過大評価していることを示す。
論文参考訳（メタデータ） (2024-03-02T14:22:40Z)
Assessing Privacy Risks in Language Models: A Case Study on Summarization Tasks [65.21536453075275]
我々は要約作業に焦点をあて、会員推測(MI)攻撃について調査する。テキストの類似性や文書修正に対するモデルの抵抗をMI信号として活用する。我々は、MI攻撃から保護するための要約モデルの訓練と、プライバシとユーティリティの本質的にのトレードオフについて議論する。
論文参考訳（メタデータ） (2023-10-20T05:44:39Z)
Beyond Labeling Oracles: What does it mean to steal ML models? [52.63413852460003]
モデル抽出攻撃は、クエリアクセスのみで訓練されたモデルを盗むように設計されている。モデル抽出攻撃の成功に影響を及ぼす要因について検討する。我々は,ME攻撃の敵の目標を再定義するようコミュニティに促した。
論文参考訳（メタデータ） (2023-10-03T11:10:21Z)
Membership Inference Attacks against Synthetic Data through Overfitting Detection [84.02632160692995]
我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
論文参考訳（メタデータ） (2023-02-24T11:27:39Z)
RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文参考訳（メタデータ） (2022-07-12T19:34:47Z)
Do Not Trust Prediction Scores for Membership Inference Attacks [15.567057178736402]
メンバーシップ推論攻撃(MIA)は、特定のサンプルが予測モデルのトレーニングに使用されたかどうかを判断することを目的としている。これは、多くの現代のディープネットワークアーキテクチャにとって誤りである、と我々は主張する。トレーニングデータの一部として誤って分類された、潜在的に無限のサンプルを生成できるのです。
論文参考訳（メタデータ） (2021-11-17T12:39:04Z)
Investigating Membership Inference Attacks under Data Dependencies [26.70764798408236]
プライバシーに敏感なデータに基づく機械学習モデルのトレーニングが、プライバシーに深刻な影響を及ぼす可能性のある新たな攻撃の扉を開いた。そのような攻撃の1つは、メンバーシップ推論攻撃 (MIA) であり、特定のデータポイントがモデルをトレーニングするために使用されたかどうかを公開する。我々は、訓練セットのすべてのメンバーと非メンバーが独立して同一に分散しているという制限的な仮定の下で、防衛を評価した。
論文参考訳（メタデータ） (2020-10-23T00:16:46Z)
Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
論文参考訳（メタデータ） (2020-10-08T16:20:48Z)
Trade-offs between membership privacy & adversarially robust learning [13.37805637358556]
標準モデルがロバストモデルよりもはるかに過度に適合する設定を特定します。オーバーフィッティングの度合いは、トレーニングに利用可能なデータの量に依存する。
論文参考訳（メタデータ） (2020-06-08T14:20:12Z)
Data and Model Dependencies of Membership Inference Attack [13.951470844348899]
我々は、データとMLモデル特性の両方がMIAに対するML手法の脆弱性に与える影響を実証分析する。この結果から,MIAの精度とデータセットの特性と使用中のトレーニングモデルとの関係が明らかになった。我々は,これらのデータとモデル特性をレギュレータとして利用し,MLモデルをMIAに対して保護することを提案する。
論文参考訳（メタデータ） (2020-02-17T09:35:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。