論文の概要: Dual-View Inference Attack: Machine Unlearning Amplifies Privacy Exposure

• arxiv url: http://arxiv.org/abs/2512.16126v1
• Date: Thu, 18 Dec 2025 03:24:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-19 18:10:31.896659
• Title: Dual-View Inference Attack: Machine Unlearning Amplifies Privacy Exposure
• Title（参考訳）: デュアルビュー推論攻撃: 機械学習はプライバシの露出を増幅する
• Authors: Lulu Xue, Shengshan Hu, Linqiang Qian, Peijin Guo, Yechao Zhang, Minghui Li, Yanjun Zhang, Dayong Ye, Leo Yu Zhang,
• Abstract要約: 我々は、保持データのプライバシーリスクに注目し、二重ビュー設定下での機械学習による脆弱性を明らかにする。 両モデルにブラックボックスクエリを用いて,保持データに対するメンバシップ情報を抽出するDVIAを提案する。
• 参考スコア（独自算出の注目度）: 45.982793975877264
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine unlearning is a newly popularized technique for removing specific training data from a trained model, enabling it to comply with data deletion requests. While it protects the rights of users requesting unlearning, it also introduces new privacy risks. Prior works have primarily focused on the privacy of data that has been unlearned, while the risks to retained data remain largely unexplored. To address this gap, we focus on the privacy risks of retained data and, for the first time, reveal the vulnerabilities introduced by machine unlearning under the dual-view setting, where an adversary can query both the original and the unlearned models. From an information-theoretic perspective, we introduce the concept of {privacy knowledge gain} and demonstrate that the dual-view setting allows adversaries to obtain more information than querying either model alone, thereby amplifying privacy leakage. To effectively demonstrate this threat, we propose DVIA, a Dual-View Inference Attack, which extracts membership information on retained data using black-box queries to both models. DVIA eliminates the need to train an attack model and employs a lightweight likelihood ratio inference module for efficient inference. Experiments across different datasets and model architectures validate the effectiveness of DVIA and highlight the privacy risks inherent in the dual-view setting.
• Abstract（参考訳）: 機械学習は、トレーニングされたモデルから特定のトレーニングデータを削除し、データ削除要求に準拠できるようにするために、新たに普及したテクニックである。 アンラーニングを求めるユーザーの権利を保護する一方で、新たなプライバシーリスクも導入している。 これまでの研究は主に、未学習のデータプライバシーに重点を置いてきたが、データ保持のリスクはほとんど未調査のままだった。 このギャップに対処するため、我々は保持されたデータのプライバシーリスクに焦点を合わせ、二視点設定下で機械学習によって引き起こされる脆弱性を初めて明らかにする。 情報理論の観点からは,「プライバシ・ナレッジ・ゲイン」の概念を導入し,両ビュー・セッティングにより,双方のモデルに問い合わせるよりも相手がより多くの情報を得ることができ,プライバシーの漏洩を増幅できることを示す。 この脅威を効果的に証明するために,両モデルにブラックボックスクエリを用いて保持データから会員情報を抽出するDVIAを提案する。 DVIAは攻撃モデルを訓練する必要をなくし、効率的な推論のために軽量な可能性比推論モジュールを使用する。 異なるデータセットとモデルアーキテクチャにわたる実験は、DVIAの有効性を検証し、デュアルビュー設定に固有のプライバシーリスクを強調します。

関連論文リスト

• Unlearned but Not Forgotten: Data Extraction after Exact Unlearning in LLM [31.093224824043087]
  学習前モデルからの信号を利用して学習後モデルを導く新しいデータ抽出攻撃を導入する。 シミュレーションされた医療診断データセット上での攻撃の有効性を実証し、正確なアンラーニングに関連する現実世界のプライバシーリスクを明らかにする。
  論文  参考訳（メタデータ） (2025-05-30T09:09:33Z)
• Game-Theoretic Machine Unlearning: Mitigating Extra Privacy Leakage [12.737028324709609]
  最近の法律では、要求されたデータとその影響を訓練されたモデルから取り除くことが義務付けられている。 本研究では,非学習性能とプライバシ保護の競合関係をシミュレートするゲーム理論マシンアンラーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-11-06T13:47:04Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Rethinking Privacy in Machine Learning Pipelines from an Information Flow Control Perspective [16.487545258246932]
  現代の機械学習システムは、成長を続けるコーパスで訓練されたモデルを使用する。 オーナシップ、アクセス制御、ライセンス情報などのメタデータは、トレーニング中に無視される。 情報フロー制御の観点から機械学習システムを記述する。
  論文  参考訳（メタデータ） (2023-11-27T13:14:39Z)
• Diff-Privacy: Diffusion-based Face Privacy Protection [58.1021066224765]
  本稿では,Diff-Privacyと呼ばれる拡散モデルに基づく顔のプライバシー保護手法を提案する。 具体的には、提案したマルチスケール画像インバージョンモジュール(MSI)をトレーニングし、元の画像のSDMフォーマット条件付き埋め込みのセットを得る。 本研究は,条件付き埋め込みに基づいて,組込みスケジューリング戦略を設計し,デノナイズプロセス中に異なるエネルギー関数を構築し,匿名化と視覚的アイデンティティ情報隠蔽を実現する。
  論文  参考訳（メタデータ） (2023-09-11T09:26:07Z)
• RecUP-FL: Reconciling Utility and Privacy in Federated Learning via User-configurable Privacy Defense [9.806681555309519]
  フェデレートラーニング(FL)は、クライアントがプライベートデータを共有せずに、協力的にモデルをトレーニングすることを可能にする。 近年の研究では、共有勾配によってプライベート情報が漏洩する可能性があることが示されている。 本稿では、ユーザ指定の機密属性により焦点を絞ることができる、ユーザ設定可能なプライバシ保護(RecUP-FL)を提案する。
  論文  参考訳（メタデータ） (2023-04-11T10:59:45Z)
• Students Parrot Their Teachers: Membership Inference on Model Distillation [54.392069096234074]
  知識蒸留によるプライバシを,教師と学生のトレーニングセットの両方で研究する。 私たちの攻撃は、生徒セットと教師セットが類似している場合、または攻撃者が教師セットを毒できる場合、最強です。
  論文  参考訳（メタデータ） (2023-03-06T19:16:23Z)
• Hiding Visual Information via Obfuscating Adversarial Perturbations [47.315523613407244]
  本稿では,データの視覚的プライバシを保護するために,敵対的な視覚情報隠蔽手法を提案する。 具体的には、データの視覚情報を隠蔽する難読化対向摂動を生成する。 認識・分類タスクの実験結果から,提案手法が視覚情報を効果的に隠蔽できることが示唆された。
  論文  参考訳（メタデータ） (2022-09-30T08:23:26Z)
• Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
  本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。 ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。 防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
  論文  参考訳（メタデータ） (2020-09-01T12:54:54Z)
• When Machine Unlearning Jeopardizes Privacy [25.167214892258567]
  機械学習による意図しない情報漏洩について検討する。 高い性能を実現する新しいメンバーシップ推論攻撃を提案する。 我々の結果は、機械学習の実践的な実装におけるプライバシー保護の改善に役立つ。
  論文  参考訳（メタデータ） (2020-05-05T14:11:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。