論文の概要: Breaking the Gold Standard: Extracting Forgotten Data under Exact Unlearning in Large Language Models

• arxiv url: http://arxiv.org/abs/2505.24379v1
• Date: Fri, 30 May 2025 09:09:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-02 19:47:52.871441
• Title: Breaking the Gold Standard: Extracting Forgotten Data under Exact Unlearning in Large Language Models
• Title（参考訳）: 金の標準を破る:大規模言語モデルにおける厳密な学習の下での忘れられたデータの抽出
• Authors: Xiaoyu Wu, Yifei Pang, Terrance Liu, Zhiwei Steven Wu,
• Abstract要約: 我々は、さらに正確な未学習を損なう新しいデータ抽出攻撃を導入する。 模擬診断データセット上での攻撃の有効性を実証する。
• 参考スコア（独自算出の注目度）: 26.5039481643457
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are typically trained on datasets collected from the web, which may inadvertently contain harmful or sensitive personal information. To address growing privacy concerns, unlearning methods have been proposed to remove the influence of specific data from trained models. Of these, exact unlearning -- which retrains the model from scratch without the target data -- is widely regarded the gold standard, believed to be robust against privacy-related attacks. In this paper, we challenge this assumption by introducing a novel data extraction attack that compromises even exact unlearning. Our method leverages both the pre- and post-unlearning models: by guiding the post-unlearning model using signals from the pre-unlearning model, we uncover patterns that reflect the removed data distribution. Combining model guidance with a token filtering strategy, our attack significantly improves extraction success rates -- doubling performance in some cases -- across common benchmarks such as MUSE, TOFU, and WMDP. Furthermore, we demonstrate our attack's effectiveness on a simulated medical diagnosis dataset to highlight real-world privacy risks associated with exact unlearning. In light of our findings, which suggest that unlearning may, in a contradictory way, increase the risk of privacy leakage, we advocate for evaluation of unlearning methods to consider broader threat models that account not only for post-unlearning models but also for adversarial access to prior checkpoints.
• Abstract（参考訳）: 大規模な言語モデルは、通常、Webから収集されたデータセットに基づいて訓練される。 プライバシーの懸念の高まりに対処するため、訓練されたモデルから特定のデータの影響を取り除くために、アンラーニング手法が提案されている。 これらのうち、ターゲットデータなしでモデルをゼロからトレーニングする正確なアンラーニングは、プライバシ関連の攻撃に対して堅牢であると考えられている金の標準として広く見なされている。 本稿では,この仮定に対して,未学習を極端に損なう新たなデータ抽出攻撃を導入することで,その仮定に挑戦する。 本手法は,学習前モデルと学習後モデルの両方を活用し,学習前モデルからの信号を用いて学習後モデルを導くことにより,削除したデータ分布を反映するパターンを明らかにする。 モデルガイダンスとトークンフィルタリング戦略を組み合わせることで、MUSE、TOFU、WMDPといった一般的なベンチマークにおいて、当社の攻撃は抽出成功率(場合によっては性能の倍増)を大幅に改善します。 さらに、シミュレーションされた診断データセット上での攻撃の有効性を実証し、正確なアンラーニングに関連する現実世界のプライバシーリスクを明らかにする。 本研究は,学習後モデルだけでなく,事前チェックポイントへの敵対的アクセスも考慮した,より広範な脅威モデルを検討するための未学習手法の評価を提唱する。

関連論文リスト

• Forget to Flourish: Leveraging Machine-Unlearning on Pretrained Language Models for Privacy Leakage [12.892449128678516]
  下流アプリケーション用のプライベートデータ上の微調整言語モデルは、重大なプライバシーリスクを生じさせる。 いくつかの人気のあるコミュニティプラットフォームが、様々な事前訓練されたモデルの便利な配布を提供している。 本稿では,モデル学習を攻撃ツールとして利用する新しい毒殺手法を提案する。
  論文  参考訳（メタデータ） (2024-08-30T15:35:09Z)
• Learn while Unlearn: An Iterative Unlearning Framework for Generative Language Models [52.03511469562013]
  3つのコアコンポーネントで構成されるICU(Iterative Contrastive Unlearning)フレームワークを紹介する。 知識未学習誘導モジュールは、未学習の損失を使用して、特定の知識を除去するためにターゲットとする。 Contrastive Learning Enhancementモジュールは、純粋な未学習の目標に対してモデルの表現力を保持する。 イテレーティブ・アンラーニング・リファインメントモジュールは、進行中の評価と更新を通じて、アンラーニングプロセスを動的に調整する。
  論文  参考訳（メタデータ） (2024-07-25T07:09:35Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Assessing Privacy Risks in Language Models: A Case Study on Summarization Tasks [65.21536453075275]
  我々は要約作業に焦点をあて、会員推測(MI)攻撃について調査する。 テキストの類似性や文書修正に対するモデルの抵抗をMI信号として活用する。 我々は、MI攻撃から保護するための要約モデルの訓練と、プライバシとユーティリティの本質的にのトレードオフについて議論する。
  論文  参考訳（メタデータ） (2023-10-20T05:44:39Z)
• Leveraging Adversarial Examples to Quantify Membership Information Leakage [30.55736840515317]
  パターン認識モデルにおけるメンバシップ推論の問題に対処する新しいアプローチを開発する。 この量はトレーニングデータに属する可能性を反映していると我々は主張する。 我々の手法は、最先端の戦略に匹敵する、あるいは上回る性能を発揮する。
  論文  参考訳（メタデータ） (2022-03-17T19:09:38Z)
• Learning to Learn Transferable Attack [77.67399621530052]
  転送逆行攻撃は非自明なブラックボックス逆行攻撃であり、サロゲートモデル上で敵の摂動を発生させ、そのような摂動を被害者モデルに適用することを目的としている。 本研究では,データとモデル拡張の両方から学習することで,敵の摂動をより一般化する学習可能な攻撃学習法(LLTA)を提案する。 提案手法の有効性を実証し, 現状の手法と比較して, 12.85%のトランスファー攻撃の成功率で検証した。
  論文  参考訳（メタデータ） (2021-12-10T07:24:21Z)
• Enhanced Membership Inference Attacks against Machine Learning Models [9.26208227402571]
  メンバーシップ推論攻撃は、モデルがトレーニングセット内の個々のデータポイントについてリークする個人情報の定量化に使用される。 我々は,AUCスコアを高い精度で達成できる新たな攻撃アルゴリズムを導き,その性能に影響を及ぼすさまざまな要因を強調した。 我々のアルゴリズムは、モデルにおけるプライバシ損失の極めて正確な近似を捉え、機械学習モデルにおけるプライバシリスクの正確かつ詳細な推定を行うためのツールとして使用することができる。
  論文  参考訳（メタデータ） (2021-11-18T13:31:22Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)
• Quantifying and Mitigating Privacy Risks of Contrastive Learning [4.909548818641602]
  我々は、会員推定と属性推論のレンズを通して、コントラスト学習の最初のプライバシ分析を行う。 その結果,コントラストモデルではメンバシップ推論攻撃に弱いが,教師付きモデルに比べて属性推論攻撃に弱いことが示唆された。 この状況を改善するため,プライバシ保護型コントラスト学習機構であるTalosを提案する。
  論文  参考訳（メタデータ） (2021-02-08T11:38:11Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。