論文の概要: What Should LLMs Forget? Quantifying Personal Data in LLMs for Right-to-Be-Forgotten Requests

• arxiv url: http://arxiv.org/abs/2507.11128v1
• Date: Tue, 15 Jul 2025 09:28:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-16 19:46:03.053857
• Title: What Should LLMs Forget? Quantifying Personal Data in LLMs for Right-to-Be-Forgotten Requests
• Title（参考訳）: LLMは何を忘れるべきなのか? : LLMにおける個人データの定量化
• Authors: Dimitri Staufer,
• Abstract要約: 大きな言語モデル(LLM)は、個人情報を記憶し、公開し、EU、特に忘れられる権利(RTBF)へのコンプライアンスに関する懸念を提起する。 既存の機械学習手法は、忘れるべきデータが既に知られているが、モデルに格納されている個々の関連性を特定する方法には対処していないと仮定する。 WikiMemは、Wikidataから243の人間関連プロパティをカバーした5000以上の自然言語カナリアのデータセットと、LLMにおける人事関連を定量化するためのモデルに依存しないメトリクスを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) can memorize and reveal personal information, raising concerns regarding compliance with the EU's GDPR, particularly the Right to Be Forgotten (RTBF). Existing machine unlearning methods assume the data to forget is already known but do not address how to identify which individual-fact associations are stored in the model. Privacy auditing techniques typically operate at the population level or target a small set of identifiers, limiting applicability to individual-level data inquiries. We introduce WikiMem, a dataset of over 5,000 natural language canaries covering 243 human-related properties from Wikidata, and a model-agnostic metric to quantify human-fact associations in LLMs. Our approach ranks ground-truth values against counterfactuals using calibrated negative log-likelihood across paraphrased prompts. We evaluate 200 individuals across 15 LLMs (410M-70B parameters), showing that memorization correlates with subject web presence and model scale. We provide a foundation for identifying memorized personal data in LLMs at the individual level, enabling the dynamic construction of forget sets for machine unlearning and RTBF requests.
• Abstract（参考訳）: LLM(Large Language Models)は個人情報を記憶し公開し、EUのGDPR、特にRTBF(Right to Be Forgotten)への準拠に関する懸念を提起する。 既存の機械学習手法は、忘れるべきデータが既に知られているが、モデルに格納されている個々の関連性を特定する方法には対処していないと仮定する。 プライバシ監査技術は通常、人口レベルで運用されるか、小さな識別子をターゲットとして、個々のレベルのデータ問合せの適用性を制限する。 WikiMemは、Wikidataから243の人間関連プロパティをカバーした5000以上の自然言語カナリアのデータセットと、LLMにおける人事関連を定量化するためのモデルに依存しないメトリクスを紹介する。 提案手法は, パラフレーズ付きプロンプトの正負の対数類似度を用いて, 対数実数に対する地中真正値のランク付けを行う。 我々は15 LLM (410M-70Bパラメータ) の200人の個人を評価し, 記憶化が対象Webの存在とモデルスケールと相関していることを示した。 我々は,LLMにおける記憶された個人データを個人レベルで識別する基盤を提供し,マシンアンラーニングやRTBF要求のための忘れセットを動的に構築することを可能にする。

関連論文リスト

• Information-Guided Identification of Training Data Imprint in (Proprietary) Large Language Models [52.439289085318634]
  情報誘導プローブを用いて,プロプライエタリな大規模言語モデル (LLM) で知られているトレーニングデータを識別する方法を示す。 我々の研究は、重要な観察の上に成り立っている: 高次数テキストパスは、暗記プローブにとって良い検索材料である。
  論文  参考訳（メタデータ） (2025-03-15T10:19:15Z)
• Machine Learners Should Acknowledge the Legal Implications of Large Language Models as Personal Data [2.4578723416255754]
  ほとんどの大規模言語モデル(LLM)は、ある程度のトレーニングデータを記憶している。 LLMが少量の個人データを記憶している場合でも、通常はデータ保護法の範囲に該当する。 本稿では,機械学習研究者がML開発ライフサイクル全体を通じて,LLMの法的意味を個人データとして認めなければならないことを論じる。
  論文  参考訳（メタデータ） (2025-03-03T15:05:48Z)
• RAP: Retrieval-Augmented Personalization for Multimodal Large Language Models [53.304699445700926]
  MLLMのパーソナライズのための検索強化パーソナライズフレームワークについて紹介する。 一般的なMLLMから始まり、3つのステップでパーソナライズされたアシスタントにします。 大規模データセットを事前トレーニングすることにより、RAP-MLLMは、追加の微調整なしで無限の視覚概念に一般化することができる。
  論文  参考訳（メタデータ） (2024-10-17T09:10:26Z)
• LLM Unlearning via Loss Adjustment with Only Forget Data [20.310423152885217]
  これらの問題に対処する"フラットな"損失調整アプローチであるLos AjustmenT (FLAT) のみを導入する。 実験結果から,本手法は既存手法と比較して,非学習性能が優れていることが示された。
  論文  参考訳（メタデータ） (2024-10-14T23:43:33Z)
• Evaluating LLM-based Personal Information Extraction and Countermeasures [63.91918057570824]
  大規模言語モデル(LLM)に基づく個人情報抽出をベンチマークすることができる。 LLMは攻撃者によって誤用され、個人プロファイルから様々な個人情報を正確に抽出する。 プロンプトインジェクションは強力なLDMベースの攻撃に対して防御し、攻撃をより効果的でない従来の攻撃に還元する。
  論文  参考訳（メタデータ） (2024-08-14T04:49:30Z)
• Learning to Refuse: Towards Mitigating Privacy Risks in LLMs [6.685921135304385]
  大規模言語モデル(LLM)は、自然言語の理解と生成において顕著な能力を示す。 本研究は、LLMが完全再トレーニングを必要とせず、特定の個人のプライベートデータを保護できることの課題に対処する。 プライバシ保護のためのネーム・アウェア・アンラーニング・フレームワーク(NAUF)を導入する。
  論文  参考訳（メタデータ） (2024-07-14T03:05:53Z)
• Rethinking LLM Memorization through the Lens of Adversarial Compression [93.13830893086681]
  Webスケールデータセットでトレーニングされた大規模言語モデル(LLM)は、許容可能なデータ使用に関する重大な懸念を提起する。 ひとつ大きな疑問は、これらのモデルがすべてのトレーニングデータを"記憶する"のか、それとも、人間がどのように情報を学び、合成するかに何らかの方法で多くのデータソースを統合するのかである。 本稿では,LLMの記憶度を評価する指標として,ACR(Adversarial Compression Ratio)を提案する。
  論文  参考訳（メタデータ） (2024-04-23T15:49:37Z)
• TOFU: A Task of Fictitious Unlearning for LLMs [99.92305790945507]
  Webからの大量のコーパスに基づいてトレーニングされた大規模な言語モデルは、法的および倫理的懸念を提起する機密データやプライベートデータを再現することができる。 トレーニングデータに存在する情報を忘れるためにモデルをチューニングするアンラーニングは、トレーニング後のプライベートデータを保護する手段を提供する。 未学習の理解を深めるためのベンチマークであるTOFUを紹介する。
  論文  参考訳（メタデータ） (2024-01-11T18:57:12Z)
• Quantifying and Analyzing Entity-level Memorization in Large Language Models [4.59914731734176]
  大規模言語モデル(LLM)は、トレーニングデータを記憶できることが証明されている。 記憶から生じるプライバシーリスクが注目されている。 実世界のシナリオに近い条件やメトリクスで記憶を定量化するための,詳細なエンティティレベルの定義を提案する。
  論文  参考訳（メタデータ） (2023-08-30T03:06:47Z)
• Statistical Knowledge Assessment for Large Language Models [79.07989821512128]
  ファクトイドの問題に関する様々なプロンプトを考慮すれば、大きな言語モデル(LLM)は事実的に正しい答えを確実に生成できるだろうか? LLMの事実知識を評価する統計的手法であるKaRRを提案する。 この結果から,同じバックボーン構造を持つLLMの知識はスケーリング法則に則っており,命令追従データに基づくチューニングは,実際に正しいテキストを確実に生成するモデルの能力を損なう場合があることがわかった。
  論文  参考訳（メタデータ） (2023-05-17T18:54:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。