論文の概要: PANORAMA: A synthetic PII-laced dataset for studying sensitive data memorization in LLMs

• arxiv url: http://arxiv.org/abs/2505.12238v1
• Date: Sun, 18 May 2025 05:27:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.112048
• Title: PANORAMA: A synthetic PII-laced dataset for studying sensitive data memorization in LLMs
• Title（参考訳）: PANORAMA:LLMにおける機密データ記憶の研究のための合成PII-lacedデータセット
• Authors: Sriram Selvam, Anneswa Ghosh,
• Abstract要約: 機密情報と個人識別情報の記憶は プライバシーのリスクを増大させる センシティブなPIIデータを記憶し、緩和戦略を開発するための既存の取り組みは、現実的なデータセットの欠如によって妨げられている。 本稿では,自然主義的オンライン表現と属性記憶分析のためのプロファイルベースのアセンブラであるPANORAMAを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The memorization of sensitive and personally identifiable information (PII) by large language models (LLMs) poses growing privacy risks as models scale and are increasingly deployed in real-world applications. Existing efforts to study sensitive and PII data memorization and develop mitigation strategies are hampered by the absence of comprehensive, realistic, and ethically sourced datasets reflecting the diversity of sensitive information found on the web. We introduce PANORAMA - Profile-based Assemblage for Naturalistic Online Representation and Attribute Memorization Analysis, a large-scale synthetic corpus of 384,789 samples derived from 9,674 synthetic profiles designed to closely emulate the distribution, variety, and context of PII and sensitive data as it naturally occurs in online environments. Our data generation pipeline begins with the construction of internally consistent, multi-attribute human profiles using constrained selection to reflect real-world demographics such as education, health attributes, financial status, etc. Using a combination of zero-shot prompting and OpenAI o3-mini, we generate diverse content types - including wiki-style articles, social media posts, forum discussions, online reviews, comments, and marketplace listings - each embedding realistic, contextually appropriate PII and other sensitive information. We validate the utility of PANORAMA by fine-tuning the Mistral-7B model on 1x, 5x, 10x, and 25x data replication rates with a subset of data and measure PII memorization rates - revealing not only consistent increases with repetition but also variation across content types, highlighting PANORAMA's ability to model how memorization risks differ by context. Our dataset and code are publicly available, providing a much-needed resource for privacy risk assessment, model auditing, and the development of privacy-preserving LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)による機密かつ個人識別可能な情報(PII)の記憶は、モデルがスケールするにつれてプライバシーリスクが増大し、現実のアプリケーションにますますデプロイされる。 機密情報やPIIデータを記憶し、緩和戦略を開発するための既存の取り組みは、Web上の機密情報の多様性を反映した包括的で現実的で倫理的なデータセットが欠如していることによって妨げられている。 オンライン環境において自然に発生するPIIおよび機密データの分布,多様性,コンテキストを密にエミュレートするように設計された,9,674個の合成プロファイルから得られた384,789個の大規模合成コーパスである。 私たちのデータ生成パイプラインは、教育、健康属性、財務状況などの現実世界の人口動態を反映する制約付き選択を使用して、内部的に一貫性のあるマルチ属性の人的プロファイルの構築から始まります。 ゼロショットプロンプトとOpenAI o3-miniを組み合わせることで、wikiスタイルの記事、ソーシャルメディア投稿、フォーラムディスカッション、オンラインレビュー、コメント、マーケットプレイスリストなど、さまざまなコンテンツタイプを生成します。 1x,5x,10x,25xのデータ複製率を1x,5x,10x,25xのデータ複製率で微調整し,PII記憶率を測定することでPANORAMAの有用性を検証する。 当社のデータセットとコードは公開されており、プライバシリスク評価、モデル監査、プライバシ保護 LLM の開発のための、待望のリソースを提供しています。

関連論文リスト

• SafeSynthDP: Leveraging Large Language Models for Privacy-Preserving Synthetic Data Generation Using Differential Privacy [0.0]
  差分プライバシー(DP)機構を用いた合成データセットを生成するための大規模言語モデル(Ms)の能力について検討する。 提案手法では,ラプラス分布やガウス分布を含むDPベースのノイズ注入法をデータ生成プロセスに組み込む。 次に、これらのDP強化合成データセットの有用性を、トレーニングされたMLモデルの性能と、元のデータでトレーニングされたモデルとを比較して評価する。
  論文  参考訳（メタデータ） (2024-12-30T01:10:10Z)
• Tabular Data Synthesis with Differential Privacy: A Survey [24.500349285858597]
  データ共有はコラボレーティブなイノベーションの前提条件であり、さまざまなデータセットを活用して深い洞察を得ることを可能にします。 データ合成は、実際のデータの統計特性を保存する人工データセットを生成することで、この問題に対処する。 プライバシーに配慮したデータ共有に対する、有望なアプローチとして、異なるプライベートなデータ合成が登場している。
  論文  参考訳（メタデータ） (2024-11-04T06:32:48Z)
• KIPPS: Knowledge infusion in Privacy Preserving Synthetic Data Generation [0.0]
  生成的ディープラーニングモデルは、ドメイン制約のある離散的および非ガウス的特徴をモデル化するのに苦労する。 生成モデルは、プライバシーリスクであるセンシティブな機能を繰り返す合成データを生成する。 本稿では,知識グラフから知識グラフにドメインと規則的知識を注入する新しいモデルKIPPSを提案する。
  論文  参考訳（メタデータ） (2024-09-25T19:50:03Z)
• Generated Data with Fake Privacy: Hidden Dangers of Fine-tuning Large Language Models on Generated Data [18.984529269623135]
  本研究では,生成データによる微調整が真のプライバシ向上に寄与するか,新たなプライバシリスクを導入するかを検討する。 プライバシリスクを測定するために、Pythia Model SuiteとOpen Pre-trained Transformerを使用します。
  論文  参考訳（メタデータ） (2024-09-12T10:14:12Z)
• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  テキストの匿名化は、プライバシーを維持しながら機密データを共有するために重要である。 既存の技術は、大規模言語モデルの再識別攻撃能力の新たな課題に直面している。 本稿では,3つのLCMベースコンポーネント – プライバシ評価器,ユーティリティ評価器,最適化コンポーネント – で構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• FewFedPIT: Towards Privacy-preserving and Few-shot Federated Instruction Tuning [54.26614091429253]
  フェデレーション・インストラクション・チューニング(FedIT)は、複数のデータ所有者間で協調的なトレーニングを統合することで、有望なソリューションである。 FedITは、インストラクショナルデータの不足や、トレーニングデータ抽出攻撃への露出リスクなどの制限に直面している。 本稿では,FewFedPITを提案する。このFewFedPITは,フェデレートされた数ショット学習のプライバシー保護とモデル性能を同時に向上する。
  論文  参考訳（メタデータ） (2024-03-10T08:41:22Z)
• PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
  コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。 我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。 特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
  論文  参考訳（メタデータ） (2023-10-03T22:37:01Z)
• Style-Hallucinated Dual Consistency Learning for Domain Generalized Semantic Segmentation [117.3856882511919]
  本稿では、ドメインシフトを処理するためのStyle-HAllucinated Dual consistEncy Learning(SHADE)フレームワークを提案する。 SHADEは3つの実世界のデータセットの平均mIoUに対して5.07%と8.35%の精度で改善し、最先端の手法よりも優れています。
  論文  参考訳（メタデータ） (2022-04-06T02:49:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。