論文の概要: RL-Finetuned LLMs for Privacy-Preserving Synthetic Rewriting

• arxiv url: http://arxiv.org/abs/2508.19286v1
• Date: Mon, 25 Aug 2025 04:38:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-28 19:07:41.348105
• Title: RL-Finetuned LLMs for Privacy-Preserving Synthetic Rewriting
• Title（参考訳）: プライバシ保存型合成書き換えのためのRL-Finetuned LLM
• Authors: Zhan Shi, Yefeng Yuan, Yuhong Liu, Liang Cheng, Yi Fang,
• Abstract要約: 本稿では,複合報酬関数を用いた大規模言語モデル(LLM)を微調整する強化学習フレームワークを提案する。 プライバシ報酬は、セマンティックキューと、潜伏表現上の最小スパンニングツリー(MST)から派生した構造パターンを組み合わせる。 実験の結果,提案手法はセマンティック品質を劣化させることなく,著者の難読化とプライバシーの指標を大幅に向上させることがわかった。
• 参考スコア（独自算出の注目度）: 17.294176570269
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The performance of modern machine learning systems depends on access to large, high-quality datasets, often sourced from user-generated content or proprietary, domain-specific corpora. However, these rich datasets inherently contain sensitive personal information, raising significant concerns about privacy, data security, and compliance with regulatory frameworks. While conventional anonymization techniques can remove explicit identifiers, such removal may result in performance drop in downstream machine learning tasks. More importantly, simple anonymization may not be effective against inference attacks that exploit implicit signals such as writing style, topical focus, or demographic cues, highlighting the need for more robust privacy safeguards during model training. To address the challenging issue of balancing user privacy and data utility, we propose a reinforcement learning framework that fine-tunes a large language model (LLM) using a composite reward function that jointly optimizes for explicit and implicit privacy, semantic fidelity, and output diversity. To effectively capture population level regularities, the privacy reward combines semantic cues with structural patterns derived from a minimum spanning tree (MST) over latent representations. By modeling these privacy-sensitive signals in their distributional context, the proposed approach guides the model to generate synthetic rewrites that preserve utility while mitigating privacy risks. Empirical results show that the proposed method significantly enhances author obfuscation and privacy metrics without degrading semantic quality, providing a scalable and model-agnostic solution for privacy preserving data generation in the era of large language models.
• Abstract（参考訳）: 現代の機械学習システムの性能は、ユーザ生成コンテンツやドメイン固有のプロプライエタリなコーパスから得られる、大規模で高品質なデータセットへのアクセスに依存する。 しかし、これらのリッチデータセットには本質的に機密性の高い個人情報が含まれており、プライバシ、データセキュリティ、および規制フレームワークへの準拠に関する重大な懸念が提起されている。 従来の匿名化技術は明示的な識別子を削除できるが、そのような除去は下流の機械学習タスクのパフォーマンス低下をもたらす可能性がある。 さらに重要なのは、単純な匿名化は、書き込みスタイルやトピックの焦点、人口統計といった暗黙的なシグナルを利用する推論攻撃に対して効果がなく、モデルトレーニング中により堅牢なプライバシ保護の必要性を強調していることだ。 ユーザプライバシとデータユーティリティのバランスの難しい問題に対処するために,明示的で暗黙的なプライバシ,セマンティック忠実さ,出力多様性を共同で最適化する複合報酬関数を用いて,大規模言語モデル(LLM)を微調整する強化学習フレームワークを提案する。 人口レベルの規則性を効果的に把握するために、プライバシ報酬は、セマンティックキューと、潜伏表現上の最小スパンニングツリー(MST)から派生した構造パターンを組み合わせる。 これらのプライバシに敏感な信号を分布コンテキストでモデル化することにより、プライバシリスクを軽減しつつ、実用性を維持するための合成リライトを生成する。 実験結果から,提案手法は意味的品質を低下させることなく,著者の難読化とプライバシの指標を大幅に向上させ,大規模言語モデルの時代におけるプライバシ保護のためのスケーラブルでモデルに依存しないソリューションを提供することが示された。

関連論文リスト

• Synthetic Data Generation and Differential Privacy using Tensor Networks' Matrix Product States (MPS) [33.032422801043495]
  マトリックス製品状態(MPS)を用いたプライバシー保護のための高品質な合成データ生成手法を提案する。 我々は,MPSベースの生成モデルをCTGAN,VAE,PrivBayesといった最先端モデルと比較した。 以上の結果から,MPSは特に厳格なプライバシー制約の下で,従来のモデルよりも優れていたことが示唆された。
  論文  参考訳（メタデータ） (2025-08-08T12:14:57Z)
• Improving Noise Efficiency in Privacy-preserving Dataset Distillation [59.57846442477106]
  本稿では,最適化からサンプリングを分離してコンバージェンスを向上し,信号品質を向上させる新しいフレームワークを提案する。 CIFAR-10では,従来の最先端手法の蒸留セットサイズを5分の1に減らして,クラス毎50イメージでtextbf10.0%,クラス毎50イメージで textbf8.3%向上した。
  論文  参考訳（メタデータ） (2025-08-03T13:15:52Z)
• SoK: Semantic Privacy in Large Language Models [24.99241770349404]
  本稿では,大規模言語モデル(LLM)の入力処理,事前学習,微調整,アライメント段階におけるセマンティックプライバシリスクを分析するライフサイクル中心のフレームワークを提案する。 我々は、鍵攻撃ベクトルを分類し、差分プライバシー、埋め込み暗号化、エッジコンピューティング、未学習などの現在の防御がこれらの脅威にどのように対処しているかを評価する。 セマンティックリークの定量化、マルチモーダル入力の保護、生成品質との非識別性のバランス、プライバシー保護の透明性確保など、オープンな課題の概要をまとめて結論付けます。
  論文  参考訳（メタデータ） (2025-06-30T08:08:15Z)
• Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
  我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。 FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。 モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
  論文  参考訳（メタデータ） (2025-04-27T04:26:02Z)
• Advancing Personalized Federated Learning: Integrative Approaches with AI for Enhanced Privacy and Customization [0.0]
  本稿では,最先端AI技術を用いてPFLを強化する新しい手法を提案する。 本稿では、個々のクライアントモデルの性能を高め、堅牢なプライバシ保護機構を保証するモデルを提案する。 この研究は、真のパーソナライズされたプライバシを重視したAIシステムの新たな時代への道を開くものだ。
  論文  参考訳（メタデータ） (2025-01-30T07:03:29Z)
• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  機密情報を含む匿名化は、幅広いアプリケーションにとって不可欠である。 既存の技術は、大規模言語モデルの再識別能力の新たな課題に直面している。 本稿では,プライバシ評価器,ユーティリティ評価器,最適化コンポーネントの3つの重要なコンポーネントで構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
  コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。 我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。 特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
  論文  参考訳（メタデータ） (2023-10-03T22:37:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。