論文の概要: Distributed and Private Textual Data Synthesis from Embeddings
- arxiv url: http://arxiv.org/abs/2609.10104v2
- Date: Thu, 17 Sep 2026 07:49:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.367633
- Title: Distributed and Private Textual Data Synthesis from Embeddings
- Title（参考訳）: 埋め込みによる分散的およびプライベートなテキストデータ合成
- Abstract要約: 我々は分散ユーザの現実的な設定において、差分的プライベート(DP)テキスト合成を再考する。
本稿では,信頼性のあるキュレータを必要とせず,軽量なユーザ参加しか必要としないテキストデータ合成のためのDP-cryptography共設計を提案する。
- 参考スコア（独自算出の注目度）: 24.458737633071177
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We revisit differentially private (DP) text synthesis in the realistic setting of distributed users, where privacy concerns preclude a trusted curator with access to raw user texts. Existing DP text synthesis pipelines are designed for a trusted, centralized curator and often cannot be deployed in distributed settings due to unrealistic trust and access assumptions; when adapted naively, they require repeated, tightly synchronized user participation and incur significant overhead. To address this gap, we propose a DP--cryptography co-design for textual data synthesis that requires no trusted curator and requires only lightweight user participation. Our approach has two optimized components. First, we design a distributed-friendly DP synthesis algorithm that releases a one-time DP summary in an embedding space: it identifies frequent semantic regions and releases their DP centroids, enabling training-free, non-iterative offline text synthesis. We further introduce semantic support protection, which ensures the released summary avoids semantic neighborhoods of infrequent texts, reducing the risk of exposing rare user data. Second, we develop a custom secure protocol that implements this algorithm over distributed user data, enforcing end-to-end DP guarantees without requiring a trusted curator. On four benchmarks, we achieve utility comparable to the state-of-the-art centralized DP synthesis method.
- Abstract（参考訳）: 我々は,分散ユーザを現実的に設定した上で,DPテキスト合成を再考し,プライバシに関する懸念から,信頼されたキュレーターが生のユーザテキストにアクセスできないようにした。
既存のDPテキスト合成パイプラインは信頼性が高く集中的なキュレーター用に設計されており、非現実的な信頼とアクセスの前提のために分散環境にデプロイできないことが多い。
このギャップに対処するために,信頼性のあるキュレータを必要とせず,軽量なユーザ参加しか必要としないテキストデータ合成のためのDP-cryptography共設計を提案する。
このアプローチには2つの最適化されたコンポーネントがあります。
まず,頻度の高いセマンティック領域を識別し,DPセントロイドを解放し,トレーニング不要で非定型なオフラインテキスト合成を可能にする,分散フレンドリなDP合成アルゴリズムを設計する。
さらにセマンティック・サポート・プロテクションを導入し、リリースした要約が頻繁なテキストのセマンティック・エリアを回避し、希少なユーザデータを露出するリスクを低減する。
第2に、このアルゴリズムを分散ユーザデータ上に実装するカスタムセキュアプロトコルを開発し、信頼できるキュレーターを必要とせず、エンドツーエンドのDP保証を強制する。
4つのベンチマークで、最先端の集中型DP合成法に匹敵する実用性を実現する。
関連論文リスト
- Resource-Adaptive Federated Text Generation with Differential Privacy [3.7397653111851814]
差分的プライベート(DP)合成データセットは、グローバルな分布を近似し、タスク間で再利用することができる。
クライアントの能力に適応するフレキシブルな参加フレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-07T04:11:58Z) - DP-RFT: Learning to Generate Synthetic Text via Differentially Private Reinforcement Fine-Tuning [51.35628297101575]
差分的プライベート(DP)合成データ生成は,個人データ上での大規模言語モデル(LLM)の開発において重要な役割を担っている。
LLMを用いた合成データ生成のためのオンライン強化学習アルゴリズムDP-RFTを導入する。
DP-RFTは,ニュース記事や会議録,医療記事の要約など,長文およびドメイン固有の合成データ生成に有用である。
論文 参考訳（メタデータ） (2026-02-20T22:03:56Z) - How to DP-fy Your Data: A Practical Guide to Generating Synthetic Data With Differential Privacy [52.00934156883483]
Differential Privacy(DP)は、情報漏洩を推論し、制限するフレームワークである。
Differentially Private Synthetic Dataは、ソースデータの全体的なトレンドを保存する合成データを指す。
論文 参考訳（メタデータ） (2025-12-02T21:14:39Z) - ACTG-ARL: Differentially Private Conditional Text Generation with RL-Boosted Control [32.134629766747466]
本稿では,DP合成テキスト生成を特徴学習と条件テキスト生成という2つのサブタスクに分解する階層的フレームワークを提案する。
条件生成のためのACTGの指示追従能力を向上させる後学習法であるAnchored RL(ARL)を提案する。
ARLは、RLとSFTアンカーをベスト・オブ・N$のデータで組み合わせて、報酬のハッキングを防ぐ。
論文 参考訳（メタデータ） (2025-10-21T02:31:31Z) - Leveraging Semantic Triples for Private Document Generation with Local Differential Privacy Guarantees [18.487751624471777]
DP-STは,局所的なDP保証の下で,近距離対応の私文書生成にセマンティック・トリプルを利用する。
本手法は,プライバシとユーティリティのバランスを保ちながら,バレプシロンの低い値でもコヒーレントなテキスト生成を可能にする。
論文 参考訳（メタデータ） (2025-08-28T12:59:01Z) - Granularity is crucial when applying differential privacy to text: An investigation for neural machine translation [13.692397169805806]
差分プライバシー(DP)は、NLPでますます人気が高まっている。
DPが適用される粒度の選択はしばしば無視される。
以上の結果から, 文書レベルのNMTシステムは, メンバーシップ推論攻撃に対する耐性が高いことが示唆された。
論文 参考訳（メタデータ） (2024-07-26T14:52:37Z) - Enhanced Privacy Bound for Shuffle Model with Personalized Privacy [32.08637708405314]
Differential Privacy(DP)は、ローカルユーザと中央データキュレーターの間の中間信頼サーバを導入する、強化されたプライバシプロトコルである。
これは、局所的にランダム化されたデータを匿名化しシャッフルすることで、中央のDP保証を著しく増幅する。
この研究は、各ユーザーごとにパーソナライズされたローカルプライバシを必要とする、より実践的な設定のために、中央のプライバシ境界を導出することに焦点を当てている。
論文 参考訳（メタデータ） (2024-07-25T16:11:56Z) - Provable Privacy with Non-Private Pre-Processing [56.770023668379615]
非プライベートなデータ依存前処理アルゴリズムによって生じる追加のプライバシーコストを評価するための一般的なフレームワークを提案する。
当社のフレームワークは,2つの新しい技術的概念を活用することにより,全体的なプライバシー保証の上限を確立する。
論文 参考訳（メタデータ） (2024-03-19T17:54:49Z) - Differentially Private Synthetic Data via Foundation Model APIs 2: Text [56.13240830670327]
現実世界で生成された高品質なテキストデータはプライベートであり、プライバシー上の懸念から自由に共有したり、利用したりすることはできない。
テキストの複雑な設定に適用可能な拡張PEアルゴリズムであるAug-PEを提案する。
その結果, Aug-PE は SOTA DP の微調整ベースラインと競合する DP 合成テキストを生成することがわかった。
論文 参考訳（メタデータ） (2024-03-04T05:57:50Z) - Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。
プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。
以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
論文 参考訳（メタデータ） (2021-12-11T15:23:28Z) - Differentially Private Federated Bayesian Optimization with Distributed
Exploration [48.9049546219643]
我々は、DPを反復アルゴリズムに追加するための一般的なフレームワークを通じて、ディープニューラルネットワークのトレーニングに差分プライバシ(DP)を導入する。
DP-FTS-DEは高い実用性(競争性能)と高いプライバシー保証を実現する。
また,DP-FTS-DEがプライバシとユーティリティのトレードオフを引き起こすことを示すために,実世界の実験も行っている。
論文 参考訳（メタデータ） (2021-10-27T04:11:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。