論文の概要: Thinking Outside of the Differential Privacy Box: A Case Study in Text Privatization with Language Model Prompting
- arxiv url: http://arxiv.org/abs/2410.00751v1
- Date: Tue, 1 Oct 2024 14:46:15 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-05 04:05:38.997162
- Title: Thinking Outside of the Differential Privacy Box: A Case Study in Text Privatization with Language Model Prompting
- Title（参考訳）: 差別化プライバシボックスの外部を考える:言語モデルプロンプトによるテキストプライバタイズを事例として
- Authors: Stephen Meisenbacher, Florian Matthes,
- Abstract要約: 我々は、差別化プライバシ(DP)統合が課す制約について議論するとともに、そのような制限がもたらす課題を明らかにします。
以上の結果から,NLPにおけるDPのユーザビリティと非DPアプローチに対するメリットについて,さらなる議論の必要性が示唆された。
- 参考スコア（独自算出の注目度）: 3.3916160303055567
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The field of privacy-preserving Natural Language Processing has risen in popularity, particularly at a time when concerns about privacy grow with the proliferation of Large Language Models. One solution consistently appearing in recent literature has been the integration of Differential Privacy (DP) into NLP techniques. In this paper, we take these approaches into critical view, discussing the restrictions that DP integration imposes, as well as bring to light the challenges that such restrictions entail. To accomplish this, we focus on $\textbf{DP-Prompt}$, a recent method for text privatization leveraging language models to rewrite texts. In particular, we explore this rewriting task in multiple scenarios, both with DP and without DP. To drive the discussion on the merits of DP in NLP, we conduct empirical utility and privacy experiments. Our results demonstrate the need for more discussion on the usability of DP in NLP and its benefits over non-DP approaches.
- Abstract（参考訳）: プライバシを保存する自然言語処理の分野は、特に大規模言語モデルの普及に伴うプライバシへの懸念が高まった時代に、人気が高まっている。
最近の文献に一貫して現れる解決策の1つは、差分プライバシー(DP)とNLP技術の統合である。
本稿では、これらのアプローチを批判的に捉え、DP統合が課す制約について議論するとともに、そのような制限がもたらす課題を明らかにする。
そこで本研究では,テキストの書き直しに言語モデルを活用したテキスト民営化手法である$\textbf{DP-Prompt}$に着目した。
特に,DPの有無にかかわらず,複数のシナリオでこの書き換え作業について検討する。
NLPにおけるDPのメリットに関する議論を進めるため、実証的なユーティリティとプライバシの実験を行う。
以上の結果から,NLPにおけるDPのユーザビリティと非DPアプローチに対するメリットについて,さらなる議論の必要性が示唆された。
関連論文リスト
- On the Impact of Noise in Differentially Private Text Rewriting [3.0177210416625124]
そこで本稿では,DPテキストの書き直しにおけるノイズの影響を探索するために,新たな文埋込民営化手法を提案する。
実用性保護において非DP民営化技術が優れていることを実証的に示すとともに,実証的プライバシ保護においてDP手法を上回りつつも,許容可能な実証的プライバシユーティリティトレードオフを見出すことができることを示す。
論文 参考訳（メタデータ） (2025-01-31T10:45:24Z) - Natural Language Processing of Privacy Policies: A Survey [2.4058538793689497]
NLPとプライバシポリシの交差点で109の論文を分析して文献レビューを行う。
プライバシーポリシーを簡潔に紹介し、関連する諸問題について論じる。
堅牢なプライバシポリシを提供するために、さらに拡張可能な方法論を特定します。
論文 参考訳（メタデータ） (2025-01-17T17:47:15Z) - Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。
ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
論文 参考訳（メタデータ） (2024-06-20T13:54:32Z) - Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。
我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2023-10-27T04:15:30Z) - PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。
我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。
特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
論文 参考訳（メタデータ） (2023-10-03T22:37:01Z) - DP-BART for Privatized Text Rewriting under Local Differential Privacy [2.45626162429986]
本稿では,既存の LDP システムに大きく勝る新システム "DP-BART" を提案する。
提案手法では,新たなクリッピング手法,反復的プルーニング,およびDP保証に必要なノイズを劇的に低減する内部表現の訓練を用いる。
論文 参考訳（メタデータ） (2023-02-15T13:07:34Z) - Differentially Private Natural Language Models: Recent Advances and
Future Directions [25.6006170131504]
微分プライバシー(DP)は、プライベートデータ分析のデファクト技術になりつつある。
本稿では,NLPにおけるDP深層学習モデルの最近の進歩を,初めて体系的に検討する。
論文 参考訳（メタデータ） (2023-01-22T12:29:03Z) - PLUE: Language Understanding Evaluation Benchmark for Privacy Policies
in English [77.79102359580702]
プライバシポリシ言語理解評価ベンチマークは,プライバシポリシ言語理解を評価するマルチタスクベンチマークである。
また、プライバシポリシの大規模なコーパスを収集し、プライバシポリシドメイン固有の言語モデル事前トレーニングを可能にします。
ドメイン固有の連続的な事前トレーニングは、すべてのタスクでパフォーマンスを改善することを実証します。
論文 参考訳（メタデータ） (2022-12-20T05:58:32Z) - Privacy Amplification via Shuffling for Linear Contextual Bandits [51.94904361874446]
ディファレンシャルプライバシ(DP)を用いた文脈線形バンディット問題について検討する。
プライバシのシャッフルモデルを利用して,JDP と LDP のプライバシ/ユーティリティトレードオフを実現することができることを示す。
以上の結果から,ローカルプライバシを保ちながらシャッフルモデルを活用することで,JDPとDPのトレードオフを得ることが可能であることが示唆された。
論文 参考訳（メタデータ） (2021-12-11T15:23:28Z) - Differentially Private Representation for NLP: Formal Guarantee and An
Empirical Study on Privacy and Fairness [38.90014773292902]
深層モデルで学習した隠れ表現が、入力のプライベート情報を符号化できることが示されている。
テキストから抽出した表現のプライバシを保護するために,DPNR(differially Private Neural Representation)を提案する。
論文 参考訳（メタデータ） (2020-10-03T05:58:32Z) - Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。
まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。
そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2020-09-18T20:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。