論文の概要: Urania: Differentially Private Insights into AI Use
- arxiv url: http://arxiv.org/abs/2506.04681v1
- Date: Thu, 05 Jun 2025 07:00:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-06 21:53:49.569884
- Title: Urania: Differentially Private Insights into AI Use
- Title（参考訳）: ウラニア:AI利用に関する異なる私的視点
- Authors: Daogao Liu, Edith Cohen, Badih Ghazi, Peter Kairouz, Pritish Kamath, Alexander Knop, Ravi Kumar, Pasin Manurangsi, Adam Sealfon, Da Yu, Chiyuan Zhang,
- Abstract要約: $Urania$は、クラスタリング、パーティション選択、ヒストグラムベースの要約といったDPツールを活用することによって、エンドツーエンドのプライバシ保護を提供する。
結果は、厳密なユーザのプライバシを維持しながら、意味のある会話の洞察を抽出するフレームワークの能力を示している。
- 参考スコア（独自算出の注目度）: 104.7449031243196
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce $Urania$, a novel framework for generating insights about LLM chatbot interactions with rigorous differential privacy (DP) guarantees. The framework employs a private clustering mechanism and innovative keyword extraction methods, including frequency-based, TF-IDF-based, and LLM-guided approaches. By leveraging DP tools such as clustering, partition selection, and histogram-based summarization, $Urania$ provides end-to-end privacy protection. Our evaluation assesses lexical and semantic content preservation, pair similarity, and LLM-based metrics, benchmarking against a non-private Clio-inspired pipeline (Tamkin et al., 2024). Moreover, we develop a simple empirical privacy evaluation that demonstrates the enhanced robustness of our DP pipeline. The results show the framework's ability to extract meaningful conversational insights while maintaining stringent user privacy, effectively balancing data utility with privacy preservation.
- Abstract（参考訳）: 我々は、厳格な差分プライバシー(DP)保証とLLMチャットボットのインタラクションに関する洞察を生み出すための新しいフレームワークである$Urania$を紹介した。
このフレームワークは、周波数ベース、TF-IDFベース、LLM誘導アプローチを含む、プライベートクラスタリング機構と革新的なキーワード抽出手法を採用している。
クラスタリング、パーティション選択、ヒストグラムベースの要約といったDPツールを活用することで、$Urania$はエンドツーエンドのプライバシ保護を提供する。
筆者らは,非プライベートなClioにインスパイアされたパイプライン(Tamkin et al , 2024)に対して,語彙的および意味的コンテンツ保存,ペア類似性,およびLLMに基づくメトリクスを評価した。
さらに,DPパイプラインの堅牢性向上を実証する,シンプルな経験的プライバシ評価法を開発した。
以上の結果から,データユーティリティとプライバシ保護のバランスを効果的に保ちながら,会話上の意味のある洞察を抽出する能力を示す。
関連論文リスト
- Privacy-Preserving Dynamic Assortment Selection [4.399892832075127]
本稿では,マルチノミアルロジット(MNL)バンドレートモデルを用いて,プライバシ保護のための動的アソシエーション選択のための新しいフレームワークを提案する。
弊社のアプローチでは、ノイズをユーザユーティリティ推定に統合し、探索とエクスプロイトのバランスを保ちつつ、堅牢なプライバシー保護を確保している。
論文 参考訳（メタデータ） (2024-10-29T19:28:01Z) - Convergent Differential Privacy Analysis for General Federated Learning: the $f$-DP Perspective [57.35402286842029]
フェデレートラーニング(Federated Learning, FL)は、ローカルプライバシを重視した効率的な協調トレーニングパラダイムである。
ディファレンシャルプライバシ(DP)は、私的保護の信頼性を捕捉し、保証するための古典的なアプローチである。
論文 参考訳（メタデータ） (2024-08-28T08:22:21Z) - A Framework for Managing Multifaceted Privacy Leakage While Optimizing Utility in Continuous LBS Interactions [0.0]
我々は,LBSにおけるプライバシー漏洩の理解と管理の促進を目的とした,新しいコントリビューションをいくつか提示する。
私たちのコントリビューションは、位置情報ベースのインタラクションのさまざまな側面にわたるプライバシー上の懸念を分析するための、より包括的なフレームワークを提供します。
論文 参考訳（メタデータ） (2024-04-20T15:20:01Z) - Safeguarding Data in Multimodal AI: A Differentially Private Approach to
CLIP Training [15.928338716118697]
本稿では,コントラスト言語-画像事前学習(CLIP)モデルの個人適応について紹介する。
提案手法であるDp-CLIPをベンチマークデータを用いて厳密に評価する。
論文 参考訳（メタデータ） (2023-06-13T23:32:09Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳（メタデータ） (2023-04-17T00:38:01Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳（メタデータ） (2023-02-19T16:58:53Z) - Federated Deep Learning with Bayesian Privacy [28.99404058773532]
フェデレートラーニング(FL)は、ユーザ間でプライベートデータを共有せずにモデルを協調的に学習することで、データのプライバシを保護することを目的としている。
ホモモルフィック暗号化(HE)ベースの手法は、セキュアなプライバシ保護を提供するが、非常に高い計算と通信のオーバーヘッドに悩まされる。
差分プライバシ(DP)を用いたディープラーニングは,複雑な管理コストで実践的な学習アルゴリズムとして実装された。
論文 参考訳（メタデータ） (2021-09-27T12:48:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。