論文の概要: On the Utility Gain of Iterative Bayesian Update for Locally
Differentially Private Mechanisms
- arxiv url: http://arxiv.org/abs/2307.07744v1
- Date: Sat, 15 Jul 2023 08:40:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-18 18:09:11.806432
- Title: On the Utility Gain of Iterative Bayesian Update for Locally
Differentially Private Mechanisms
- Title(参考訳): 局所微分的プライベート機構に対する反復ベイズ更新の有用性について
- Authors: H\'eber H. Arcolezi and Selene Cerna and Catuscia Palamidessi
- Abstract要約: 局所微分プライベート (LDP) 機構で隠蔽されたデータを用いて, プライベートな離散分布推定にイテレーティブベイズ更新 (IBU) を用いる。
IBU と Matrix Inversion (MI) の性能を比較し,複数のデータ収集のために設計された 7 つの LDP 機構と 7 つの LDP 機構を比較した。
以上の結果から,IBUは,追加のプライバシコストを伴わずに,異なるシナリオにおけるLPPメカニズムの有用性を向上させる上で有用な後処理ツールである可能性が示唆された。
- 参考スコア(独自算出の注目度): 4.525735598810446
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper investigates the utility gain of using Iterative Bayesian Update
(IBU) for private discrete distribution estimation using data obfuscated with
Locally Differentially Private (LDP) mechanisms. We compare the performance of
IBU to Matrix Inversion (MI), a standard estimation technique, for seven LDP
mechanisms designed for one-time data collection and for other seven LDP
mechanisms designed for multiple data collections (e.g., RAPPOR). To broaden
the scope of our study, we also varied the utility metric, the number of users
n, the domain size k, and the privacy parameter {\epsilon}, using both
synthetic and real-world data. Our results suggest that IBU can be a useful
post-processing tool for improving the utility of LDP mechanisms in different
scenarios without any additional privacy cost. For instance, our experiments
show that IBU can provide better utility than MI, especially in high privacy
regimes (i.e., when {\epsilon} is small). Our paper provides insights for
practitioners to use IBU in conjunction with existing LDP mechanisms for more
accurate and privacy-preserving data analysis. Finally, we implemented IBU for
all fourteen LDP mechanisms into the state-of-the-art multi-freq-ldpy Python
package (https://pypi.org/project/multi-freq-ldpy/) and open-sourced all our
code used for the experiments as tutorials.
- Abstract(参考訳): 本稿では, 局所微分プライベート (LDP) 機構を使用せず, 個別分布推定にイテレーティブベイズ更新 (IBU) を用いる場合の有用性について検討する。
IBU と Matrix Inversion (MI) の性能を比較し,1回のデータ収集用に設計された 7 つの LDP 機構と,複数のデータ収集用に設計された 7 つの LDP 機構 (例えば RAPPOR) を比較した。
また,本研究の範囲を広げるために,実世界のデータと実世界のデータを用いて,実用性指標,ユーザ数n,ドメインサイズk,プライバシパラメータ {\epsilon} を変化させた。
以上の結果から, IBUは, 追加のプライバシコストを伴わずに, 異なるシナリオにおけるLPPメカニズムの有用性を向上させる上で有用な後処理ツールである可能性が示唆された。
例えば、我々の実験では、IBUはMIよりも優れたユーティリティを提供し、特に高いプライバシー体制(例えば、 {\epsilon} が小さいとき)で実現可能であることが示されています。
本稿は,IBUと既存のLPP機構を併用して,より正確かつプライバシー保護的なデータ分析を行うための知見を提供する。
最後に14のldpメカニズムをすべて、最先端のマルチfreq-ldpy pythonパッケージ(https://pypi.org/project/multi-freq-ldpy/)に実装しました。
関連論文リスト
- Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳(メタデータ) (2024-03-07T21:22:07Z) - Differentially Private Synthetic Data via Foundation Model APIs 2: Text [57.64059482750924]
現実世界で生成された高品質なテキストデータはプライベートであり、プライバシー上の懸念から自由に共有したり、利用したりすることはできない。
テキストの複雑な設定に適用可能な拡張PEアルゴリズムであるAug-PEを提案する。
その結果, Aug-PE は SOTA DP の微調整ベースラインと競合する DP 合成テキストを生成することがわかった。
論文 参考訳(メタデータ) (2024-03-04T05:57:50Z) - Self-Play Fine-Tuning Converts Weak Language Models to Strong Language
Models [56.84735912476625]
本稿では,SPIN(Self-Play fIne-tuNing)と呼ばれるファインチューニング手法を提案する。
SPINの中心には自己再生機構があり、LLMは自身のインスタンスと対戦することでその能力を洗練させる。
このことは、自己プレイの約束に光を当て、熟練した相手を必要とせずに、LSMにおける人間レベルのパフォーマンスの達成を可能にする。
論文 参考訳(メタデータ) (2024-01-02T18:53:13Z) - QMGeo: Differentially Private Federated Learning via Stochastic
Quantization with Mixed Truncated Geometric Distribution [1.8492669447784602]
Federated Learning(FL)は、複数のユーザがグローバル機械学習(ML)モデルを共同でトレーニングできるフレームワークである。
このような分散フレームワークの重要な動機の1つは、ユーザにプライバシ保証を提供することである。
本稿では,DPを提供するのに必要なランダム性を導入するために,混合幾何分布を用いた新しい量子化法を提案する。
論文 参考訳(メタデータ) (2023-12-10T04:44:53Z) - Probing the Transition to Dataset-Level Privacy in ML Models Using an
Output-Specific and Data-Resolved Privacy Profile [23.05994842923702]
差分プライバシーメカニズムを用いてデータセットでトレーニングされたモデルが、近隣のデータセットでトレーニングされた結果の分布によってカバーされる範囲を定量化するプライバシー指標について検討する。
プライバシプロファイルは、近隣のディストリビューションで発生する不明瞭性への観察された遷移を、$epsilon$の減少として調査するために使用できることを示す。
論文 参考訳(メタデータ) (2023-06-27T20:39:07Z) - Multi-Epoch Matrix Factorization Mechanisms for Private Machine Learning [18.55306294638515]
本稿では,複数のパス(エポック)をデータセット上に配置した計算ベース機械学習(ML)のための新たなDP機構を提案する。
適応ストリームに複数参加するDP機構の問題を形式化し、オンライン行列分解DP機構の非自明な拡張を導入する。
論文 参考訳(メタデータ) (2022-11-12T00:41:11Z) - Optimal Membership Inference Bounds for Adaptive Composition of Sampled
Gaussian Mechanisms [93.44378960676897]
トレーニングされたモデルとデータサンプルが与えられた場合、メンバシップ推論(MI)アタックは、サンプルがモデルのトレーニングセットにあるかどうかを予測する。
MI攻撃に対する一般的な対策は、モデルトレーニング中に差分プライバシー(DP)を利用して個々の事例の存在を隠蔽することである。
本稿では,MI攻撃を装着した相手のテキスト・アドバンテージのバウンダリを導出し,広く利用されているガウス機構の厳密性を示す。
論文 参考訳(メタデータ) (2022-04-12T22:36:56Z) - Production of Categorical Data Verifying Differential Privacy:
Conception and Applications to Machine Learning [0.0]
差別化プライバシは、プライバシとユーティリティのトレードオフの定量化を可能にする正式な定義である。
ローカルDP(LDP)モデルでは、ユーザはデータをサーバに送信する前に、ローカルにデータをサニタイズすることができる。
いずれの場合も、微分プライベートなMLモデルは、非プライベートなモデルとほぼ同じユーティリティメトリクスを達成できると結論付けました。
論文 参考訳(メタデータ) (2022-04-02T12:50:14Z) - Differentially Private Federated Bayesian Optimization with Distributed
Exploration [48.9049546219643]
我々は、DPを反復アルゴリズムに追加するための一般的なフレームワークを通じて、ディープニューラルネットワークのトレーニングに差分プライバシ(DP)を導入する。
DP-FTS-DEは高い実用性(競争性能)と高いプライバシー保証を実現する。
また,DP-FTS-DEがプライバシとユーティリティのトレードオフを引き起こすことを示すために,実世界の実験も行っている。
論文 参考訳(メタデータ) (2021-10-27T04:11:06Z) - Lossless Compression of Efficient Private Local Randomizers [55.657133416044104]
Locally Differentially Private (LDP) Reportsは、フェデレーション設定における統計と機械学習の収集に一般的に使用されます。
多くの場合、最もよく知られたldpアルゴリズムは、クライアントデバイスからサーバに強制的に大きなメッセージを送信する必要がある。
これにより、LDPアルゴリズムの通信コストの削減に大きく貢献しています。
論文 参考訳(メタデータ) (2021-02-24T07:04:30Z) - Locality Sensitive Hashing with Extended Differential Privacy [4.328040096675791]
拡張差分プライバシーは、一般的な計量を用いた標準差分プライバシーの一般化である。
拡張DPに関する既存の研究は、ユークリッド計量のようないくつかの指標に限られている。
角距離が拡張されたDPを提供する2つのメカニズムを提案する。
論文 参考訳(メタデータ) (2020-10-19T11:30:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。