論文の概要: Statistic Selection and MCMC for Differentially Private Bayesian
Estimation
- arxiv url: http://arxiv.org/abs/2203.13377v1
- Date: Thu, 24 Mar 2022 22:57:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-29 00:53:26.166051
- Title: Statistic Selection and MCMC for Differentially Private Bayesian
Estimation
- Title(参考訳): 微分プライベートベイズ推定のための統計選択とMCMC
- Authors: Baris Alparslan and Sinan Yildirim
- Abstract要約: 本稿では,人口分布のパラメータの個人的ベイズ推定について述べる。
我々は、プライバシー制限の下では、非プライバシ設定で最も有益な統計が最適な選択ではないことに気付きました。
そこで本稿では,モンテカルロをベースとしたいくつかの数値計算手法を提案する。
- 参考スコア(独自算出の注目度): 1.14219428942199
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper concerns differentially private Bayesian estimation of the
parameters of a population distribution, when a statistic of a sample from that
population is shared in noise to provide differential privacy.
This work mainly addresses two problems: (1) What statistic of the sample
should be shared privately? For the first question, i.e., the one about
statistic selection, we promote using the Fisher information. We find out that,
the statistic that is most informative in a non-privacy setting may not be the
optimal choice under the privacy restrictions. We provide several examples to
support that point. We consider several types of data sharing settings and
propose several Monte Carlo-based numerical estimation methods for calculating
the Fisher information for those settings. The second question concerns
inference: (2) Based on the shared statistics, how could we perform effective
Bayesian inference? We propose several Markov chain Monte Carlo (MCMC)
algorithms for sampling from the posterior distribution of the parameter given
the noisy statistic. The proposed MCMC algorithms can be preferred over one
another depending on the problem. For example, when the shared statistics is
additive and added Gaussian noise, a simple Metropolis-Hasting algorithm that
utilizes the central limit theorem is a decent choice. We propose more advanced
MCMC algorithms for several other cases of practical relevance.
Our numerical examples involve comparing several candidate statistics to be
shared privately. For each statistic, we perform Bayesian estimation based on
the posterior distribution conditional on the privatized version of that
statistic. We demonstrate that, the relative performance of a statistic, in
terms of the mean squared error of the Bayesian estimator based on the
corresponding privatized statistic, is adequately predicted by the Fisher
information of the privatized statistic.
- Abstract(参考訳): 本稿では,その個体群から得られたサンプルの統計値が雑音で共有され,差分プライバシーを提供する場合に,個体群分布のパラメータの個人的ベイズ推定を行う。
この研究は主に2つの問題に対処する: 1) サンプルの統計はプライベートに共有されるべきか?
最初の質問、すなわち統計選択に関する質問では、フィッシャー情報の利用を促進する。
非プライバシー設定において最も有益である統計は、プライバシー制限の下では最適な選択ではない可能性がある。
その点を支持するいくつかの例を挙げる。
本稿では,いくつかのデータ共有設定について考察し,これらの設定に対するフィッシャー情報を計算するためのモンテカルロの数値推定法を提案する。
2つ目の疑問は推論である: (2)共有統計に基づいて、どのように効果的なベイズ推論を実行できるのか?
雑音の統計量からパラメータの後方分布からサンプリングするためのマルコフ連鎖モンテカルロ (mcmc) アルゴリズムを提案する。
提案したMCMCアルゴリズムは問題に応じて互いに優先される。
例えば、共有統計が加算されガウス雑音が付加されると、中央極限定理を利用する単純なメトロポリス・ハスティングアルゴリズムが適当に選択される。
本稿では,他のいくつかの実践的関連事例に対して,より高度なMCMCアルゴリズムを提案する。
我々の数値的な例は、プライベートに共有されるいくつかの候補統計を比較することである。
各統計値について,その統計値の民営化版に基づく後方分布条件に基づくベイズ推定を行う。
本研究では,民営化統計に基づくベイズ推定値の平均二乗誤差の観点からの統計の相対的性能を,民営化統計値の漁業情報から適切に予測できることを実証する。
関連論文リスト
- Exact and Efficient Bayesian Inference for Privacy Risk Quantification (Extended Version) [0.0]
Privugは、ソースコードを分析して、データ分析プログラムのプライバシーリスクを定量化する手法である。
推論エンジンはPythonプログラムのサブセット用に実装されている。
公共統計を公開するためのプログラムのプライバシーリスクを分析して評価する。
論文 参考訳(メタデータ) (2023-08-31T13:04:04Z) - Beyond Normal: On the Evaluation of Mutual Information Estimators [52.85079110699378]
そこで本研究では,既知の地道的相互情報を用いて,多種多様な分布群を構築する方法について述べる。
本稿では,問題の難易度に適応した適切な推定器の選択方法について,実践者のためのガイドラインを提供する。
論文 参考訳(メタデータ) (2023-06-19T17:26:34Z) - Private Statistical Estimation of Many Quantiles [0.41232474244672235]
分布とi.d.サンプルへのアクセスが与えられた場合、特定の点における累積分布関数(量子関数)の逆関数の推定について検討する。
本研究は, 差分プライバシー下での多くの統計的定量値の推定について検討する。
論文 参考訳(メタデータ) (2023-02-14T09:59:56Z) - Differentially Private Distributed Bayesian Linear Regression with MCMC [0.966840768820136]
我々は、複数のパーティがデータの一部を保持し、プライバシ保護ノイズにおけるその部分の要約統計を共有できる分散環境について検討する。
線形回帰統計学の要約統計学における有用な分布関係を生かした,個人共用統計学のための新しい生成統計学モデルを構築した。
本研究では,実データとシミュレーションデータの両方について数値計算を行い,提案アルゴリズムが十分に囲む推定と予測を行うことを示す。
論文 参考訳(メタデータ) (2023-01-31T17:27:05Z) - A Bias-Accuracy-Privacy Trilemma for Statistical Estimation [16.365507345447803]
任意の分布に対して,バイアスが低く,エラーが低く,プライバシ損失が低いアルゴリズムは存在しない。
偏りのない平均推定は、より寛容な差分プライバシーの概念の下で可能であることを示す。
論文 参考訳(メタデータ) (2023-01-30T23:40:20Z) - The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。
特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
論文 参考訳(メタデータ) (2022-03-02T13:59:20Z) - Algorithms for Adaptive Experiments that Trade-off Statistical Analysis
with Reward: Combining Uniform Random Assignment and Reward Maximization [50.725191156128645]
トンプソンサンプリングのようなマルチアームバンディットアルゴリズムは適応的な実験を行うのに利用できる。
統計的解析のための一様ランダム化の利点を組み合わせた2つのアルゴリズムを探索する2つのアーム実験のシミュレーションを提案する。
論文 参考訳(メタデータ) (2021-12-15T22:11:58Z) - Universal Off-Policy Evaluation [64.02853483874334]
ユニバーサルオフ政治推定器(UnO)への第一歩を踏み出す
我々は, 平均, 分散, 分位数/中間数, 分位数範囲, cvar, および累積分布全体の推定と同時結合に uno を用いる。
論文 参考訳(メタデータ) (2021-04-26T18:54:31Z) - Statistical Efficiency of Thompson Sampling for Combinatorial
Semi-Bandits [56.31950477139053]
半帯域フィードバック(CMAB)を用いたマルチアームバンディットの検討
我々は Combinatorial Thompson Smpling Policy (CTS) の変種を解析する。
この最終結果は,Y Combinatorial Bandit Policy (ESCB) の効率的なサンプリングに代わるものだ。
論文 参考訳(メタデータ) (2020-06-11T17:12:11Z) - Nonparametric Estimation of the Fisher Information and Its Applications [82.00720226775964]
本稿では,大きさn$のランダムサンプルからフィッシャー情報の位置推定の問題について考察する。
Bhattacharyaにより提案された推定器を再検討し、収束率の向上を導出する。
クリッピング推定器と呼ばれる新しい推定器を提案する。
論文 参考訳(メタデータ) (2020-05-07T17:21:56Z) - Propose, Test, Release: Differentially private estimation with high
probability [9.25177374431812]
我々はPTR機構の新たな一般バージョンを導入し、微分プライベートな推定器に対して高い確率誤差境界を導出する。
我々のアルゴリズムは、データ上の有界性仮定なしで中央値と平均値の差分プライベートな推定を行うための最初の統計的保証を提供する。
論文 参考訳(メタデータ) (2020-02-19T01:29:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。