論文の概要: DP-SEP! Differentially Private Stochastic Expectation Propagation
- arxiv url: http://arxiv.org/abs/2111.13219v1
- Date: Thu, 25 Nov 2021 18:59:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 15:22:40.548532
- Title: DP-SEP! Differentially Private Stochastic Expectation Propagation
- Title(参考訳): DP-SEP!
微分的にプライベートな確率的期待伝播
- Authors: Margarita Vinaroz and Mijung Park
- Abstract要約: 我々は、期待伝播(EP)と呼ばれる近似後部推論アルゴリズムの民営化に興味を持っている。
EPは局所確率に対する近似を反復的に精錬することによって後部を近似し、変動推論(VI)によりそれよりも後部不確実性をもたらすことが知られている。
この問題を解決するために, 予測伝播 (SEP) が提案され, それぞれの確率項から後部への平均効果を捉え, EPに類似した方法で精製する特異な局所因子のみを考察した。
- 参考スコア(独自算出の注目度): 6.662800021628275
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We are interested in privatizing an approximate posterior inference algorithm
called Expectation Propagation (EP). EP approximates the posterior by
iteratively refining approximations to the local likelihoods, and is known to
provide better posterior uncertainties than those by variational inference
(VI). However, using EP for large-scale datasets imposes a challenge in terms
of memory requirements as it needs to maintain each of the local approximates
in memory. To overcome this problem, stochastic expectation propagation (SEP)
was proposed, which only considers a unique local factor that captures the
average effect of each likelihood term to the posterior and refines it in a way
analogous to EP. In terms of privacy, SEP is more tractable than EP because at
each refining step of a factor, the remaining factors are fixed to the same
value and do not depend on other datapoints as in EP, which makes the
sensitivity analysis tractable. We provide a theoretical analysis of the
privacy-accuracy trade-off in the posterior estimates under differentially
private stochastic expectation propagation (DP-SEP). Furthermore, we
demonstrate the performance of our DP-SEP algorithm evaluated on both synthetic
and real-world datasets in terms of the quality of posterior estimates at
different levels of guaranteed privacy.
- Abstract(参考訳): 我々は、期待伝搬(EP)と呼ばれる近似後部推論アルゴリズムの民営化に興味がある。
EPは局所確率に対する近似を反復的に精製することによって後部を近似し、変分推論(VI)によりそれよりも後部不確実性を与えることが知られている。
しかし、大規模なデータセットにEPを使用することは、メモリ内の各局所的な近似を維持する必要があるため、メモリ要求の観点からは困難である。
この問題を解決するために、確率予測伝播(SEP)が提案され、これは各確率項の後方への平均効果を捉えてEPに類似した方法で洗練するユニークな局所因子である。
プライバシの面では、SEPはEPよりもトラクタブルである。要因の精製の各ステップでは、残りの要素が同じ値に固定され、EPのような他のデータポイントに依存しないため、感度分析がトラクタブルになるからだ。
差動的確率的期待伝達(dp-sep)下での後方推定におけるプライバシ-正確性トレードオフの理論解析を行う。
さらに,プライバシの保証レベルが異なる後方推定の品質の観点から,合成データと実世界データの両方で評価したdp-sepアルゴリズムの性能を示す。
関連論文リスト
- On the Curses of Future and History in Future-dependent Value Functions
for Off-policy Evaluation [13.97452698025129]
複雑な観測を伴う部分的に観測可能な環境下での非政治評価について検討した。
我々は,POMDPの構造に合わせた新しいカバレッジ仮定を見いだした。
論文 参考訳(メタデータ) (2024-02-22T17:00:50Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy
Optimization [63.32053223422317]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
特に、MDP上の分布によって誘導される値の分散を特徴付けることに焦点をあてる。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
論文 参考訳(メタデータ) (2023-12-07T15:55:58Z) - Amortized Variational Inference with Coverage Guarantees [20.189430920135873]
Amortized variational inference(英語版)は、新しい観測によって高速に計算できる後部近似を生成する。
コンフォーマル化補正ニューラル変分推論(CANVI)を提案する。
CANVIは各候補に基づいて共形予測器を構築し、予測効率と呼ばれる計量を用いて予測器を比較し、最も効率的な予測器を返す。
論文 参考訳(メタデータ) (2023-05-23T17:24:04Z) - FedLAP-DP: Federated Learning by Sharing Differentially Private Loss
Approximations [58.192338472631405]
FedLAP-DPは、フェデレーション学習のための新しいプライバシー保護アプローチである。
我々の定式化は、クライアントから受信した合成サンプルを活用することで、グローバルな最適化を可能にします。
プライバシーの懸念が高まりつつある中で、私たちのアプローチがレコードレベルの差分プライバシーとシームレスに機能することを実証しています。
論文 参考訳(メタデータ) (2023-02-02T12:56:46Z) - Differentially Private Estimation via Statistical Depth [0.0]
統計深度という2つの概念は、新しい近似DP位置と回帰推定器の動機付けに使用される。
推定値および/または観測値の事前境界をユーザが指定することを避けるため、これらのDP機構の変種を記述する。
論文 参考訳(メタデータ) (2022-07-26T01:59:07Z) - Connect the Dots: Tighter Discrete Approximations of Privacy Loss
Distributions [49.726408540784334]
PLDベースの会計の鍵となる問題は、特定の個別サポートに対してPLDと(潜在的に連続的な)PLDをどのように近似するかである。
悲観的推定はすべての悲観的推定の中で最良であることを示す。
論文 参考訳(メタデータ) (2022-07-10T04:25:02Z) - Differentially Private Estimation of Heterogeneous Causal Effects [9.355532300027727]
本稿では,条件付き平均治療効果(CATE)を差分プライバシー保証で推定するための一般的なメタアルゴリズムを提案する。
我々のメタアルゴリズムは、SラーナーやDRやRラーナーのようなより複雑な多段推定器のような単純な単段CATE推定器で動作する。
論文 参考訳(メタデータ) (2022-02-22T17:21:18Z) - Proximal Reinforcement Learning: Efficient Off-Policy Evaluation in
Partially Observed Markov Decision Processes [65.91730154730905]
医療や教育などの観察データへのオフライン強化学習の適用においては、観察された行動は観測されていない要因に影響される可能性があるという一般的な懸念がある。
ここでは、部分的に観察されたマルコフ決定過程(POMDP)における非政治評価を考慮し、この問題に取り組む。
我々は、近位因果推論の枠組みをPOMDP設定に拡張し、識別が可能となる様々な設定を提供する。
論文 参考訳(メタデータ) (2021-10-28T17:46:14Z) - When in Doubt: Neural Non-Parametric Uncertainty Quantification for
Epidemic Forecasting [70.54920804222031]
既存の予測モデルは不確実な定量化を無視し、誤校正予測をもたらす。
不確実性を考慮した時系列予測のためのディープニューラルネットワークの最近の研究にもいくつかの制限がある。
本稿では,予測タスクを確率的生成過程としてモデル化し,EPIFNPと呼ばれる機能的ニューラルプロセスモデルを提案する。
論文 参考訳(メタデータ) (2021-06-07T18:31:47Z) - PIVEN: A Deep Neural Network for Prediction Intervals with Specific
Value Prediction [14.635820704895034]
PIと値予測の両方を生成するディープニューラルネットワークであるPIVENを提案する。
提案手法では,PI内のデータ分布に関する仮定は行わず,実世界の様々な問題に対して,その価値予測をより効果的に行う。
論文 参考訳(メタデータ) (2020-06-09T09:29:58Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳(メタデータ) (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。