論文の概要: DP-SEP! Differentially Private Stochastic Expectation Propagation
- arxiv url: http://arxiv.org/abs/2111.13219v1
- Date: Thu, 25 Nov 2021 18:59:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-29 15:22:40.548532
- Title: DP-SEP! Differentially Private Stochastic Expectation Propagation
- Title（参考訳）: DP-SEP!
微分的にプライベートな確率的期待伝播
- Authors: Margarita Vinaroz and Mijung Park
- Abstract要約: 我々は、期待伝播(EP)と呼ばれる近似後部推論アルゴリズムの民営化に興味を持っている。
EPは局所確率に対する近似を反復的に精錬することによって後部を近似し、変動推論(VI)によりそれよりも後部不確実性をもたらすことが知られている。
この問題を解決するために, 予測伝播 (SEP) が提案され, それぞれの確率項から後部への平均効果を捉え, EPに類似した方法で精製する特異な局所因子のみを考察した。
- 参考スコア（独自算出の注目度）: 6.662800021628275
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We are interested in privatizing an approximate posterior inference algorithm
called Expectation Propagation (EP). EP approximates the posterior by
iteratively refining approximations to the local likelihoods, and is known to
provide better posterior uncertainties than those by variational inference
(VI). However, using EP for large-scale datasets imposes a challenge in terms
of memory requirements as it needs to maintain each of the local approximates
in memory. To overcome this problem, stochastic expectation propagation (SEP)
was proposed, which only considers a unique local factor that captures the
average effect of each likelihood term to the posterior and refines it in a way
analogous to EP. In terms of privacy, SEP is more tractable than EP because at
each refining step of a factor, the remaining factors are fixed to the same
value and do not depend on other datapoints as in EP, which makes the
sensitivity analysis tractable. We provide a theoretical analysis of the
privacy-accuracy trade-off in the posterior estimates under differentially
private stochastic expectation propagation (DP-SEP). Furthermore, we
demonstrate the performance of our DP-SEP algorithm evaluated on both synthetic
and real-world datasets in terms of the quality of posterior estimates at
different levels of guaranteed privacy.
- Abstract（参考訳）: 我々は、期待伝搬(EP)と呼ばれる近似後部推論アルゴリズムの民営化に興味がある。
EPは局所確率に対する近似を反復的に精製することによって後部を近似し、変分推論(VI)によりそれよりも後部不確実性を与えることが知られている。
しかし、大規模なデータセットにEPを使用することは、メモリ内の各局所的な近似を維持する必要があるため、メモリ要求の観点からは困難である。
この問題を解決するために、確率予測伝播(SEP)が提案され、これは各確率項の後方への平均効果を捉えてEPに類似した方法で洗練するユニークな局所因子である。
プライバシの面では、SEPはEPよりもトラクタブルである。要因の精製の各ステップでは、残りの要素が同じ値に固定され、EPのような他のデータポイントに依存しないため、感度分析がトラクタブルになるからだ。
差動的確率的期待伝達(dp-sep)下での後方推定におけるプライバシ-正確性トレードオフの理論解析を行う。
さらに,プライバシの保証レベルが異なる後方推定の品質の観点から,合成データと実世界データの両方で評価したdp-sepアルゴリズムの性能を示す。
関連論文リスト
- Stratified Prediction-Powered Inference for Hybrid Language Model Evaluation [62.2436697657307]
予測駆動推論(英: Prediction-powered Inference, PPI)は、人間ラベル付き限られたデータに基づいて統計的推定を改善する手法である。
我々はStratPPI(Stratified Prediction-Powered Inference)という手法を提案する。
単純なデータ階層化戦略を用いることで,基礎的なPPI推定精度を大幅に向上できることを示す。
論文 参考訳（メタデータ） (2024-06-06T17:37:39Z) - Offline Bayesian Aleatoric and Epistemic Uncertainty Quantification and Posterior Value Optimisation in Finite-State MDPs [3.1139806580181006]
有限状態マルコフ決定過程(MDP)のオフライン使用例におけるベイズの不確かさを未知のダイナミクスで定量化することの課題に対処する。
我々は標準ベイズ強化学習法を用いて,MDPパラメータの後方不確実性を捉える。
次に、後続サンプル間の戻り分布の最初の2つのモーメントを解析的に計算し、全分散の法則を適用する。
我々は,AIクリニック問題に適用することで,実世界の影響と計算能力のスケーラビリティを強調した。
論文 参考訳（メタデータ） (2024-06-04T16:21:14Z) - On the Curses of Future and History in Future-dependent Value Functions for Off-policy Evaluation [11.829110453985228]
我々は地平線への指数的依存を避けるための推定器を開発する。
本稿では,POMDPの構造に合わせた新しいカバレッジ仮定を発見する。
副産物として、我々の分析は相補的な性質を持つ新しいアルゴリズムの発見にも繋がる。
論文 参考訳（メタデータ） (2024-02-22T17:00:50Z) - Adaptive Differentially Quantized Subspace Perturbation (ADQSP): A Unified Framework for Privacy-Preserving Distributed Average Consensus [6.364764301218972]
本稿では適応微分量子化部分空間(ADQSP)という一般手法を提案する。
本研究では,単一の量子化パラメータを変化させることで,提案手法がSMPC型の性能とDP型性能に異なることを示す。
この結果から,従来の分散信号処理ツールを暗号保証に活用する可能性が示唆された。
論文 参考訳（メタデータ） (2023-12-13T07:52:16Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳（メタデータ） (2023-12-07T15:55:58Z) - Variational Inference with Coverage Guarantees in Simulation-Based Inference [18.818573945984873]
コンフォーマル化補正ニューラル変分推論(CANVI)を提案する。
CANVIは各候補に基づいて共形予測器を構築し、予測効率と呼ばれる計量を用いて予測器を比較し、最も効率的な予測器を返す。
我々は,CANVIが生成する領域の予測効率の低い境界を証明し,その近似に基づいて,後部近似の品質と予測領域の予測効率の関係について検討する。
論文 参考訳（メタデータ） (2023-05-23T17:24:04Z) - Connect the Dots: Tighter Discrete Approximations of Privacy Loss
Distributions [49.726408540784334]
PLDベースの会計の鍵となる問題は、特定の個別サポートに対してPLDと(潜在的に連続的な)PLDをどのように近似するかである。
悲観的推定はすべての悲観的推定の中で最良であることを示す。
論文 参考訳（メタデータ） (2022-07-10T04:25:02Z) - Differentially Private Estimation of Heterogeneous Causal Effects [9.355532300027727]
本稿では,条件付き平均治療効果(CATE)を差分プライバシー保証で推定するための一般的なメタアルゴリズムを提案する。
我々のメタアルゴリズムは、SラーナーやDRやRラーナーのようなより複雑な多段推定器のような単純な単段CATE推定器で動作する。
論文 参考訳（メタデータ） (2022-02-22T17:21:18Z) - Proximal Reinforcement Learning: Efficient Off-Policy Evaluation in
Partially Observed Markov Decision Processes [65.91730154730905]
医療や教育などの観察データへのオフライン強化学習の適用においては、観察された行動は観測されていない要因に影響される可能性があるという一般的な懸念がある。
ここでは、部分的に観察されたマルコフ決定過程(POMDP)における非政治評価を考慮し、この問題に取り組む。
我々は、近位因果推論の枠組みをPOMDP設定に拡張し、識別が可能となる様々な設定を提供する。
論文 参考訳（メタデータ） (2021-10-28T17:46:14Z) - When in Doubt: Neural Non-Parametric Uncertainty Quantification for
Epidemic Forecasting [70.54920804222031]
既存の予測モデルは不確実な定量化を無視し、誤校正予測をもたらす。
不確実性を考慮した時系列予測のためのディープニューラルネットワークの最近の研究にもいくつかの制限がある。
本稿では,予測タスクを確率的生成過程としてモデル化し,EPIFNPと呼ばれる機能的ニューラルプロセスモデルを提案する。
論文 参考訳（メタデータ） (2021-06-07T18:31:47Z) - Batch Stationary Distribution Estimation [98.18201132095066]
サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。
与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
論文 参考訳（メタデータ） (2020-03-02T09:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。