論文の概要: General-Purpose $f$-DP Estimation and Auditing in a Black-Box Setting

• arxiv url: http://arxiv.org/abs/2502.07066v1
• Date: Mon, 10 Feb 2025 21:58:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-12 14:05:38.643854
• Title: General-Purpose $f$-DP Estimation and Auditing in a Black-Box Setting
• Title（参考訳）: ブラックボックス設定における一般$f$-DP推定と監査
• Authors: Önder Askin, Holger Dette, Martin Dunsche, Tim Kutta, Yun Lu, Yu Wei, Vassilis Zikas,
• Abstract要約: 統計的に$f$-Differential Privacy(f$-DP)を評価する新しい手法を提案する。 異なるプライベートメカニズムをデプロイする際の課題は、DPが検証しにくいことである。 我々は,このプライバシー概念に対する既存のアプローチとは異なり,研究対象アルゴリズムの事前知識を必要としない,$f$-DPのための新しいブラックボックス手法を導入する。
• 参考スコア（独自算出の注目度）: 7.052531099272798
• License:
• Abstract: In this paper we propose new methods to statistically assess $f$-Differential Privacy ($f$-DP), a recent refinement of differential privacy (DP) that remedies certain weaknesses of standard DP (including tightness under algorithmic composition). A challenge when deploying differentially private mechanisms is that DP is hard to validate, especially in the black-box setting. This has led to numerous empirical methods for auditing standard DP, while $f$-DP remains less explored. We introduce new black-box methods for $f$-DP that, unlike existing approaches for this privacy notion, do not require prior knowledge of the investigated algorithm. Our procedure yields a complete estimate of the $f$-DP trade-off curve, with theoretical guarantees of convergence. Additionally, we propose an efficient auditing method that empirically detects $f$-DP violations with statistical certainty, merging techniques from non-parametric estimation and optimal classification theory. Through experiments on a range of DP mechanisms, we demonstrate the effectiveness of our estimation and auditing procedures.
• Abstract（参考訳）: 本稿では,標準DP(アルゴリズム構成による厳密性を含む)の弱点を補うために,近年の差分プライバシー (DP) の改良である$f$-differential Privacy (f$-DP) を統計的に評価する手法を提案する。 異なるプライベートなメカニズムをデプロイする際の課題は、特にブラックボックスの設定において、DPが検証しにくいことである。 これは標準DPの監査に多くの経験的手法をもたらしたが、$f$-DPは未だ探索されていない。 我々は,このプライバシー概念に対する既存のアプローチとは異なり,研究対象アルゴリズムの事前知識を必要としない,$f$-DPのための新しいブラックボックス手法を導入する。 我々の手順は、理論的に収束の保証のある$f$-DPトレードオフ曲線の完全な推定値を得る。 さらに,統計的確証付き$f$-DP違反を実証的に検出し,非パラメトリック推定法と最適分類理論を融合する効率的な監査手法を提案する。 DPメカニズムの実験を通じて,提案手法の有効性を実証した。

関連論文リスト

• Achieving $\widetilde{\mathcal{O}}(\sqrt{T})$ Regret in Average-Reward POMDPs with Known Observation Models [56.92178753201331]
  平均逆無限水平POMDPを未知の遷移モデルで扱う。 この障壁を克服する斬新でシンプルな推定器を提示する。
  論文  参考訳（メタデータ） (2025-01-30T22:29:41Z)
• Auditing Differential Privacy Guarantees Using Density Estimation [3.830092569453011]
  DP機構の差分プライバシー保証を正確に評価するための新しい手法を提案する。 特に、我々のソリューションは、機械学習(ML)モデルのDP保証の監査に適用できる。
  論文  参考訳（メタデータ） (2024-06-07T10:52:15Z)
• Differentially Private SGD Without Clipping Bias: An Error-Feedback Approach [62.000948039914135]
  Differentially Private Gradient Descent with Gradient Clipping (DPSGD-GC) を使用して、差分プライバシ(DP)がモデルパフォーマンス劣化の犠牲となることを保証する。 DPSGD-GCに代わる新しいエラーフィードバック(EF)DPアルゴリズムを提案する。 提案アルゴリズムに対するアルゴリズム固有のDP解析を確立し,R'enyi DPに基づくプライバシ保証を提供する。
  論文  参考訳（メタデータ） (2023-11-24T17:56:44Z)
• Online non-parametric likelihood-ratio estimation by Pearson-divergence functional minimization [55.98760097296213]
  iid 観測のペア $(x_t sim p, x'_t sim q)$ が時間の経過とともに観測されるような,オンラインな非パラメトリック LRE (OLRE) のための新しいフレームワークを提案する。 本稿では,OLRE法の性能に関する理論的保証と,合成実験における実証的検証について述べる。
  論文  参考訳（メタデータ） (2023-11-03T13:20:11Z)
• Adaptive False Discovery Rate Control with Privacy Guarantee [1.4213973379473654]
  本稿では,プライバシ保証付きユーザ指定レベル$alpha$で,従来のFDRメトリックを正確に制御できる,差分プライベート適応型FDR制御法を提案する。 プライベートでないAdaPTと比較すると、精度の低下は少ないが、計算コストを大幅に削減する。
  論文  参考訳（メタデータ） (2023-05-31T01:22:15Z)
• Connect the Dots: Tighter Discrete Approximations of Privacy Loss Distributions [49.726408540784334]
  PLDベースの会計の鍵となる問題は、特定の個別サポートに対してPLDと(潜在的に連続的な)PLDをどのように近似するかである。 悲観的推定はすべての悲観的推定の中で最良であることを示す。
  論文  参考訳（メタデータ） (2022-07-10T04:25:02Z)
• Normalized/Clipped SGD with Perturbation for Differentially Private Non-Convex Optimization [94.06564567766475]
  DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。 DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
  論文  参考訳（メタデータ） (2022-06-27T03:45:02Z)
• Private Stochastic Non-Convex Optimization: Adaptive Algorithms and Tighter Generalization Bounds [72.63031036770425]
  有界非次元最適化のための差分プライベート(DP)アルゴリズムを提案する。 標準勾配法に対する経験的優位性について,2つの一般的なディープラーニング手法を実証する。
  論文  参考訳（メタデータ） (2020-06-24T06:01:24Z)
• Tight Differential Privacy for Discrete-Valued Mechanisms and for the Subsampled Gaussian Mechanism Using FFT [6.929834518749884]
  離散的な1次元の出力を持つアルゴリズムに対して,厳密な$(varepsilon,delta)$-privacy損失を評価するための数値会計法を提案する。 本稿では,従来の文献と同等のプライバシーで,ノイズ分散を最大75%低減できることを示す。
  論文  参考訳（メタデータ） (2020-06-12T12:46:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。