論文の概要: Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
- arxiv url: http://arxiv.org/abs/2605.21938v1
- Date: Thu, 21 May 2026 03:18:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.071345
- Title: Optimal Guarantees for Auditing Rényi Differentially Private Machine Learning
- Title（参考訳）: Rényi差分私的機械学習に対する最適保証
- Authors: Benjamin D. Kim, Lav R. Varshney, Daniel Alabi,
- Abstract要約: 我々は、R 'enyi差分プライバシー(RDP)保証を主張する機械学習アルゴリズムのブラックボックス監査について研究する。
仮説テストに基づく監査フレームワークを導入し、Donsker-Varadhan (DV) 変分推定器を用いて、隣接する実行間のレニイ偏差を直接推定する。
本分析では,アルゴリズムのプライバシー漏洩から統計的推定誤差を分離し,クラス限定DV推定器による監査において,明示的かつ非漸近的な信頼区間を導出する。
- 参考スコア（独自算出の注目度）: 15.701798841393668
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study black-box auditing for machine learning algorithms that claim R \ 'enyi differential privacy (RDP) guarantees. We introduce an auditing framework, based on hypothesis testing, that directly estimates Rényi divergence between neighboring executions using the Donsker-Varadhan (DV) variational estimator. Our analysis yields explicit and non-asymptotic confidence intervals for RDP auditing via class-restricted DV estimators, separating statistical estimation error from algorithmic privacy leakage. We prove matching minimax lower bounds showing that, up to logarithmic factors, our sample-complexity guarantees are information-theoretically optimal, thereby establishing the first optimal guarantees for auditing RDP via DV estimators. Empirically, we instantiate our framework for auditing DP-SGD in a fully black-box setting. Across MNIST and CIFAR-10, and over a wide range of privacy regimes, our auditors produce a strong overall improvement on empirical RDP lower bounds compared to prior state-of-the-art black-box methods especially at small and moderate Rényi orders where accurate auditing is most challenging.
- Abstract（参考訳）: 我々は、R \ 'enyi差分プライバシー(RDP)保証を主張する機械学習アルゴリズムのブラックボックス監査について研究する。
仮説テストに基づく監査フレームワークを導入し、Donsker-Varadhan (DV) 変分推定器を用いて、隣接する実行間のレニイ偏差を直接推定する。
本分析では, アルゴリズムのプライバシー漏洩から統計的推定誤差を分離し, クラス限定DV推定器によるRDP監査において, 明示的かつ非漸近的な信頼区間を導出する。
対数的因子により、サンプル複雑度保証が情報理論的に最適であることを示し、これにより、DV推定器を介してRDPを監査するための最初の最適保証が確立される。
実験では,DP-SGDを完全にブラックボックス設定で監査するためのフレームワークをインスタンス化する。
MNIST や CIFAR-10 の他,幅広いプライバシ体制において,従来の最先端のブラックボックス手法と比較して,監査側は経験的 RDP の下位境界を徹底的に改善する。
関連論文リスト
- Sequential Auditing for f-Differential Privacy [5.7992233755396505]
出力サンプルに基づくアルゴリズムの差分プライバシー(DP)を評価するための新しい監査者を提案する。
私たちは、非常に表現力豊かなプライバシー概念である$f$-DPに焦点を移します。
論文 参考訳（メタデータ） (2026-02-06T09:22:24Z) - KV-Auditor: Auditing Local Differential Privacy for Correlated Key-Value Estimation [3.1960143210470973]
我々は,LDPに基づくキー値推定機構を監査するフレームワークであるKV-Auditorを提案する。
我々は、最先端のLPPキー値機構を対話型および非対話型に分類する。
インタラクティブなメカニズムのために、繰り返しにまたがるインクリメンタルなプライバシリークをキャプチャするためのセグメンテーション戦略を設計する。
論文 参考訳（メタデータ） (2025-08-15T14:17:24Z) - UniAud: A Unified Auditing Framework for High Auditing Power and Utility with One Training Run [9.400936999321415]
データに依存しない監査のための統合フレームワークUniAudを提案する。
データ依存監査のためのUniAud++として、このフレームワークを拡張します。
我々は,O(T)監査の最先端の監査結果と数千ランの監査結果とが一致していることを示す。
論文 参考訳（メタデータ） (2025-07-06T16:35:48Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳（メタデータ） (2025-06-25T07:04:49Z) - Enhancing One-run Privacy Auditing with Quantile Regression-Based Membership Inference [22.843200081364873]
Differential Privacy(DP)監査は、DP-SGDのようなDPメカニズムのプライバシー保証を実証的に低くすることを目的としている。
近年,DP-SGDをホワイトボックス設定で効果的に評価できる一方的な監査手法が提案されている。
本研究では,より強力なメンバーシップ推論攻撃(MIA)へのアプローチを取り入れることで,ブラックボックス環境でのワンラン監査を改善する方法について検討する。
論文 参考訳（メタデータ） (2025-06-18T11:03:39Z) - Crowd Comparative Reasoning: Unlocking Comprehensive Evaluations for LLM-as-a-Judge [90.8674158031845]
提案するクラウド・ベース・コンピレーション・アセスメントは,提案するクラウド・レスポンスを,候補の応答と比較するための追加のクラウド・レスポンスを導入する。
このプロセスはLLM-as-a-Judgeを効果的に誘導し、より詳細なCoT判定を提供する。
提案手法は, 高い品質のCoTを製造し, 蒸留を判断し, 拒絶サンプリングにおいて優れた性能を示す。
論文 参考訳（メタデータ） (2025-02-18T03:31:06Z) - Auditing Differential Privacy Guarantees Using Density Estimation [3.830092569453011]
DP機構の差分プライバシー保証を正確に評価するための新しい手法を提案する。
特に、我々のソリューションは、機械学習(ML)モデルのDP保証の監査に適用できる。
論文 参考訳（メタデータ） (2024-06-07T10:52:15Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳（メタデータ） (2023-04-17T00:38:01Z) - Learning Robust Output Control Barrier Functions from Safe Expert Demonstrations [50.37808220291108]
本稿では,専門家によるデモンストレーションの部分的な観察から,安全な出力フィードバック制御法を考察する。
まず,安全性を保証する手段として,ロバスト出力制御バリア関数(ROCBF)を提案する。
次に、安全なシステム動作を示す専門家による実証からROCBFを学習するための最適化問題を定式化する。
論文 参考訳（メタデータ） (2021-11-18T23:21:00Z) - Privacy Preserving Recalibration under Domain Shift [119.21243107946555]
本稿では,差分プライバシー制約下での校正問題の性質を抽象化する枠組みを提案する。
また、新しいリカレーションアルゴリズム、精度温度スケーリングを設計し、プライベートデータセットの事前処理より優れています。
論文 参考訳（メタデータ） (2020-08-21T18:43:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。