論文の概要: Evaluating the Impact of Local Differential Privacy on Utility Loss via Influence Functions

• arxiv url: http://arxiv.org/abs/2309.08678v1
• Date: Fri, 15 Sep 2023 18:08:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-19 20:04:45.144524
• Title: Evaluating the Impact of Local Differential Privacy on Utility Loss via Influence Functions
• Title（参考訳）: 地域差分プライバシが影響関数による事業損失に及ぼす影響評価
• Authors: Alycia N. Carey, Minh-Hao Van, and Xintao Wu
• Abstract要約: 我々は、特定のプライバシパラメータ値がモデルのテスト損失にどのように影響するかについて、インフルエンス関数が洞察を与える能力を示す。 提案手法により,データキュレーターは,プライバシ・ユーティリティのトレードオフに最も適したプライバシパラメータを選択できる。
• 参考スコア（独自算出の注目度）: 11.504012974208466
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How to properly set the privacy parameter in differential privacy (DP) has been an open question in DP research since it was first proposed in 2006. In this work, we demonstrate the ability of influence functions to offer insight into how a specific privacy parameter value will affect a model's test loss in the randomized response-based local DP setting. Our proposed method allows a data curator to select the privacy parameter best aligned with their allowed privacy-utility trade-off without requiring heavy computation such as extensive model retraining and data privatization. We consider multiple common randomization scenarios, such as performing randomized response over the features, and/or over the labels, as well as the more complex case of applying a class-dependent label noise correction method to offset the noise incurred by randomization. Further, we provide a detailed discussion over the computational complexity of our proposed approach inclusive of an empirical analysis. Through empirical evaluations we show that for both binary and multi-class settings, influence functions are able to approximate the true change in test loss that occurs when randomized response is applied over features and/or labels with small mean absolute error, especially in cases where noise correction methods are applied.
• Abstract（参考訳）: ディファレンシャルプライバシ(dp)のプライバシパラメータを適切に設定する方法は,2006年に初めて提案されて以来,dpリサーチにおいてオープンな疑問となっている。 本研究では,ランダム化応答に基づくローカルDP設定において,特定のプライバシパラメータ値がモデルのテスト損失に与える影響について,影響関数がどう影響するかを示す。 提案手法では,モデルリトレーニングやデータ民営化といった重い計算を必要とせずに,プライバシ利用トレードオフに最も適したプライバシパラメータを選択することができる。 本稿では,特徴量やラベル値に対するランダム化応答や,クラス依存ラベル雑音補正法を適用してランダム化によって発生する雑音を相殺する複雑な場合など,複数の一般的なランダム化シナリオについて考察する。 さらに,提案手法の計算複雑性について,経験的解析を包含する詳細な議論を行う。 経験的評価により,二クラスと多クラスの両方において,特にノイズ補正手法を適用した場合において,ランダム化応答が特徴やラベルに適用される場合に生じるテスト損失の真の変化を,影響関数が近似できることが示されている。

関連論文リスト

• Federated Nonparametric Hypothesis Testing with Differential Privacy Constraints: Optimal Rates and Adaptive Tests [5.3595271893779906]
  フェデレート学習は、さまざまな場所でデータが収集され分析される広範囲な設定で適用可能であることから、近年大きな注目を集めている。 分散差分プライバシー(DP)制約下でのホワイトノイズ・ウィズ・ドリフトモデルにおける非パラメトリック適合性試験について検討した。
  論文  参考訳（メタデータ） (2024-06-10T19:25:19Z)
• Noise Variance Optimization in Differential Privacy: A Game-Theoretic Approach Through Per-Instance Differential Privacy [7.264378254137811]
  差分プライバシー(DP)は、個人をターゲットデータセットに含めることによる分布の変化を観察することにより、プライバシー損失を測定することができる。 DPは、AppleやGoogleのような業界巨人の機械学習におけるデータセットの保護において際立っている。 本稿では,PDPを制約として提案し,各データインスタンスのプライバシ損失を測定し,個々のインスタンスに適したノイズを最適化する。
  論文  参考訳（メタデータ） (2024-04-24T06:51:16Z)
• Mitigating LLM Hallucinations via Conformal Abstention [70.83870602967625]
  我々は,大言語モデルが一般ドメインでの応答をいつ無視すべきかを決定するための,原則化された手順を開発する。 我々は、幻覚率(エラー率)の厳密な理論的保証の恩恵を受けるため、共形予測手法を活用して、禁忌手順を開発する。 実験によって得られた共形禁忌法は, 種々の閉書, オープンドメイン生成質問応答データセットに, 幻覚率を確実に拘束する。
  論文  参考訳（メタデータ） (2024-04-04T11:32:03Z)
• Causal Inference with Differentially Private (Clustered) Outcomes [16.166525280886578]
  ランダム化実験から因果効果を推定することは、参加者が反応を明らかにすることに同意すれば実現可能である。 我々は,任意のクラスタ構造を利用する新たな差分プライバシメカニズムであるCluster-DPを提案する。 クラスタの品質を直感的に測定することで,プライバシ保証を維持しながら分散損失を改善することができることを示す。
  論文  参考訳（メタデータ） (2023-08-02T05:51:57Z)
• Enabling Trade-offs in Privacy and Utility in Genomic Data Beacons and Summary Statistics [26.99521354120141]
  要約データやBeaconの応答とプライバシを明示的にトレードオフするための最適化ベースのアプローチを導入します。 第一に、攻撃者はメンバーシップ推論のクレームを行うために確率比テストを適用する。 第2に、攻撃者は、個人間のスコアの分離に対するデータリリースの影響を考慮に入れたしきい値を使用する。
  論文  参考訳（メタデータ） (2023-01-11T19:16:13Z)
• Error-based Knockoffs Inference for Controlled Feature Selection [49.99321384855201]
  本手法では, ノックオフ特徴量, エラーベース特徴重要度統計量, ステップダウン手順を一体化して, エラーベースのノックオフ推定手法を提案する。 提案手法では回帰モデルを指定する必要はなく,理論的保証で特徴選択を処理できる。
  論文  参考訳（メタデータ） (2022-03-09T01:55:59Z)
• Partial Identification with Noisy Covariates: A Robust Optimization Approach [94.10051154390237]
  観測データセットからの因果推論は、しばしば共変量の測定と調整に依存する。 このロバストな最適化手法により、広範囲な因果調整法を拡張し、部分的同定を行うことができることを示す。 合成および実データセット全体で、このアプローチは既存の手法よりも高いカバレッジ確率でATEバウンダリを提供する。
  論文  参考訳（メタデータ） (2022-02-22T04:24:26Z)
• Partial sensitivity analysis in differential privacy [58.730520380312676]
  それぞれの入力特徴が個人のプライバシ損失に与える影響について検討する。 プライベートデータベース上でのクエリに対する我々のアプローチを実験的に評価する。 また、合成データにおけるニューラルネットワークトレーニングの文脈における知見についても検討する。
  論文  参考訳（メタデータ） (2021-09-22T08:29:16Z)
• Bias and Variance of Post-processing in Differential Privacy [53.29035917495491]
  後処理免疫は、差分プライバシーの基本的な性質である。 ポストプロセッシングはバイアスをもたらし、ばらつきを増大させるとしばしば主張される。 本稿では,後処理の特性を理解するための第一歩を踏み出す。
  論文  参考訳（メタデータ） (2020-10-09T02:12:54Z)
• RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial Network [75.81653258081435]
  GAN(Generative Adversarial Network)は,プライバシ保護の高い現実的なサンプルを生成する能力によって,近年注目を集めている。 しかし、医療記録や財務記録などの機密・私的な訓練例にGANを適用すると、個人の機密・私的な情報を漏らしかねない。 本稿では、学習中の損失関数の値にランダムノイズを慎重に付加することにより、GAN内の差分プライバシー(DP)を実現するR'enyi-differentially private-GAN(RDP-GAN)を提案する。
  論文  参考訳（メタデータ） (2020-07-04T09:51:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。