論文の概要: Empirical Calibration and Metric Differential Privacy in Language Models

• arxiv url: http://arxiv.org/abs/2503.13872v1
• Date: Tue, 18 Mar 2025 03:52:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-19 14:15:14.597752
• Title: Empirical Calibration and Metric Differential Privacy in Language Models
• Title（参考訳）: 言語モデルにおける経験的校正とメトリック差分プライバシー
• Authors: Pedro Faustini, Natasha Fernandes, Annabelle McIver, Mark Dras,
• Abstract要約: 我々は、MIA(Commanship Inference Attacks)を用いて、フレームワーク間のノイズを経験的に校正する方法を示す。 我々は,Von Mises-Fisher(VMF)分布に基づく新たな指向性プライバシーを定義する。これは,ガウス雑音を付加する(等方性)のではなく,角距離を摂動する計量DP機構である。 公式な保証は相容れないが、実証的なプライバシ・キャリブレーションにより、各メカニズムがユーティリティとプライバシのトレードオフに関して異なる強度の領域を持っていることが明らかになった。
• 参考スコア（独自算出の注目度）: 2.826489388853448
• License:
• Abstract: NLP models trained with differential privacy (DP) usually adopt the DP-SGD framework, and privacy guarantees are often reported in terms of the privacy budget $\epsilon$. However, $\epsilon$ does not have any intrinsic meaning, and it is generally not possible to compare across variants of the framework. Work in image processing has therefore explored how to empirically calibrate noise across frameworks using Membership Inference Attacks (MIAs). However, this kind of calibration has not been established for NLP. In this paper, we show that MIAs offer little help in calibrating privacy, whereas reconstruction attacks are more useful. As a use case, we define a novel kind of directional privacy based on the von Mises-Fisher (VMF) distribution, a metric DP mechanism that perturbs angular distance rather than adding (isotropic) Gaussian noise, and apply this to NLP architectures. We show that, even though formal guarantees are incomparable, empirical privacy calibration reveals that each mechanism has different areas of strength with respect to utility-privacy trade-offs.
• Abstract（参考訳）: 差分プライバシ(DP)でトレーニングされたNLPモデルは一般的にDP-SGDフレームワークを採用しており、プライバシ保証はプライバシー予算$\epsilon$で報告されることが多い。 しかしながら、$\epsilon$は固有の意味を持たず、フレームワークの亜種を比較することは一般的に不可能である。 そのため、画像処理における作業は、MIA(Commanship Inference Attacks)を用いて、フレームワーク間のノイズを経験的に校正する方法を模索している。 しかし、このようなキャリブレーションはNLPでは確立されていない。 本稿では,MIAはプライバシの校正にはほとんど役に立たないが,再構築攻撃はより有用であることを示す。 ユースケースとして,Von Mises-Fisher(VMF)分布に基づく新たな指向性プライバシーを定義する。これは,ガウス雑音を付加する(等方性)のではなく,角距離を摂動する計量DP機構であり,これをNLPアーキテクチャに適用する。 正式な保証は相容れないが、実証的なプライバシ・キャリブレーションにより、各メカニズムがユーティリティとプライバシのトレードオフに関して異なる強度の領域を持っていることが明らかになった。

関連論文リスト

• An Interactive Framework for Implementing Privacy-Preserving Federated Learning: Experiments on Large Language Models [7.539653242367701]
  フェデレートラーニング(FL)は、ユーザのデータをローカルデバイスに保存することで、プライバシを高める。 最近の攻撃は、トレーニング中にユーザーが共有したアップデートが、データに関する重要な情報を明らかにすることを実証している。 プライバシ実践者としての人間エンティティを統合し,モデルのプライバシとユーティリティの最適なトレードオフを決定するフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-11T23:07:14Z)
• Comparing privacy notions for protection against reconstruction attacks in machine learning [10.466570297146953]
  機械学習コミュニティでは、再構築攻撃が主要な関心事であり、統合学習(FL)においても特定されている。 これらの脅威に対して、プライバシーコミュニティは、DP-SGDと呼ばれる勾配降下アルゴリズムにおける差分プライバシー(DP)の使用を推奨している。 本稿では,プライバシ保証の異なる概念とメカニズムを比較するための基礎的枠組みを構築した。
  論文  参考訳（メタデータ） (2025-02-06T13:04:25Z)
• Differentially Private Random Feature Model [52.468511541184895]
  プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。 本手法は,プライバシを保護し,一般化誤差を導出する。
  論文  参考訳（メタデータ） (2024-12-06T05:31:08Z)
• Private Language Models via Truncated Laplacian Mechanism [18.77713904999236]
  本稿では,高次元トラカート型ラプラシアン機構と呼ばれる新しいプライベート埋め込み手法を提案する。 提案手法は,従来のプライベート単語埋め込み法に比べて分散度が低いことを示す。 注目すべきは、高いプライバシー体制であっても、私たちのアプローチは、プライベートでないシナリオに比べて、実用性がわずかに低下することです。
  論文  参考訳（メタデータ） (2024-10-10T15:25:02Z)
• Uncertainty quantification by block bootstrap for differentially private stochastic gradient descent [1.0742675209112622]
  Gradient Descent (SGD) は機械学習において広く使われているツールである。 ブートストラップによるSGDの不確実性定量化(UQ)は、いくつかの著者によって解決されている。 本稿では,ローカルな差分プライバシーの下でSGDのブロックブートストラップを提案する。
  論文  参考訳（メタデータ） (2024-05-21T07:47:21Z)
• Provable Privacy with Non-Private Pre-Processing [56.770023668379615]
  非プライベートなデータ依存前処理アルゴリズムによって生じる追加のプライバシーコストを評価するための一般的なフレームワークを提案する。 当社のフレームワークは,2つの新しい技術的概念を活用することにより,全体的なプライバシー保証の上限を確立する。
  論文  参考訳（メタデータ） (2024-03-19T17:54:49Z)
• Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
  インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。 本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
  論文  参考訳（メタデータ） (2024-03-07T21:22:07Z)
• Individual Privacy Accounting for Differentially Private Stochastic Gradient Descent [69.14164921515949]
  DP-SGDで訓練されたモデルをリリースする際の個々の事例に対するプライバシー保証を特徴付ける。 ほとんどの例では、最悪のケースよりも強力なプライバシー保証を享受しています。 これは、モデルユーティリティの観点からは守られないグループが同時に、より弱いプライバシー保証を経験することを意味する。
  論文  参考訳（メタデータ） (2022-06-06T13:49:37Z)
• Smoothed Differential Privacy [55.415581832037084]
  微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。 本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。 サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
  論文  参考訳（メタデータ） (2021-07-04T06:55:45Z)
• Local Differential Privacy Is Equivalent to Contraction of $E_\gamma$-Divergence [7.807294944710216]
  我々は, LDP 制約を$E_gamma$-divergence の縮約係数で等価にキャストできることを示す。 次に、この等価式を用いて、任意の$f$-divergencesの収縮係数の観点から、プライバシー機構のLCP保証を表現する。
  論文  参考訳（メタデータ） (2021-02-02T02:18:12Z)
• Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
  フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。 敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。 差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
  論文  参考訳（メタデータ） (2020-05-01T04:28:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。