論文の概要: Canaries in the Bank: Auditing User-Level Privacy in Private Evolution
- arxiv url: http://arxiv.org/abs/2609.13499v1
- Date: Fri, 11 Sep 2026 20:04:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.344945
- Title: Canaries in the Bank: Auditing User-Level Privacy in Private Evolution
- Title（参考訳）: 銀行のカナリア: プライベート進化におけるユーザレベルプライバシの検証
- Abstract要約: Private Evolutionは、ユーザの生データを公開せずに、フェデレートされた設定で高忠実な合成データを生成する。
それは、共有された候補銀行に対するクリッピングされたユーザー投票を微分プライベートなヒストグラムに集約する。
本稿では、サーバが単一の共有候補銀行にコミットし、約1%のエントリを、既知のプライベートでないカナリアから派生したプローブで置き換える、プロトコル対応の実証監査を紹介する。
- 参考スコア（独自算出の注目度）: 8.792021774715563
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Private Evolution (PE) generates high-fidelity synthetic data in federated settings without exposing users' raw data. It aggregates clipped user votes over a shared candidate bank into a differentially private histogram, with noise calibrated to the worst-case user contribution. However, it is unclear whether an adversary can realize this worst-case privacy loss while following the PE protocol. We introduce a protocol-aware empirical audit in which the server commits to a single shared candidate bank and replaces roughly 1% of its entries with probes derived from a known, non-private canary. We evaluate eight attacks, including an unchanged-bank baseline, exact copies, plausible paraphrases, and high-entropy synthetic nonces. Experiments on Yelp and Sentiment140 show that natural-text attacks remain substantially below the theoretical DP bound, while nonce-based attacks yield considerably stronger bounds and come closest to the mechanism's privacy ceiling. These results quantify the gap between formal worst-case privacy and leakage achievable through protocol-valid candidate-bank manipulation.
- Abstract（参考訳）: プライベート・エボリューション(PE)は、ユーザの生データを露出することなく、フェデレートされた設定で高忠実な合成データを生成する。
それは、共有された候補銀行に対するクリッピングされたユーザー投票を微分プライベートなヒストグラムに集約する。
しかし,PEプロトコルに従えば,この最悪のプライバシ損失を回避できるかどうかは不明である。
本稿では、サーバが単一の共有候補銀行にコミットし、約1%のエントリを、既知のプライベートでないカナリアから派生したプローブで置き換える、プロトコル対応の実証監査を紹介する。
本研究は, バンクベースラインの変化, 正確なコピー, プラウシブルパラフレーズ, 高エントロピー合成ナンスを含む8つの攻撃を評価した。
YelpとSentiment140の実験では、自然言語攻撃は理論上のDPバウンドよりかなり低いままであり、nonceベースの攻撃はより強いバウンドをもたらし、メカニズムのプライバシ天井に最も近づいた。
これらの結果は、プロトコル無効な候補バンク操作によって得られる、正式な最悪のプライバシーとリークの間のギャップを定量化する。
関連論文リスト
- Counterfactual Likelihood Tests for Indirect Influence in Private Reasoning Channels [51.56484100374058]
本稿では,私的推論チャネル間の影響を測定するための実証実験について述べる。
この方法は、上流のプライベートブロックを長さマッチングドナーブロックに置き換え、公開トークンシーケンスと下流ターゲットを固定し、下流ターゲットの負のログに似たシフトを測定する。
論文 参考訳（メタデータ） (2026-05-18T20:27:43Z) - Risk-Equalized Differentially Private Synthetic Data: Protecting Outliers by Controlling Record-Level Influence [9.016539021471845]
リスク等化DP合成は,リスクの高いレコードの保護を優先するフレームワークである。
ガウスのメカニズムの下では、レコードのプライバシー損失は出力への影響に比例する。
実験により、リスク重み付けは、高出力レコードに対するメンバーシップ推論の成功を著しく減少させることが示された。
論文 参考訳（メタデータ） (2026-02-10T19:22:46Z) - Parallel Composition for Statistical Privacy [0.0]
データベースのサブサンプリングとランダムなパーティショニングに基づいて、クエリ間の依存関係をバインドするプライバシーメカニズムが提案されている。
これらの境界は、分散のエントロピーを考慮に入れた現実的なアプリケーションシナリオにおいて、プライバシと精度保証の改善をもたらすことを示している。
論文 参考訳（メタデータ） (2026-02-10T10:13:44Z) - Your Privacy Depends on Others: Collusion Vulnerabilities in Individual Differential Privacy [50.66105844449181]
個々の差別的プライバシ(iDP)は、ユーザが自身のプライバシをコントロールすることを約束するが、この約束は実際には破られる可能性がある。
我々は、サンプリングベースのiDPメカニズムにおいて、これまで見過ごされていた脆弱性を明らかにした。
我々は、$(varepsilon_i,_i,overline)$-iDPというプライバシー契約を提案します。
論文 参考訳（メタデータ） (2026-01-19T10:26:12Z) - GPM: The Gaussian Pancake Mechanism for Planting Undetectable Backdoors in Differential Privacy [4.281902449361707]
意図しないプライバシー喪失のいくつかの出来事は、数値的な問題と微分プライバシーソフトウェアの不適切な構成に起因する。
本稿では、広く使われているガウスのメカニズム(GM)と計算的に区別できない新しいメカニズムであるガウスのパンケーキ機構(GPM)を提案する。
GMの数値的な問題による意図しないプライバシの損失とは異なり、GPMはデータプライバシに対する敵対的だが検出不可能なバックドア攻撃である。
論文 参考訳（メタデータ） (2025-09-28T12:14:06Z) - VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。
属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。
以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-09-22T20:57:48Z) - Benchmarking Fraud Detectors on Private Graph Data [70.4654745317714]
現在、多くの種類の不正は、グラフ上で動く自動検出アルゴリズムによって部分的に管理されている。
データ保有者が不正検知器の開発を第三者にアウトソースしようとするシナリオを考察する。
サードパーティは、不正検出をデータ保持者に送信し、これらのアルゴリズムをプライベートデータセットで評価し、その結果を公表する。
本システムに対する現実的なプライバシ攻撃を提案し,評価結果のみに基づいて個人データの匿名化を可能にする。
論文 参考訳（メタデータ） (2025-07-30T03:20:15Z) - The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets [12.730435519914415]
実世界の合成データデプロイメントで使用されるプライバシメトリクスを調べ、その信頼性をいくつかの点で実証する。
ReconSynは、メトリクスによってプライベートと見なされるが、個々のレコードに固有の情報をリークする複数の合成データセットを生成するリコンストラクション攻撃である。
ReconSynは列車データから78-100%のアウトレーヤを復元し、ブラックボックスアクセスのみを1つの適合した生成モデルとプライバシメトリクスに含める。
論文 参考訳（メタデータ） (2023-12-08T15:42:28Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳（メタデータ） (2023-04-17T00:38:01Z) - Enabling Trade-offs in Privacy and Utility in Genomic Data Beacons and
Summary Statistics [26.99521354120141]
要約データやBeaconの応答とプライバシを明示的にトレードオフするための最適化ベースのアプローチを導入します。
第一に、攻撃者はメンバーシップ推論のクレームを行うために確率比テストを適用する。
第2に、攻撃者は、個人間のスコアの分離に対するデータリリースの影響を考慮に入れたしきい値を使用する。
論文 参考訳（メタデータ） (2023-01-11T19:16:13Z) - How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。
プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
論文 参考訳（メタデータ） (2022-11-18T11:39:03Z) - Individual Privacy Accounting for Differentially Private Stochastic Gradient Descent [69.14164921515949]
DP-SGDで訓練されたモデルをリリースする際の個々の事例に対するプライバシー保証を特徴付ける。
ほとんどの例では、最悪のケースよりも強力なプライバシー保証を享受しています。
これは、モデルユーティリティの観点からは守られないグループが同時に、より弱いプライバシー保証を経験することを意味する。
論文 参考訳（メタデータ） (2022-06-06T13:49:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。