論文の概要: A Sharp Transition in Data Reconstruction under Differential Privacy

• arxiv url: http://arxiv.org/abs/2609.37344v1
• Date: Tue, 29 Sep 2026 12:12:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.471622
• Title: A Sharp Transition in Data Reconstruction under Differential Privacy
• Title（参考訳）: 差分プライバシー下におけるデータ再構成のシャープ遷移
• Abstract要約: 本研究は, DPモデルを用いて, 1 ドル分のトレーニングサンプルを再構築することを目的とした情報攻撃者について検討する。 私たちの主な貢献は、データ再構成のために$asymp d$で急激な移行を確立することです。 注目すべきは、この遷移は$asymp s$に移行し、$s$次元のサブ空間に横たわるデータである。
• 参考スコア（独自算出の注目度）: 29.26033300088983
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data reconstruction attacks have empirically been successful in recovering training samples from learned models, raising privacy concerns and motivating defenses with guarantees that remain valid against future threats. While differential privacy (DP) provides formal protection, choosing the privacy budget remains a challenge: small budgets severely reduce utility, but it is hard to quantify how large the budget can be without allowing accurate reconstruction. In this work, we study informed attackers who aim to reconstruct a single $d$-dimensional training sample from a $ρ$-zero-concentrated DP model, knowing all other training data. Our main contribution is to establish a sharp transition at $ρ\asymp d$ for data reconstruction: on the one hand, we derive entropy-based lower bounds for any private mechanism and any attack, characterizing a set of target priors for which reconstruction is information-theoretically impossible for $ρ\ll d$; on the other hand, we analyze a simple attack on private linear regression with output perturbation, showing that reconstruction is practically feasible for $ρ\gg d$. Remarkably, the transition moves to $ρ\asymp s$ for data lying in an $s$-dimensional subspace, demonstrating that the privacy budget guaranteeing adequate protection must be assessed in terms of the effective dimension of the data. We validate our findings via experiments on synthetic data and natural images (CIFAR-10, ImageNet).
• Abstract（参考訳）: データ再構築攻撃は、学習したモデルからトレーニングサンプルを回収し、プライバシーの懸念を高め、将来の脅威に対して有効である保証付きで防御を動機付けることで実証的に成功している。 差分プライバシー(DP)は正式な保護を提供するが、プライバシー予算の選択は依然として困難である。 本研究では,$ρ$-zero集中DPモデルから1ドル$d$Dのトレーニングサンプルを再構築し,他のトレーニングデータをすべて把握しようとする攻撃者について検討する。 我々の主な貢献は、データ再構成のために$ρ\asymp d$の急激な遷移を確立することである:一方、エントロピーに基づく、任意のプライベートメカニズムと攻撃に対する下限を導出し、再構成が$ρ\ll d$に対して情報理論的に不可能なターゲット事前のセットを特徴付ける; 一方、出力摂動によるプライベート線形回帰に対する単純な攻撃を分析し、再構成が$ρ\gg d$に対して事実上可能であることを示す。 注目すべきは、この移行は$ρ\asymp s$に移行し、$s$次元のサブスペースにあるデータに対して、適切な保護を保証するプライバシー予算が、データの有効次元の観点から評価されなければならないことを示す。 本研究では, 合成データと自然画像(CIFAR-10, ImageNet)を用いて実験を行った。

関連論文リスト

• Revisiting the Privacy Risks of Split Inference: A GAN-Based Data Reconstruction Attack via Progressive Feature Optimization [49.32786615205064]
  Split Inference (SI)は、エッジデバイスとクラウドの間の計算を分割することで、レイテンシを低減し、ユーザのプライバシを保護する。 データ再構成攻撃(DRA)の最近の進歩は、SIで交換された中間的特徴を利用して機密入力データを復元できることを明らかにしている。 既存のDRAは一般的に浅いモデルにのみ有効であり、セマンティックな事前を十分に活用できない。 本稿では,プログレッシブ・フィーチャー・オプティマイゼーション(PFO)を用いた新しいGANベースのDRAフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-28T10:00:39Z)
• CRFU: Compressive Representation Forgetting Against Privacy Leakage on Machine Unlearning [14.061404670832097]
  効果的なアンラーニング方法は、訓練されたモデルから指定されたデータの情報を除去し、アンラーニングの前後で同じ入力に対して異なる出力を出力する。 本研究では,非学習者のプライバシー漏洩を防ぐためにCRFU(Compressive Representation Forgetting Unlearning scheme)を導入する。
  論文  参考訳（メタデータ） (2025-02-27T05:59:02Z)
• Visual Privacy Auditing with Diffusion Models [47.0700328585184]
  拡散モデル (DM) に基づく再構成攻撃を導入し, 現実画像への逆アクセスを前提としている。 その結果,(1) 実世界の過去のデータが再建の成功に大きく影響していること,(2) 現在の再建境界は, 過去のデータによるリスクをうまくモデル化せず, DMは, プライバシー漏洩を可視化するための監査ツールとして機能することがわかった。
  論文  参考訳（メタデータ） (2024-03-12T12:18:55Z)
• Reconciling AI Performance and Data Reconstruction Resilience for Medical Imaging [52.578054703818125]
  人工知能(AI)モデルは、トレーニングデータの情報漏洩に対して脆弱であり、非常に敏感である。 差別化プライバシ(DP)は、定量的なプライバシー予算を設定することで、これらの感受性を回避することを目的としている。 非常に大きなプライバシ予算を使用することで、リコンストラクション攻撃は不可能であり、パフォーマンスの低下は無視可能であることを示す。
  論文  参考訳（メタデータ） (2023-12-05T12:21:30Z)
• Analyzing Privacy Leakage in Machine Learning via Multiple Hypothesis Testing: A Lesson From Fano [83.5933307263932]
  本研究では,離散データに対するデータ再構成攻撃について検討し,仮説テストの枠組みの下で解析する。 基礎となるプライベートデータが$M$のセットから値を取ると、ターゲットのプライバシパラメータ$epsilon$が$O(log M)$になる。
  論文  参考訳（メタデータ） (2022-10-24T23:50:12Z)
• Defending against Reconstruction Attacks with R\'enyi Differential Privacy [72.1188520352079]
  レコンストラクション攻撃により、敵は訓練されたモデルのみにアクセスすることで、トレーニングセットのデータサンプルを再生することができる。 差別化プライバシはこのような攻撃に対する既知の解決策であるが、比較的大きなプライバシ予算で使用されることが多い。 また、同機構により、従来の文献よりも優れた復元攻撃に対するプライバシー保証を導出できることを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:09:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。