論文の概要: Subgroup Membership Inference Audits of Differentially Private Synthetic Text

• arxiv url: http://arxiv.org/abs/2609.09848v1
• Date: Wed, 09 Sep 2026 07:56:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.943534
• Title: Subgroup Membership Inference Audits of Differentially Private Synthetic Text
• Title（参考訳）: 個人別テキストのサブグループ構成推定
• Abstract要約: このようなリリースの最悪のプライバシー漏洩が、差分プライバシー(DP)によって拘束されているとしても、実際には残留するリスクが残っている。 本稿では,対象プールが明示的なパラメータであるサブグループ対象メンバシップ推論ゲームを定義し,32プロキシの監査でインスタンス化する。 監査は、合成リリースがサブグループのメンバシップをリークし、事前攻撃がこのリークを体系的に過小評価していることを示している。
• 参考スコア（独自算出の注目度）: 28.947903737268916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Synthetic data releases are increasingly proposed in the literature as a means of sharing realistic data replicas in lieu of sensitive private datasets. Even when the worst-case privacy leakage of such releases is bounded by means of differential privacy (DP), in practice a residual risk remains. Membership inference attack (MIA) audits are conducted to empirically quantify this risk. However, existing methods only measure average-case risk for randomly drawn records, which might conceal the risk to vulnerable subgroups. To highlight this issue, we define a subgroup-targeted membership inference game in which the target pool is an explicit parameter, and instantiate it with an audit of 32 proxies under three scenarios with different levels of attacker knowledge, across four datasets, three generators (DP-SGD fine-tuning, API-based prompting, and activation steering), and five privacy budgets. The audit shows that synthetic releases leak subgroup membership and that prior attacks systematically underestimate this leakage. DP is effective at the aggregate level: it substantially reduces average leakage at every budget we test. Three observations temper this picture. First, the remaining leakage is concentrated rather than spread out: under DP, a tenth of the records carries roughly 40% of it. Second, the protection DP delivers in practice is uneven: within its worst-case guarantee, the noise removes more of the measured leakage from random records than from high-risk ones---and a merged-pool audit that scores both record types against shared negatives confirms this at the record level. Third, \emph{which} records leak proves to be a property of the release mechanism rather than of the record alone, so record-level risk cannot be assessed independently of the release.
• Abstract（参考訳）: 機密性の高いプライベートデータセットの代わりに、現実的なデータレプリカを共有する手段として、合成データリリースが文献でますます提案されている。 このようなリリースの最悪のプライバシー漏洩が、差分プライバシー(DP)によって拘束されているとしても、実際には残留するリスクが残っている。 会員推測攻撃(MIA)監査は、このリスクを実証的に定量化するために行われる。 しかし、既存の手法はランダムに描画されたレコードの平均ケースリスクしか測定せず、脆弱なサブグループへのリスクを隠蔽する可能性がある。 この問題を強調するために、ターゲットプールが明示的なパラメータであるサブグループターゲットメンバーシップ推論ゲームを定義し、4つのデータセット、3つのジェネレータ(DP-SGD微調整、APIベースのプロンプト、アクティベーションステアリング)、および5つのプライバシ予算を含む、異なるレベルの攻撃的知識を持つ3つのシナリオの下で32のプロキシの監査を行う。 監査は、合成リリースがサブグループのメンバシップをリークし、事前攻撃がこのリークを体系的に過小評価していることを示している。 DPは総じて有効であり、テストするすべての予算における平均リークを著しく削減します。 この写真には3つの観察結果があります。 DPでは、レコードの10分の1が約40%を格納している。 第二に、保護DPが実際には不均一である:最悪のケースでは、ノイズはリスクの高いものよりもランダムなレコードから測定されたリークを除去する。 第三に、emph{which}レコードのリークは、レコードのみではなく、リリースメカニズムの特性であることが証明されているため、リリースから独立してレコードレベルのリスクを評価することはできない。

関連論文リスト

• DiffSafeMerge: Mitigating Backdoor Inheritance in Diffusion Model Merging [12.412925762132284]
  緩和は、妥協されたソース、トリガー、ターゲットを知ることなく困難である。 我々はDiffSafeMerge(DSM)を紹介し、これは小さなラベルのないクリーンなセットと固定された攻撃非依存のストレスプローブを使ってソースブロックをスコアリングする。
  論文  参考訳（メタデータ） (2026-08-10T11:20:35Z)
• Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents [0.0]
  従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。 本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。 我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
  論文  参考訳（メタデータ） (2026-07-27T16:19:45Z)
• Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
  データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。 本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
  論文  参考訳（メタデータ） (2026-06-15T16:54:02Z)
• OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents [32.5466552510287]
  漏れは累積的であり、個々に無害な放出は、正直だが、真正に曲がりくねった流しに蓄積される。 我々は、秘密に対する敵の信念がどれほど改善するかを予算化するランタイム仲介者であるOCELOTを提示する。 OCELOTは高いタスクユーティリティでのリークを著しく低減し、適応注入、ジェイルブレイク、累積推論、シンク共謀に抵抗する。
  論文  参考訳（メタデータ） (2026-06-10T17:13:35Z)
• Risk-Equalized Differentially Private Synthetic Data: Protecting Outliers by Controlling Record-Level Influence [9.016539021471845]
  リスク等化DP合成は,リスクの高いレコードの保護を優先するフレームワークである。 ガウスのメカニズムの下では、レコードのプライバシー損失は出力への影響に比例する。 実験により、リスク重み付けは、高出力レコードに対するメンバーシップ推論の成功を著しく減少させることが示された。
  論文  参考訳（メタデータ） (2026-02-10T19:22:46Z)
• Perfectly-Private Analog Secure Aggregation in Federated Learning [51.61616734974475]
  連合学習では、複数のパーティがモデルをローカルにトレーニングし、パラメータを中央サーバと共有する。 本稿では,有限場ではなくトーラスを用いた新しいセキュアパラメータアグリゲーション法を提案する。
  論文  参考訳（メタデータ） (2025-09-10T15:22:40Z)
• Benchmarking Fraud Detectors on Private Graph Data [70.4654745317714]
  現在、多くの種類の不正は、グラフ上で動く自動検出アルゴリズムによって部分的に管理されている。 データ保有者が不正検知器の開発を第三者にアウトソースしようとするシナリオを考察する。 サードパーティは、不正検出をデータ保持者に送信し、これらのアルゴリズムをプライベートデータセットで評価し、その結果を公表する。 本システムに対する現実的なプライバシ攻撃を提案し,評価結果のみに基づいて個人データの匿名化を可能にする。
  論文  参考訳（メタデータ） (2025-07-30T03:20:15Z)
• CBW: Towards Dataset Ownership Verification for Speaker Verification via Clustering-based Backdoor Watermarking [85.68235482145091]
  大規模音声データセットは貴重な知的財産となった。 本稿では,新しいデータセットのオーナシップ検証手法を提案する。 我々のアプローチはクラスタリングに基づくバックドア透かし(CBW)を導入している。 我々は,ベンチマークデータセットに対する広範な実験を行い,本手法の有効性とロバスト性を検証した。
  論文  参考訳（メタデータ） (2025-03-02T02:02:57Z)
• Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
  インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。 本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
  論文  参考訳（メタデータ） (2024-03-07T21:22:07Z)
• Analyzing Leakage of Personally Identifiable Information in Language Models [13.467340359030855]
  言語モデル (LM) は, 文レベルのメンバシップ推論と再構築攻撃を通じて, トレーニングデータに関する情報を漏らすことが示されている。 スクレイビング技術は減少するが、PII漏れのリスクを防止しない。 ユーザーレベルのプライバシーを保証し、PIIの開示を防止するために設計された、差分プライバシーのようなアルゴリズムによる防御の程度は不明確である。
  論文  参考訳（メタデータ） (2023-02-01T16:04:48Z)
• Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation [122.83280749890078]
  本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
  論文  参考訳（メタデータ） (2022-02-05T20:08:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。