論文の概要: Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data

• arxiv url: http://arxiv.org/abs/2307.01701v2
• Date: Thu, 21 Sep 2023 12:06:09 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-22 19:04:07.796901
• Title: Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data
• Title（参考訳）: 合成は必要なすべて:合成データに対する会員推測攻撃の補助的データ仮定を取り除く
• Authors: Florent Gu\'epin, Matthieu Meeus, Ana-Maria Cretu and Yves-Alexandre de Montjoye
• Abstract要約: この仮定をどのように取り除くかを示し、MIAを合成データのみを用いて実行できるようにする。 その結果,MIAは実世界の2つのデータセットと2つの合成データジェネレータでまだ成功していることがわかった。
• 参考スコア（独自算出の注目度）: 9.061271587514215
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Synthetic data is emerging as one of the most promising solutions to share individual-level data while safeguarding privacy. While membership inference attacks (MIAs), based on shadow modeling, have become the standard to evaluate the privacy of synthetic data, they currently assume the attacker to have access to an auxiliary dataset sampled from a similar distribution as the training dataset. This is often seen as a very strong assumption in practice, especially as the proposed main use cases for synthetic tabular data (e.g. medical data, financial transactions) are very specific and don't have any reference datasets directly available. We here show how this assumption can be removed, allowing for MIAs to be performed using only the synthetic data. Specifically, we developed three different scenarios: (S1) Black-box access to the generator, (S2) only access to the released synthetic dataset and (S3) a theoretical setup as upper bound for the attack performance using only synthetic data. Our results show that MIAs are still successful, across two real-world datasets and two synthetic data generators. These results show how the strong hypothesis made when auditing synthetic data releases - access to an auxiliary dataset - can be relaxed, making the attacks more realistic in practice.
• Abstract（参考訳）: 合成データは、プライバシーを保護しながら個人レベルのデータを共有する最も有望なソリューションの1つとして浮上している。 シャドーモデリングに基づくメンバシップ推論攻撃(MIA)は、合成データのプライバシを評価する標準となっているが、現在、攻撃者はトレーニングデータセットと同様の分布からサンプリングされた補助データセットにアクセス可能であると仮定している。 特に、合成表データ(医療データ、金融取引など)の主なユースケースは、非常に具体的で、参照データセットが直接利用できないため、これは非常に強力な仮定と見なされることが多い。 ここでは、この仮定をどのように取り除くかを示し、MIAを合成データのみを用いて実行できるようにする。 具体的には, (S1) ジェネレータへのブラックボックスアクセス, (S2) リリースした合成データセットへのアクセスのみ, (S3) 合成データのみを用いた攻撃性能の上限としての理論的設定の3つのシナリオを開発した。 その結果、miasは2つの現実世界のデータセットと2つの合成データジェネレータで成功しています。 これらの結果は、合成データリリース(補助データセットへのアクセス)を監査する際の強い仮説が緩和され、実際の攻撃をより現実的なものにすることを示している。

関連論文リスト

• The Real Deal Behind the Artificial Appeal: Inferential Utility of Tabular Synthetic Data [40.165159490379146]
  評価値が不偏であっても, 偽陽性の発見率(タイプ1の誤り)は不可避的に高いことが示唆された。 以前提案された補正係数が使用されているにもかかわらず、この問題は深層生成モデルに対して持続する。
  論文  参考訳（メタデータ） (2023-12-13T02:04:41Z)
• Trading Off Scalability, Privacy, and Performance in Data Synthesis [11.698554876505446]
  a) Howsoエンジンを導入し、(b)ランダムプロジェクションに基づく合成データ生成フレームワークを提案する。 Howsoエンジンが生成する合成データは、プライバシーと正確性に優れており、その結果、総合的なスコアが最高の結果となる。 提案するランダム・プロジェクション・ベース・フレームワークは,高い精度で合成データを生成することができ,スケーラビリティが最速である。
  論文  参考訳（メタデータ） (2023-12-09T02:04:25Z)
• Reimagining Synthetic Tabular Data Generation through Data-Centric AI: A Comprehensive Benchmark [56.8042116967334]
  合成データは、機械学習モデルのトレーニングの代替となる。 合成データが現実世界データの複雑なニュアンスを反映することを保証することは、難しい作業です。 本稿では,データ中心型AI技術の統合による合成データ生成プロセスのガイドの可能性について検討する。
  論文  参考訳（メタデータ） (2023-10-25T20:32:02Z)
• Let's Synthesize Step by Step: Iterative Dataset Synthesis with Large Language Models by Extrapolating Errors from Small Models [69.76066070227452]
  ※データ合成*はラベル付きデータの少ない小さなモデルをトレーニングするための有望な方法です。 本稿では,この分散ギャップを縮めるデータ合成フレームワークであるStep* (**S3**) による合成ステップを提案する。 提案手法は,合成データセットと実データとのギャップを小さくすることで,小型モデルの性能を向上させる。
  論文  参考訳（メタデータ） (2023-10-20T17:14:25Z)
• From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
  我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。 実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。 実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
  論文  参考訳（メタデータ） (2023-08-08T19:52:28Z)
• On the Usefulness of Synthetic Tabular Data Generation [3.04585143845864]
  合成データは、データ交換と強化機械学習(ML)トレーニングの両方に使用できると一般的に信じられている。 プライバシを保存する合成データ生成は、下流タスクのデータ交換を加速するが、なぜ合成データがMLトレーニングを促進するのかを示す十分な証拠はない。
  論文  参考訳（メタデータ） (2023-06-27T17:26:23Z)
• Synthetic data, real errors: how (not) to publish and use synthetic data [86.65594304109567]
  生成過程が下流MLタスクにどのように影響するかを示す。 本稿では、生成プロセスモデルパラメータの後方分布を近似するために、Deep Generative Ensemble (DGE)を導入する。
  論文  参考訳（メタデータ） (2023-05-16T07:30:29Z)
• Membership Inference Attacks against Synthetic Data through Overfitting Detection [84.02632160692995]
  我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。 生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
  論文  参考訳（メタデータ） (2023-02-24T11:27:39Z)
• Synthcity: facilitating innovative use cases of synthetic data in different data modalities [86.52703093858631]
  Synthcityは、MLフェアネス、プライバシ、拡張における合成データの革新的なユースケースのための、オープンソースのソフトウェアパッケージである。 Synthcityは、実践者に対して、合成データにおける最先端の研究とツールへの単一のアクセスポイントを提供する。
  論文  参考訳（メタデータ） (2023-01-18T14:49:54Z)
• PreFair: Privately Generating Justifiably Fair Synthetic Data [17.037575948075215]
  PreFairは、差分プライバシー(DP)公正な合成データ生成を可能にするシステムである。 我々は、合成データ生成シナリオに適合する正当性の概念に適応する。
  論文  参考訳（メタデータ） (2022-12-20T15:01:54Z)
• Measuring Utility and Privacy of Synthetic Genomic Data [3.635321290763711]
  人工ゲノムデータを生成するための5つの最先端モデルの実用性とプライバシ保護を最初に評価する。 全体として、ボード全体でうまく機能する合成ゲノムデータを生成するための単一のアプローチは存在しない。
  論文  参考訳（メタデータ） (2021-02-05T17:41:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。