論文の概要: Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data

• arxiv url: http://arxiv.org/abs/2307.01701v1
• Date: Tue, 4 Jul 2023 13:16:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-06 17:11:32.224378
• Title: Synthetic is all you need: removing the auxiliary data assumption for membership inference attacks against synthetic data
• Title（参考訳）: 合成は必要なすべて:合成データに対する会員推測攻撃の補助的データ仮定を取り除く
• Authors: Florent Gu\'epin, Matthieu Meeus, Ana-Maria Cretu and Yves-Alexandre de Montjoye
• Abstract要約: 合成データのみを用いてMIAをどのように行うかを示す。 結果は、合成データリリース(補助データセットへのアクセス)を監査する際の強い仮説が、実際の攻撃を実行するために緩和されることを示す。
• 参考スコア（独自算出の注目度）: 2.1374208474242815
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Synthetic data is emerging as the most promising solution to share individual-level data while safeguarding privacy. Membership inference attacks (MIAs), based on shadow modeling, have become the standard to evaluate the privacy of synthetic data. These attacks, however, currently assume the attacker to have access to an auxiliary dataset sampled from a similar distribution as the training dataset. This often is a very strong assumption that would make an attack unlikely to happen in practice. We here show how this assumption can be removed and how MIAs can be performed using only the synthetic data. More specifically, in three different attack scenarios using only synthetic data, our results demonstrate that MIAs are still successful, across two real-world datasets and two synthetic data generators. These results show how the strong hypothesis made when auditing synthetic data releases - access to an auxiliary dataset - can be relaxed to perform an actual attack.
• Abstract（参考訳）: プライバシーを保護しながら個人レベルのデータを共有できる最も有望なソリューションは、合成データだ。 シャドウモデリングに基づくメンバーシップ推論攻撃(mias)は、合成データのプライバシを評価するための標準となっている。 しかしこれらの攻撃は、現在、攻撃者はトレーニングデータセットと同じ分布からサンプリングされた補助データセットにアクセスすると仮定している。 これはしばしば、攻撃が実際に起こりそうにないような非常に強い仮定である。 本稿では,この仮定の除去方法と,合成データのみを用いてmiasを実現する方法を示す。 より具体的には、合成データのみを用いた3つの異なる攻撃シナリオにおいて、我々の結果は、MIAがまだ成功していることを示す。 これらの結果は、補助データセットにアクセス可能な合成データリリースを監査する際の強い仮説を緩和して実際の攻撃を実行する方法を示している。

関連論文リスト

• The Real Deal Behind the Artificial Appeal: Inferential Utility of Tabular Synthetic Data [40.165159490379146]
  評価値が不偏であっても, 偽陽性の発見率(タイプ1の誤り)は不可避的に高いことが示唆された。 以前提案された補正係数が使用されているにもかかわらず、この問題は深層生成モデルに対して持続する。
  論文  参考訳（メタデータ） (2023-12-13T02:04:41Z)
• Trading Off Scalability, Privacy, and Performance in Data Synthesis [11.698554876505446]
  a) Howsoエンジンを導入し、(b)ランダムプロジェクションに基づく合成データ生成フレームワークを提案する。 Howsoエンジンが生成する合成データは、プライバシーと正確性に優れており、その結果、総合的なスコアが最高の結果となる。 提案するランダム・プロジェクション・ベース・フレームワークは,高い精度で合成データを生成することができ,スケーラビリティが最速である。
  論文  参考訳（メタデータ） (2023-12-09T02:04:25Z)
• Reimagining Synthetic Tabular Data Generation through Data-Centric AI: A Comprehensive Benchmark [56.8042116967334]
  合成データは、機械学習モデルのトレーニングの代替となる。 合成データが現実世界データの複雑なニュアンスを反映することを保証することは、難しい作業です。 本稿では,データ中心型AI技術の統合による合成データ生成プロセスのガイドの可能性について検討する。
  論文  参考訳（メタデータ） (2023-10-25T20:32:02Z)
• Let's Synthesize Step by Step: Iterative Dataset Synthesis with Large Language Models by Extrapolating Errors from Small Models [69.76066070227452]
  ※データ合成*はラベル付きデータの少ない小さなモデルをトレーニングするための有望な方法です。 本稿では,この分散ギャップを縮めるデータ合成フレームワークであるStep* (**S3**) による合成ステップを提案する。 提案手法は,合成データセットと実データとのギャップを小さくすることで,小型モデルの性能を向上させる。
  論文  参考訳（メタデータ） (2023-10-20T17:14:25Z)
• From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition [64.59093444558549]
  我々はFrom Fake to Realと呼ぶシンプルで簡単に実装できる2段階のトレーニングパイプラインを提案する。 実データと合成データを別々にトレーニングすることで、FFRは実データと合成データの統計的差異にモデルを公開しない。 実験の結果,FFRは3つのデータセットに対して,最先端のグループ精度を最大20%向上させることがわかった。
  論文  参考訳（メタデータ） (2023-08-08T19:52:28Z)
• On the Usefulness of Synthetic Tabular Data Generation [3.04585143845864]
  合成データは、データ交換と強化機械学習(ML)トレーニングの両方に使用できると一般的に信じられている。 プライバシを保存する合成データ生成は、下流タスクのデータ交換を加速するが、なぜ合成データがMLトレーニングを促進するのかを示す十分な証拠はない。
  論文  参考訳（メタデータ） (2023-06-27T17:26:23Z)
• Synthetic data, real errors: how (not) to publish and use synthetic data [86.65594304109567]
  生成過程が下流MLタスクにどのように影響するかを示す。 本稿では、生成プロセスモデルパラメータの後方分布を近似するために、Deep Generative Ensemble (DGE)を導入する。
  論文  参考訳（メタデータ） (2023-05-16T07:30:29Z)
• Membership Inference Attacks against Synthetic Data through Overfitting Detection [84.02632160692995]
  我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。 生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
  論文  参考訳（メタデータ） (2023-02-24T11:27:39Z)
• Synthcity: facilitating innovative use cases of synthetic data in different data modalities [86.52703093858631]
  Synthcityは、MLフェアネス、プライバシ、拡張における合成データの革新的なユースケースのための、オープンソースのソフトウェアパッケージである。 Synthcityは、実践者に対して、合成データにおける最先端の研究とツールへの単一のアクセスポイントを提供する。
  論文  参考訳（メタデータ） (2023-01-18T14:49:54Z)
• PreFair: Privately Generating Justifiably Fair Synthetic Data [17.037575948075215]
  PreFairは、差分プライバシー(DP)公正な合成データ生成を可能にするシステムである。 我々は、合成データ生成シナリオに適合する正当性の概念に適応する。
  論文  参考訳（メタデータ） (2022-12-20T15:01:54Z)
• Measuring Utility and Privacy of Synthetic Genomic Data [3.635321290763711]
  人工ゲノムデータを生成するための5つの最先端モデルの実用性とプライバシ保護を最初に評価する。 全体として、ボード全体でうまく機能する合成ゲノムデータを生成するための単一のアプローチは存在しない。
  論文  参考訳（メタデータ） (2021-02-05T17:41:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。