論文の概要: Synthetic Data Outliers: Navigating Identity Disclosure

• arxiv url: http://arxiv.org/abs/2406.02736v1
• Date: Tue, 4 Jun 2024 19:35:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 22:58:01.797041
• Title: Synthetic Data Outliers: Navigating Identity Disclosure
• Title（参考訳）: 合成データアウトレイア: アイデンティティの開示をナビゲートする
• Authors: Carolina Trindade, Luís Antunes, Tânia Carvalho, Nuno Moniz,
• Abstract要約: 合成データのプライバシを外部から分析する。 本研究は, リンク攻撃による異常再同定が可能であり, 容易に達成できることを示唆する。 差分プライバシーなどの追加の保護は、データユーティリティを犠牲にして、再識別を防止することができる。
• 参考スコア（独自算出の注目度）: 3.8811062755861956
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Multiple synthetic data generation models have emerged, among which deep learning models have become the vanguard due to their ability to capture the underlying characteristics of the original data. However, the resemblance of the synthetic to the original data raises important questions on the protection of individuals' privacy. As synthetic data is perceived as a means to fully protect personal information, most current related work disregards the impact of re-identification risk. In particular, limited attention has been given to exploring outliers, despite their privacy relevance. In this work, we analyze the privacy of synthetic data w.r.t the outliers. Our main findings suggest that outliers re-identification via linkage attack is feasible and easily achieved. Furthermore, additional safeguards such as differential privacy can prevent re-identification, albeit at the expense of the data utility.
• Abstract（参考訳）: 複数の合成データ生成モデルが登場し、そのうちの1つは、深層学習モデルが、原データの基礎となる特徴を捉える能力によって、先駆者となっていることである。 しかし、合成データと元のデータとの類似性は、個人のプライバシー保護に関する重要な疑問を提起する。 合成データは個人情報を完全に保護する手段として認識されるため、現在の研究は再識別リスクの影響を無視している。 特にプライバシの関連性にもかかわらず、異常値の探索には限定的な注意が向けられている。 本研究では,合成データのプライバシを外部から解析する。 本研究は, リンク攻撃による異常再同定が可能であり, 容易に達成できることを示唆する。 さらに、差分プライバシーなどの追加の保護は、データユーティリティを犠牲にして、再識別を防止することができる。

関連論文リスト

• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  テキストの匿名化は、プライバシーを維持しながら機密データを共有するために重要である。 既存の技術は、大規模言語モデルの再識別攻撃能力の新たな課題に直面している。 本稿では,3つのLCMベースコンポーネント – プライバシ評価器,ユーティリティ評価器,最適化コンポーネント – で構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data [51.41288763521186]
  Retrieval-augmented Generation (RAG)は、外部知識ソースから取得した関連情報を統合することにより、言語モデルの出力を強化する。 RAGシステムは、プライベートデータを取得する際に深刻なプライバシーリスクに直面する可能性がある。 検索データに対するプライバシー保護の代替として,合成データを用いる方法を提案する。
  論文  参考訳（メタデータ） (2024-06-20T22:53:09Z)
• Protect and Extend -- Using GANs for Synthetic Data Generation of Time-Series Medical Records [1.9749268648715583]
  本研究は、認知症患者の時系列合成医療記録を生成するために、現在最先端のGANベースの合成データ生成モデルと比較する。 本実験は,プライバシ保護に関する他のモデルよりも,プライバシ保護GAN(PPGAN)モデルの方が優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-21T10:24:34Z)
• Auditing and Generating Synthetic Data with Controllable Trust Trade-offs [54.262044436203965]
  合成データセットとAIモデルを包括的に評価する総合監査フレームワークを導入する。 バイアスや差別の防止、ソースデータへの忠実性の確保、実用性、堅牢性、プライバシ保護などに焦点を当てている。 多様なユースケースにまたがる様々な生成モデルを監査することにより,フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2023-04-21T09:03:18Z)
• Beyond Privacy: Navigating the Opportunities and Challenges of Synthetic Data [91.52783572568214]
  合成データは、機械学習の世界において支配的な力となり、データセットを個々のニーズに合わせて調整できる未来を約束する。 合成データのより広範な妥当性と適用のために,コミュニティが克服すべき根本的な課題について論じる。
  論文  参考訳（メタデータ） (2023-04-07T16:38:40Z)
• Synthetic Data: Methods, Use Cases, and Risks [11.413309528464632]
  研究コミュニティと業界の両方で勢いを増す可能性のある選択肢は、代わりに合成データを共有することだ。 我々は、合成データについて穏やかに紹介し、そのユースケース、未適応のプライバシー問題、そしてその固有の制限を効果的なプライバシー強化技術として論じます。
  論文  参考訳（メタデータ） (2023-03-01T16:35:33Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• Bias Mitigated Learning from Differentially Private Synthetic Data: A Cautionary Tale [13.881022208028751]
  バイアスは、合成データ分布が実データ分布の不整合推定であるため、すべての解析に影響を与える可能性がある。 民営化確率比を用いた複数のバイアス緩和戦略を提案する。 バイアス緩和は、合成データの一般的な応用に、シンプルで効果的なプライバシー準拠の強化をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-08-24T19:56:44Z)
• Causally Constrained Data Synthesis for Private Data Release [36.80484740314504]
  原データの特定の統計特性を反映した合成データを使用することで、原データのプライバシーが保護される。 以前の作業では、正式なプライバシ保証を提供するために、差分プライベートなデータリリースメカニズムを使用していました。 トレーニングプロセスに因果情報を導入し、上記のトレードオフを好意的に修正することを提案する。
  論文  参考訳（メタデータ） (2021-05-27T13:46:57Z)
• Synthetic Data -- Anonymisation Groundhog Day [4.694549066382216]
  本稿では,合成データ公開におけるプライバシ向上の定量的評価について述べる。 合成データは、推論攻撃を防ぎ、データの有用性を保たないことを示す。 従来の匿名化とは対照的に、合成データ公開のプライバシーとユーティリティのトレードオフは予測が難しい。
  論文  参考訳（メタデータ） (2020-11-13T16:58:42Z)
• Hide-and-Seek Privacy Challenge [88.49671206936259]
  NeurIPS 2020 Hide-and-Seek Privacy Challengeは、両方の問題を解決するための新しい2トラックの競争だ。 我々の頭から頭までのフォーマットでは、新しい高品質な集中ケア時系列データセットを用いて、合成データ生成トラック(「ヒッシャー」)と患者再識別トラック(「シーカー」)の参加者が直接対決する。
  論文  参考訳（メタデータ） (2020-07-23T15:50:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。