論文の概要: Membership Inference Attacks fueled by Few-Short Learning to detect privacy leakage tackling data integrity

• arxiv url: http://arxiv.org/abs/2503.09365v1
• Date: Wed, 12 Mar 2025 13:09:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-13 15:36:45.878469
• Title: Membership Inference Attacks fueled by Few-Short Learning to detect privacy leakage tackling data integrity
• Title（参考訳）: データ整合性に対処するプライバシー漏洩を検出するFew-Short Learningによるメンバーシップ推論攻撃
• Authors: Daniel Jiménez-López, Nuria Rodríguez-Barroso, M. Victoria Luzón, Francisco Herrera,
• Abstract要約: ディープラーニングモデルは、トレーニングデータの一部を記憶し、プライバシリークを生成する。 本稿では、深層学習モデルのプライバシー侵害の評価を容易にするFeS-MIAモデルとして考案されたFew-Shot学習に基づくMIAを提案する。 また,Log-MIA尺度と呼ばれる,解釈可能な量的・質的なプライバシ尺度を提案する。
• 参考スコア（独自算出の注目度）: 7.8973037023478785
• License:
• Abstract: Deep learning models have an intrinsic privacy issue as they memorize parts of their training data, creating a privacy leakage. Membership Inference Attacks (MIA) exploit it to obtain confidential information about the data used for training, aiming to steal information. They can be repurposed as a measurement of data integrity by inferring whether it was used to train a machine learning model. While state-of-the-art attacks achieve a significant privacy leakage, their requirements are not feasible enough, hindering their role as practical tools to assess the magnitude of the privacy risk. Moreover, the most appropriate evaluation metric of MIA, the True Positive Rate at low False Positive Rate lacks interpretability. We claim that the incorporation of Few-Shot Learning techniques to the MIA field and a proper qualitative and quantitative privacy evaluation measure should deal with these issues. In this context, our proposal is twofold. We propose a Few-Shot learning based MIA, coined as the FeS-MIA model, which eases the evaluation of the privacy breach of a deep learning model by significantly reducing the number of resources required for the purpose. Furthermore, we propose an interpretable quantitative and qualitative measure of privacy, referred to as Log-MIA measure. Jointly, these proposals provide new tools to assess the privacy leakage and to ease the evaluation of the training data integrity of deep learning models, that is, to analyze the privacy breach of a deep learning model. Experiments carried out with MIA over image classification and language modeling tasks and its comparison to the state-of-the-art show that our proposals excel at reporting the privacy leakage of a deep learning model with little extra information.
• Abstract（参考訳）: ディープラーニングモデルには、トレーニングデータの一部を記憶し、プライバシリークを発生させるという、固有のプライバシの問題がある。 メンバーシップ推論攻撃(MIA)は、情報を盗むために、トレーニングに使用されるデータに関する機密情報を取得するためにそれを利用する。 それらは、機械学習モデルのトレーニングに使用されたかどうかを推測することで、データの整合性の測定として再利用することができる。 最先端の攻撃は重大なプライバシー漏洩を実現するが、彼らの要求は十分に実現できず、プライバシリスクの規模を評価するための実用的なツールとしての役割を妨げている。 さらに、MIAの最も適切な評価基準である、偽陽性率の低い真の正のレートは、解釈可能性に欠ける。 我々は,MIA分野へのFew-Shot Learning技術の導入と適切な質的かつ定量的なプライバシ評価尺度がこれらの問題に対処すべきであると主張している。 この文脈では、私たちの提案は2つあります。 本稿では,Few-Shot学習に基づくMIA(FeS-MIAモデル)を提案する。 さらに,Log-MIA尺度と呼ばれる,解釈可能な量的・質的なプライバシ尺度を提案する。 これらの提案は、プライバシリークを評価し、ディープラーニングモデルのトレーニングデータ整合性、すなわちディープラーニングモデルのプライバシ侵害を分析するための、新たなツールを提供する。 画像分類と言語モデリングのタスクに対するMIAによる実験と、最先端技術との比較により、我々の提案は、余分な情報が少ない深層学習モデルのプライバシー漏洩を報告するのに優れていることが示された。

関連論文リスト

• Real-Time Privacy Risk Measurement with Privacy Tokens for Gradient Leakage [15.700803673467641]
  プライバシーに敏感なドメインにおけるディープラーニングモデルは、プライバシーリスクに関する懸念を増幅している。 トレーニング中にプライベート勾配から直接導出されるプライバシートークンの概念を提案する。 プライバシートークンは、トレーニングデータからのプライベート情報漏洩の程度に関する貴重な洞察を提供する。 我々は、トレーニングデータと勾配の関係を定量化するために、Mutual Information (MI) をロバストな指標として採用する。
  論文  参考訳（メタデータ） (2025-02-05T06:20:20Z)
• Underestimated Privacy Risks for Minority Populations in Large Language Model Unlearning [20.018234150653885]
  プライバシーの観点から、最悪のシナリオでは、アンラーニングは考慮すべきである、と私たちは主張する。 マイノリティグループは6つの未学習アプローチで、ほとんどの場合、少なくとも20%以上のプライバシー漏洩を経験します。
  論文  参考訳（メタデータ） (2024-12-11T17:22:07Z)
• Model Inversion Attacks: A Survey of Approaches and Countermeasures [59.986922963781]
  近年、新しいタイプのプライバシ攻撃であるモデル反転攻撃(MIA)は、トレーニングのためのプライベートデータの機密性を抽出することを目的としている。 この重要性にもかかわらず、総合的な概要とMIAに関する深い洞察を提供する体系的な研究が欠如している。 本調査は、攻撃と防御の両方において、最新のMIA手法を要約することを目的としている。
  論文  参考訳（メタデータ） (2024-11-15T08:09:28Z)
• Benchmarking Vision Language Model Unlearning via Fictitious Facial Identity Dataset [92.99416966226724]
  我々は、未学習アルゴリズムの有効性を頑健に評価するために設計された新しいVLMアンラーニングベンチマークであるFacial Identity Unlearning Benchmark (FIUBench)を紹介する。 情報ソースとその露出レベルを正確に制御する2段階評価パイプラインを適用した。 FIUBench 内の 4 つのベースライン VLM アンラーニングアルゴリズムの評価により,すべての手法がアンラーニング性能に制限されていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-11-05T23:26:10Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Assessing Privacy Risks in Language Models: A Case Study on Summarization Tasks [65.21536453075275]
  我々は要約作業に焦点をあて、会員推測(MI)攻撃について調査する。 テキストの類似性や文書修正に対するモデルの抵抗をMI信号として活用する。 我々は、MI攻撃から保護するための要約モデルの訓練と、プライバシとユーティリティの本質的にのトレードオフについて議論する。
  論文  参考訳（メタデータ） (2023-10-20T05:44:39Z)
• Privacy Preserving Large Language Models: ChatGPT Case Study Based Vision and Framework [6.828884629694705]
  本稿では,LLMのプライバシ生成モデルであるPrivChatGPTという概念モデルを提案する。 PrivChatGPTは、データキュレーション/前処理中にユーザのプライバシを保護し、プライベートコンテキストの保存と大規模データのプライベートトレーニングプロセスという2つの主要コンポーネントから構成される。
  論文  参考訳（メタデータ） (2023-10-19T06:55:13Z)
• CANIFE: Crafting Canaries for Empirical Privacy Measurement in Federated Learning [77.27443885999404]
  Federated Learning(FL)は、分散環境で機械学習モデルをトレーニングするための設定である。 本稿では,訓練ラウンドの経験的プライバシを評価するために,強敵による慎重なサンプル作成手法であるCANIFEを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:30:16Z)
• On the Privacy Effect of Data Enhancement via the Lens of Memorization [20.63044895680223]
  我々は,記憶化という新たな視点からプライバシを調査することを提案する。 記憶のレンズを通して、以前デプロイされたMIAは、より高いプライバシーリスクを持つサンプルを特定する可能性が低いため、誤解を招く結果をもたらすことがわかった。 一般化ギャップとプライバシリークは, これまでの結果に比べて相関が低いことを示す。
  論文  参考訳（メタデータ） (2022-08-17T13:02:17Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• Privacy for Rescue: A New Testimony Why Privacy is Vulnerable In Deep Models [6.902994369582068]
  エッジクラウドシステム実行モデルにおけるプライバシ保護問題の形式的定義を示す。 我々は最先端の手法を分析し、それらの手法の欠点を指摘する。 本稿では,プライバシー保護手法の有効性を評価するために,より正確な2つの指標を提案する。
  論文  参考訳（メタデータ） (2019-12-31T15:55:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。