論文の概要: From Multiplicity to Vulnerability: Privacy Amplification Risk from One-Dataset-Multiple-Model Exposure

• arxiv url: http://arxiv.org/abs/2607.05111v1
• Date: Mon, 06 Jul 2026 14:04:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:30.183916
• Title: From Multiplicity to Vulnerability: Privacy Amplification Risk from One-Dataset-Multiple-Model Exposure
• Title（参考訳）: マルチプライオリティから脆弱性へ:1データセット・マルチモデル露光によるプライバシーの増幅リスク
• Abstract要約: 本研究は, 1-dataset-multiple-model (ODMM) 設定がプライバシー漏洩を著しく増幅することを明らかにする。 ODMMモデルに対するブラックボックスアクセスでは、個々のODMMモデルによってリークされたプライバシー信号の集合的識別を行うアグリゲーション機構を設計する。 その結果,ODMMモデル全体にわたるデータセットの再利用が,プライバシーを著しく損なうという強い証拠が得られた。
• 参考スコア（独自算出の注目度）: 18.343372735919292
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To efficiently exploit a valuable data source (e.g., facial or medical images), it is frequently harnessed to fulfill multiple learning objectives (e.g., facial recognition, age estimation, and race classification). Each trained model is then deployed as an independent API service for corresponding inference. However, the privacy risk introduced by this one-dataset-multiple-model (ODMM) paradigm is completely overlooked by the community. For the first time, this work reveals that the ODMM setting substantially amplifies privacy leakage. We establish a theoretical framework that proves that privacy leakage accumulates as more ODMM models are exposed, a phenomenon we term ODMM privacy composition. Guided by this theoretical foundation, we propose PRIME (Privacy Amplification RIsk from One-Dataset-Multiple-Model Exposure) to systematically assess this risk and quantify the resulting leakage using membership inference attacks (MIAs). Under black-box access to ODMM models, we design an aggregation mechanism that collectively captures carefully identified privacy signals leaked by individual ODMM models, and construct an attack meta-classifier over the aggregated meta-information to infer the membership status of a given sample jointly. Our results provide strong evidence that dataset reuse across ODMM models strikingly jeopardizes privacy, which is consistently evident across five privacy-sensitive image and textual benchmark datasets and diverse model architectures (from ResNet and ViT to Qwen3-1.7B), spanning three domains: facial analysis, medical imaging, and textual attribution analysis. While mitigations such as differential privacy can reduce the effectiveness of PRIME with trade-offs, our attack still consistently outperforms single-task MIAs.
• Abstract（参考訳）: 価値あるデータソース(例えば、顔や医療画像)を効率的に活用するために、複数の学習目的(例えば、顔認識、年齢推定、人種分類)を達成するために頻繁に利用される。 トレーニングされた各モデルは、対応する推論のための独立したAPIサービスとしてデプロイされる。 しかし、この1データセット・マルチモデル(ODMM)パラダイムによってもたらされるプライバシーリスクは、コミュニティによって完全に見過ごされている。 この研究は、ODMM設定がプライバシー漏洩を著しく増幅していることを初めて明らかにした。 我々は、より多くのODMMモデルが露出するにつれてプライバシー漏洩が蓄積することを示す理論的枠組みを確立し、この現象をODMMプライバシ構成と呼ぶ。 この理論の基礎を導いたPRIME(Privacy Amplification RIsk from One-Dataset-Multiple-Model Exposure)を提案する。 ODMMモデルに対するブラックボックスアクセスでは,個々のODMMモデルから流出したプライバシー信号の集合的識別を行うアグリゲーション機構を設計し,アグリゲーションされたメタ情報上に攻撃メタ分類器を構築し,与えられたサンプルのメンバシップステータスを共同で推定する。 我々の結果は、ODMMモデル全体にわたるデータセットの再利用が、プライバシーを著しく損なうという強い証拠を提供する。これは、プライバシーに敏感な5つの画像およびテキストベンチマークデータセットと多種多様なモデルアーキテクチャ(ResNet、ViT、Qwen3-1.7B)で一貫して明らかであり、顔分析、医用画像、テキスト属性分析の3つの領域にまたがる。 差分プライバシーなどの緩和は、トレードオフによるPRIMEの有効性を低下させる可能性があるが、我々の攻撃はシングルタスクMIAよりも一貫して上回っている。

関連論文リスト

• Noise as a Probe: Membership Inference Attacks on Diffusion Models Leveraging Initial Noise [51.179816451161635]
  拡散モデルは画像生成において顕著な進歩を遂げているが、そのデプロイの増加はプライバシに関する深刻な懸念を引き起こす。 広範に使われているノイズスケジュールは、画像のセマンティック情報を完全に排除することができない。 本稿では,初期雑音に意味情報を注入し,モデル生成結果を解析してメンバーシップを推定する,シンプルで効果的なメンバーシップ推論攻撃を提案する。
  論文  参考訳（メタデータ） (2026-01-29T12:29:01Z)
• When Privacy Meets Recovery: The Overlooked Half of Surrogate-Driven Privacy Preservation for MLLM Editing [61.80513991207956]
  この研究は、さまざまなMLLMシナリオでサロゲート駆動の保護されたデータを復元する方法の課題に焦点を当てている。 私たちはまず、SPPE(Surrogate Privacy Protected Editable)データセットの提供によって、この研究ギャップを埋めます。 MLLM生成編集の忠実さを保ちながら、プライベートコンテンツを確実に再構築する統一的な手法を提案する。
  論文  参考訳（メタデータ） (2025-12-08T04:59:03Z)
• Auditing M-LLMs for Privacy Risks: A Synthetic Benchmark and Evaluation Framework [7.493288948235459]
  PRISMは、クロスモーダルなプライバシーリスクを評価するために設計された大規模な総合ベンチマークである。 PRISMは、最初のマルチモーダル、多次元、微細な合成データセットである。 PRISM上での6つのM-LLMの推論能力を評価する。
  論文  参考訳（メタデータ） (2025-11-05T07:23:21Z)
• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• Ensembling Membership Inference Attacks Against Tabular Generative Models [7.709474360794182]
  現実的な脅威シナリオでは、敵は、経験的に最高のパフォーマンスオプションであることを保証せずに、単一のメソッドを選択する必要がある。 我々は、この課題を不確実性の下で決定論的問題として検討し、これまでで最大の合成データプライバシーベンチマークを実行した。 これらの知見に触発され、我々はMIAアンサンブルを提案し、個々の攻撃に基づいて構築された教師なしアンサンブルが、個々の攻撃よりも経験的により堅牢で後悔を最小化する戦略を提供することを示した。
  論文  参考訳（メタデータ） (2025-09-02T18:44:07Z)
• MrM: Black-Box Membership Inference Attacks against Multimodal RAG Systems [31.53306157650065]
  マルチモーダル検索拡張生成(RAG)システムは、クロスモーダル知識を統合することで、大きな視覚言語モデルを強化する。 これらの知識データベースには、プライバシー保護を必要とする機密情報が含まれている可能性がある。 MrMはマルチモーダルRAGシステムを対象とした最初のブラックボックスMIAフレームワークである。
  論文  参考訳（メタデータ） (2025-06-09T03:48:50Z)
• Differentially Private Distribution Release of Gaussian Mixture Models via KL-Divergence Minimization [11.3783762550703]
  本稿では,GMMパラメータに厳格な乱摂動を付加するDP機構を提案する。 当社のアプローチは、高いユーティリティを維持しながら、強力なプライバシ保証を実現する。
  論文  参考訳（メタデータ） (2025-06-04T00:40:24Z)
• Communication-Efficient and Privacy-Adaptable Mechanism for Federated Learning [54.20871516148981]
  通信効率・プライバシー適応メカニズム(CEPAM)について紹介する。 CEPAMは通信効率とプライバシー保護を同時に達成する。 我々は、CEPAMのプライバシー保証を理論的に分析し、CEPAMのユーザプライバシと正確性の間のトレードオフを調査する。
  論文  参考訳（メタデータ） (2025-01-21T11:16:05Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• CleanCLIP: Mitigating Data Poisoning Attacks in Multimodal Contrastive Learning [63.72975421109622]
  CleanCLIPは、バックドア攻撃によって引き起こされる学習された刺激的関連を弱める微調整フレームワークである。 CleanCLIPは、マルチモーダル・コントラッシブ・ラーニングに対するバックドア・アタックを根絶しながら、良質な例によるモデル性能を維持している。
  論文  参考訳（メタデータ） (2023-03-06T17:48:32Z)
• Membership Inference Attacks against Synthetic Data through Overfitting Detection [84.02632160692995]
  我々は、攻撃者が基礎となるデータ分布についてある程度の知識を持っていると仮定する現実的なMIA設定について論じる。 生成モデルの局所的なオーバーフィッティングをターゲットとして,メンバシップを推論することを目的とした密度ベースMIAモデルであるDOMIASを提案する。
  論文  参考訳（メタデータ） (2023-02-24T11:27:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。