論文の概要: Adaptive Model Inversion Attacks Generalize a Privacy-Robustness Tradeoff

• arxiv url: http://arxiv.org/abs/2610.07677v1
• Date: Tue, 06 Oct 2026 03:11:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.782528
• Title: Adaptive Model Inversion Attacks Generalize a Privacy-Robustness Tradeoff
• Title（参考訳）: プライバシとロバスト性のトレードオフを一般化するアダプティブモデルインバージョンアタック
• Abstract要約: 本研究では,高精細度モデル反転攻撃の標準評価が,トレーニングデータのプライバシー漏洩を著しく過小評価していることを示す。 以上の結果から,MIAの標準評価は,プライバシの最適化と測定の失敗を誤る可能性があることが示唆された。 これはオープンな疑問を提起する: 現実的な防衛は、敵の堅牢性に対応するコストを払わずに、トレーニングデータ再構築を減らせることができるか?
• 参考スコア（独自算出の注目度）: 1.9754011041953694
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we show that standard evaluations of high-resolution Model Inversion Attacks (MIAs) significantly underestimate training-data privacy leakage. State-of-the-art privacy defenses, standard training techniques such as MixUp and Adversarial Training, and undefended models all leak training images at rates 1.16 to 6.59 times higher on FaceScrub under simple adaptive changes to the attack, with the largest increases among defenses reporting the strongest privacy. We further show that measured leakage depends on the feature basis of the external classifier used to evaluate reconstructions: for the same reconstructed images, an adversarially trained Inception evaluator identifies the targeted identity at different rates than the standard Inception evaluator. Our results suggest that standard MIA evaluation can mistake optimization and measurement failures for privacy. These underestimated leakage rates also concealed a broader relationship between privacy and adversarial robustness. Once we adapt the attack and vary the evaluator, reconstruction leakage closely tracks adversarial robustness across recent defenses and standard training regimes, suggesting that robustness provides an attack-agnostic proxy for reconstruction vulnerability that applies far more broadly than previously theorized. This raises an open question: can a practical defense reduce training-data reconstruction without paying a corresponding cost in adversarial robustness?
• Abstract（参考訳）: 本稿では,高解像度モデル反転攻撃(MIAs)の標準評価が,トレーニングデータのプライバシー漏洩を著しく過小評価していることを示す。 最先端のプライバシ防衛、MixUpやAdversarial Trainingのような標準的なトレーニング技術、および未修正のモデルはすべて、FaceScrub上で1.16から6.59倍のレートでトレーニングイメージをリークする。 さらに, 再現性を評価するために使用される外部分類器の特徴ベースに依存することを示す: 同じ再構成画像に対して, 逆向きに訓練されたインセプション評価器は, 標準インセプション評価器とは異なる速度でターゲットのアイデンティティを識別する。 以上の結果から,MIAの標準評価は,プライバシの最適化と測定の失敗を誤る可能性があることが示唆された。 これらの過小評価されたリーク率は、プライバシーと敵の堅牢性の間に広範な関係を隠蔽した。 一度攻撃に適応して評価器を変えると、復元リークは最近の防衛体制や訓練体制をまたいだ敵の堅牢性を密に追跡し、ロバスト性は以前に理論化されたよりもはるかに広範囲に適用される再構築脆弱性に対する攻撃非依存のプロキシを提供することを示唆する。 これはオープンな疑問を提起する: 現実的な防衛は、敵の堅牢性に対応するコストを払わずに、トレーニングデータ再構築を減らせることができるか?

関連論文リスト

• Reducing information dependency does not cause training data privacy. Adversarially non-robust features do [1.9754011041953694]
  広範囲な露光は暗記を伴わずに持続しうることを示し,その代わりに対向性強靭性への調整可能な接続が原因であることを示した。 我々の結果は、トレーニングデータの露出に関する一般的な理解を再考し、新たなプライバシ・ロバスト性トレードオフを明らかにします。
  論文  参考訳（メタデータ） (2026-07-14T05:06:24Z)
• Neighborhood Blending: A Lightweight Inference-Time Defense Against Membership Inference Attacks [5.468130838517792]
  近隣ブレンディング(Neighborhood Blending)と呼ばれる新しい予測時防衛機構を導入する。 提案手法は,敵と区別できない,一貫した信頼パターン,メンバと非メンバのレンダリングを実現する。 これはモデルに依存しないアプローチであり、実用的で軽量なソリューションを提供し、モデルユーティリティを犠牲にすることなくプライバシを強化する。
  論文  参考訳（メタデータ） (2026-02-13T14:01:21Z)
• DiffMI: Breaking Face Recognition Privacy via Diffusion-Driven Training-Free Model Inversion [16.02881487974147]
  顔認識は、不変の生体データに依存するため、深刻なプライバシーリスクを引き起こす。 モデル反転攻撃は、アイデンティティ情報がまだ回復可能であることを明らかにし、重大な脆弱性を露呈する。 DiffMIは拡散駆動型トレーニングフリーモデルインバージョンアタックである。
  論文  参考訳（メタデータ） (2025-04-25T01:53:27Z)
• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Visual Privacy Auditing with Diffusion Models [47.0700328585184]
  拡散モデル (DM) に基づく再構成攻撃を導入し, 現実画像への逆アクセスを前提としている。 その結果,(1) 実世界の過去のデータが再建の成功に大きく影響していること,(2) 現在の再建境界は, 過去のデータによるリスクをうまくモデル化せず, DMは, プライバシー漏洩を可視化するための監査ツールとして機能することがわかった。
  論文  参考訳（メタデータ） (2024-03-12T12:18:55Z)
• From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks [54.25638567385662]
  機械学習における微分プライバシーは、しばしばメンバーシップ推論に対する保証として解釈される。 DP予算を定量的な保護に翻訳することで、データ再構築の脅威を悪化させることは、依然として困難な課題である。 本稿では、実証された"ゼロスクラッチ"攻撃のメカニズムに合わせた、最初の公式なプライバシー境界を導出することで、臨界ギャップを埋める。
  論文  参考訳（メタデータ） (2024-02-20T09:52:30Z)
• Privacy Assessment on Reconstructed Images: Are Existing Evaluation Metrics Faithful to Human Perception? [86.58989831070426]
  本研究では,手作りのメトリクスの忠実さを,再構成画像からの人間のプライバシー情報の認識に適用する。 本稿では,SemSimと呼ばれる学習に基づく尺度を提案し,オリジナル画像と再構成画像のセマンティック類似性を評価する。
  論文  参考訳（メタデータ） (2023-09-22T17:58:04Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• LTU Attacker for Membership Inference [23.266710407178078]
  我々は,会員推定攻撃に対する予測モデルを守るという課題に対処する。 ユーティリティとプライバシの両方を、アタッカーと評価器を含む外部装置で評価する。 特定の条件下では、単純な攻撃戦略によって、LTU攻撃者でさえ、プライバシー損失の低い境界を達成できることを証明します。
  論文  参考訳（メタデータ） (2022-02-04T18:06:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。