論文の概要: Reducing information dependency does not cause training data privacy. Adversarially non-robust features do
- arxiv url: http://arxiv.org/abs/2607.12354v1
- Date: Tue, 14 Jul 2026 05:06:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.039593
- Title: Reducing information dependency does not cause training data privacy. Adversarially non-robust features do
- Title（参考訳）: 情報依存の低減はトレーニングデータのプライバシーを損なうものではない。
- Abstract要約: 広範囲な露光は暗記を伴わずに持続しうることを示し,その代わりに対向性強靭性への調整可能な接続が原因であることを示した。
我々の結果は、トレーニングデータの露出に関する一般的な理解を再考し、新たなプライバシ・ロバスト性トレードオフを明らかにします。
- 参考スコア（独自算出の注目度）: 1.9754011041953694
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we challenge the prevailing view that information dependency (including rote memorization) drives training data exposure to image reconstruction attacks. We show that extensive exposure can persist without rote memorization and is instead caused by a tunable connection to adversarial robustness. We begin by presenting three surprising results: (1) recent defenses that inhibit reconstruction by Model Inversion Attacks (MIAs), which evaluate leakage under an idealized attacker, do not reduce standard measures of information dependency (HSIC); (2) models that maximally memorize their training datasets remain robust to MIA reconstruction; and (3) models trained without seeing 97% of the training pixels, where recent information-theoretic bounds give arbitrarily strong privacy guarantees under standard assumptions, can still be devastatingly reconstructed by MIA. To explain these findings, we provide causal evidence that privacy under MIA arises from what the adversarial examples literature calls ``non-robust'' features (generalizable but imperceptible and unstable features). We further show that recent MIA defenses obtain their privacy improvements by unintentionally shifting models toward such features. To establish this causal relationship, we introduce Anti Adversarial Training (AT-AT), a training regime that intentionally learns non-robust features to obtain both superior reconstruction defense and higher accuracy than state-of-the-art defenses. Our results revise the prevailing understanding of training data exposure and reveal a new privacy-robustness tradeoff.
- Abstract（参考訳）: 本稿では,情報依存(rote memorizationを含む)が画像再構成攻撃に対するトレーニングデータ露出を駆動するという,一般的な見方に挑戦する。
広範囲な露光は暗記を伴わずに持続しうることを示し,その代わりに対向性強靭性への調整可能な接続が原因であることを示した。
まず,(1) 理想的な攻撃者の下での漏洩を検知するモデル反転攻撃(MIA)による再構築を阻止する最近の防衛は,情報依存度(HSIC)の標準尺度を低下させないこと,(2) トレーニングデータセットを最大限に記憶するモデルはMIA再構成に頑健であること,(3) トレーニングピクセルの97%を表示せずにトレーニングしたモデルでは,最近の情報理論境界が標準仮定の下で任意の強いプライバシー保証を与える場合,MIAによる破壊的な再構築が可能であること,の3つの驚くべき結果を示す。
これらの知見を説明するために,本論文では,「非不正」機能(汎用性はあるものの,認識不能で不安定な特徴)を事例として,MIA下でのプライバシが生じることを示す因果的証拠を提供する。
さらに,近年のMIA防衛は,意図しないモデル変更によるプライバシー向上を図っている。
この因果関係を確立するために,非破壊的特徴を意図的に学習し,より優れた再建防衛と最先端の防御を両立させる訓練体制であるAT-ATを導入する。
我々の結果は、トレーニングデータの露出に関する一般的な理解を再考し、新たなプライバシ・ロバスト性トレードオフを明らかにします。
関連論文リスト
- ARMOR: Manifold-Oriented Training for Adversarially Robust Aerial Object Detection under Data Scarcity [29.552503716131568]
モデル脆弱性に対処し,データ不足をトレーニングするために,マニフォールド指向トレーニング(ARMOR)を用いた適応ロバストネスを提案する。
ARMORは、低データ体制におけるmanifold adversarial training(OMAT)の中核的な洞察を実現している。
ARMORは0.90以上のモデルの信頼性の強いクリーンな性能を維持しながら、最先端の防御に対するモデルの信頼性を最大0.32向上させる。
論文 参考訳（メタデータ） (2026-08-30T02:14:40Z) - No Prior, No Leakage: Revisiting Reconstruction Attacks in Trained Neural Networks [13.146179839752618]
ニューラルネットワークによるトレーニングデータにより、プライバシとセキュリティに対する懸念が高まっている。
近年の研究では, ある条件下では, モデルパラメータから直接トレーニングセットの一部を再構築できることが示されている。
既存の再建手法の弱点と限界を分析し,失敗する条件を同定する。
論文 参考訳（メタデータ） (2025-09-25T15:14:08Z) - Random Erasing vs. Model Inversion: A Promising Defense or a False Hope? [25.265902142904373]
Model Inversion(MI)攻撃は、マシンラーニングモデルからプライベートトレーニングデータを再構築することで、重大なプライバシー上の脅威となる。
我々は、MI攻撃に対する防御として、その驚くべき効果を明らかにするためにランダム消去(RE)を探索する。
以上の結果から,REは従来のプライバシ保護技術と容易に統合可能な,シンプルかつ効果的な防御機構であることがわかった。
論文 参考訳（メタデータ） (2024-09-02T08:37:17Z) - Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。
バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む
我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
論文 参考訳（メタデータ） (2024-03-24T18:33:15Z) - Visual Privacy Auditing with Diffusion Models [47.0700328585184]
拡散モデル (DM) に基づく再構成攻撃を導入し, 現実画像への逆アクセスを前提としている。
その結果,(1) 実世界の過去のデータが再建の成功に大きく影響していること,(2) 現在の再建境界は, 過去のデータによるリスクをうまくモデル化せず, DMは, プライバシー漏洩を可視化するための監査ツールとして機能することがわかった。
論文 参考訳（メタデータ） (2024-03-12T12:18:55Z) - Reconciling AI Performance and Data Reconstruction Resilience for
Medical Imaging [52.578054703818125]
人工知能(AI)モデルは、トレーニングデータの情報漏洩に対して脆弱であり、非常に敏感である。
差別化プライバシ(DP)は、定量的なプライバシー予算を設定することで、これらの感受性を回避することを目的としている。
非常に大きなプライバシ予算を使用することで、リコンストラクション攻撃は不可能であり、パフォーマンスの低下は無視可能であることを示す。
論文 参考訳（メタデータ） (2023-12-05T12:21:30Z) - Avoid Adversarial Adaption in Federated Learning by Multi-Metric
Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。
FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。
我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。
MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文 参考訳（メタデータ） (2023-06-06T11:44:42Z) - Re-thinking Data Availablity Attacks Against Deep Neural Networks [53.64624167867274]
本稿では、未学習例の概念を再検討し、既存のロバストな誤り最小化ノイズが不正確な最適化目標であることを示す。
本稿では,計算時間要件の低減による保護性能の向上を図った新しい最適化パラダイムを提案する。
論文 参考訳（メタデータ） (2023-05-18T04:03:51Z) - On the Privacy Effect of Data Enhancement via the Lens of Memorization [20.63044895680223]
我々は,記憶化という新たな視点からプライバシを調査することを提案する。
記憶のレンズを通して、以前デプロイされたMIAは、より高いプライバシーリスクを持つサンプルを特定する可能性が低いため、誤解を招く結果をもたらすことがわかった。
一般化ギャップとプライバシリークは, これまでの結果に比べて相関が低いことを示す。
論文 参考訳（メタデータ） (2022-08-17T13:02:17Z) - RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。
RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。
当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文 参考訳（メタデータ） (2022-07-12T19:34:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。