Fugu-MT 論文翻訳(概要): Diffence: Fencing Membership Privacy With Diffusion Models

論文の概要: Diffence: Fencing Membership Privacy With Diffusion Models

arxiv url: http://arxiv.org/abs/2312.04692v2
Date: Sat, 21 Sep 2024 14:28:37 GMT
ステータス: 処理完了
システム内更新日: 2024-11-09 09:27:53.274597
Title: Diffence: Fencing Membership Privacy With Diffusion Models
Title（参考訳）: Diffence: メンバーシップのプライバシを拡散モデルで表現する
Authors: Yuefeng Peng, Ali Naseh, Amir Houmansadr,
Abstract要約: ディープラーニングモデルは、メンバーシップ推論攻撃(MIA)に対して脆弱である生成モデルを活用することでMIAに対する新たな防御フレームワークを導入する。当社の防衛はDIFFENCEと呼ばれ、事前推論を行います。
参考スコア（独自算出の注目度）: 14.633898825111828
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep learning models, while achieving remarkable performances, are vulnerable to membership inference attacks (MIAs). Although various defenses have been proposed, there is still substantial room for improvement in the privacy-utility trade-off. In this work, we introduce a novel defense framework against MIAs by leveraging generative models. The key intuition of our defense is to remove the differences between member and non-member inputs, which is exploited by MIAs, by re-generating input samples before feeding them to the target model. Therefore, our defense, called DIFFENCE, works pre inference, which is unlike prior defenses that are either training-time or post-inference time. A unique feature of DIFFENCE is that it works on input samples only, without modifying the training or inference phase of the target model. Therefore, it can be cascaded with other defense mechanisms as we demonstrate through experiments. DIFFENCE is designed to preserve the model's prediction labels for each sample, thereby not affecting accuracy. Furthermore, we have empirically demonstrated it does not reduce the usefulness of confidence vectors. Through extensive experimentation, we show that DIFFENCE can serve as a robust plug-n-play defense mechanism, enhancing membership privacy without compromising model utility. For instance, DIFFENCE reduces MIA accuracy against an undefended model by 15.8\% and attack AUC by 14.0\% on average across three datasets, all without impacting model utility. By integrating DIFFENCE with prior defenses, we can achieve new state-of-the-art performances in the privacy-utility trade-off. For example, when combined with the state-of-the-art SELENA defense it reduces attack accuracy by 9.3\%, and attack AUC by 10.0\%. DIFFENCE achieves this by imposing a negligible computation overhead, adding only 57ms to the inference time per sample processed on average.
Abstract（参考訳）: ディープラーニングモデルは、優れたパフォーマンスを達成する一方で、メンバシップ推論攻撃(MIA)に対して脆弱である。様々な防衛策が提案されているが、プライバシ・ユーティリティ・トレードオフの改善の余地は依然として残っている。本研究では, 生成モデルを利用したMIAに対する新たな防御フレームワークを提案する。防衛における重要な直感は、MIAによって活用されるメンバーと非メンバーの入力の差を、ターゲットモデルに供給する前に入力サンプルを再生成することで除去することである。したがって、DIFFENCEと呼ばれる我々の防衛は事前推論を行うが、これは訓練時間または後推論時間である以前の防衛とは違っている。 DIFFENCEのユニークな特徴は、ターゲットモデルのトレーニングや推論フェーズを変更することなく、入力サンプルのみで動作することである。したがって、実験を通じて示すように、他の防御機構とカスケードすることができる。 DIFFENCEはサンプル毎にモデルの予測ラベルを保持するように設計されており、精度に影響を与えない。さらに,信頼性ベクトルの有用性を低下させるものではないことを実証的に実証した。広汎な実験により、DIFFENCEは、モデルユーティリティを犠牲にすることなく、メンバーシッププライバシを向上し、堅牢なUSB-n-play防衛機構として機能することを示します。例えば、DIFFENCEは、未定義のモデルに対するMIAの精度を15.8\%削減し、3つのデータセットの平均でAUCを14.0\%攻撃する。 DIFFENCEを事前の防御と統合することにより、プライバシユーティリティのトレードオフにおいて、最先端の新たなパフォーマンスを実現することができる。例えば、最先端のSELENAディフェンスと組み合わせると、攻撃精度は9.3\%減少し、AUCは10.0\%低下する。 DIFFENCEは、無視可能な計算オーバーヘッドを課し、平均的に処理されたサンプル当たりの推論時間に57msしか追加しない。

関連論文リスト

Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
論文参考訳（メタデータ） (2023-08-02T05:54:01Z)
Overconfidence is a Dangerous Thing: Mitigating Membership Inference Attacks by Enforcing Less Confident Prediction [2.2336243882030025]
機械学習モデルは、メンバシップ推論攻撃(MIA)に対して脆弱であるこの研究は、強力なメンバーシップのプライバシと高い精度の両方を、余分なデータを必要とすることなく達成できる防衛技術であるHAMPを提案する。
論文参考訳（メタデータ） (2023-07-04T09:50:33Z)
Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
論文参考訳（メタデータ） (2023-06-06T11:44:42Z)
Client-specific Property Inference against Secure Aggregation in Federated Learning [52.8564467292226]
フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
論文参考訳（メタデータ） (2023-03-07T14:11:01Z)
FLIP: A Provable Defense Framework for Backdoor Mitigation in Federated Learning [66.56240101249803]
我々は,クライアントの強固化がグローバルモデル(および悪意のあるクライアント)に与える影響について検討する。本稿では, 逆エンジニアリングによる防御手法を提案するとともに, 堅牢性を保証して, 改良を実現できることを示す。競合する8つのSOTA防御法について, 単発および連続のFLバックドア攻撃に対して, 提案手法の実証的優位性を示した。
論文参考訳（メタデータ） (2022-10-23T22:24:03Z)
RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文参考訳（メタデータ） (2022-07-12T19:34:47Z)
One Parameter Defense -- Defending against Data Inference Attacks via Differential Privacy [26.000487178636927]
機械学習モデルは、メンバシップ推論やモデル反転攻撃のようなデータ推論攻撃に弱い。既存の防衛方法は、メンバーシップ推論攻撃からのみ保護する。両攻撃を時間効率で処理する差分プライベートディフェンス法を提案する。
論文参考訳（メタデータ） (2022-03-13T06:06:24Z)
Backdoor Defense in Federated Learning Using Differential Testing and Outlier Detection [24.562359531692504]
バックドア攻撃からFLシステムを保護するための自動防御フレームワークであるDifFenseを提案する。提案手法は,グローバルモデルの平均バックドア精度を4%以下に低減し,偽陰性率ゼロを達成する。
論文参考訳（メタデータ） (2022-02-21T17:13:03Z)
Improving Robustness to Model Inversion Attacks via Mutual Information Regularization [12.079281416410227]
本稿では,モデル逆転攻撃に対する防御機構について検討する。 MIは、ターゲット機械学習モデルへのアクセスからトレーニングデータ配布に関する情報を推測することを目的とした、プライバシ攻撃の一種である。我々はMI攻撃に対するMID(Multual Information Regularization based Defense)を提案する。
論文参考訳（メタデータ） (2020-09-11T06:02:44Z)
Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
論文参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。