Fugu-MT 論文翻訳(概要): CRFU: Compressive Representation Forgetting Against Privacy Leakage on Machine Unlearning

論文の概要: CRFU: Compressive Representation Forgetting Against Privacy Leakage on Machine Unlearning

arxiv url: http://arxiv.org/abs/2503.00062v1
Date: Thu, 27 Feb 2025 05:59:02 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-05 19:12:42.754212
Title: CRFU: Compressive Representation Forgetting Against Privacy Leakage on Machine Unlearning
Title（参考訳）: CRFU: 機械学習におけるプライバシ漏洩を抑える圧縮表現
Authors: Weiqi Wang, Chenhan Zhang, Zhiyi Tian, Shushu Liu, Shui Yu,
Abstract要約: 効果的なアンラーニング方法は、訓練されたモデルから指定されたデータの情報を除去し、アンラーニングの前後で同じ入力に対して異なる出力を出力する。本研究では,非学習者のプライバシー漏洩を防ぐためにCRFU(Compressive Representation Forgetting Unlearning scheme)を導入する。
参考スコア（独自算出の注目度）: 14.061404670832097
License:
Abstract: Machine unlearning allows data owners to erase the impact of their specified data from trained models. Unfortunately, recent studies have shown that adversaries can recover the erased data, posing serious threats to user privacy. An effective unlearning method removes the information of the specified data from the trained model, resulting in different outputs for the same input before and after unlearning. Adversaries can exploit these output differences to conduct privacy leakage attacks, such as reconstruction and membership inference attacks. However, directly applying traditional defenses to unlearning leads to significant model utility degradation. In this paper, we introduce a Compressive Representation Forgetting Unlearning scheme (CRFU), designed to safeguard against privacy leakage on unlearning. CRFU achieves data erasure by minimizing the mutual information between the trained compressive representation (learned through information bottleneck theory) and the erased data, thereby maximizing the distortion of data. This ensures that the model's output contains less information that adversaries can exploit. Furthermore, we introduce a remembering constraint and an unlearning rate to balance the forgetting of erased data with the preservation of previously learned knowledge, thereby reducing accuracy degradation. Theoretical analysis demonstrates that CRFU can effectively defend against privacy leakage attacks. Our experimental results show that CRFU significantly increases the reconstruction mean square error (MSE), achieving a defense effect improvement of approximately $200\%$ against privacy reconstruction attacks with only $1.5\%$ accuracy degradation on MNIST.
Abstract（参考訳）: 機械学習により、データ所有者は、トレーニングされたモデルから指定されたデータの影響を消去できる。残念ながら、最近の研究では、敵は消去されたデータを復元でき、ユーザーのプライバシーに深刻な脅威をもたらすことが示されている。効果的なアンラーニング方法は、訓練されたモデルから指定されたデータの情報を除去し、アンラーニングの前後で同じ入力に対して異なる出力を出力する。広告主はこれらの出力差を利用して、復元やメンバーシップ推論攻撃などのプライバシー漏洩攻撃を行うことができる。しかし、非学習に伝統的な防御を直接適用すると、重要なモデルユーティリティーが劣化する。本稿では,非学習におけるプライバシー漏洩の防止を目的とした圧縮表現予測学習スキーム (CRFU) を提案する。 CRFUは、訓練された圧縮表現(情報ボトルネック理論による学習)と消去データとの相互情報を最小化し、データの歪みを最大化する。これにより、モデルの出力に敵が活用できる情報が少ないことが保証される。さらに、記憶制約と未学習率を導入し、消去されたデータの忘れと学習前の知識の保存とをバランスさせ、精度の低下を低減させる。理論的分析は、CRFUがプライバシー漏洩攻撃に対して効果的に防御できることを示している。実験の結果,CRFUは再建平均二乗誤差(MSE)を有意に増加させ,MNISTの精度が1.5 %のプライバシー回復攻撃に対して約200 %の防御効果を達成できた。

関連論文リスト

Game-Theoretic Machine Unlearning: Mitigating Extra Privacy Leakage [12.737028324709609]
最近の法律では、要求されたデータとその影響を訓練されたモデルから取り除くことが義務付けられている。本研究では,非学習性能とプライバシ保護の競合関係をシミュレートするゲーム理論マシンアンラーニングアルゴリズムを提案する。
論文参考訳（メタデータ） (2024-11-06T13:47:04Z)
Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
本稿では,PseudoProbability Unlearning (PPU)を提案する。提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
論文参考訳（メタデータ） (2024-11-04T21:27:06Z)
Ungeneralizable Examples [70.76487163068109]
学習不能なデータを作成するための現在のアプローチには、小さくて特殊なノイズが組み込まれている。学習不能データの概念を条件付きデータ学習に拡張し、textbfUntextbf Generalizable textbfExamples (UGEs)を導入する。 UGEは認証されたユーザに対して学習性を示しながら、潜在的なハッカーに対する非学習性を維持している。
論文参考訳（メタデータ） (2024-04-22T09:29:14Z)
Privacy-Preserving Debiasing using Data Augmentation and Machine Unlearning [3.049887057143419]
データ拡張は、メンバシップ推論攻撃のようなプライバシ攻撃に機械学習モデルを公開する。我々は、既知の攻撃に対して証明可能な防御を提供しながら、データのバイアスを低減することができるデータ強化と機械学習の効果的な組み合わせを提案する。
論文参考訳（メタデータ） (2024-04-19T21:54:20Z)
Reconciling AI Performance and Data Reconstruction Resilience for Medical Imaging [52.578054703818125]
人工知能(AI)モデルは、トレーニングデータの情報漏洩に対して脆弱であり、非常に敏感である。差別化プライバシ(DP)は、定量的なプライバシー予算を設定することで、これらの感受性を回避することを目的としている。非常に大きなプライバシ予算を使用することで、リコンストラクション攻撃は不可能であり、パフォーマンスの低下は無視可能であることを示す。
論文参考訳（メタデータ） (2023-12-05T12:21:30Z)
No Free Lunch in "Privacy for Free: How does Dataset Condensation Help Privacy" [75.98836424725437]
データプライバシを保護するために設計された新しい手法は、慎重に精査する必要がある。プライバシ保護の失敗は検出し難いが,プライバシ保護法を実装したシステムが攻撃された場合,破滅的な結果につながる可能性がある。
論文参考訳（メタデータ） (2022-09-29T17:50:23Z)
RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
論文参考訳（メタデータ） (2022-07-12T19:34:47Z)
Machine unlearning via GAN [2.406359246841227]
機械学習モデル、特にディープラーニングモデルは、トレーニングデータに関する情報を意図せずに記憶することができる。本稿では,深層モデルにおけるデータ削除のためのGANアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-11-22T05:28:57Z)
Hard to Forget: Poisoning Attacks on Certified Machine Unlearning [13.516740881682903]
我々は,データ削除の計算コストを増大させようとする攻撃者を考える。我々は、認定された機械の未学習に対する中毒攻撃を導出し、実証的に調査する。
論文参考訳（メタデータ） (2021-09-17T01:00:46Z)
Privacy-Preserving Federated Learning on Partitioned Attributes [6.661716208346423]
フェデレーション学習は、ローカルデータやモデルを公開することなく、協調的なトレーニングを促進する。ローカルモデルをチューニングし、プライバシー保護された中間表現をリリースする逆学習ベースの手順を紹介します。精度低下を緩和するために,前方後方分割アルゴリズムに基づく防御法を提案する。
論文参考訳（メタデータ） (2021-04-29T14:49:14Z)
Sampling Attacks: Amplification of Membership Inference Attacks by Repeated Queries [74.59376038272661]
本手法は,他の標準メンバーシップ相手と異なり,被害者モデルのスコアにアクセスできないような厳格な制限の下で動作可能な,新しいメンバーシップ推論手法であるサンプリングアタックを導入する。ラベルのみを公開している被害者モデルでは,攻撃のサンプリングが引き続き可能であり,攻撃者はその性能の最大100%を回復できることを示す。防衛においては,被害者モデルのトレーニング中の勾配摂動と予測時の出力摂動の形式で差分プライバシーを選択する。
論文参考訳（メタデータ） (2020-09-01T12:54:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。