論文の概要: Zero-Shot Machine Unlearning with Proxy Adversarial Data Generation
- arxiv url: http://arxiv.org/abs/2507.21738v1
- Date: Tue, 29 Jul 2025 12:16:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-30 17:08:56.163256
- Title: Zero-Shot Machine Unlearning with Proxy Adversarial Data Generation
- Title(参考訳): 近似逆データ生成によるゼロショットマシンの学習
- Authors: Huiqiang Chen, Tianqing Zhu, Xin Yu, Wanlei Zhou,
- Abstract要約: 機械学習は、訓練されたモデルから特定のサンプルの影響を取り除くことを目的としている。
既存の未学習アルゴリズムは、この問題を防ぐために残りのデータに依存する。
本稿では,このギャップを埋めるための新しいフレームワークであるZS-PAGを提案する。
- 参考スコア(独自算出の注目度): 23.668928015009087
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine unlearning aims to remove the influence of specific samples from a trained model. A key challenge in this process is over-unlearning, where the model's performance on the remaining data significantly drops due to the change in the model's parameters. Existing unlearning algorithms depend on the remaining data to prevent this issue. As such, these methods are inapplicable in a more practical scenario, where only the unlearning samples are available (i.e., zero-shot unlearning). This paper presents a novel framework, ZS-PAG, to fill this gap. Our approach offers three key innovations: (1) we approximate the inaccessible remaining data by generating adversarial samples; (2) leveraging the generated samples, we pinpoint a specific subspace to perform the unlearning process, therefore preventing over-unlearning in the challenging zero-shot scenario; and (3) we consider the influence of the unlearning process on the remaining samples and design an influence-based pseudo-labeling strategy. As a result, our method further improves the model's performance after unlearning. The proposed method holds a theoretical guarantee, and experiments on various benchmarks validate the effectiveness and superiority of our proposed method over several baselines.
- Abstract(参考訳): 機械学習は、訓練されたモデルから特定のサンプルの影響を取り除くことを目的としている。
このプロセスにおける重要な課題は過度に学習することであり、モデルパラメータの変化により、残りのデータに対するモデルのパフォーマンスが著しく低下する。
既存の未学習アルゴリズムは、この問題を防ぐために残りのデータに依存する。
そのため、これらの手法は、未学習のサンプル(ゼロショットのアンラーニング)のみが利用できるより実践的なシナリオでは適用できない。
本稿では,このギャップを埋めるための新しいフレームワークであるZS-PAGを提案する。
提案手法は,(1)敵対的なサンプルを生成することで,アクセス不能な残留データを近似し,(2)生成したサンプルを活用することにより,未学習のプロセスを実行するための特定のサブスペースをピンポイントし,難解なゼロショットシナリオにおける過度な学習を防止し,(3)未学習プロセスが残りのサンプルに与える影響を考慮し,影響に基づく擬似ラベル戦略を設計する,という3つの重要なイノベーションを提供する。
その結果,本手法は学習終了後のモデルの性能をさらに向上させることができた。
提案手法は理論的な保証を保ち,提案手法の有効性と優位性をいくつかの基準線上で検証した。
関連論文リスト
- Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。
最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
論文 参考訳(メタデータ) (2024-10-30T17:20:10Z) - An Information Theoretic Approach to Machine Unlearning [43.423418819707784]
AIやデータ規則に従うためには、トレーニングされた機械学習モデルからプライベートまたは著作権のある情報を忘れる必要性がますます高まっている。
この研究では、ゼロショットのアンラーニングシナリオに対処し、未学習のアルゴリズムは、トレーニングされたモデルと忘れられるデータだけが与えられたデータを削除できなければならない。
モデルの幾何に基づいて、単純だが原則化されたゼロショットアンラーニング法を導出する。
論文 参考訳(メタデータ) (2024-02-02T13:33:30Z) - Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation [11.638683787598817]
能動的忘れ込みに基づく神経刺激型フェデレーション・アンラーニング・フレームワークを提案する。
我々のフレームワークは、新しい記憶を利用して古い記憶を上書きすることで、既存の方法と差別化している。
本手法は,バックドア攻撃に対する未学習の完全性を実現する。
論文 参考訳(メタデータ) (2023-07-07T03:07:26Z) - Model Sparsity Can Simplify Machine Unlearning [33.18951938708467]
最近のデータ規制要件に応えて、マシン・アンラーニング(MU)が重要なプロセスとして登場した。
本研究は,ウェイトプルーニングによるモデルスペーシフィケーションという,新しいモデルベース視点を紹介する。
理論と実践の両方において、モデルスパーシティは、近似アンラーナーのマルチ基準アンラーニング性能を高めることができることを示す。
論文 参考訳(メタデータ) (2023-04-11T02:12:02Z) - Machine Unlearning of Features and Labels [72.81914952849334]
機械学習モデルにおけるアンラーニングとラベルのファーストシナリオを提案する。
提案手法は,影響関数の概念に基づいて,モデルパラメータのクローズドフォーム更新によるアンラーニングを実現する。
論文 参考訳(メタデータ) (2021-08-26T04:42:24Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-31T23:46:32Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。