論文の概要: Why Forget-Only Unlearning Needs Memorization
- arxiv url: http://arxiv.org/abs/2610.10519v1
- Date: Wed, 07 Oct 2026 17:55:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:23.097396
- Title: Why Forget-Only Unlearning Needs Memorization
- Title(参考訳): 忘れられない学習はなぜ記憶を必要とするのか
- Abstract要約: 削除アルゴリズムは、学習したモデルと、忘れるべき例のみを受信する。
任意の削除要求を処理するために、アルゴリズムがトレーニングデータについて記憶しなければならないものについて、より低い境界を導出する。
- 参考スコア(独自算出の注目度): 15.468998883307847
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine unlearning asks for a deletion algorithm whose output is close to retraining from scratch without the selected forget examples. In this work, we study forget-only unlearning, where the deletion algorithm receives only the trained model and the examples to forget, with no retained data or extra training information. We ask whether forget-only unlearning is always possible. We first show that this depends on the learning method: different datasets can produce the same trained model but require very different outputs after the same examples are removed. Using this observation, we derive lower bounds on how accurately unlearning can match retraining and instantiate them for several standard learning algorithms. We then ask what must be true when forget-only unlearning succeeds. To this end, we derive lower bounds on what an algorithm must memorize about the training data to handle arbitrary deletion requests. For simple threshold learners, the required information can be as large as the entire dataset, even though ordinary training keeps only one boundary point. Overall, our results show that information discarded during ordinary learning may be needed later for deletion, so models designed for forget-only unlearning may need to retain more information than standard training does.
- Abstract(参考訳): マシンアンラーニングは、選択された忘れの例なしで、ゼロから出力が再トレーニングに近づいた削除アルゴリズムを要求する。
本研究では,復号化アルゴリズムが学習モデルと学習例のみを受け取り,保持したデータや余分な学習情報を含まないまま,忘れることのできない未学習について検討する。
忘れのみのアンラーニングが常に可能かどうかを問う。
異なるデータセットは、同じトレーニングされたモデルを生成することができるが、同じサンプルを削除した後、全く異なる出力を必要とする。
この観測により, アンラーニングが再現性にどの程度の精度で一致するかという限界を導出し, いくつかの標準学習アルゴリズムでそれらをインスタンス化する。
そして、忘れられない未学習が成功したら、何が真実でなければならないのかを尋ねます。
この目的のために、任意の削除要求を処理するために、アルゴリズムがトレーニングデータについて記憶しなければならないことの低い境界を導出する。
単純なしきい値学習者の場合、通常のトレーニングでは1つの境界点しか保持していないにも関わらず、必要な情報はデータセット全体と同じくらいに大きくすることができる。
概して,通常の学習で捨てられた情報は,削除に後で必要となる可能性があるため,忘れただけの未学習のために設計されたモデルは,通常の学習よりも多くの情報を保持する必要がある。
関連論文リスト
- Mitigating Privacy Risk via Forget Set-Free Unlearning [11.615403193858503]
機械学習モデルのトレーニングには、機密データやプライベートデータを含む大規模なデータセットの保存が必要である。
本研究では,学習の補助的情報を活用する部分盲検アンラーニングを導入する。
リロードは効率よく解き、スクラッチから再トレーニングされたモデルを近似し、セット依存のアプローチよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-04-12T13:24:40Z) - Towards Efficient Target-Level Machine Unlearning Based on Essential Graph [18.35868679190816]
機械学習の既存の研究は、主に1つのクラスからインスタンスのクラスタやすべてのインスタンスを忘れる未学習の要求に焦点を当てている。
モデルから部分的対象を除去することに焦点を当てた、より効率的で効率的な非学習手法を提案する。
様々なデータセット上で異なるトレーニングモデルを用いた実験は、提案手法の有効性を示す。
論文 参考訳(メタデータ) (2024-06-16T14:17:13Z) - An Information Theoretic Approach to Machine Unlearning [43.423418819707784]
AIやデータ規則に従うためには、トレーニングされた機械学習モデルからプライベートまたは著作権のある情報を忘れる必要性がますます高まっている。
この研究では、ゼロショットのアンラーニングシナリオに対処し、未学習のアルゴリズムは、トレーニングされたモデルと忘れられるデータだけが与えられたデータを削除できなければならない。
モデルの幾何に基づいて、単純だが原則化されたゼロショットアンラーニング法を導出する。
論文 参考訳(メタデータ) (2024-02-02T13:33:30Z) - Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳(メタデータ) (2023-12-07T07:17:24Z) - Ticketed Learning-Unlearning Schemes [57.89421552780526]
そこで我々は,学習のためのチケット付きモデルを提案する。
広義のコンセプトクラスに対して,空間効率のよいチケット付き学習スキームを提供する。
論文 参考訳(メタデータ) (2023-06-27T18:54:40Z) - Learning to Unlearn: Instance-wise Unlearning for Pre-trained
Classifiers [71.70205894168039]
そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。
本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
論文 参考訳(メタデータ) (2023-01-27T07:53:50Z) - Zero-Shot Machine Unlearning [6.884272840652062]
現代のプライバシー規制は、市民に製品、サービス、企業によって忘れられる権利を与える。
トレーニングプロセスやトレーニングサンプルに関連するデータは、未学習の目的のためにアクセスできない。
本稿では, (a) 誤り最小化雑音と (b) ゲート付き知識伝達に基づくゼロショットマシンアンラーニングのための2つの新しい解を提案する。
論文 参考訳(メタデータ) (2022-01-14T19:16:09Z) - Machine Unlearning of Features and Labels [72.81914952849334]
機械学習モデルにおけるアンラーニングとラベルのファーストシナリオを提案する。
提案手法は,影響関数の概念に基づいて,モデルパラメータのクローズドフォーム更新によるアンラーニングを実現する。
論文 参考訳(メタデータ) (2021-08-26T04:42:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。