論文の概要: Approximate Unlearning in Prototype-based-classifiers
- arxiv url: http://arxiv.org/abs/2610.34495v1
- Date: Sun, 25 Oct 2026 18:41:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.625023
- Title: Approximate Unlearning in Prototype-based-classifiers
- Title(参考訳): プロトタイプベース分類器における近似アンラーニング
- Abstract要約: 本稿では,一般化学習ベクトル量子化(Generalized Learning Vector Quantization)と呼ばれるプロトタイプベースの分類器群に対して,頑健な近似的アンラーニング手法を提案する。
提案手法の有効性(再学習モデルに対する未学習モデルのパラメータの約0偏差と性能)と,提案手法の有効性(最小データセットは6X,最大データセットは10(5)X)を示す。
- 参考スコア(独自算出の注目度): 1.4694956574141391
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The recent data and AI regulations and governance needs have highlighted the need for removing specific data even from models trained on or with them. While retraining the entire model is a theoretically trivial solution, it is computationally expensive, thereby motivating research in Machine Unlearning. This paper introduces a robust approximate unlearning technique for the family of prototype-based classifiers called Generalized Learning Vector Quantization, aimed at removal of effects of specified samples, either due to deletion request or due to them being identified as noisy or corrupt. We first show the impact of the different sizes of the forget set, as well as the characteristics of the data in this set, on the unlearned model. To address the sources of instabilities detected in this unlearning method we propose an adapted version of this technique, such that the unlearning is robust to the characteristics of the forget set. Thereafter using the intrinsic interpretability property of GLVQ and appropriate metrics defined in unlearning literature, we show the efficacy (approximately 0 deviation of parameters and performance of unlearned model relative to retrained model) and efficiency (6X for smallest dataset to 10^(5)X in the largest dataset) of the proposed unlearning techniques compared to naive retrained, on six benchmark datasets for tabular data recommended by literature. Although in this work we investigated only binary class problems, the proposed robust unlearning strategy can be readily applied for removing sample effects from any trained GLVQ model, i.e., it does not require any modification in the training scheme of GLVQ.
- Abstract(参考訳): 最近のデータとAIの規制とガバナンスのニーズは、トレーニングされたモデルやそれらを使ってトレーニングされたモデルからでも、特定のデータを削除する必要性を強調している。
モデル全体を再トレーニングすることは理論的には自明な解決策であるが、計算コストがかかるため、マシン・アンラーニングの研究を動機付けている。
本稿では, 一般化学習ベクトル量子化(Generalized Learning Vector Quantization)と呼ばれるプロトタイプベースの分類器群に対して, 削除要求による, あるいはノイズや破損による特定サンプルの効果の除去を目的とした, 頑健な近似的アンラーニング手法を提案する。
まず,この集合の異なるサイズと,この集合内のデータの特徴が未学習モデルに与える影響について述べる。
このアンラーニング手法で検出された不安定性の原因を解決するために,この手法の適応版を提案する。
その後、GLVQの本質的な解釈可能性特性と、未学習文献で定義された適切な指標を用いて、文献が推奨する6つのベンチマークデータセットにおいて、提案した未学習手法の有効性(再学習モデルに対する未学習モデルのパラメータと性能の約0の偏差)と効率(最大データセットで10^(5)Xの最小データセット)を示す。
本研究は二分クラス問題のみを検討したが,提案した頑健なアンラーニング戦略は,任意の訓練されたGLVQモデルからサンプル効果を除去するために容易に適用することができる。
関連論文リスト
- Sharpness-Aware Parameter Selection for Machine Unlearning [6.397490580631141]
クレジットカード番号やパスワードなど、機密性の高い個人情報が誤って機械学習モデルのトレーニングに組み込まれており、その後削除する必要がある場合が多い。
この問題に対処するために、文献に様々な機械学習技術が提案されている。
提案手法のほとんどは、トレーニングされたモデルから個々のデータサンプルを除去するものである。
これらのタスクの既存の方法は、モデルパラメータの集合全体またはモデルの最後の層のみを更新することで、未学習タスクを行うが、未学習ターゲット機能に最も貢献するモデルパラメータのサブセットが存在することを示す。
論文 参考訳(メタデータ) (2025-04-08T19:41:07Z) - Provable unlearning in topic modeling and downstream tasks [36.571324268874264]
アンラーニングの保証は、しばしば教師付き学習設定に限られる。
我々は、事前学習と微調整のパラダイムにおいて、初となるアンラーニングの理論的保証を提供する。
我々は、特定のタスクに微調整されたモデルから事前学習データを容易に解放できることを示し、ベースモデルを変更することなく、このデータを解放できることを示した。
論文 参考訳(メタデータ) (2024-11-19T16:04:31Z) - Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。
最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
論文 参考訳(メタデータ) (2024-10-30T17:20:10Z) - Partially Blinded Unlearning: Class Unlearning for Deep Networks a Bayesian Perspective [4.31734012105466]
マシン・アンラーニング(英: Machine Unlearning)とは、特定のデータセットやクラスに指定された情報を事前訓練されたモデルから選択的に破棄するプロセスである。
本研究では,事前学習した分類ネットワークから,特定の種類のデータに関連付けられた情報の目的的除去に適した手法を提案する。
本手法は,従来の最先端の未学習手法を超越し,優れた有効性を示す。
論文 参考訳(メタデータ) (2024-03-24T17:33:22Z) - Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳(メタデータ) (2023-12-07T07:17:24Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-05T12:49:02Z) - Machine Unlearning of Features and Labels [72.81914952849334]
機械学習モデルにおけるアンラーニングとラベルのファーストシナリオを提案する。
提案手法は,影響関数の概念に基づいて,モデルパラメータのクローズドフォーム更新によるアンラーニングを実現する。
論文 参考訳(メタデータ) (2021-08-26T04:42:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。