論文の概要: DISCERN: Distributional Synthetic Replay for Retain-Free Incremental Machine Unlearning

• arxiv url: http://arxiv.org/abs/2611.07892v1
• Date: Thu, 05 Nov 2026 12:11:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.675708
• Title: DISCERN: Distributional Synthetic Replay for Retain-Free Incremental Machine Unlearning
• Title（参考訳）: DisCERN: Retain-Free Incremental Machine Unlearningのための分散合成再生
• Abstract要約: Retain-free iNcremental unlearning (DISCERN) に対するdistributional SynthetiC rEplay を提案する。 DISCERNは介入に基づくクラスアンラーニングの手法で、レザーブセットへのアクセスをクラスごとの分布からサンプリングされた合成埋め込みで置き換える。 我々は、MNIST, CIFAR-10, CIFAR-100の7つの保持のないベースラインに対して、2つの畳み込みと2つのトランスフォーマーバックボーンを用いてdisCERNを評価した。
• 参考スコア（独自算出の注目度）: 3.189189590825304
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine unlearning aims to remove the influence of specific training data from a trained model without retraining from scratch. In real deployments, however, deletion requests arrive over time, calling for incremental class unlearning (ICU): classes are removed sequentially, previously forgotten knowledge must remain forgotten, and the remaining classes must be preserved. We present DIstributional SynthetiC rEplay for Retain-free iNcremental unlearning (DISCERN), an intervention-based class unlearning method that replaces access to the retain set with synthetic embeddings sampled from per-class parametric distributions. Unlike prototype-based replay, which assumes an isotropic Gaussian around each class centroid, DISCERN fits Euclidean (Gaussian, Laplace, Student's $t$) and directional (von Mises--Fisher, Fisher--Bingham) families to each class and selects among them through statistical tests and, when none of them accepts, cross-validated log-likelihood. This design is motivated by the architecture-dependent latent geometry: transformer embeddings lie approximately on a hypersphere and concentrate around class directions, unlike those of convolutional networks. We evaluate DISCERN against seven retain-free baselines on MNIST, CIFAR-10, and CIFAR-100 with two convolutional and two transformer backbones, under single-class, multi-class, and incremental unlearning. DISCERN is competitive when classes are removed at once and is the most stable method in ICU on transformers: on ViT-B/16, after 20 sequential deletions it retains a harmonic mean of $0.797$, whereas the strongest method in the simultaneous setting drops from $0.918$ to $0.048$. A paired ablation shows that per-class distribution selection substantially reduces the resurfacing of previously forgotten classes, acting as a stabilizer of accumulated forgetting rather than a uniform improvement.
• Abstract（参考訳）: 機械学習の目的は、訓練されたモデルから特定のトレーニングデータの影響を、スクラッチからリトレーニングすることなく取り除くことである。 しかし、実際のデプロイでは、削除要求が時間とともに到着し、インクリメンタルなクラスアンラーニング(ICU):クラスは順次削除され、忘れられた知識は忘れられ、残りのクラスは保存されなければならない。 本研究では,Retain-free iNcremental Unlearning(DISCERN)のためのDIStributional SynthetiC rEplayを提案する。 DISCERNは、各クラスセントロイドの周囲に等方的ガウスを仮定するプロトタイプベースのリプレイとは異なり、ユークリッド(ガウス語、ラプラス語、学生の$t$)と方向(ヴォン・ミス=フィッシャー語、フィッシャー=ビンガム語)のファミリーを各クラスに適合させ、統計テストを通じてそれらの中から選択する。 この設計はアーキテクチャに依存した潜在幾何学(英語版)によって動機付けられている: 変圧器の埋め込みは、畳み込みネットワークとは違い、大体は超球面上にあり、クラス方向に集中している。 DISCERNはMNIST, CIFAR-10, CIFAR-100の7つの保持のないベースラインに対して, コンボリューションとトランスフォーマーのバックボーンを2つ, シングルクラス, マルチクラス, インクリメンタルアンラーニングで評価した。 DISCERNは、クラスが一度に取り除かれ、トランスフォーマー上で最も安定したメソッドである: ViT-B/16では、20のシーケンシャルな削除の後、0.797$のハーモニック平均を保ち、同時に設定された最強のメソッドは0.918$から0.048$まで低下する。 一対のアブレーションは、クラスごとの分布選択が、一様改善ではなく、蓄積された忘れの安定化剤として機能して、忘れられたクラスの再認識を大幅に減少させることを示している。

関連論文リスト

• Efficient Exact Unlearning for Federated Zeroth-Order Optimization [12.862075442419526]
  フェデレートゼロオーダー最適化(FedZOO)は、エッジインテリジェンスのための協調トレーニングのメモリと通信コストを削減する。 我々は,安定なゼロオーダー学習アルゴリズムと,それに対応する正確なアンラーニング手順を共同で設計する。 実験では、競争モデルユーティリティによる効果的なアンラーニングと、再最適化よりも累積的アンラーニング時間を最大56.1%削減することを示した。
  論文  参考訳（メタデータ） (2026-10-26T11:03:48Z)
• DECAF: De-Clustering for Adaptive Representational Unlearning [13.298390892944221]
  本稿では,DeCAF(De-Clustering for Adaptive Forgetting)を提案する。 ResNet-18を搭載したCIFAR-10では、DECAFは0.10%の精度で、79.4%は精度を維持し、AUSは0.88で、他の全てのベースラインを上回っている。
  論文  参考訳（メタデータ） (2026-07-27T02:11:58Z)
• PURGE: Projected Unlearning via Retain-Guided Erasure [5.069332646113575]
  PURGEは、単純だが未発見の観測(継続学習(CL)と機械未学習(MU))に基づいて構築された機械学習アルゴリズムである。 CLは古いタスクを忘れずに新しいタスクを学習しようとします。MUは、反対方向に同じ根底にある緊張力を表す保持パフォーマンスを損なうことなく、特定のデータを消去しようとします。 PURGEは、MIA AUROCを0.5(理想)に近い精度で達成し、勾配上昇、KLユニフォーム、プライバシーユーティリティフロンティアのいくつかのベースラインを達成しながら、常に96%以上の精度を維持している。
  論文  参考訳（メタデータ） (2026-06-02T15:53:01Z)
• DDCL: Deep Dual Competitive Learning: A Differentiable End-to-End Framework for Unsupervised Prototype-Based Representation Learning [0.0]
  ディープクラスタリングにおける永続的な構造的弱点は、特徴学習とクラスタ割り当ての切り離しである。 本稿では,教師なし表現学習のためのエンドツーエンドフレームワークであるDeep Dual Competitive Learningを紹介する。
  論文  参考訳（メタデータ） (2026-04-02T08:02:27Z)
• Toward Reliable Machine Unlearning: Theory, Algorithms, and Evaluation [1.7767466724342065]
  本稿では,SOTA MIAスコアに基づく画像分類の最先端手法を超越したAdrial Machine UNlearning(AMUN)を提案する。 既存の手法は、最寄りの会員推定攻撃(MIA-NN)を導入して、再訓練されたモデルの動作を再現できないことを示す。 そこで我々は,スクラッチから再学習したモデルが生成する残りのクラスに対する分布を,クラス入力に対して近似することで,このリークを緩和する微調整対象を提案する。
  論文  参考訳（メタデータ） (2025-12-07T20:57:25Z)
• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
  継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。 本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-05T12:49:02Z)
• Learnable Distribution Calibration for Few-Shot Class-Incremental Learning [122.2241120474278]
  FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。 本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
  論文  参考訳（メタデータ） (2022-10-01T09:40:26Z)
• Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
  SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。 ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。 SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
  論文  参考訳（メタデータ） (2021-05-16T09:13:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。