論文の概要: Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning
- arxiv url: http://arxiv.org/abs/2605.31317v1
- Date: Fri, 29 May 2026 13:48:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.647779
- Title: Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning
- Title(参考訳): 機械学習における局所的な副次的フォーミング
- Abstract要約: 機械学習は、選択したトレーニング例の影響を、完全なリトレーニングなしで除去することを目的としている。
標準的な評価では、未学習の質を、正確さや忘れることに基づくスコアなどの集約されたメトリクスで要約することが多い。
本研究では,非学習モデルと削除後のモデルの再学習モデルとの比較により,この故障モードを例レベルで検討する。
- 参考スコア(独自算出の注目度): 28.628342735283752
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine unlearning aims to remove the influence of selected training examples without full retraining. Standard evaluations often summarize unlearning quality with aggregate metrics, such as accuracy- and forgetting-based scores, which can hide localized failures. We study this failure mode at the example level by comparing the predictions of an unlearned model to those of the model retrained after deletion. We show that this pointwise discrepancy can be highly non-uniform: for gradient-ascent and random-labeling methods, with and without retain-set fine-tuning, it grows with geometric proximity to the forget set. We call this phenomenon localized collateral forgetting. Our analysis identifies a mechanism behind the effect: surrogate targets used during unlearning can be inconsistent with the local prediction structure induced by retraining, and this inconsistency propagates through shared representations to nearby examples. Motivated by this mechanism, we propose Local Teacher Distillation, a simple mitigation strategy that replaces random targets with soft labels from a small teacher trained only on retained neighbors of the forget set. On CIFAR-100 partial-class deletion, this local teacher brings the unlearned model substantially closer to retraining, especially near the forget set, while maintaining competitive aggregate unlearning metrics.
- Abstract(参考訳): 機械学習は、選択したトレーニング例の影響を、完全なリトレーニングなしで除去することを目的としている。
標準的な評価では、ローカライズされた障害を隠すことができる正確性や忘れることに基づくスコアなどの集約されたメトリクスで、未学習の品質を要約することが多い。
本研究では,非学習モデルと削除後のモデルの再学習モデルとの比較により,この故障モードを例レベルで検討する。
勾配上昇法とランダムラベル法では, 微調整を保たずとも, 幾何的近接で成長する。
われわれはこの現象を局部化副次的忘れ(Localized collateral forgeting)と呼ぶ。
本分析では, 未学習時に使用するサロゲートターゲットは, 再学習によって引き起こされる局所的な予測構造と矛盾する可能性があり, この不整合は, 共用表現を通して近隣の事例に伝播する。
本機構を応用して,学習した小さな教師から,ランダムな標的をソフトなラベルに置き換える簡易な緩和戦略であるローカル教師蒸留法を提案する。
CIFAR-100の部分的クラス削除では、このローカル教師は、非学習のモデルを、特に忘れのセットに近い再学習にかなり近いものにし、競争的な総合的非学習メトリクスを維持している。
関連論文リスト
- Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition [53.005382593686356]
エンゲージメント認識データセットは典型的には主観的インデクシングであり、しばしば騒々しく主観的な監督を含んでいる。
本研究では、この設定を、エンゲージメント認識のためのポストホック衛生機構として、主観レベルマシンアンラーニングを通して研究する。
論文 参考訳(メタデータ) (2026-05-06T10:03:06Z) - Temper-Then-Tilt: Principled Unlearning for Generative Models through Tempering and Classifier Guidance [51.532841645285835]
本研究では,タスクを目標分布に対する密度比推定としてフレーミングすることで,大規模生成モデルにおける機械学習について検討する。
左折集合がシャープで集中したデータ分布を表す場合、有限サンプルで忠実に解けないことを示す。
本稿では,基本モデルを凍結し,二段階の推論手法を適用したTemper-Then-Tilt Unlearning(T3-Unlearning)を提案する。
論文 参考訳(メタデータ) (2026-02-10T19:08:40Z) - Toward Reliable Machine Unlearning: Theory, Algorithms, and Evaluation [1.7767466724342065]
本稿では,SOTA MIAスコアに基づく画像分類の最先端手法を超越したAdrial Machine UNlearning(AMUN)を提案する。
既存の手法は、最寄りの会員推定攻撃(MIA-NN)を導入して、再訓練されたモデルの動作を再現できないことを示す。
そこで我々は,スクラッチから再学習したモデルが生成する残りのクラスに対する分布を,クラス入力に対して近似することで,このリークを緩和する微調整対象を提案する。
論文 参考訳(メタデータ) (2025-12-07T20:57:25Z) - Reference-Specific Unlearning Metrics Can Hide the Truth: A Reality Check [60.77691669644931]
本研究では,非学習モデルと参照モデル間の分布類似度を測定する新しい尺度であるFADE(Functional Alignment for Distributional Equivalence)を提案する。
FADEは出力分布全体の機能的アライメントをキャプチャし、真の未学習の原則的評価を提供する。
これらの知見は、現在の評価実践における根本的なギャップを明らかにし、FADEが真に効果的な未学習手法を開発し評価するための、より堅牢な基盤を提供することを示した。
論文 参考訳(メタデータ) (2025-10-14T20:50:30Z) - UPCORE: Utility-Preserving Coreset Selection for Balanced Unlearning [57.081646768835704]
ユーザ仕様や法的フレームワークは、しばしば、大きな言語モデル(LLM)を含む、事前訓練されたモデルから削除される情報を必要とする。
これは、既に訓練済みのモデルからデータポイントのセットを削除または"偽造"する必要がある。
本研究では,非学習時の副次的損傷を軽減するための手法に依存しないデータ選択フレームワークUPCOREを提案する。
論文 参考訳(メタデータ) (2025-02-20T22:51:10Z) - Revisiting Machine Unlearning with Dimensional Alignment [46.29161970063835]
そこで本研究では,未知の固有空間間のアライメントを計測し,データセットの保持を行う,機械学習のための新しい評価基準を提案する。
筆者らの枠組みは, 忘れ物から情報を効果的に排除し, 保持物から知識を保存している。
論文 参考訳(メタデータ) (2024-07-25T02:05:15Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。