論文の概要: Learning to Unlearn: Machine Unlearning via Learning the Unlearning Behaviors
- arxiv url: http://arxiv.org/abs/2608.16700v2
- Date: Mon, 24 Aug 2026 10:14:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.885782
- Title: Learning to Unlearn: Machine Unlearning via Learning the Unlearning Behaviors
- Title(参考訳): 学習から学習へ: 学習行動を通じて学習する機械学習
- Abstract要約: ラーニング・トゥ・アンラーン(L2UL)の最初の学習モデル非依存アプローチを紹介する。
私たちの中核的な洞察は、手動で$U$を設計することから、分散の観点から学習しない振る舞いを学ぶことへの移行です。
実験の結果,L2ULで達成した精度は再トレーニングの精度に匹敵することがわかった。
- 参考スコア(独自算出の注目度): 17.009892363181567
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Various machine unlearning techniques have been developed in response to privacy legislation requirements, enabling individuals to exercise their legal right to have their data $D_f$ removed from a machine learning model. This process is typically accomplished via the use of an unlearning function denoted as $U$. Existing methods focus on designing an intricate $U$ to unlearn $D_f \subset D$ from a previous model $A(D)$, so that the unlearned model performs as closely as possible to the retrained model $A(D \setminus D_f)$. However, these methods often suffer from high computational costs when dealing with massive training data, as the complex structures of $U$ become a bottleneck even for models with fewer parameters. Inspired by Learning to Optimize, we introduce the first learning-based model-agnostic approach, Learning-to-UnLearn (L2UL). Our core insight is to shift from manually designing $U$ to learning the unlearning behaviors from a distribution perspective, thereby acquiring a simple and efficient $U$ via learning. Our experimental results demonstrate that the accuracy achieved by L2UL is comparable to that of retraining while exhibiting impressive efficiency, particularly in data-intensive scenarios. Furthermore, we validate the performance and scalability of our method on larger models ResNet.
- Abstract(参考訳): プライバシ規制の要件に応えて、さまざまな機械学習技術が開発されており、個人が自身のデータに対して、マシンラーニングモデルからD_f$を除去する法的権利を行使することができる。
このプロセスは、通常、$U$と表記される未学習関数を使用することで達成される。
既存のメソッドでは、複雑な$U$を設計して$D_f \subset D$を以前のモデルから$A(D)$から解放することに重点を置いている。
しかし、これらの手法は、パラメータが少ないモデルであっても、$U$の複雑な構造がボトルネックとなるため、大規模なトレーニングデータを扱う際に高い計算コストに悩まされることが多い。
学習を最適化するために着想を得て,学習に基づくモデルに依存しない最初のアプローチであるL2ULを紹介した。
私たちの中核的な洞察は、手動で$U$を設計することから、分散の観点から学習しない振る舞いを学ぶことへ移行し、学習を通じてシンプルで効率的な$U$を取得することです。
実験の結果,L2ULが達成した精度は,特にデータ集約シナリオにおいて顕著な効率性を示しながら,再訓練の精度に匹敵することがわかった。
さらに,大規模モデルであるResNetにおいて,提案手法の性能と拡張性を検証した。
関連論文リスト
- Sample Complexity of Transfer Learning: An Optimal Transport Approach [18.537610792819176]
本研究は, サンプル効率の観点から, 伝達学習の潜在的メリットを厳密に分析する。
データ次元$d$が3ドルより高い場合、転送学習のサンプル複雑さは$O(m-(+1)/d)$である。
対象タスクが非滑らかなモデル群に対して最適化されている場合、理論的には転送学習のサンプル効率が向上する。
論文 参考訳(メタデータ) (2026-05-19T22:39:03Z) - Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。
本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。
本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
論文 参考訳(メタデータ) (2025-07-31T05:34:27Z) - Intention-Conditioned Flow Occupancy Models [80.42634994902858]
大規模な事前学習は、今日の機械学習研究のやり方を根本的に変えた。
同じフレームワークを強化学習に適用することは、RLの中核的な課題に対処するための魅力的な方法を提供するので、魅力的です。
生成AIの最近の進歩は、高度に複雑な分布をモデリングするための新しいツールを提供している。
論文 参考訳(メタデータ) (2025-06-10T15:27:46Z) - S$^2$R: Teaching LLMs to Self-verify and Self-correct via Reinforcement Learning [51.84977135926156]
S$2$Rはモデルに推論時の自己検証と自己正当性を教えることによってLLM推論を強化する効率的なフレームワークである。
以上の結果から,Qwen2.5-math-7Bの精度は51.0%から81.6%に向上した。
論文 参考訳(メタデータ) (2025-02-18T13:40:22Z) - $\
abla τ$: Gradient-based and Task-Agnostic machine Unlearning [7.04736023670375]
グラディエントベースおよびタスク非依存マシンUnlearning(nabla tau$)を紹介する。
$nabla tau$は、残りのデータに対して標準の勾配勾配を使いながら、忘れられるデータに適応的な勾配勾配を適用します。
我々は、確立されたメンバーシップ推論攻撃指標を用いて、フレームワークの有効性を評価する。
論文 参考訳(メタデータ) (2024-03-21T12:11:26Z) - Fast Exact Unlearning for In-Context Learning Data for LLMs [30.06631665962119]
大規模言語モデルでは「微調整データ」を効率的に解き放つことができることを示す。
正確な文脈内学習は量子化k-meansで行うことができ、効果的に一定時間非学習操作ができることを示す。
論文 参考訳(メタデータ) (2024-02-01T16:43:04Z) - Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳(メタデータ) (2023-12-07T07:17:24Z) - Model Sparsity Can Simplify Machine Unlearning [33.18951938708467]
最近のデータ規制要件に応えて、マシン・アンラーニング(MU)が重要なプロセスとして登場した。
本研究は,ウェイトプルーニングによるモデルスペーシフィケーションという,新しいモデルベース視点を紹介する。
理論と実践の両方において、モデルスパーシティは、近似アンラーナーのマルチ基準アンラーニング性能を高めることができることを示す。
論文 参考訳(メタデータ) (2023-04-11T02:12:02Z) - Datamodels: Predicting Predictions from Training Data [86.66720175866415]
本稿では,モデルクラスの振る舞いを学習データの観点から分析するための概念的枠組みであるデータモデリングについて述べる。
単純な線形データモデルであっても、モデル出力をうまく予測できることが示される。
論文 参考訳(メタデータ) (2022-02-01T18:15:24Z) - LeanML: A Design Pattern To Slash Avoidable Wastes in Machine Learning
Projects [0.5330240017302619]
機械学習プロジェクトへのリーン方法論の最初の応用を紹介します。
我々は、リーン機械学習(LeanML)が、商用機械学習プロジェクトで回避可能な無駄を大幅に削減できると主張している。
論文 参考訳(メタデータ) (2021-07-16T18:16:48Z) - Improving Robustness and Generality of NLP Models Using Disentangled
Representations [62.08794500431367]
スーパービジョンニューラルネットワークはまず入力$x$を単一の表現$z$にマップし、次に出力ラベル$y$にマッピングする。
本研究では,非交叉表現学習の観点から,NLPモデルの堅牢性と汎用性を改善する手法を提案する。
提案した基準でトレーニングしたモデルは、広範囲の教師付き学習タスクにおいて、より堅牢性とドメイン適応性を向上することを示す。
論文 参考訳(メタデータ) (2020-09-21T02:48:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。