論文の概要: Counterfactual Certification for Sequential Unlearning with Long-Run Performance Guarantees
- arxiv url: http://arxiv.org/abs/2610.17993v1
- Date: Tue, 13 Oct 2026 08:56:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 07:49:41.472585
- Title: Counterfactual Certification for Sequential Unlearning with Long-Run Performance Guarantees
- Title(参考訳): 長期実行性能保証を用いた逐次未学習のファクトファクト認証
- Abstract要約: 認定された機械学習フレームワークをシーケンシャルな削除要求に拡張する。
各モデルリリースは、削除されたグループが決して参加しない、反実的未学習の軌跡に対して認証する。
削除毎の微調整予算を固定することにより、スムーズな凸目標に対して、この手法は要求数に均一に性能損失を拘束し続けることを示す。
- 参考スコア(独自算出の注目度): 6.029433950934382
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Certified machine unlearning ensures the proximity between the unlearned model and a model retrained without the data to be forgotten. Extending this framework to sequential deletion requests, typically arriving as groups of variable size (e.g., all records of one user or of coordinated users), is challenging. For unlearning methods based on fine-tuning on the retain sets, this leads to either degrading performance or increasing computation as the number of unlearning requests grows. For independent successive requests, we instead certify each model release against a counterfactual unlearning trajectory in which the group being deleted never took part. With a fixed fine-tuning budget per deletion, we show that, for smooth strongly convex objectives, this approach keeps the performance loss bounded, uniformly in the number of requests. Experiments with multiclass logistic regression on FEMNIST show that the resulting algorithm needs fewer corrective steps than existing sequential methods and outperforms training-time differential privacy, particularly when group sizes are heterogeneous.
- Abstract(参考訳): 認証されたマシンアンラーニングは、未学習のモデルと、データを忘れることなく再訓練されたモデルとの近接性を保証する。
このフレームワークをシーケンシャルな削除要求に拡張することは、通常、可変サイズのグループ(例えば、一つのユーザまたは調整されたユーザのすべてのレコード)として到着する。
レザーブセットの微調整に基づく未学習の手法では、未学習要求の数が増加するにつれてパフォーマンスが低下するか、計算量が増加するかのいずれかにつながる。
独立した逐次要求に対して、我々は、削除されたグループが決して参加しない、反実的未学習の軌道に対して、各モデルリリースを認証する。
削除毎の微調整予算を固定することにより、スムーズな凸目標に対して、この手法は要求数に均一に性能損失を拘束し続けることを示す。
FEMNIST上でのマルチクラスロジスティック回帰実験により、結果のアルゴリズムは既存のシーケンシャルメソッドよりも修正ステップを少なくし、特にグループサイズが不均一な場合、トレーニング時間差プライバシーより優れていることが示された。
関連論文リスト
- Task Vector Descent: Learning from Non-IID Batches [73.36333480977952]
モデルをアクティブディストリビューションに適応させることは、アクティブディストリビューションのモデルを改善することができるが、以前トレーニングされたデータのパフォーマンス低下につながる可能性がある。
完全変位(=1$)と部分積分(英語版)を比較し、継続モデルに適用する前にタスクベクトルを$$スケールし、同じ係数で状態をスケールする。
論文 参考訳(メタデータ) (2026-10-04T17:37:49Z) - Randomized Antipodal Search Done Right for Data Pareto Improvement of LLM Unlearning [32.47205256755341]
大規模言語モデル(LLM)は、時には望ましくない知識を記憶するが、デプロイ後に取り除かなければならない。
本稿では,ランダム化された反ポッド探索と置換投影ハッシュを組み合わせた探索アルゴリズムであるRASLIKを提案する。
複数のモデル、データセット、未学習アルゴリズムを通じて、RASLIKは決定論的ベースラインやオラクルサンプリングよりも一貫して優れています。
論文 参考訳(メタデータ) (2026-04-17T17:43:39Z) - Training LLMs for Multi-Step Tool Orchestration with Constrained Data Synthesis and Graduated Rewards [76.49428173793386]
LLMは、中間出力を伝搬しながら、正しい順序で複数の依存APIを呼び出す必要がある。
既存の環境は、シミュレーションデータを使った単純なターン毎の関数呼び出しとバイナリ報酬に重点を置いている。
まず、実APIレスポンスの大規模キャッシュを背景とした強化学習環境を構築し、有効なマルチステップオーケストレーショントレースをサンプリングするデータ合成パイプラインを実現する。
第二に、正当性を原子の妥当性とオーケストレーションに分解する、段階的な報酬設計を提案する。
論文 参考訳(メタデータ) (2026-03-25T18:31:39Z) - Delete and Retain: Efficient Unlearning for Document Classification [1.0026496861838448]
Hessian Reassignmentは、文書分類におけるクラスアンラーニングのための2段階のモデルに依存しないソリューションである。
標準のテキストベンチマークでは、Hessian Reassignmentはクラスの精度をフルアズアウトクラスに近く保ちながら、桁違いに高速に実行した。
その結果、文書分類における効率的なクラスアンラーニングへの実践的で原則化された道筋が示される。
論文 参考訳(メタデータ) (2025-12-06T18:57:06Z) - FedSGT: Exact Federated Unlearning via Sequential Group-based Training [8.391721120887414]
Federated Sequential Group-based Training (FedSGT) は、Federated Learning (FL) のための正確なアンラーニングフレームワークである。
FedSGTはデータを一様グループに分割し、各クライアントは複数のグループに参加することができる。
さまざまなタスクの実験では、FedSGTが複数のアンラーニング要求の下で、はるかに長いサービスメンテナンスを実現することが示されている。
論文 参考訳(メタデータ) (2025-11-28T17:36:03Z) - NOVO: Unlearning-Compliant Vision Transformers [17.810044173023474]
pnameは、要求されたセットを微調整することなく、将来の未学習リクエストに対してアンラーニングを実行することができる。
キーを取り除き、オンザフライで学習し、パフォーマンスの劣化を避けることで、フォーミングを実現する。
論文 参考訳(メタデータ) (2025-07-04T04:12:34Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation for Time Series [45.76310830281876]
量子回帰に基づくタスクネットワークのアンサンブルを用いて不確実性を推定する新しい手法であるQuantile Sub-Ensemblesを提案する。
提案手法は,高い損失率に頑健な高精度な計算法を生成するだけでなく,非生成モデルの高速な学習により,計算効率も向上する。
論文 参考訳(メタデータ) (2023-12-03T05:52:30Z) - RanPAC: Random Projections and Pre-trained Models for Continual Learning [59.07316955610658]
継続学習(CL)は、古いタスクを忘れずに、非定常データストリームで異なるタスク(分類など)を学習することを目的としている。
本稿では,事前学習モデルを用いたCLの簡潔かつ効果的なアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-05T12:49:02Z) - Mitigating Catastrophic Forgetting in Task-Incremental Continual
Learning with Adaptive Classification Criterion [50.03041373044267]
本稿では,継続的学習のための適応型分類基準を用いた教師付きコントラスト学習フレームワークを提案する。
実験により, CFLは最先端の性能を達成し, 分類基準に比べて克服する能力が強いことが示された。
論文 参考訳(メタデータ) (2023-05-20T19:22:40Z) - Lifelong Learning Without a Task Oracle [13.331659934508764]
監視されたディープニューラルネットワークは、新しいタスクが学習されると、古いタスクの精度が大幅に低下することが知られている。
本稿では,メモリオーバーヘッドの少ないタスク割り当てマップの提案と比較を行う。
最高のパフォーマンスの変種は、平均的なパラメータメモリの増大を1.7%に抑えるだけである。
論文 参考訳(メタデータ) (2020-11-09T21:30:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。