論文の概要: Correlation-Guided Fast Machine Unlearning via Hessian Analysis
- arxiv url: http://arxiv.org/abs/2609.12620v1
- Date: Fri, 11 Sep 2026 09:21:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.69421
- Title: Correlation-Guided Fast Machine Unlearning via Hessian Analysis
- Title(参考訳): ヘッセン解析による相関型高速機械学習
- Abstract要約: 既存の未学習技術では、各データポイント削除に高価なヘッセン-逆ベクトル計算を繰り返す必要がある。
我々は,学習セット内の相関データ点を同定し,理論的に導出された閉形式パラメータ更新ルールを適用する,計算効率のよい未学習フレームワークを提案する。
提案手法は理論的な保証を確立し,ヘッセン減衰による数値安定性を確保する。
- 参考スコア(独自算出の注目度): 15.622259863184295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The increasing adoption of machine learning in network and distributed security systems has created an urgent need for mechanisms that can selectively and efficiently remove the influence of specific training data to eliminate compromised or adversarial data points from production models. Privacy regulations such as GDPR's \emph{right to be forgotten} also pose similar requirements. However, existing approximate unlearning techniques remain computationally prohibitive for deployment in real-world security systems, as they require repeated expensive Hessian-inverse-vector computations for each data point removal, creating a bottleneck when processing multiple related requests in scenarios such as intrusion detection systems, spam filters, and threat intelligence platforms. Thus, we introduce a computationally efficient unlearning framework that identifies correlated data points in the training set and applies a theoretically derived closed-form parameter update rule, achieving an $82\times$ wall-clock speedup over standard influence function unlearning while preserving model utility with a $10^{-2}$ improvement in accuracy over state-of-the-art baselines. Our method establishes theoretical guarantees and ensures numerical stability through Hessian damping. Our evaluation across seven diverse dataset architecture combinations, including large-scale CIFAR-100 with ResNet-50, demonstrates superior forgetting effectiveness, with membership inference attack success rates of 0.660 and tug-of-war scores of 0.950.
- Abstract(参考訳): ネットワークや分散セキュリティシステムにおける機械学習の採用の増加により、特定のトレーニングデータの影響を選択的に効果的に除去し、運用モデルから妥協された、あるいは敵対的なデータポイントを排除できるメカニズムが緊急に必要になった。
GDPRの \emph{right to be forget} のようなプライバシー規制も同様の要件を課している。
しかし、既存の近似アンラーニング技術は、各データポイント削除に高価なヘッセン・逆ベクトル計算を繰り返し必要としており、侵入検知システム、スパムフィルタ、脅威インテリジェンスプラットフォームなどのシナリオで複数の関連する要求を処理する際にボトルネックを生じさせるため、現実世界のセキュリティシステムにおいて、計算的に禁止されている。
そこで,本研究では,トレーニングセット内の相関データ点を同定し,理論的に導出された閉形式パラメータ更新ルールを適用して,標準影響関数の非学習に対するウォールクロックの高速化を実現し,モデルユーティリティを10〜2で保存し,最先端のベースラインよりも精度が向上した。
提案手法は理論的な保証を確立し,ヘッセン減衰による数値安定性を確保する。
大規模CIFAR-100とResNet-50を含む7種類のデータセットアーキテクチャの組み合わせによる評価は、メンバシップ推論攻撃の成功率0.660、綱引きスコア0.950において、より優れた記憶効率を示す。
関連論文リスト
- DECAF: De-Clustering for Adaptive Representational Unlearning [13.298390892944221]
本稿では,DeCAF(De-Clustering for Adaptive Forgetting)を提案する。
ResNet-18を搭載したCIFAR-10では、DECAFは0.10%の精度で、79.4%は精度を維持し、AUSは0.88で、他の全てのベースラインを上回っている。
論文 参考訳(メタデータ) (2026-07-27T02:11:58Z) - Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions [2.5565719921628443]
フェデレートされた学習システムは、プライバシー規則に従うためにデータ削除要求をサポートしなければならない。
本稿では,クライアントのコントリビューションをKrylov部分空間の共役反復によって近似することで,クライアントのコントリビューションを除去する手法であるHF-KCUを提案する。
我々は、k がヘッセン条件数である場合、クリロフ近似誤差が O((k 1/2-1)/(k1/2+1) として減少することを示す収束保証を提供する。
論文 参考訳(メタデータ) (2026-05-19T18:00:39Z) - Keeping Score: Efficiency Improvements in Neural Likelihood Surrogate Training via Score-Augmented Loss Functions [46.638644823334424]
パラメータ推論は、しばしば計算に高価な確率関数によってボトルネックされる。
正確なスコア情報を用いて、標準的なバイナリクロスエントロピー損失を増大させることを提案する。
場合によっては、トレーニング時間の1.1倍未満のトレーニングデータを10倍に増やすことができる。
論文 参考訳(メタデータ) (2026-05-12T13:34:30Z) - Privacy-Preserving Federated Learning: Integrating Zero-Knowledge Proofs in Scalable Distributed Architectures [2.1759573420092573]
Federated Learning (FL)は、ローカルデータのプライバシーを損なうことなく、分散モデルトレーニングを可能にする。
標準FL実装は、逆勾配更新と計算ボトルネックに関連する深刻な脆弱性に悩まされる。
本稿では、FLパイプラインを高度な暗号検証により強化する、新しいエンドツーエンド分散アーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-05-04T04:20:16Z) - AI Agentic Vulnerability Injection And Transformation with Optimized Reasoning [2.918225266151982]
AVIATORはAIによる最初の脆弱性注入ワークフローである。
高忠実で多様な大規模な脆弱性データセット生成のために、現実的でカテゴリ固有の脆弱性を自動的に注入する。
セマンティック分析、LoRAベースのファインチューニングとRetrieval-Augmented Generationで強化されたインジェクション合成、静的解析とLLMベースの識別器によるインジェクション後の検証を組み合わせる。
論文 参考訳(メタデータ) (2025-08-28T14:59:39Z) - Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。
本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。
本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
論文 参考訳(メタデータ) (2025-07-31T05:34:27Z) - Orthogonal Soft Pruning for Efficient Class Unlearning [26.76186024947296]
そこで本研究では,ミリ秒レベルの応答時間で高速かつ高精度な記憶を実現するための,クラス認識型ソフトプルーニングフレームワークを提案する。
提案手法は,クラス固有のチャネルを効率的に識別しながら,畳み込みフィルタと区切られた特徴表現をデコレーションする。
論文 参考訳(メタデータ) (2025-06-24T09:52:04Z) - MIBP-Cert: Certified Training against Data Perturbations with Mixed-Integer Bilinear Programs [50.41998220099097]
トレーニング中のデータエラー、汚職、中毒攻撃は、現代のAIシステムの信頼性に大きな脅威をもたらす。
混合整数双線形プログラミング(MIBP)に基づく新しい認証手法MIBP-Certを紹介する。
摂動データや操作データを通じて到達可能なパラメータの集合を計算することで、可能なすべての結果を予測することができ、堅牢性を保証することができる。
論文 参考訳(メタデータ) (2024-12-13T14:56:39Z) - Fast Machine Unlearning Without Retraining Through Selective Synaptic
Dampening [51.34904967046097]
Selective Synaptic Dampening (SSD)は高速で、訓練データの長期保存を必要としない。
高速で性能が高く,トレーニングデータの長期保存を必要としない,新しい2段階のポストホック,リトレーニングフリーなマシンアンラーニング手法を提案する。
論文 参考訳(メタデータ) (2023-08-15T11:30:45Z) - A Dependable Hybrid Machine Learning Model for Network Intrusion
Detection [1.222622290392729]
本稿では,機械学習とディープラーニングを組み合わせたハイブリッドモデルを提案する。
提案手法は,KDDCUP'99とCIC-MalMem-2022の2つのデータセットでテストした場合,優れた結果が得られる。
論文 参考訳(メタデータ) (2022-12-08T20:19:27Z) - Distributed Adversarial Training to Robustify Deep Neural Networks at
Scale [100.19539096465101]
現在のディープニューラルネットワーク(DNN)は、入力に対する敵の摂動が分類を変更したり操作したりする敵の攻撃に対して脆弱である。
このような攻撃を防御するために、敵の訓練(AT)として知られる効果的なアプローチが、堅牢な訓練を緩和するために示されている。
複数のマシンにまたがって実装された大規模バッチ対逆トレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-13T15:39:43Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳(メタデータ) (2021-05-10T08:02:27Z) - Unsupervised Domain Adaptation for Speech Recognition via Uncertainty
Driven Self-Training [55.824641135682725]
WSJ をソースドメインとし,TED-Lium 3 とSWITCHBOARD を併用したドメイン適応実験を行った。
論文 参考訳(メタデータ) (2020-11-26T18:51:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。