論文の概要: Towards Reliable Forgetting: A Survey on Machine Unlearning Verification, Challenges, and Future Directions

• arxiv url: http://arxiv.org/abs/2506.15115v1
• Date: Wed, 18 Jun 2025 03:33:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-19 19:35:51.541631
• Title: Towards Reliable Forgetting: A Survey on Machine Unlearning Verification, Challenges, and Future Directions
• Title（参考訳）: 信頼性を追求する - 機械学習の検証,課題,今後の方向性に関する調査
• Authors: Lulu Xue, Shengshan Hu, Wei Lu, Yan Shen, Dongxu Li, Peijin Guo, Ziqi Zhou, Minghui Li, Yanjun Zhang, Leo Yu Zhang,
• Abstract要約: 本稿では,機械学習の検証手法に関する最初の構造化された調査について述べる。 本稿では,現在の手法を行動検証とパラメトリック検証の2つの主要なカテゴリに分類する分類法を提案する。 基礎となる仮定、強度、限界を調べ、実践的なデプロイメントにおける潜在的な脆弱性を特定します。
• 参考スコア（独自算出の注目度）: 26.88376128769619
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With growing demands for privacy protection, security, and legal compliance (e.g., GDPR), machine unlearning has emerged as a critical technique for ensuring the controllability and regulatory alignment of machine learning models. However, a fundamental challenge in this field lies in effectively verifying whether unlearning operations have been successfully and thoroughly executed. Despite a growing body of work on unlearning techniques, verification methodologies remain comparatively underexplored and often fragmented. Existing approaches lack a unified taxonomy and a systematic framework for evaluation. To bridge this gap, this paper presents the first structured survey of machine unlearning verification methods. We propose a taxonomy that organizes current techniques into two principal categories -- behavioral verification and parametric verification -- based on the type of evidence used to assess unlearning fidelity. We examine representative methods within each category, analyze their underlying assumptions, strengths, and limitations, and identify potential vulnerabilities in practical deployment. In closing, we articulate a set of open problems in current verification research, aiming to provide a foundation for developing more robust, efficient, and theoretically grounded unlearning verification mechanisms.
• Abstract（参考訳）: プライバシ保護、セキュリティ、法的コンプライアンス(GDPRなど)の要求が高まる中、機械学習モデルの制御性と規制の整合性を確保するための重要なテクニックとして、機械学習が登場した。 しかし、この分野の根本的な課題は、未学習の操作が成功し、徹底的に実行されたかどうかを効果的に検証することにある。 未学習のテクニックに関する研究が増えているにもかかわらず、検証手法は比較的過小評価され、しばしば断片化されている。 既存のアプローチには、統一された分類法と、評価のための体系的な枠組みが欠如している。 このギャップを埋めるために,本論文は,機械による未学習検証手法に関する最初の構造化された調査結果を示す。 本研究では,現在の手法を2つの主要なカテゴリ – 行動検証とパラメトリック検証 – に分類し,未学習の忠実さを評価するための証拠の種類に基づく分類法を提案する。 各カテゴリにおける代表的手法について検討し,その基礎となる前提,強み,限界を分析し,実用的展開における潜在的な脆弱性を同定する。 本研究は, より堅牢で, 効率的で, 理論的に根拠のない未学習の検証機構を開発するための基盤を提供することを目的として, 現在の検証研究におけるオープンな問題の集合を述べる。

関連論文リスト

• Does Machine Unlearning Truly Remove Model Knowledge? A Framework for Auditing Unlearning in LLMs [58.24692529185971]
  本研究では,3つのベンチマークデータセット,6つのアンラーニングアルゴリズム,および5つのプロンプトベースの監査手法からなる,アンラーニング評価のための総合的な監査フレームワークを提案する。 異なるアンラーニング戦略の有効性とロバスト性を評価する。
  論文  参考訳（メタデータ） (2025-05-29T09:19:07Z)
• Verification of Machine Unlearning is Fragile [48.71651033308842]
  両タイプの検証戦略を回避できる2つの新しい非学習プロセスを導入する。 この研究は、機械学習検証の脆弱性と限界を強調し、機械学習の安全性に関するさらなる研究の道を開く。
  論文  参考訳（メタデータ） (2024-08-01T21:37:10Z)
• Towards Lifecycle Unlearning Commitment Management: Measuring Sample-level Approximate Unlearning Completeness [30.596695293390415]
  本稿では, ライフサイクル・アンラーニング・コミットメント・マネジメント(LUCM)の課題について紹介する。 サンプルレベルの未学習完全性を評価するための効率的な指標を提案する。 このメトリクスは、未学習ライフサイクル全体を通して、未学習の異常を監視するツールとして機能することを示す。
  論文  参考訳（メタデータ） (2024-03-19T15:37:27Z)
• Towards a Framework for Deep Learning Certification in Safety-Critical Applications Using Inherently Safe Design and Run-Time Error Detection [0.0]
  航空や他の安全上重要な分野における現実世界の問題について検討し,認定モデルの要件について検討する。 我々は、(i)本質的に安全な設計と(ii)実行時のエラー検出に基づいて、ディープラーニング認定に向けた新しいフレームワークを構築した。
  論文  参考訳（メタデータ） (2024-03-12T11:38:45Z)
• Self-consistent Validation for Machine Learning Electronic Structure [81.54661501506185]
  機械学習と自己整合フィールド法を統合して,検証コストの低減と解釈可能性の両立を実現する。 これにより、積極的学習によるモデルの能力の探索が可能となり、実際の研究への統合への信頼がもたらされる。
  論文  参考訳（メタデータ） (2024-02-15T18:41:35Z)
• Testing learning-enabled cyber-physical systems with Large-Language Models: A Formal Approach [32.15663640443728]
  機械学習(ML)をサイバー物理システム(CPS)に統合することは大きな利益をもたらす。 既存の検証と検証技術は、しばしばこれらの新しいパラダイムには不十分である。 本稿では, 基礎確率テストからより厳密なアプローチへ移行し, 正式な保証を実現するためのロードマップを提案する。
  論文  参考訳（メタデータ） (2023-11-13T14:56:14Z)
• Exploring Federated Unlearning: Review, Comparison, and Insights [101.64910079905566]
  フェデレーション・アンラーニングは、フェデレーション・システムで訓練されたモデルからデータを選択的に除去することを可能にする。 本稿では,既存のフェデレーション・アンラーニング手法について検討し,アルゴリズムの効率,モデル精度への影響,プライバシ保護の有効性について検討する。 フェデレートされたアンラーニング手法を評価するための統一ベンチマークであるOpenFederatedUnlearningフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-30T01:34:33Z)
• Modelling Assessment Rubrics through Bayesian Networks: a Pragmatic Approach [40.06500618820166]
  本稿では,学習者モデルを直接評価ルーリックから導出する手法を提案する。 本稿では,コンピュータ思考のスキルをテストするために開発された活動の人的評価を自動化するために,この手法を適用する方法について述べる。
  論文  参考訳（メタデータ） (2022-09-07T10:09:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。