論文の概要: CUFG: Curriculum Unlearning Guided by the Forgetting Gradient

• arxiv url: http://arxiv.org/abs/2509.14633v1
• Date: Thu, 18 Sep 2025 05:22:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-19 17:26:53.078408
• Title: CUFG: Curriculum Unlearning Guided by the Forgetting Gradient
• Title（参考訳）: CUFG: グラディエントが指導するカリキュラムアンラーニング
• Authors: Jiaxing Miao, Liang Hu, Qi Zhang, Lai Zhong Yuan, Usman Naseem,
• Abstract要約: CUFG(Curriculum Unlearning via Forgetting Gradients)は、近似的アンラーニングの安定性を高める新しいフレームワークである。 CUFGは、微調整に基づく未学習のための勾配を忘れることによってガイドされる新しい勾配補正器を統合する。 カリキュラムアンラーニングの概念には、かなりの研究の可能性を秘めていると信じている。
• 参考スコア（独自算出の注目度）: 18.55419060320948
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As privacy and security take center stage in AI, machine unlearning, the ability to erase specific knowledge from models, has garnered increasing attention. However, existing methods overly prioritize efficiency and aggressive forgetting, which introduces notable limitations. In particular, radical interventions like gradient ascent, influence functions, and random label noise can destabilize model weights, leading to collapse and reduced reliability. To address this, we propose CUFG (Curriculum Unlearning via Forgetting Gradients), a novel framework that enhances the stability of approximate unlearning through innovations in both forgetting mechanisms and data scheduling strategies. Specifically, CUFG integrates a new gradient corrector guided by forgetting gradients for fine-tuning-based unlearning and a curriculum unlearning paradigm that progressively forgets from easy to hard. These innovations narrow the gap with the gold-standard Retrain method by enabling more stable and progressive unlearning, thereby improving both effectiveness and reliability. Furthermore, we believe that the concept of curriculum unlearning has substantial research potential and offers forward-looking insights for the development of the MU field. Extensive experiments across various forgetting scenarios validate the rationale and effectiveness of our approach and CUFG. Codes are available at https://anonymous.4open.science/r/CUFG-6375.
• Abstract（参考訳）: プライバシとセキュリティがAIの中心となる中、機械学習はモデルから特定の知識を消去する能力であり、注目を集めている。 しかし、既存の手法は効率と積極的な忘れ込みを過度に優先しており、顕著な制限が伴っている。 特に、勾配上昇、影響関数、ランダムラベルノイズといった急進的な介入はモデルの重みを不安定にし、崩壊と信頼性の低下につながる。 これを解決するために, CUFG (Curriculum Unlearning via Forgetting Gradients) を提案する。 特に、CUFGは、微調整に基づくアンラーニングの勾配を忘れることによって導かれる新しい勾配補正器と、徐々に簡単から困難へと忘れていくカリキュラムアンラーニングパラダイムを統合している。 これらの革新は、より安定的で進歩的なアンラーニングを可能にし、有効性と信頼性の両方を改善することによって、ゴールドスタンダード・リトレイン法とのギャップを狭める。 さらに,カリキュラムアンラーニングの概念には研究の可能性を秘めており,MU分野の発展に前向きな洞察を与えると考えている。 様々な忘れるシナリオにわたる大規模な実験は、我々のアプローチとCUFGの合理的性と有効性を検証する。 コードはhttps://anonymous.4open.science/r/CUFG-6375で公開されている。

関連論文リスト

• zkUnlearner: A Zero-Knowledge Framework for Verifiable Unlearning with Multi-Granularity and Forgery-Resistance [13.737284250494655]
  Em zkUnlearnerは、検証可能なマシンアンラーニングのための最初のゼロ知識フレームワークである。 マルチグラニュラ性とエムフォージェリ耐性をサポートするように設計されている。
  論文  参考訳（メタデータ） (2025-09-08T23:50:35Z)
• UniErase: Unlearning Token as a Universal Erasure Primitive for Language Models [54.75551043657238]
  学習可能なパラメトリック接尾辞(アンラーニングトークン)を用いて、ターゲットとなる忘れ行動に向けて言語モデルを操る新しいアンラーニングパラダイムであるUniEraseを紹介する。 UniEraseは、実世界の知識設定の下で、バッチ、シーケンシャル、そして正確なアンラーニングで、最先端のSOTA(State-of-the-art)パフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-05-21T15:53:28Z)
• A Unified Gradient-based Framework for Task-agnostic Continual Learning-Unlearning [30.2773429357068]
  近年の深層モデルの進歩は、知識獲得のための連続学習(CL)とデータ除去のための機械アンラーニング(MU)を組み合わせたインテリジェントシステムの必要性を強調している。 Kullback-Leibler の発散最小化に基づく統一最適化フレームワークにより,本質的な接続を明らかにする。 実験により、提案したUG-CLUフレームワークは、複数のデータセットやモデルアーキテクチャにわたるインクリメンタルラーニング、正確なアンラーニング、知識安定性を効果的に調整することを示した。
  論文  参考訳（メタデータ） (2025-05-21T06:49:05Z)
• ACU: Analytic Continual Unlearning for Efficient and Exact Forgetting with Privacy Preservation [39.0731790601695]
  連続的アンラーニング(CU)は、連続的学習フェーズで取得した特定の知識を逐次忘れることを目的としている。 既存の未学習メソッドの多くは、再トレーニングや微調整のために保持されたデータセットにアクセスする必要がある。 本稿では,ACU (Analytic Continual Unlearning) と呼ばれるCUの勾配のない新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-05-18T05:28:18Z)
• GRU: Mitigating the Trade-off between Unlearning and Retention for LLMs [34.90826139012299]
  非学習過程における更新の方向を規定する改良されたフレームワークであるグラデーション・リクティファイド・アンラーニング(GRU)を提案する。 GRUは簡単に実装でき、様々な確立された未学習ベンチマークで実践的な効果を示す。
  論文  参考訳（メタデータ） (2025-03-12T07:08:54Z)
• A Retention-Centric Framework for Continual Learning with Guaranteed Model Developmental Safety [75.8161094916476]
  現実世界のアプリケーションでは、学習可能なシステムは、しばしば課題や新しいタスクに対処するために反復的なモデル開発を行う。 既存の能力の新規または改善は、必然的に旧モデルの優れた能力を失う可能性がある。 本稿では,データ依存制約を伴う保持中心のフレームワークを提案し,既存の画像分類能力の獲得や改善を目的とした事前学習型CLIPモデルを継続的に開発する方法について検討する。
  論文  参考訳（メタデータ） (2024-10-04T22:34:58Z)
• Reinforcement Learning from Diverse Human Preferences [68.4294547285359]
  本稿では,人選好ラベルをクラウドソーシングし,多様な嗜好から学習する手法を開発した。 提案手法はDMcontrolとMeta-worldの様々なタスクでテストされる。 多様なフィードバックから学ぶと、既存の好みベースのRLアルゴリズムよりも一貫性があり、大幅に改善されている。
  論文  参考訳（メタデータ） (2023-01-27T15:18:54Z)
• Reparameterized Variational Divergence Minimization for Stable Imitation [57.06909373038396]
  確率的発散の選択における変動が、より高性能なILOアルゴリズムをもたらす可能性について検討する。 本稿では,提案する$f$-divergence最小化フレームワークの課題を軽減するために,逆模倣学習のための再パラメータ化手法を提案する。 経験的に、我々の設計選択は、ベースラインアプローチより優れ、低次元連続制御タスクにおける専門家のパフォーマンスとより密に適合するIOOアルゴリズムを許容することを示した。
  論文  参考訳（メタデータ） (2020-06-18T19:04:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。