論文の概要: Rethinking Federated Unlearning via the Lens of Memorization

• arxiv url: http://arxiv.org/abs/2605.24545v1
• Date: Sat, 23 May 2026 12:25:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.225585
• Title: Rethinking Federated Unlearning via the Lens of Memorization
• Title（参考訳）: 記憶のレンズによるフェデレーション・アンラーニングの再考
• Authors: Jiaheng Wei, Yanjun Zhang, He Zhang, Leo Yu Zhang, Chao Chen, Kok-Leong Ong, Jun Zhang, Yang Xiang,
• Abstract要約: 未学習は、忘れるべきデータに起因するユニークな記憶情報を主に取り除くべきだ、と我々は主張する。 FedMemPruneは、暗記に責任を持つ冗長なパラメータをリセットする、プルーニングベースのアンラーニングアプローチである。
• 参考スコア（独自算出の注目度）: 43.29764212924278
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) increasingly needs machine unlearning to comply with privacy regulations. However, existing federated unlearning approaches may overlook the overlapping information between the unlearning and remaining data, leading to ineffective unlearning and unfairness between clients. In this work, we revisit federated unlearning through the lens of memorization. We argue that unlearning should mainly remove the unique memorized information attributable to the data to be forgotten, while preserving overlapping patterns that are also supported by the remaining data. Specifically, we propose Grouped Memorization Evaluation, an example-level metric that separates memorized knowledge from overlapping knowledge. Building on this metric, we introduce Federated Memorization Pruning (FedMemPrune), a pruning-based unlearning approach that resets redundant parameters responsible for memorization. Extensive experiments show that FedMemPrune closely matches retraining-based unlearning baselines while more effectively eliminating memorization than existing federated unlearning algorithms, yielding strong unlearning performance without sacrificing the utility of retained knowledge.
• Abstract（参考訳）: フェデレーテッド・ラーニング(FL)は、プライバシー規則に従うために機械学習を必要としている。 しかし、既存のフェデレートされた未学習アプローチは、未学習データと残りのデータの重複した情報を見落とし、非効率な未学習とクライアント間の不公平をもたらす可能性がある。 本研究では,記憶のレンズを通して,未学習のフェデレーションを再考する。 未学習は、主に忘れるべきデータに起因するユニークな記憶情報を取り除き、残りのデータからも支持される重複パターンを保存すべきである、と我々は主張する。 具体的には、記憶された知識と重複する知識を分離する例レベルの指標であるグループ記憶評価を提案する。 このメトリクスに基づいて、記憶に責任を持つ冗長パラメータをリセットするプルーニングベースの未学習アプローチであるFederated Memorization Pruning(FedMemPrune)を導入する。 大規模な実験により、FedMemPruneはリトレーニングベースのアンラーニングベースラインと密接に一致し、既存のフェデレーションされたアンラーニングアルゴリズムよりもメモリ化を効果的に排除し、保持された知識の有用性を犠牲にすることなく、強力なアンラーニング性能が得られることが示された。

関連論文リスト

• Certifying the Right to Be Forgotten: Primal-Dual Optimization for Sample and Label Unlearning in Vertical Federated Learning [31.54643729002375]
  フェデレートされたアンラーニングにより、トレーニングされたモデルから特定のデータの影響を取り除くことができる。 原始双対アルゴリズムによるデータ除去のためのフェデレーション最適化法の提案 新しい未学習損失関数は、誤分類よりも分類の不確実性を促進する。
  論文  参考訳（メタデータ） (2025-12-29T03:25:52Z)
• Retrieval-augmented Prompt Learning for Pre-trained Foundation Models [101.13972024610733]
  本稿では,記憶と一般化のバランスをとることを目的としたRetroPromptを提案する。 従来のプロンプトメソッドとは異なり、RetroPromptは入力、トレーニング、推論ステージ全体にわたって検索メカニズムを組み込んでいる。 提案手法の優れた性能を示すために,自然言語処理やコンピュータビジョンタスクにまたがる様々なデータセットに関する総合的な実験を行った。
  論文  参考訳（メタデータ） (2025-12-23T08:15:34Z)
• LLM Unlearning on Noisy Forget Sets: A Study of Incomplete, Rewritten, and Watermarked Data [69.5099112089508]
  大規模言語モデル(LLM)は、顕著な生成能力を示すが、機密データを記憶することで倫理的およびセキュリティ上の懸念を引き起こす。 この研究は、ノイズのある忘れセットと呼ばれる、摂動的または低忠実な忘れデータの下での未学習に関する最初の研究を提示する。 コアセマンティック信号が保存されている場合、未学習は摂動に対して驚くほど堅牢である。
  論文  参考訳（メタデータ） (2025-10-10T05:10:49Z)
• Unlearning through Knowledge Overwriting: Reversible Federated Unlearning via Selective Sparse Adapter [35.65566527544619]
  フェデレーション学習は、プライバシ保護のためのコラボレーティブモデルトレーニングにおいて有望なパラダイムである。 本稿では,各レイヤの知識に対する感受性を分析することによって,まず重要なレイヤを識別するFUSEDを提案する。 アダプタは元のパラメータを変更することなくトレーニングされ、未学習の知識を残りの知識で上書きする。
  論文  参考訳（メタデータ） (2025-02-28T04:35:26Z)
• Siamese Machine Unlearning with Knowledge Vaporization and Concentration [23.796344455232227]
  本研究では,特定のデータポイントから学習知識を選択的に消去する知識蒸散と集中の概念を提案する。 提案手法では,メモリオーバヘッドの追加や,残りのデータセットへのフルアクセスは不要である。
  論文  参考訳（メタデータ） (2024-12-02T07:19:49Z)
• TOFU: A Task of Fictitious Unlearning for LLMs [99.92305790945507]
  Webからの大量のコーパスに基づいてトレーニングされた大規模な言語モデルは、法的および倫理的懸念を提起する機密データやプライベートデータを再現することができる。 トレーニングデータに存在する情報を忘れるためにモデルをチューニングするアンラーニングは、トレーニング後のプライベートデータを保護する手段を提供する。 未学習の理解を深めるためのベンチマークであるTOFUを紹介する。
  論文  参考訳（メタデータ） (2024-01-11T18:57:12Z)
• Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation [11.638683787598817]
  能動的忘れ込みに基づく神経刺激型フェデレーション・アンラーニング・フレームワークを提案する。 我々のフレームワークは、新しい記憶を利用して古い記憶を上書きすることで、既存の方法と差別化している。 本手法は,バックドア攻撃に対する未学習の完全性を実現する。
  論文  参考訳（メタデータ） (2023-07-07T03:07:26Z)
• Learning with Recoverable Forgetting [77.56338597012927]
  学習wIth Recoverable Forgettingは、タスクまたはサンプル固有の知識の除去とリカバリを明示的に処理する。 具体的には、LIRFは2つの革新的なスキーム、すなわち知識預金と離脱をもたらす。 いくつかのデータセットで実験を行い、提案したLIRF戦略が一般化能力を満足させる結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-07-17T16:42:31Z)
• Decoupling Knowledge from Memorization: Retrieval-augmented Prompt Learning [113.58691755215663]
  一般化と記憶のバランスをとるためにRetroPromptを開発した。 バニラプロンプト学習とは対照的に、RetroPromptはトレーニングインスタンスからオープンブックナレッジストアを構築する。 大規模な実験により、RetroPromptは、数ショットとゼロショットの両方で、より良いパフォーマンスを得ることができることが示されている。
  論文  参考訳（メタデータ） (2022-05-29T16:07:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。