論文の概要: From Anchors to Supervision: Memory-Graph Guided Corpus-Free Unlearning for Large Language Models
- arxiv url: http://arxiv.org/abs/2604.13777v1
- Date: Wed, 15 Apr 2026 12:07:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-16 20:38:32.52209
- Title: From Anchors to Supervision: Memory-Graph Guided Corpus-Free Unlearning for Large Language Models
- Title(参考訳): アンカーからスーパービジョン:大規模言語モデルのためのメモリグラフガイド付きコーパスなしアンラーニング
- Authors: Wenxuan Li, Zhenfei Zhang, Mi Zhang, Geng Hong, Mi Wen, Xiaoyu You, Min Yang,
- Abstract要約: 大型言語モデル(LLM)は機密または著作権のあるコンテンツを記憶し、プライバシーと法的懸念を生じさせる可能性がある。
我々は、ユーザ最小化されたコーパスなしの未学習のためのメモリ-grAphガイド付き消去フレームワークであるMAGEを提案する。
- 参考スコア(独自算出の注目度): 22.63967552591011
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) may memorize sensitive or copyrighted content, raising significant privacy and legal concerns. While machine unlearning has emerged as a potential remedy, prevailing paradigms rely on user-provided forget sets, making unlearning requests difficult to audit and exposing systems to secondary leakage and malicious abuse. We propose MAGE, a Memory-grAph Guided Erasure framework for user-minimized, corpus-free unlearning. Given only a lightweight user anchor that identifies a target entity, MAGE probes the target LLM to recover target-related memorization, organizes it into a weighted local memory graph, and synthesizes scoped supervision for unlearning. MAGE is model-agnostic, can be plugged into standard unlearning methods, and requires no access to the original training corpus. Experiments on two benchmarks, TOFU and RWKU, demonstrate that MAGE's self-generated supervision achieves effective unlearning performance comparable to supervision generated with external reference, while preserving overall utility. These results support a practical and auditable unlearning workflow driven by minimal anchors rather than user-supplied forget corpora.
- Abstract(参考訳): 大型言語モデル(LLM)は機密または著作権のあるコンテンツを記憶し、プライバシーと法的懸念を生じさせる可能性がある。
機械学習は潜在的な対策として現れてきたが、一般的なパラダイムはユーザが提供する忘れセットに依存しており、未学習の要求を監査し、二次的な漏洩や悪意のある悪用にシステムの公開を困難にしている。
我々は、ユーザ最小化されたコーパスなしの未学習のためのメモリ-grAphガイド付き消去フレームワークであるMAGEを提案する。
ターゲットエンティティを識別する軽量なユーザアンカーのみを前提として、MAGEはターゲットのLLMをプローブして、ターゲット関連の記憶を復元し、それを重み付けされたローカルメモリグラフに整理し、未学習のためのスコープ付き監視を合成する。
MAGEはモデルに依存しず、標準のアンラーニングメソッドにプラグインすることができ、元のトレーニングコーパスへのアクセスを必要としない。
2つのベンチマーク(TOFUとRWKU)の実験では、MAGEの自己生成型インスペクタは、外部参照で生成されたインスペクタに匹敵する効果的なアンラーニング性能を達成し、全体的なユーティリティを保っている。
これらの結果は、ユーザに供給される忘れのコーパスではなく、最小限のアンカーによって駆動される実用的で監査可能な未学習ワークフローをサポートする。
関連論文リスト
- MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。
MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
論文 参考訳(メタデータ) (2026-02-19T05:20:31Z) - Towards Benign Memory Forgetting for Selective Multimodal Large Language Model Unlearning [49.274436951541425]
MLLM(Multimodal Large Language Models)は優れた能力を発揮するが、プライバシーに敏感な情報を不注意に記憶することができる。
既存の未学習の手法は、しばしばモデルの一般的な画像理解性能を劣化させるため、良心的な忘れを達成できない。
本稿では, メモリ領域のメモリ領域への忘れを抑えつつ, 全体的な機能を維持するSculpted Forgetting Adapter (SMFA)を提案する。
論文 参考訳(メタデータ) (2025-11-25T11:22:45Z) - AUVIC: Adversarial Unlearning of Visual Concepts for Multi-modal Large Language Models [63.05306474002547]
を強制する規制フレームワークは、機械学習の必要性を喚起します。
AUVICはMLLMのための新しい視覚概念アンラーニングフレームワークである。
AUVICは,非ターゲット概念の性能劣化を最小限に抑えつつ,最先端の目標忘れ率を実現していることを示す。
論文 参考訳(メタデータ) (2025-11-14T13:35:32Z) - DRAGON: Guard LLM Unlearning in Context via Negative Detection and Reasoning [15.58340591381191]
大規模言語モデル(LLM)の学習は、プライベートデータ保護と有害な知識の除去に不可欠である。
既存のアプローチのほとんどは、未学習の効率と一般的な言語能力のバランスをとるために微調整に依存している。
本稿では,これらの制限を克服するために,Dutture-Reasoning Augmented Generation (DRAGON)を提案する。
論文 参考訳(メタデータ) (2025-11-08T01:13:28Z) - Scalable and Robust LLM Unlearning by Correcting Responses with Retrieved Exclusions [49.55618517046225]
Webスケールのコーパスリスクを記憶し、センシティブな情報を暴露する言語モデル。
本稿では,新しいアンラーニングフレームワークであるCorrective Unlearning with Retrieved Exclusions (CURE)を提案する。
CUREは、リークのモデル出力を確認し、安全な応答に修正する。
論文 参考訳(メタデータ) (2025-09-30T09:07:45Z) - MemOS: A Memory OS for AI System [116.87568350346537]
大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。
既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。
MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
論文 参考訳(メタデータ) (2025-07-04T17:21:46Z) - A Closer Look at Machine Unlearning for Large Language Models [46.245404272612795]
大型言語モデル(LLM)は機密または著作権のあるコンテンツを記憶し、プライバシーと法的懸念を高める。
LLMの機械学習におけるいくつかの問題について議論し、可能なアプローチについての洞察を提供する。
論文 参考訳(メタデータ) (2024-10-10T16:56:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。