論文の概要: RepSelect: Robust LLM Unlearning via Representation Selectivity

• arxiv url: http://arxiv.org/abs/2606.17168v2
• Date: Sat, 20 Jun 2026 10:01:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.216174
• Title: RepSelect: Robust LLM Unlearning via Representation Selectivity
• Title（参考訳）: RepSelect: 表現選択によるロバストLLM学習
• Abstract要約: 大規模言語モデル(LLM)は、一般的な能力を犠牲にすることなく、特定の知識と価値を深く忘れる。 本稿では,各更新に先立って重み勾配の主成分を折り畳むことで,レプトセット固有の表現を分離するRepSelectを提案する。 RepSelectは、最強のベースラインよりも4～50倍の学習後回答精度の削減を実現し、ほとんど確実に数発の攻撃に対して堅牢である。
• 参考スコア（独自算出の注目度）: 2.6963769910722046
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Making large language models (LLMs) deeply forget specific knowledge and values without sacrificing general capabilities remains a central challenge in unlearning. Current methods are easily reversed by fine-tuning or few-shot prompting, suggesting their forgetting is only shallow. We identify the root cause. Existing methods target representations shared with both the retain set and the subspace recovered by a fine-tuning attacker, making unlearning both disruptive to general capabilities and easy to reverse. We propose RepSelect (Representation Selectivity), which isolates forget-set-specific representations by collapsing top principal components of weight gradients before each update, leaving general capabilities intact while limiting what fine-tuning can recover. We evaluate across two forget categories, biohazardous knowledge and abusive tendencies, and four model families spanning dense and Mixture-of-Experts architectures (Llama 3, Qwen 3.5, Gemma 4 E4B, DeepSeek V2 Lite). Compared to five popular baselines (GradDiff, NPO, SimNPO, RMU, UNDIAL), RepSelect achieves a 4-50x larger reduction in post-relearning answer accuracy than the strongest baseline, and is near-perfectly robust to few-shot prompting attacks. Targeting selective representations is thus an important step towards deep and robust LLM forgetting.
• Abstract（参考訳）: 大きな言語モデル(LLM)を一般的な能力を犠牲にすることなく、特定の知識や価値を深く忘れることは、未学習の重要な課題である。 現在の手法は微調整や数発のプロンプトによって容易に逆転し、忘れるのは浅いだけであることを示唆している。 私たちは根本原因を特定します。 既存のメソッドは、retainセットとサブスペースの両方で共有される表現をターゲットとし、微調整アタッカーによって復元される。 RepSelect(Representation Selectivity)を提案する。これは、各更新前に重み勾配の主成分を折り畳み、微調整で回復できるものを制限することなく、一般的な機能をそのまま残すことによって、スリープセット固有の表現を分離する。 バイオハザード・ナレッジと乱用傾向の2つのカテゴリ,および密集と混在する4つのモデルファミリー(Llama 3, Qwen 3.5, Gemma 4 E4B, DeepSeek V2 Lite)について評価を行った。 一般的な5つのベースライン(GradDiff、NPO、SimNPO、RMU、UNDIAL)と比較して、RepSelectは、最強のベースラインよりも4～50倍の学習後の回答精度の削減を実現し、数発の攻撃に対してほぼ完璧に堅牢である。 したがって、選択表現をターゲットとすることは、深く堅牢なLLMの忘れ方への重要なステップである。

関連論文リスト

• Test-Time Unlearning via Sparse Autoencoder [55.4290003355764]
  ARIAは,モデルウェイトをそのまま残して,世代が無視関連状態に入る場合にのみ,不要な知識へのアクセスをゲートするテスト時アンラーニング手法である。 ARIAは、思考モデルと命令モデルの両方にわたるウェイトベースベースラインに対する忘れがちなトレードオフを改善します。
  論文  参考訳（メタデータ） (2026-09-14T18:58:09Z)
• Catastrophic Learning: A New Attack Vector on Continual Learning Networks [0.0]
  継続的学習(CL)により、深層学習モデルは、事前知識を忘れずに、データのストリームから反復的に学習することができる。 攻撃者が操作したデータは、現在または来るべきイテレーションの学習可能性を減らすことができる。 本稿では,ラベル交換,トラクション・コインシデント,トラクション・プレシデント,リプルション・プレシデント,リプルション・プレシデントという6つの攻撃戦略を提案する。
  論文  参考訳（メタデータ） (2026-08-19T14:43:14Z)
• FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast [3.774094352572544]
  FORGEは反射式内部ループをラップし、専用の反射エージェントが失敗した軌道を再利用可能な知識アーティファクトに変換する。 我々は,ネットワーク防御のPOMDPであるCybORG CAGE-2を,Bライン攻撃に対する30ステップの地平線上で評価した。 ゼロショットベースラインとリフレクションベースライン(分離シングルストリーム学習)の両方と比較して、FOGEはゼロショットよりも1.7-7.7$times$の平均評価リターンを改善する。
  論文  参考訳（メタデータ） (2026-05-15T17:42:49Z)
• Rewarding the Rare: Uniqueness-Aware RL for Creative Problem Solving in LLMs [126.45104018441698]
  強化学習(RL)は、大規模言語モデル(LLM)の訓練後の中心パラダイムとなっている。 この失敗は、解の集合の多様性よりもむしろ局所的なトークンの振る舞いを規則化することに起因すると我々は主張する。 我々は,まれなハイレベル戦略を示す正しいソリューションを明示的に報酬する,ロールアウトレベルの目標であるUniqueness-Aware Reinforcement Learningを提案する。
  論文  参考訳（メタデータ） (2026-01-13T17:48:43Z)
• Dual-Stage Reweighted MoE for Long-Tailed Egocentric Mistake Detection [85.0189917888094]
  本稿では,微妙で頻繁なミスによって生じる課題に対処するため,Dual-Stage Reweighted Mixture-of-Experts (DR-MoE) フレームワークを提案する。 提案手法は,特に稀かつ曖昧な誤りの特定において,高い性能を達成する。
  論文  参考訳（メタデータ） (2025-09-16T12:00:42Z)
• Reinforcing Video Reasoning with Focused Thinking [65.85683941058916]
  本稿では,集中的思考と深い報酬の粒度で視覚的推論を強化する新しいフレームワークであるTW-GRPOを提案する。 具体的には,高情報密度のトークンを優先するトークン重み付け機構を用いる。 また,シングルチョイスからマルチチョイスQAタスクにシフトすることで,RLトレーニングを再構築する。
  論文  参考訳（メタデータ） (2025-05-30T15:42:19Z)
• From Dormant to Deleted: Tamper-Resistant Unlearning Through Weight-Space Regularization [46.78723722220735]
  LLMの最近の未学習手法は再学習攻撃に対して脆弱である。 学習後50%程度から100%近くまで、リザーブセットだけを微調整することで、忘れたセットの精度が回復できるという驚くべき発見をしました。 本稿では,再学習攻撃に対する最先端の耐性を実現する新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-05-28T12:53:08Z)
• Erasing Without Remembering: Implicit Knowledge Forgetting in Large Language Models [81.62767292169225]
  我々は,その一般化に着目して,大規模言語モデルにおける知識の忘れについて検討する。 確率摂動に基づく新しいアンラーニングパラダイムであるPerMUを提案する。 TOFU、Harry Potter、ZsRE、WMDP、MUSEなど、さまざまなデータセットで実験が行われている。
  論文  参考訳（メタデータ） (2025-02-27T11:03:33Z)
• SPaR: Self-Play with Tree-Search Refinement to Improve Instruction-Following in Large Language Models [88.29990536278167]
  SPaRは、木探索の自己精製を統合して、有効かつ同等な選好ペアを得るセルフプレイフレームワークである。 実験により,SPaRで誘導された3回の反復で訓練されたLLaMA3-8Bモデルが,一般機能を失うことなくIFEvalベンチマークでGPT-4-Turboを上回った。
  論文  参考訳（メタデータ） (2024-12-16T09:47:43Z)
• GCR: Gradient Coreset Based Replay Buffer Selection For Continual Learning [1.911678487931003]
  調査対象のオフライン学習環境において,最先端の学習に比べて有意な増加(2%～4%)を示した。 また、オンライン/ストリーミングのCL設定にも効果的に移行し、既存のアプローチよりも最大5%向上しました。
  論文  参考訳（メタデータ） (2021-11-18T18:01:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。