論文の概要: LLM Unlearning for Cyber Defense: A Survey on Methods, Challenges, and Emerging Threats

• arxiv url: http://arxiv.org/abs/2607.16227v1
• Date: Tue, 23 Jun 2026 00:17:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.043977
• Title: LLM Unlearning for Cyber Defense: A Survey on Methods, Challenges, and Emerging Threats
• Title（参考訳）: LLM Unlearning for Cyber Defense: A Survey on Methods, Challenges and Emerging Threats
• Abstract要約: LLMは、医療、金融、教育、意思決定支援にまたがるセキュリティクリティカルなシステムにますます導入されている。 彼らの忘れることのできないことは、深刻なサイバーセキュリティ、プライバシー、安全リスクを生み出します。 本調査では,LLMアンラーニングを,セキュリティ,堅牢性,検証可能な忘れやすさのレンズを通して検討した。
• 参考スコア（独自算出の注目度）: 0.7799351572681111
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLMs are increasingly deployed in security-critical systems across healthcare, finance, education, and decision support, yet their inability to forget creates serious cybersecurity, privacy, and safety risks. Sensitive personal information, copyrighted material, hazardous domain knowledge, and memorized training data remain encoded across billions of parameters long after deployment, leaving models vulnerable to extraction, jailbreak attacks, membership inference, and regulatory non-compliance. Real-world incidents, from chatbots regenerating private information to fabricated legal citations producing direct legal and financial cost, place the problem at the center of the emerging-threats landscape rather than the realm of speculation. Because retraining billion-parameter models on revised corpora is computationally infeasible, and because knowledge within an LLM is distributed and entangled across parameters rather than localized to identifiable units, LLM unlearning has emerged as the principal cyber defense response, aiming to remove or suppress targeted knowledge from a trained model without retraining and without eroding what the model should still know. A central question, however, remains unresolved. Do current methods genuinely remove knowledge, or do they only stop the model from expressing it under ordinary prompting conditions? This survey examines LLM unlearning through the lens of security, robustness, and verifiable forgetting, with primary focus on gradient-based methods, which have come to dominate the field due to their compatibility with existing training pipelines and their scalability to billion-parameter models.
• Abstract（参考訳）: LLMは、医療、ファイナンス、教育、意思決定支援にまたがるセキュリティクリティカルなシステムにますますデプロイされているが、忘れることのできないことが深刻なサイバーセキュリティ、プライバシー、安全リスクを生み出している。 センシティブな個人情報、著作権のある資料、有害なドメイン知識、記憶されたトレーニングデータは、デプロイ後何十億ものパラメータにまたがって符号化され、抽出、ジェイルブレイク攻撃、会員推測、規制の順守に弱いモデルを残している。 チャットボットによる個人情報の再生から、直接の法的・財政的なコストを生み出す法的引用まで、現実の出来事は、憶測の領域ではなく、新興の脅威の風景の中心に問題を置いている。 修正されたコーパス上の10億パラメータモデルの再学習は計算不可能であり、LLM内の知識は局所化ではなくパラメータに分散して絡み合っているため、LLMアンラーニングはトレーニングされたモデルから標的となる知識を除去または抑制することを目的とした主要なサイバー防御応答として現れ、モデルがまだ知っているべきことを損なわない。 しかし、中心的な問題は未解決のままである。 現在の手法は、知識を真に取り除くのか、それとも、通常のプロンプト条件下でのみモデルを表現するのか? 本調査では,従来のトレーニングパイプラインとの互換性と,数十億パラメータモデルへの拡張性からこの分野を支配している勾配ベースの手法を中心に,セキュリティ,堅牢性,検証可能な忘れを通したLLMアンラーニングを調査した。

関連論文リスト

• KUDA: Knowledge Unlearning by Deviating Representation for Large Language Models [26.418820118903852]
  大規模言語モデル(LLM)は、多種多様なコーパスの事前学習を通じて大量の知識を得る。 LLMのアンラーニングは、トレーニングデータにおける機密性、著作権、有害なコンテンツに関連するリスクを減らすための有望なテクニックである。 本研究では,LLMの知識レベルでの効果的な学習を実現するために,Deviating representAtion (KUDA) を用いた知識未学習を提案する。
  論文  参考訳（メタデータ） (2026-02-22T17:16:49Z)
• Forgetting-MarI: LLM Unlearning via Marginal Information Regularization [6.979586479353831]
  既存の未学習のメソッドは、特定のデータを“忘れる”場合に必要以上の情報を取り除くことで、モデルのパフォーマンスを劣化させることが多い。 我々は,LLMアンラーニングフレームワークであるForgetting-MarIを紹介した。 限界情報をペナル化することにより、トレーニングされたモデルにおける未学習データセットの残差の影響を明示的に上限付けし、証明不能な検出を可能にする。
  論文  参考訳（メタデータ） (2025-11-14T22:48:39Z)
• Unlearning Imperative: Securing Trustworthy and Responsible LLMs through Engineered Forgetting [0.0]
  機密性の高いドメインの大規模な言語モデルは、プライベート情報が永久に忘れられることを保証できません。 最初からのトレーニングは違法に費用がかかる。 既存の未学習のメソッドは断片化され、検証が困難で、回復に脆弱であることが多い。
  論文  参考訳（メタデータ） (2025-11-13T01:29:05Z)
• A Survey on Unlearning in Large Language Models [18.262778815699345]
  大規模言語モデル(LLM)は自然言語処理に革命をもたらしたが、大規模なコーパスでのトレーニングは重大なリスクをもたらす。 これらの問題を緩和し、「忘れられる権利」のような法的・倫理的な基準に合わせるために、機械の非学習は重要なテクニックとして現れてきた。 この調査は、2021年以降に出版されたLLMアンラーニングに関する180以上の論文の体系的なレビューを提供する。
  論文  参考訳（メタデータ） (2025-10-29T02:34:17Z)
• A Survey on Data Security in Large Language Models [12.23432845300652]
  LLM(Large Language Models)は、自然言語処理、テキスト生成、機械翻訳、会話システムなどのパワーアプリケーションの基礎である。 トランスフォーメーションの可能性にもかかわらず、これらのモデルは本質的に大量のトレーニングデータに依存しており、しばしば多種多様な未処理ソースから収集され、深刻なデータセキュリティリスクにさらされる。 有害または悪意のあるデータは、モデル動作を妥協し、有害な出力、幻覚、即発注射やデータ中毒などの脅威に対する脆弱性などの問題を引き起こす。 本調査は、LLMが直面する主要なデータセキュリティリスクの概要と、敵を含む現在の防衛戦略のレビューを提供する。
  論文  参考訳（メタデータ） (2025-08-04T11:28:34Z)
• Security Concerns for Large Language Models: A Survey [4.1824815480811806]
  大きな言語モデル(LLM)は自然言語処理に革命をもたらしたが、その能力は新たなセキュリティ脆弱性も導入している。 この調査は、脅威をいくつかの重要な領域に分類する、これらの新興懸念の包括的概要を提供する。 LLMが安全で有益であることを保証するために、堅牢で多層的なセキュリティ戦略を推進していくことの重要性を強調した。
  論文  参考訳（メタデータ） (2025-05-24T22:22:43Z)
• Purple-teaming LLMs with Adversarial Defender Training [57.535241000787416]
  本稿では,PAD(Adversarial Defender Training)を用いたPurple-teaming LLMを提案する。 PADは、赤チーム(アタック)技術と青チーム(セーフティトレーニング)技術を新たに取り入れることで、LSMを保護するために設計されたパイプラインである。 PADは、効果的な攻撃と堅牢な安全ガードレールの確立の両方において、既存のベースラインを著しく上回っている。
  論文  参考訳（メタデータ） (2024-07-01T23:25:30Z)
• Offset Unlearning for Large Language Models [49.851093293780615]
  delta-Unlearningは、ブラックボックスLLMのためのオフセットのアンラーニングフレームワークである。 デルタアンラーニングは、一般的な対物スコープタスクにおいて、類似またはより強い性能を維持しながら、効果的にターゲットデータを解放できることを示す。
  論文  参考訳（メタデータ） (2024-04-17T03:39:51Z)
• Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
  大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。 我々の調査は、この信念に対する重大な監視を露呈している。 我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
  論文  参考訳（メタデータ） (2024-04-16T13:22:54Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)
• The WMDP Benchmark: Measuring and Reducing Malicious Use With Unlearning [87.1610740406279]
  ホワイトハウス人工知能に関する大統領令は、生物、サイバー、化学兵器の開発において悪意あるアクターに力を与える大きな言語モデル(LLM)のリスクを強調している。 現在の評価は非公開であり、リスク軽減のさらなる研究を妨げている。 Weapons of Mass Destruction Proxyベンチマークを公開しています。
  論文  参考訳（メタデータ） (2024-03-05T18:59:35Z)
• Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
  大規模言語モデル(LLM)の領域における機械学習の研究 このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
  論文  参考訳（メタデータ） (2024-02-13T20:51:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。