論文の概要: ConceptGuard: Benchmarking Context-Sensitive Unlearning in Large Language Models
- arxiv url: http://arxiv.org/abs/2608.20338v1
- Date: Thu, 20 Aug 2026 17:59:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.671605
- Title: ConceptGuard: Benchmarking Context-Sensitive Unlearning in Large Language Models
- Title（参考訳）: ConceptGuard: 大規模言語モデルにおけるコンテキスト感受性の非学習のベンチマーク
- Abstract要約: 大規模言語モデル(LLM)は、アンラーニング(unlearning)と呼ばれる有害またはセンシティブな知識を選択的に除去する必要がある。
現在のアプローチでは、独立した事実からなる集合を忘れ、保持し、単純で直接的な事実的リコールを用いて成功を測定する。
効果的なアンラーニングは概念レベルで動作し、安全でないアプリケーションの完全な除去を確実にし、正確で有用な使用方法を維持する必要がある、と我々は主張する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Large Language Models (LLMs) increasingly require selective removal of harmful or sensitive knowledge, called unlearning, yet existing methods and benchmarks fail to evaluate this capability completely. Current approaches rely on disjoint forget and retain sets composed of independent facts, and measure success using simple and direct factual recall. This framing fails to capture a key requirement of unlearning, namely the ability to eliminate harmful behaviors while preserving benign and beneficial knowledge. We argue that effective unlearning must operate at the level of concepts, ensuring complete removal of unsafe applications while maintaining their correct and useful usage, thereby achieving conceptually meaningful and complete unlearning. To better evaluate unlearning techniques from such a practical viewpoint, we introduce the notion of dual-use concepts: concepts that can be used in both harmful and benign contexts. Building on these concepts, we construct a benchmark called ConceptGuard where forget and retain sets are explicitly complementary in concept usage. Our benchmark uniquely enables unlearning to be explored and gauged at the level of concepts, instead of sparse facts, and evaluation is intent-sensitive with the goal of maximizing contextual separation to promote safer behavior. We demonstrate that current unlearning techniques perform poorly under this setting, showing weak contextual separation alongside poor performance in ROUGE and concept-level metrics. Our results reveal strong forgetting-utility trade-offs, limited gains in contextual sensitivity, and poor consistency in concept-level control across methods, and provide ideas for unlearning approaches that better align with real-world safety requirements. Our dataset is publicly available.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、アンラーニング(unlearning)と呼ばれる有害またはセンシティブな知識を選択的に除去する必要があるが、既存のメソッドやベンチマークはこの能力を完全に評価することができない。
現在のアプローチでは、独立した事実からなる集合を忘れ、保持し、単純で直接的な事実的リコールを用いて成功を測定する。
このフレーミングは、非学習の重要な要件、すなわち有害な行動を排除し、良識と有益な知識を保存できる能力を捉えることに失敗する。
我々は、効果的なアンラーニングは概念レベルで動作し、安全でないアプリケーションを完全に削除し、その正確で有用な使用方法を維持しながら、概念的に有意義で完全なアンラーニングを実現する必要があると論じている。
このような実践的な観点から、未学習のテクニックをよりよく評価するために、有害な文脈と良質な文脈の両方で使用できる概念という、二重利用の概念を紹介します。
これらの概念に基づいて,概念的利用において,集合を忘れ,保持することが明確な相補的となるConceptGuardというベンチマークを構築した。
本ベンチマークでは,文脈分離を最大化し,より安全な行動を促進するという目標を掲げ,意図に敏感に評価する。
現状のアンラーニング手法は, ROUGEや概念レベルの指標と並行して, 文脈分離の弱さを示す。
提案手法は,現実の安全性要件に適合する未学習アプローチのアイデアを提示すると共に,有効性トレードオフや文脈感度の制限,メソッド間の概念レベル制御の整合性の低下などを明らかにした。
私たちのデータセットは公開されています。
関連論文リスト
- Co-occurring associated retained concepts in Diffusion Unlearning [17.80179076672276]
非学習は、人の概念を意図せずに抑制し、モデルが人との画像を生成するのを防ぐ。
保存すべき共起概念を、望ましくない抑制で定義する。
対象概念のみを消去しながらCAREを明示的に保護するフレームワークであるReCAREを提案する。
論文 参考訳（メタデータ） (2026-06-23T06:22:00Z) - Distinguishable Deletion: Unifying Knowledge Erasure and Refusal for Large Language Model Unlearning [58.725080160369494]
Distinguishable Deletion (mathrmD2$)は、特定のトークンではなく、潜在表現の応答分布を制限するパラダイムである。
本稿では,知識の存在と未学習コンテンツと保持コンテンツとの分離を定量化するエネルギー指標を提案する。
実験の結果、EUAは以前の方法よりも大幅に優れており、$mathrmD2$の優位性を示している。
論文 参考訳（メタデータ） (2026-05-16T03:15:35Z) - ICED: Concept-level Machine Unlearning via Interpretable Concept Decomposition [44.733160260712054]
視覚言語モデル(VLM)のための解釈可能な概念レベルのアンラーニングフレームワークを提案する。
提案手法は,非学習を概念レベルの最適化として定式化し,対象概念を選択的に抑制し,非目標セマンティクスとグローバルなクロスモーダル知識を保存する。
論文 参考訳（メタデータ） (2026-05-14T03:22:12Z) - MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。
MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
論文 参考訳（メタデータ） (2026-02-19T05:20:31Z) - AUVIC: Adversarial Unlearning of Visual Concepts for Multi-modal Large Language Models [63.05306474002547]
を強制する規制フレームワークは、機械学習の必要性を喚起します。
AUVICはMLLMのための新しい視覚概念アンラーニングフレームワークである。
AUVICは,非ターゲット概念の性能劣化を最小限に抑えつつ,最先端の目標忘れ率を実現していることを示す。
論文 参考訳（メタデータ） (2025-11-14T13:35:32Z) - DRAGON: Guard LLM Unlearning in Context via Negative Detection and Reasoning [15.58340591381191]
大規模言語モデル(LLM)の学習は、プライベートデータ保護と有害な知識の除去に不可欠である。
既存のアプローチのほとんどは、未学習の効率と一般的な言語能力のバランスをとるために微調整に依存している。
本稿では,これらの制限を克服するために,Dutture-Reasoning Augmented Generation (DRAGON)を提案する。
論文 参考訳（メタデータ） (2025-11-08T01:13:28Z) - Forget to Know, Remember to Use: Context-Aware Unlearning for Large Language Models [17.249936460923045]
大規模な言語モデルは、機密情報や削除が必要な時代遅れの知識を符号化することができる。
Unlearningは、モデルユーティリティ全体を保持しながら、特定の知識を削除することを目的とした、完全なリトレーニングの効率的な代替手段である。
論文 参考訳（メタデータ） (2025-10-20T15:03:45Z) - CURE: Controlled Unlearning for Robust Embeddings - Mitigating Conceptual Shortcuts in Pre-Trained Language Models [23.898244353656352]
CUREは,概念的ショートカットを系統的に切り離し,抑制するフレームワークである。
CUREは、IMDBのF1スコア+10ポイント、Yelpの+2ポイントを絶対的に改善する。
論文 参考訳（メタデータ） (2025-09-05T16:47:22Z) - Weakly-Supervised Contrastive Learning for Imprecise Class Labels [50.57424331797865]
正対と負対を定義するために「連続的意味的類似性」の概念を導入する。
弱教師付きコントラスト学習のためのグラフ理論フレームワークを提案する。
我々のフレームワークは非常に多用途であり、多くの弱い教師付き学習シナリオに適用できる。
論文 参考訳（メタデータ） (2025-05-28T06:50:40Z) - Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。
評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
論文 参考訳（メタデータ） (2024-06-13T14:41:00Z) - Translational Concept Embedding for Generalized Compositional Zero-shot
Learning [73.60639796305415]
一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。
本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
論文 参考訳（メタデータ） (2021-12-20T21:27:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。