論文の概要: On the Hidden Costs of Counterfactual Knowledge Training in LLM Unlearning
- arxiv url: http://arxiv.org/abs/2605.27083v1
- Date: Tue, 26 May 2026 14:34:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-27 17:51:42.228202
- Title: On the Hidden Costs of Counterfactual Knowledge Training in LLM Unlearning
- Title（参考訳）: LLMアンラーニングにおける非現実的知識教育の隠れコストについて
- Abstract要約: 対実的チューニング(CFT)は、訓練モデルによるLarge Language Model(LLM)アンラーニングのための有望なパラダイムとして登場した。
このパラダイムは、いくつかの面で他のパラダイムよりも優れています。
本稿では,新しいトレードオフ指標と勾配レベルの診断ツールを備えた拡張ベンチマークRWKU+を紹介する。
- 参考スコア（独自算出の注目度）: 65.58724910851039
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Counterfactual tuning (CFT) has emerged as a promising paradigm for Large Language Model (LLM) unlearning by training models to generate alternative fictitious knowledge in place of undesired content. However, in this work, we find that this paradigm still underperforms other paradigms in some aspects, and identify two previously overlooked pitfalls underlying this gap: (1) knowledge conflict, where mutual inconsistencies within counterfactual corpora induce conflicting gradients that disrupt parameter optimization, and (2) hallucination spillover, where fitting false targets instills a persistent fabrication bias, inflating hallucination rates on unrelated domains. To systematically diagnose these issues, we introduce RWKU+, an extended benchmark equipped with novel trade-off metrics and gradient-level diagnostic tools. Our work further discusses the limitations and overhead of the paradigm, aiming to provide insights and actionable guidance for more rigorous LLM unlearning research.
- Abstract（参考訳）: 対実的チューニング(CFT)は、望ましくないコンテンツの代わりに代替的架空の知識を生成するためのトレーニングモデルによるLarge Language Model(LLM)アンラーニングのための有望なパラダイムとして登場した。
しかし,本研究では,このパラダイムが他のパラダイムを過小評価しており,(1)反ファクトコーパス内の相互の不整合がパラメータ最適化を阻害する矛盾する勾配を誘発する知識コンフリクト,(2)疑似目標の適合が持続的形成バイアスを注入し,無関係領域における幻覚率を膨らませる知識コンフリクト,という2つの見過ごされた落とし穴が指摘されている。
これらの問題を体系的に診断するために,新しいトレードオフ指標と勾配レベルの診断ツールを備えた拡張ベンチマークRWKU+を導入する。
我々の研究は、より厳密なLLMアンラーニング研究のための洞察と実践可能なガイダンスを提供することを目的として、パラダイムの限界とオーバーヘッドをさらに議論する。
関連論文リスト
- Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning [57.10440766103372]
Trajectory Regularized Merging (TRM) は、拡張されたトラジェクトリ部分空間内の最適化プロセスとしてマージフェーズを再構成するフレームワークである。
本フレームワークは,タスクアライメント,予測整合性,勾配応答性といった3つの相乗的目標を統合し,統合モデルの履歴安定性と再活性化最適化のダイナミクスを同時に保存する。
論文 参考訳（メタデータ） (2026-05-08T14:07:32Z) - Diversity in Large Language Models under Supervised Fine-Tuning [15.119045051735633]
Supervised Fine-Tuning (SFT) は、Large Language Models (LLM) とユーザ意図の整合に不可欠であるが、生成的多様性を抑制すると考えられている。
本研究では,既存の知識を忘れることと,微調整データセット内の低周波パターンを忘れることの2つの主要な要因について考察する。
評価の結果,SFT後では発生が狭まることが確認され,この効果を説明する仮説が強化された。
論文 参考訳（メタデータ） (2026-04-30T20:20:59Z) - Harmonizing Multi-Objective LLM Unlearning via Unified Domain Representation and Bidirectional Logit Distillation [11.723777730116831]
大規模言語モデル(LLM)のアンラーニングは、モデルから有害またはプライバシをリードする情報を除去するために不可欠である。
既存の未学習の手法は主にこれらの目標の限られたサブセットに焦点を当てている。
複数の未学習目標を調和させる新しい多目的学習フレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-16T19:09:17Z) - DIS2: Disentanglement Meets Distillation with Classwise Attention for Robust Remote Sensing Segmentation under Missing Modalities [28.992992584085787]
DIS2は、モダリティ共有機能依存からアクティブでガイド付き機能不足補償へ移行した新しいパラダイムである。
補償的特徴は、利用可能なモダリティの特徴と融合すると、フルモダリティの場合の理想的フューズド表現に近似する。
提案手法はベンチマーク間で最先端の手法を著しく上回っている。
論文 参考訳（メタデータ） (2026-01-20T01:33:54Z) - Ground What You See: Hallucination-Resistant MLLMs via Caption Feedback, Diversity-Aware Sampling, and Conflict Regularization [38.469173375694076]
マルチモーダル大言語モデル(MLLM)における幻覚の根本原因を系統的に解析する。
1)不正確な初期記述が後続の推論を誤った前提に固定する連鎖的視覚推論の過度な信頼、(2)政策最適化中の探索の多様性が不十分で、過度に自信があるが誤ったアウトプットを発生させる要因、(3)トレーニングサンプル間の破壊的な衝突、NTKの類似性が誤関連や不安定なパラメータ更新を引き起こす要因である。
実験の結果,提案手法は幻覚率を著しく低減し,MLLMの推論精度を効果的に向上することが示された。
論文 参考訳（メタデータ） (2026-01-09T07:59:18Z) - Understanding Catastrophic Interference: On the Identifibility of Latent Representations [67.05452287233122]
破滅的な干渉、あるいは破滅的な忘れ(Caastrophic forgetting)は、機械学習の根本的な課題である。
本稿では,破滅的干渉を識別問題として定式化する新しい理論枠組みを提案する。
我々のアプローチは、合成データセットとベンチマークデータセットの両方で理論的保証と実用的なパフォーマンスの改善を提供する。
論文 参考訳（メタデータ） (2025-09-27T00:53:32Z) - Injecting Imbalance Sensitivity for Multi-Task Learning [36.60453299563175]
マルチタスク学習(MTL)は、リアルタイムアプリケーションにディープラーニングモデルをデプロイするための有望なアプローチとして登場した。
近年,MLLにおけるタスク共有表現を確立するための最適化に基づく学習パラダイムが提案されている。
本稿は、これらの研究が主に紛争問題を強調しつつ、MTLにおける不均衡/支配の潜在的に重大な影響を無視していることを実証的に論じる。
論文 参考訳（メタデータ） (2025-03-11T03:11:54Z) - A Two-Stage Learning-to-Defer Approach for Multi-Task Learning [3.4289478404209826]
本稿では,マルチタスク学習のための新しい2段階L2Dフレームワークを提案する。
提案手法は2段階のサロゲート損失ファミリーを利用し,Bayes-consistentと$(mathcalG, MathcalR)$-consistentの両方を証明した。
論文 参考訳（メタデータ） (2024-10-21T07:44:57Z) - Temporal-Difference Variational Continual Learning [77.92320830700797]
複数の先行推定の正則化効果を統合する新たな学習目標を提案する。
提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
論文 参考訳（メタデータ） (2024-10-10T10:58:41Z) - MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。
本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。
メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
論文 参考訳（メタデータ） (2024-06-20T03:50:23Z) - Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。
評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
論文 参考訳（メタデータ） (2024-06-13T14:41:00Z) - MR-GSM8K: A Meta-Reasoning Benchmark for Large Language Model Evaluation [60.65820977963331]
大規模言語モデル(LLM)のための新しい評価パラダイムを導入する。
このパラダイムは、しばしば推論プロセスを無視する結果指向の評価から、より包括的な評価へと重点を移す。
GSM8Kデータセットにこのパラダイムを適用し,MR-GSM8Kベンチマークを開発した。
論文 参考訳（メタデータ） (2023-12-28T15:49:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。