論文の概要: CURE:Circuit-Aware Unlearning for LLM-based Recommendation

• arxiv url: http://arxiv.org/abs/2604.04982v1
• Date: Sat, 04 Apr 2026 23:13:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.381484
• Title: CURE:Circuit-Aware Unlearning for LLM-based Recommendation
• Title（参考訳）: CURE:LCMに基づく勧告のための回路学習
• Authors: Ziheng Chen, Jiali Cheng, Zezhong Fan, Hadi Amiri, Yunzhi Yao, Xiangguo Sun, Yang Zhang,
• Abstract要約: 本稿では,モデルコンポーネントを機能的に異なるサブセットに分解し,それを選択的に更新する回路認識アンラーニングフレームワークを提案する。 実世界のデータセットの実験では、我々のアプローチは既存のベースラインよりも効果的なアンラーニングを実現している。
• 参考スコア（独自算出の注目度）: 34.80441850684431
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in large language models (LLMs) have opened new opportunities for recommender systems by enabling rich semantic understanding and reasoning about user interests and item attributes. However, as privacy regulations tighten, incorporating user data into LLM-based recommendation (LLMRec) introduces significant privacy risks, making unlearning algorithms increasingly crucial for practical deployment. Despite growing interest in LLMRec unlearning, most existing approaches formulate unlearning as a weighted combination of forgetting and retaining objectives while updating model parameters in a uniform manner. Such formulations inevitably induce gradient conflicts between the two objectives, leading to unstable optimization and resulting in either ineffective unlearning or severe degradation of model utility. Moreover, the unlearning procedure remains largely black-box, undermining its transparency and trustworthiness. To tackle these challenges, we propose CURE, a circuit-aware unlearning framework that disentangles model components into functionally distinct subsets and selectively updates them. Here, a circuit refers to a computational subgraph that is causally responsible for task-specific behaviors. Specifically, we extract the core circuits underlying item recommendation and analyze how individual modules within these circuits contribute to the forget and retain objectives. Based on this analysis, these modules are categorized into forget-specific, retain-specific, and task-shared groups, each subject to function-specific update rules to mitigate gradient conflicts during unlearning. Experiments on real-world datasets show that our approach achieves more effective unlearning than existing baselines.
• Abstract（参考訳）: 大規模言語モデル(LLM)の最近の進歩は、ユーザ興味やアイテム属性について、リッチなセマンティック理解と推論を可能にすることによって、レコメンデーションシステムに新たな機会を開放している。 しかしながら、プライバシ規制が厳格化するにつれて、ユーザデータをLLMRec(LLMRec)に組み込むことで、重大なプライバシリスクが発生し、非学習アルゴリズムが実用的デプロイメントにおいてますます重要になっている。 LLMRecアンラーニングへの関心が高まっているにもかかわらず、既存のほとんどのアプローチは、モデルパラメータを均一に更新しながら、目的を忘れたり維持したりするための重み付けの組み合わせとして、アンラーニングを定式化している。 このような定式化は、必然的に2つの目的の間の勾配の衝突を誘発し、不安定な最適化をもたらし、非効率な未学習またはモデルユーティリティの深刻な劣化をもたらす。 さらに、未学習の手続きはほとんどブラックボックスのままであり、透明性と信頼性を損なう。 これらの課題に対処するために、CUREを提案する。CUREは、モデルコンポーネントを機能的に異なるサブセットに分解し、それを選択的に更新する、サーキット対応の未学習フレームワークである。 ここでは、回路は、タスク固有の振る舞いに因果的に責任を負う計算サブグラフを指す。 具体的には,基本回路の項目推薦を抽出し,各回路内の各モジュールが目的を忘れたり維持したりする方法について分析する。 この分析に基づいて、これらのモジュールは、未学習時の勾配競合を軽減するために、機能固有の更新ルールを課す、忘れ特異的、保持特異的、タスク共有グループに分類される。 実世界のデータセットの実験では、我々のアプローチは既存のベースラインよりも効果的なアンラーニングを実現している。

関連論文リスト

• MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
  本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。 MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
  論文  参考訳（メタデータ） (2026-02-19T05:20:31Z)
• Iterative Amortized Inference: Unifying In-Context Learning and Learned Optimizers [22.72866404096086]
  償却学習は、新しい問題への迅速な一般化を可能にするために、タスク間で共有される計算や帰納的バイアスを再利用する考え方である。 現在のアプローチでは、推論でタスクデータを処理する能力が制限されることが多いため、大規模なデータセットへのスケールアップに苦労している。 ミニバッチよりも解を段階的に洗練するモデルである反復的償却推論を提案する。
  論文  参考訳（メタデータ） (2025-10-13T14:40:47Z)
• Learning Wisdom from Errors: Promoting LLM's Continual Relation Learning through Exploiting Error Cases [6.580051318980816]
  CREにおけるLarge Language Models (LLM) に対する命令ベース連続コントラストチューニング手法を提案する。 我々は,TACREDとFewRelのモデルについて実験的に評価した。
  論文  参考訳（メタデータ） (2025-08-16T12:49:11Z)
• Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
  視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。 本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
  論文  参考訳（メタデータ） (2025-08-06T09:03:10Z)
• Towards Efficient and Effective Alignment of Large Language Models [7.853945494882636]
  大規模言語モデル(LLM)は多様なタスクにまたがる優れた能力を示すが、それらを効率的かつ効果的に人間の期待に合わせることは重要な課題である。 この論文は、データ収集、トレーニング、評価において新しい方法論を導入することで、LCMアライメントを推し進める。
  論文  参考訳（メタデータ） (2025-06-11T02:08:52Z)
• Temporal-Difference Variational Continual Learning [77.92320830700797]
  複数の先行推定の正則化効果を統合する新たな学習目標を提案する。 提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• Learn while Unlearn: An Iterative Unlearning Framework for Generative Language Models [52.40798352740857]
  3つのコアコンポーネントで構成されるICU(Iterative Contrastive Unlearning)フレームワークを紹介する。 知識未学習誘導モジュールは、未学習の損失を使用して、特定の知識を除去するためにターゲットとする。 Contrastive Learning Enhancementモジュールは、純粋な未学習の目標に対してモデルの表現力を保持する。 イテレーティブ・アンラーニング・リファインメントモジュールは、進行中の評価と更新を通じて、アンラーニングプロセスを動的に調整する。
  論文  参考訳（メタデータ） (2024-07-25T07:09:35Z)
• Learning to Unlearn for Robust Machine Unlearning [6.488418950340473]
  学習過程を最適化する新しいLTU(Learning-to-Unlearn)フレームワークを提案する。 LTUは、モデルが一般化可能な知識を効果的に保存することを容易にするメタ最適化スキームを含んでいる。 また、記憶と忘れのための最適化トラジェクトリを整列するグラディエント調和戦略も導入する。
  論文  参考訳（メタデータ） (2024-07-15T07:36:00Z)
• Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
  本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。 評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
  論文  参考訳（メタデータ） (2024-06-13T14:41:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。