論文の概要: Secure Forgetting: A Framework for Privacy-Driven Unlearning in Large Language Model (LLM)-Based Agents

• arxiv url: http://arxiv.org/abs/2604.00430v1
• Date: Wed, 01 Apr 2026 03:17:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-02 16:44:31.813586
• Title: Secure Forgetting: A Framework for Privacy-Driven Unlearning in Large Language Model (LLM)-Based Agents
• Title（参考訳）: Secure Forgetting: 大規模言語モデル(LLM)ベースのエージェントにおけるプライバシ駆動のアンラーニングのためのフレームワーク
• Authors: Dayong Ye, Tainqing Zhu, Congcong Zhu, Feng He, Qi He, Shang Wang, Bo Liu, Wanlei Zhou,
• Abstract要約: 本稿では,大規模言語モデル(LLM)に基づくエージェントにおけるアンラーニングの研究を開始する。 未学習のシナリオを3つの文脈に分類する,新鮮で包括的なフレームワークを提案する。 本フレームワークでは,高レベルのアンラーニング要求を実行可能なアンラーニングプロンプトに変換するために,変換モデルを訓練する自然言語ベースのアンラーニング手法を提案する。
• 参考スコア（独自算出の注目度）: 20.770088583807148
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language model (LLM)-based agents have recently gained considerable attention due to the powerful reasoning capabilities of LLMs. Existing research predominantly focuses on enhancing the task performance of these agents in diverse scenarios. However, as LLM-based agents become increasingly integrated into real-world applications, significant concerns emerge regarding their accumulation of sensitive or outdated knowledge. Addressing these concerns requires the development of mechanisms that allow agents to selectively forget previously learned knowledge, giving rise to a new term LLM-based agent unlearning. This paper initiates research on unlearning in LLM-based agents. Specifically, we propose a novel and comprehensive framework that categorizes unlearning scenarios into three contexts: state unlearning (forgetting specific states or items), trajectory unlearning (forgetting sequences of actions) and environment unlearning (forgetting entire environments or categories of tasks). Within this framework, we introduce a natural language-based unlearning method that trains a conversion model to transform high-level unlearning requests into actionable unlearning prompts, guiding agents through a controlled forgetting process. Moreover, to evaluate the robustness of the proposed framework, we introduce an unlearning inference adversary capable of crafting prompts, querying agents, and observing their behaviors in an attempt to infer the forgotten knowledge. Experimental results show that our approach effectively enables agents to forget targeted knowledge while preserving performance on untargeted tasks, and prevents the adversary from inferring the forgotten knowledge.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのエージェントは近年,LLMの強力な推論能力のために注目されている。 既存の研究は主に、多様なシナリオにおけるこれらのエージェントのタスクパフォーマンスの向上に重点を置いている。 しかし、LLMベースのエージェントが現実世界のアプリケーションにますます統合されるにつれて、機密性や時代遅れの知識の蓄積に関する重要な懸念が浮かび上がっている。 これらの懸念に対処するためには、エージェントが学習した知識を選択的に忘れることができるメカニズムの開発が必要である。 本稿では,LLMをベースとしたエージェントにおけるアンラーニングの研究を開始する。 具体的には、未学習のシナリオを、状態未学習(特定の状態や項目のフォーゲッティング)、軌道未学習(アクションのシーケンスのフォーゲッティング)、環境未学習(環境全体やタスクのカテゴリのフォーゲッティング)の3つのコンテキストに分類する、新しい包括的なフレームワークを提案する。 本フレームワークでは,高レベルなアンラーニング要求を動作可能なアンラーニングプロンプトに変換するための変換モデルを訓練した自然言語ベースのアンラーニング手法を導入する。 さらに,提案手法のロバスト性を評価するために,未学習の推論者に対して,提案手法を考案し,エージェントの問い合わせを行い,それらの振る舞いを観察し,忘れられた知識を推測する手法を提案する。 実験結果から,本手法は,未目標タスクの性能を維持しつつ,目的知識を効果的に忘れることを可能にし,相手が忘れた知識を推測することを防止できることがわかった。

関連論文リスト

• ELITE: Experiential Learning and Intent-Aware Transfer for Self-improving Embodied Agents [17.131524956793935]
  視覚言語モデル(VLM)は目覚ましい汎用性を示しているが、それら上に構築された具体的エージェントは複雑なタスクで失敗する。 ELITEは,経験的学習とインテント・アウェア・トランスファー(Intent-Aware Transfer)を具現化したエージェントフレームワークである。
  論文  参考訳（メタデータ） (2026-03-25T07:25:51Z)
• A Survey on Agentic Multimodal Large Language Models [84.18778056010629]
  エージェントマルチモーダル大言語モデル(Agentic MLLMs)に関する総合的な調査を行う。 我々は,エージェントMLLMの新たなパラダイムを探求し,その概念的基盤を明確にし,従来のMLLMエージェントとの特徴を区別する。 コミュニティのためのこの分野の研究をさらに加速するため、エージェントMLLMを開発するためのオープンソースのトレーニングフレームワーク、トレーニングおよび評価データセットをコンパイルする。
  論文  参考訳（メタデータ） (2025-10-13T04:07:01Z)
• Empowering Large Language Model Agents through Action Learning [85.39581419680755]
  大規模言語モデル(LLM)エージェントは最近ますます関心を集めているが、試行錯誤から学ぶ能力は限られている。 我々は、経験から新しい行動を学ぶ能力は、LLMエージェントの学習の進歩に欠かせないものであると論じる。 我々はPython関数の形式でアクションを作成し改善するための反復学習戦略を備えたフレームワークLearningActを紹介した。
  論文  参考訳（メタデータ） (2024-02-24T13:13:04Z)
• ExpeL: LLM Agents Are Experiential Learners [57.13685954854463]
  実験学習エージェント(ExpeL)を導入し、パラメトリック更新を必要とせずにエージェント体験から学習できるようにする。 我々のエージェントは、経験を自律的に収集し、学習課題の集合から自然言語を用いて知識を抽出する。 推論において、エージェントは抽出された洞察と過去の経験をリコールし、情報的決定を行う。
  論文  参考訳（メタデータ） (2023-08-20T03:03:34Z)
• Improving Knowledge Extraction from LLMs for Task Learning through Agent Analysis [4.055489363682198]
  大規模言語モデル(LLM)は、タスク学習の知識源として大きな可能性を秘めている。 プロンプト工学は、LLMから知識を引き出すのに有効であることが示されているが、同時に、新しいタスクを具現化したエージェント学習のための、適切な、状況に根ざした知識を得るには不十分である。 本稿では,認知エージェントアプローチであるSTARSについて述べる。これは,迅速なエンジニアリングを拡張し,その制限を緩和し,エージェントがネイティブ言語能力,具体化,環境,ユーザ嗜好に適合する新たなタスク知識を取得できるようにする。
  論文  参考訳（メタデータ） (2023-06-11T20:50:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。