論文の概要: Can Agents Truly Forget? Explore Machine Unlearning for LLM Agents

• arxiv url: http://arxiv.org/abs/2610.17659v1
• Date: Tue, 13 Oct 2026 03:37:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.498284
• Title: Can Agents Truly Forget? Explore Machine Unlearning for LLM Agents
• Title（参考訳）: エージェントは真に忘れられるか? LLMエージェントのための機械学習を探る
• Abstract要約: 大規模言語モデル(LLM)エージェントは、対話型問題解決、ツール使用、長期タスク実行において強力な能力を示している。 トレーニング中に機密知識やプライベート知識を取得して,デプロイメント中に公開することも可能だ。 モデルをスクラッチからトレーニングし、そのような知識を除去することは、違法にコストがかかるため、マシンアンラーニングはより実践的なアプローチになる。
• 参考スコア（独自算出の注目度）: 19.107163050184425
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM) agents have shown strong capabilities in interactive problem solving, tool use, and long-horizon task execution. However, they may also acquire sensitive or private knowledge during training and expose it during deployment. Retraining a model from scratch to remove such knowledge is prohibitively costly, making machine unlearning a more practical approach. Machine unlearning aims to remove targeted undesirable knowledge from trained models without retraining from scratch while preserving general utility. When language models are deployed as agents, parameter-level unlearning becomes insufficient: forgotten information may still persist in memory artifacts or be reacquired via tool calls. In this paper, we formulate the problem of agent unlearning as removing private information from an LLM-based agent across three information channels: parametric knowledge, persistent memory, and tool-call acquisition. To study this problem, we introduce we introduce Agent Unlearning Benchmark (AUBench), a controlled benchmark that extends the fictitious-author setting of TOFU into an agent environment with persistent memory, an offline web snapshot, tool-accessible documents, and provenance-tracked interaction trajectories. By evaluating existing parameter-level and memory-level unlearning methods in this setting, AUBench reveals the gap between model-level forgetting and system-level agent unlearning, and provides a foundation for developing unlearning methods that operate across the full lifecycle of LLM agents.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、対話型問題解決、ツール使用、長期タスク実行において強力な能力を示している。 ただし、トレーニング中に機密知識やプライベート知識を取得して、デプロイメント中に公開することも可能だ。 モデルをスクラッチからトレーニングし、そのような知識を除去することは、違法にコストがかかるため、マシンアンラーニングはより実践的なアプローチになる。 機械学習の目的は、汎用性を維持しながら、スクラッチから再トレーニングすることなく、トレーニングされたモデルから目的とする望ましくない知識を取り除くことである。 言語モデルがエージェントとしてデプロイされると、パラメータレベルの未学習は不十分になる。 本稿では,パラメトリック知識,永続記憶,ツールコール獲得という3つの情報チャネルにまたがる LLM エージェントから私的情報を削除したとして,エージェントアンラーニングの問題を定式化する。 そこで本研究では,TOFUの架空の作者設定を,永続メモリ,オフラインWebスナップショット,ツールアクセシブルドキュメント,前駆者追跡によるインタラクショントラジェクトリを備えたエージェント環境に拡張する,制御されたベンチマークであるエージェントアンラーニングベンチマーク(AUBench)を紹介する。 この設定で既存のパラメータレベルとメモリレベルの未学習メソッドを評価することで、AUBench氏はモデルレベルの忘れとシステムレベルのエージェントの未学習のギャップを明らかにし、LLMエージェントのライフサイクル全体にわたって機能する未学習メソッドを開発する基盤を提供する。

関連論文リスト

• Forgotten in Weights, Recovered by Tools: Agentic Tool Unlearning for LLM Agents [54.050506620820784]
  エージェントツールアンラーニング(ATU)は、通常のツール使用を保持しながら、パラメトリックリコールとツールによるリカバリの両方を削減することを目的としている。 ATUは、ツール強化されたエージェントデプロイメント下で、ターゲットの忘れと保持ユーティリティのバランスを向上し、未学習をより堅牢にする。
  論文  参考訳（メタデータ） (2026-08-21T18:34:48Z)
• Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
  メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。 MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。 さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
  論文  参考訳（メタデータ） (2026-04-22T07:09:30Z)
• Secure Forgetting: A Framework for Privacy-Driven Unlearning in Large Language Model (LLM)-Based Agents [20.770088583807148]
  本稿では,大規模言語モデル(LLM)に基づくエージェントにおけるアンラーニングの研究を開始する。 未学習のシナリオを3つの文脈に分類する,新鮮で包括的なフレームワークを提案する。 本フレームワークでは,高レベルのアンラーニング要求を実行可能なアンラーニングプロンプトに変換するために,変換モデルを訓練する自然言語ベースのアンラーニング手法を提案する。
  論文  参考訳（メタデータ） (2026-04-01T03:17:35Z)
• Agents Are All You Need for LLM Unlearning [9.934258340998047]
  textttALUは、LLMアンラーニングに対するマルチエージェント、リトレインフリー、モデルに依存しないアプローチである。 textttALUは、最も堅牢な推論時LLMアンラーニングフレームワークとして一貫して注目されている。 textttALUは最大1000の未学習目標に基づいて評価され、これまで提案された全てのLLM未学習手法の評価範囲を超えている。
  論文  参考訳（メタデータ） (2025-02-01T11:45:44Z)
• CodeUnlearn: Amortized Zero-Shot Machine Unlearning in Language Models Using Discrete Concept [5.345828824625758]
  コードブック機能とスパースオートエンコーダ(SAEs)を用いた新しいアンラーニング手法を提案する。 ボトルネックを利用して、アクティベーション空間を分解し、情報の流れを規制することにより、モデルの性能を無関係なデータに保ちながら、ターゲットとなる情報を効率的に解き放つ。
  論文  参考訳（メタデータ） (2024-10-08T10:26:22Z)
• Learn while Unlearn: An Iterative Unlearning Framework for Generative Language Models [52.40798352740857]
  3つのコアコンポーネントで構成されるICU(Iterative Contrastive Unlearning)フレームワークを紹介する。 知識未学習誘導モジュールは、未学習の損失を使用して、特定の知識を除去するためにターゲットとする。 Contrastive Learning Enhancementモジュールは、純粋な未学習の目標に対してモデルの表現力を保持する。 イテレーティブ・アンラーニング・リファインメントモジュールは、進行中の評価と更新を通じて、アンラーニングプロセスを動的に調整する。
  論文  参考訳（メタデータ） (2024-07-25T07:09:35Z)
• The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
  大規模言語モデル(LLM)はAIの進歩の基礎となっている。 LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。 機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
  論文  参考訳（メタデータ） (2024-03-23T09:26:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。