論文の概要: PSD: Pseudo Self-Distillation of Memory Representation Capabilities for LLM Agents

• arxiv url: http://arxiv.org/abs/2609.23449v1
• Date: Sun, 20 Sep 2026 08:24:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.820187
• Title: PSD: Pseudo Self-Distillation of Memory Representation Capabilities for LLM Agents
• Title（参考訳）: PSD : LLM剤の擬似自己拡張型記憶表現機能
• Abstract要約: Pseudo Self-Distillation (PSD)は、小さな言語モデルで階層的なメモリ表現を構築することができるフレームワークである。 PSDは2つの役割で1つの小さなモデルを使用する: 教師は、神託の答えを参照コンテキストとして含む特権的なプロンプトを、生徒はタスクプロンプトのみを見る。 LoCoMoでは、PSDで訓練されたQwen3-0.6B、1.7B、4BはGPT-4.1-miniを超える。
• 参考スコア（独自算出の注目度）: 28.12411683829043
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Memory systems are becoming a core component of LLM agents, but constructing and maintaining memory remains expensive because it relies on repeated calls to large proprietary language models. This cost creates a major barrier to deploying memory-enhanced agents at scale. In this paper, we present Pseudo Self-Distillation (PSD), a framework that enables small language models (SLMs) to construct hierarchical memory representations by distilling behavior from a strong black-box oracle through a multi-stage training pipeline. Standard distillation methods require access to teacher logits or hidden states, which closed models do not expose. Unlike conventional self-distillation settings, where supervision is derived from a model's own predictions, sampled rollouts, or aggregated outputs, PSD enables a single-model distillation setup while channeling external oracle knowledge through the prompt. PSD uses a single small model in two roles: a teacher that sees a privileged prompt containing the oracle's answer as reference context, and a student that sees only the task prompt. The student learns to reproduce the teacher's output distribution, absorbing oracle-guided behavior into its own weights without accessing the oracle's internals. On LoCoMo, PSD-trained Qwen3-0.6B, 1.7B, and 4B match or exceed GPT-4.1-mini on downstream retrieval at a fraction of the deployment cost, with off-policy PSD achieving the strongest results across most conditions. We further show that this memory-construction capability transfers out-of-distribution to LongMemEval, despite the students being trained exclusively on LoCoMo with no exposure to LongMemEval data.
• Abstract（参考訳）: メモリシステムはLLMエージェントのコアコンポーネントになりつつあるが、大規模なプロプライエタリ言語モデルへの繰り返し呼び出しに依存するため、メモリの構築と維持は高価である。 このコストは、メモリ強化エージェントを大規模にデプロイする上で大きな障壁となる。 本稿では,小言語モデル(SLM)が,多段階の訓練パイプラインを通じて強黒箱オラクルから振舞いを蒸留することにより,階層的なメモリ表現を構築することを可能にするフレームワークであるPseudo Self-Distillation(PSD)を提案する。 標準的な蒸留法では、教師のロジットや隠された状態にアクセスする必要があるが、閉じたモデルは公開しない。 モデル自身の予測、サンプルロールアウト、あるいは集約アウトプットから監督が導かれる従来の自己蒸留設定とは異なり、PSDはプロンプトを通じて外部のオラクル知識をチャネル化しながら単一モデルの蒸留設定を可能にする。 PSDは2つの役割で1つの小さなモデルを使用する: 教師は、神託の答えを参照コンテキストとして含む特権的なプロンプトを、生徒はタスクプロンプトのみを見ることができる。 学生は、教師の出力分布を再現し、オラクルの内面にアクセスすることなく、オラクル誘導の振る舞いを自身の重みに吸収することを学ぶ。 LoCoMoでは、PSDで訓練されたQwen3-0.6B、1.7B、4BがGPT-4.1-miniを超えるか、配置コストのごく一部でダウンストリーム検索に適合し、ほとんどの条件で最強の結果を得た。 また,LongMemEvalデータに照らさず,LoCoMoのみに訓練を受けながら,このメモリ構成能力がLongMemEvalにアウト・オブ・ディストリビューションすることを示す。

関連論文リスト

• Rosetta Memory: Adaptive Memory for Cross-LLM Agents [16.39618390394249]
  メモリは、経験蓄積、長期計画、継続的な自己改善を通じて、ステートレス LLM を永続的で進化したエージェントに変換するための鍵となるコンポーネントである。 実際には、ユーザーは、コーディングにClaudeを使い、タスク間の書き込みにGPTを使用する、あるいはコスト効率のトレードオフのために単一のタスク内で異なるバックボーンに異なるステップをルーティングするなど、LLMを頻繁に切り替える。 上流メモリを効果的に適用し、下流のLSMを活性化させることは、重要な問題でありながら未発見の課題である。 具体的には、上述のアップストリーム・ダウンストリームメモリ適応問題に対して、書き込み側と読み側の両方からアプローチし、2つのプロファイル条件を設計する。
  論文  参考訳（メタデータ） (2026-06-05T13:50:59Z)
• Memory-R1: Enhancing Large Language Model Agents to Manage and Utilize Memories via Reinforcement Learning [89.55738101744657]
  大規模言語モデル(LLM)は、幅広いNLPタスクで印象的な機能を示しているが、基本的にはステートレスである。 本稿では,LLMに外部メモリを積極的に管理・活用する機能を備えた強化学習フレームワークであるMemory-R1を提案する。
  論文  参考訳（メタデータ） (2025-08-27T12:26:55Z)
• LLM-Pruner: On the Structural Pruning of Large Language Models [65.02607075556742]
  大規模言語モデル(LLM)は、言語理解と生成において顕著な能力を示している。 タスク非依存であり、元のトレーニングデータセットへの依存を最小限に抑えるという2つの制約の範囲内でLLMの圧縮に取り組む。 LLM-Prunerという名前のこの手法は、非臨界結合構造を選択的に除去する構造プルーニングを採用する。
  論文  参考訳（メタデータ） (2023-05-19T12:10:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。