論文の概要: Neural Procedural Memory: Empowering LLM Agents with Implicit Activation Steering
- arxiv url: http://arxiv.org/abs/2606.29824v1
- Date: Mon, 29 Jun 2026 06:05:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.075968
- Title: Neural Procedural Memory: Empowering LLM Agents with Implicit Activation Steering
- Title(参考訳): ニューラルプロシージャ記憶:不活性ステアリングによるLDMエージェントの強化
- Abstract要約: 本稿では、明示的な命令ではなく、暗黙的なアクティベーションステアリングを通じてエージェントメモリを表現する訓練不要のフレームワークであるNeural Procedural Memory(NPM)を紹介する。
評価の結果,NPMは明示的なテキスト命令を用いて,ベースラインと同等に動作していることがわかった。
- 参考スコア(独自算出の注目度): 36.07257282655538
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Large Language Models (LLMs) excel as static solvers, transforming them into autonomous agents remains challenging. This transition requires continuous environmental interaction, yet current agents lack the necessary persistent procedural memory. Existing approaches predominantly employ Retrieval-Augmented Generation (RAG) to inject explicit textual guidelines into model contexts. However, relying solely on symbolic instructions can introduce a text-action disconnect, frequently failing to activate the internal representations necessary for correct task execution. To address this, the paper introduces Neural Procedural Memory (NPM), a training-free framework that represents agent memory through implicit activation steering rather than explicit instructions. By distilling procedural skills from historical contrastive experiences into steering vectors in the activation space, NPM directly activates the task-relevant neural mechanisms to guide task execution. Evaluations across four agent benchmarks show that NPM performs comparably to baselines using explicit textual instructions. Furthermore, the results show that combining implicit steering with explicit workflows provides complementary advantages, leading to more robust task execution. Representational analyses indicate that these steering vectors encode consistent task logic, forming organized structures within the activation space. These findings suggest that implicit activation steering provides a promising approach for managing agent memory.
- Abstract(参考訳): 大規模言語モデル(LLM)は静的解法として優れているが、それらを自律的なエージェントに変換することは依然として難しい。
この遷移は継続的な環境相互作用を必要とするが、現在のエージェントは必要な永続的な手続き記憶を欠いている。
既存のアプローチでは、主にRetrieval-Augmented Generation (RAG)を使用して、明示的なテキストガイドラインをモデルコンテキストに注入する。
しかし、シンボリック命令のみに依存すると、テキストアクションの切り離しが発生し、正しいタスク実行に必要な内部表現の活性化が頻繁に失敗する。
そこで本稿では,明示的な命令ではなく,暗黙的なアクティベーションステアリングを通じてエージェントメモリを表現するトレーニングフリーフレームワークであるNeural Procedural Memory(NPM)を紹介する。
従来のコントラスト経験からアクティベーション空間のステアリングベクトルにプロシージャスキルを蒸留することにより、NPMはタスク関連神経機構を直接活性化し、タスク実行を誘導する。
4つのエージェントベンチマークで評価したところ、NPMは明示的なテキスト命令を使用してベースラインに相容れない性能を示した。
さらに、暗黙的なステアリングと明示的なワークフローを組み合わせることで、補完的なアドバンテージが得られ、タスクの実行がより堅牢になる。
表象解析は、これらのステアリングベクトルが一貫したタスク論理を符号化し、活性化空間内の組織構造を形成することを示している。
これらの結果は、暗黙のアクティベーションステアリングがエージェントメモリ管理に有望なアプローチをもたらすことを示唆している。
関連論文リスト
- Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。
既存のアプローチはそのようなシステムレベルの保証を提供していません。
本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
論文 参考訳(メタデータ) (2026-08-04T13:01:30Z) - Adaptive Multimodal Agents-Based Framework for Automatic Workflow Execution [1.2132786136735432]
本稿では,異なる2相パイプラインによる自動ワークフロー実行を実現するための,新しいマルチエージェントフレームワークを提案する。
推論の間、エージェントはこの固定された事前確立されたグラフに対して適応検索拡張生成(RAG)を利用する。
実世界の文脈でフレームワークを検証し、限られたトレーニングデータであっても高い信頼性とセマンティックな認識を維持する能力を示す。
論文 参考訳(メタデータ) (2026-05-27T15:23:22Z) - DeCoVec: Building Decoding Space based Task Vector for Large Language Models via In-Context Learning [6.461940812531588]
textscDeCoVecは、少数ショットプロンプトとゼロショットプロンプトの出力ロジット分布の違いとしてタスクの本質をキャプチャする。
textscDeCoVecは標準のショットベースラインを一貫して上回り、平均精度は+5.50まで向上する。
論文 参考訳(メタデータ) (2026-04-13T07:42:54Z) - Agent Mentor: Framing Agent Knowledge through Semantic Trajectory Analysis [4.365760422569902]
我々は、Agent Mentorオープンソースライブラリの一部として実装された分析パイプラインを紹介する。
システムの監視と漸進的な適応によって、他のエージェントの振る舞いを定義する。
パイプラインは、エージェントの知識に修正命令を体系的に注入することで、パフォーマンスを向上させる。
論文 参考訳(メタデータ) (2026-04-12T08:02:54Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳(メタデータ) (2026-01-21T15:22:21Z) - PADME: Procedure Aware DynaMic Execution [7.8148770419284865]
本稿では,プロシージャをグラフベースで表現するエージェントフレームワークであるPADME(Process Aware DynaMic Execution)を紹介する。
手動グラフ構築や非構造化推論に依存する以前の作業とは異なり、PADMEは手続き的テキストを自動で実行可能なグラフに変換する。
PADMEは、ALFWorldとScienceWorldを含む4つの異なるベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-10-13T11:15:49Z) - Enhancing Cross-task Transfer of Large Language Models via Activation Steering [75.41750053623298]
クロスタスク・イン・コンテキスト学習はタスク間で知識を伝達する直接的なソリューションを提供する。
パラメータ更新や入力拡張を伴わずに、潜時空間ステアリングによりクロスタスク転送を実現することができるかを検討する。
本稿では,モデルの内部アクティベーション状態を操作することで,効率的な転送を可能にするクロスタスク・アクティベーション・ステアリング・トランスファー・フレームワークを提案する。
論文 参考訳(メタデータ) (2025-07-17T15:47:22Z) - Learning Task Representations from In-Context Learning [67.66042137487287]
大規模言語モデル(LLM)は、文脈内学習(ICL)において顕著な習熟性を示した。
ICLプロンプトにおけるタスク情報をアテンションヘッドの関数として符号化するための自動定式化を導入する。
提案手法は,テキスト中の実演からタスク固有の情報を抽出し,テキストと回帰タスクの両方で優れる。
論文 参考訳(メタデータ) (2025-02-08T00:16:44Z) - Neurosymbolic AI for Enhancing Instructability in Generative AI [7.4348066967005275]
生成AIは、テキスト、画像、音楽間でコンテンツ生成を変換し、プロンプトを通じて指示に従う能力を示した。
本稿では,ニューロシンボリックAIがLarge Language Models(LLMs)のインストラクタビリティを高めるためのより良い経路を提供する理由を考察する。
ニューロシンボリックアプローチによってタスク実行の信頼性とコンテキスト認識が向上し,LLMが動的に解釈し,より広い範囲の教育コンテキストに対応し,より精度と柔軟性が向上することを示す。
論文 参考訳(メタデータ) (2024-07-26T13:15:50Z) - Procedures as Programs: Hierarchical Control of Situated Agents through
Natural Language [81.73820295186727]
エージェント命令と制御のための階層的な手続き的知識を表現する強力な手法である,プログラムとしての手続きの形式化を提案する。
NL命令に対するIQAおよびALFREDデータセット上で、このフレームワークをインスタンス化する。
論文 参考訳(メタデータ) (2021-09-16T20:36:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。