論文の概要: SkillMem: Compact External Skill Memory for Latent Multi-Agent Reasoning
- arxiv url: http://arxiv.org/abs/2610.37935v1
- Date: Tue, 27 Oct 2026 20:25:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.329266
- Title: SkillMem: Compact External Skill Memory for Latent Multi-Agent Reasoning
- Title(参考訳): SkillMem: マルチエージェント推論のためのコンパクトな外部スキルメモリ
- Abstract要約: textbfSkillMemは、各再利用可能なスキルを小さな外部潜在メモリとして表現し、潜在マルチエージェント推論時に直接利用できるようにする。
ロール条件のクロスアテンションリーダは、同じメモリが、役割や現在の隠された状態に応じて異なるエージェントをガイドすることを可能にする。
100スキルのライブラリでは、SkillMemは、代替スキル表現と比較して、総ストレージを38タイム以上削減し、最大4.23タイムのエンドツーエンド推論スピードアップを実現している。
- 参考スコア(独自算出の注目度): 56.546934036224066
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Latent multi-agent systems reduce inference cost by keeping intermediate reasoning and inter-agent communication in continuous representations.\ Reusable skills, however, are commonly supplied as text or stored as layer-wise Key-Value states or skill-specific model parameters, introducing repeated processing or substantial per-skill storage.\ We introduce \textbf{SkillMem}, which represents each reusable skill as a small external latent memory and makes it directly available during latent multi-agent reasoning.\ A role-conditioned cross-attention reader allows the same memory to guide different agents according to their roles and current hidden states.\ We train the skill memories and shared reader through behavioral distillation, matching the change in token predictions induced by a textual skill while keeping the backbone frozen.\ For our experiments, we obtain textual skills from paired successful and failed multi-agent trajectories, although existing skills can also be compiled directly.\ Across six benchmarks and Qwen3 models ranging from 4B to 14B parameters, SkillMem provides strong gains for smaller backbones while preserving efficient latent multi-agent inference across model scales.\ We use the same $8\times256$ memory configuration across all evaluated model scales, requiring 9.6\,KB of skill-specific storage per skill, including its retrieval embedding.\ For a library of 100 skills, SkillMem reduces total storage by more than $38\times$ compared with alternative skill representations and achieves up to a $4.23\times$ end-to-end inference speedup.\ These results show that compact procedural memories can be reused without sacrificing the efficiency of latent multi-agent reasoning.
- Abstract(参考訳): 潜在マルチエージェントシステムは、中間的推論とエージェント間通信を連続表現に保ち、推論コストを削減する。
しかし、再利用可能なスキルは、一般的にテキストとして供給されるか、レイヤワイドキーバリュー状態またはスキル固有のモデルパラメータとして格納される。
これは、再利用可能なスキルを小さな外部潜在メモリとして表現し、潜在マルチエージェント推論中に直接利用できるようにするものだ。
役割条件付きクロスアテンションリーダでは、同じメモリが、役割や現在の隠された状態に応じて、異なるエージェントをガイドすることができる。
背骨の凍結を保ちながら、文章のスキルによって引き起こされるトークンの予測の変化と一致する。
実験では、既存のスキルを直接コンパイルできるが、ペアで成功し、失敗したマルチエージェントの軌道からテキストスキルを得る。
6つのベンチマークと4Bから14BパラメータのQwen3モデルにまたがって、SkillMemはより小さなバックボーンに対して強力なゲインを提供すると同時に、モデルスケール全体にわたって効率的な遅延マルチエージェント推論を保存する。
私たちは、すべての評価されたモデルスケールで、同じ8\times256$のメモリ構成を使用し、その検索埋め込みを含む、スキルごとに9.6\,KBのスキル固有のストレージを必要とする。
SkillMemは100のスキルを持つライブラリで、代替スキル表現と比較して38ドル以上のストレージを削減し、最大4.23ドルまでの推論スピードアップを実現している。
以上の結果から, 潜在マルチエージェント推論の効率を犠牲にすることなく, コンパクトな手続き記憶を再利用できることが示唆された。
関連論文リスト
- When Skills Remain But Access Fails: Factorized Skill Memory for Continual Skill Internalization [14.285347396859732]
本研究では,連続的なスキルの内在化を忘れて,明確な階層構造を明らかにする。
連続的なスキルメモリをプラスチックアドレスメモリと安定した実行メモリに分離するFSM(Facterized Skill Memory)を導入する。
FSMは65.95%の平均一致と93.38%の精度を2つのタスクオーダーで達成している。
論文 参考訳(メタデータ) (2026-10-11T09:46:32Z) - ERSkill: Evolving for Skill-Guided Adaptive Memory Retrieval [8.099546846655196]
ERSkillは自己進化型、スキル誘導型メモリアクセスのための検索中心のフレームワークである。
トレーニング中にスキルセットとルータを共同で進化させ、継続的な改善を可能にします。
非進化的かつ自己進化的なベースラインを著しく上回る。
論文 参考訳(メタデータ) (2026-08-13T02:06:01Z) - WorldMemArena: Evaluating Multimodal Agent Memory Through Action-World Interaction [72.1620416874118]
マルチモーダルな言語モデルは、長距離エージェントとしてますます多くデプロイされている。
既存のベンチマークは、静的対話上のリコールを測定し、メモリを1つのタスクの精度に分解し、キャプションに対する視覚的な観察を減らす。
マルチモーダルエージェントメモリを,観測可能な4段階ライフサイクルを持つアクションワールドインタラクションループとして定式化する。
論文 参考訳(メタデータ) (2026-05-28T04:27:20Z) - LatentMem: Customizing Latent Memory for Multi-Agent Systems [44.59989123744384]
トークン効率のよいエージェント固有のメモリをカスタマイズするための学習可能なマルチエージェントメモリフレームワークであるLatentMemを提案する。
具体的には、生の相互作用軌跡を軽量な形式で記憶する体験銀行と、検索された経験とエージェント固有の文脈に基づいて条件付けられたコンパクトな潜時記憶を合成するメモリ作曲家とを備える。
論文 参考訳(メタデータ) (2026-02-03T03:03:16Z) - Dual Latent Memory for Visual Multi-agent System [69.29799381195592]
Visual Multi-Agent Systems (VMAS)は、エージェント間のコラボレーションを通じて包括的な能力を強化することを約束する。
増量剤は、指数関数的にトークンコストを膨らませながら、しばしば性能を低下させる。
L$2$-VMASは,2つの潜在記憶を用いたエージェント間コラボレーションを実現する新しいモデルに依存しないフレームワークである。
論文 参考訳(メタデータ) (2026-01-31T02:49:10Z) - ExplicitLM: Decoupling Knowledge from Parameters via Explicit Memory Banks [4.099810580680816]
大規模言語モデルは、暗黙の知識記憶による知識の安定性と解釈性の欠如に悩まされる。
トークンシーケンスとして可読性のある知識を格納する100万スケールの外部メモリバンクを備えた新しいアーキテクチャであるExplicitLMを提案する。
論文 参考訳(メタデータ) (2025-11-03T13:53:19Z) - Memo: Training Memory-Efficient Embodied Agents with Reinforcement Learning [53.72709564555407]
Memoは、強化学習のためのトランスフォーマーベースのアーキテクチャとトレーニングのレシピである。
トレーニング中のモデルの入力と周期的な要約トークンをインターリーブすることで、メモリの生成と検索を組み込む。
グリッドワールドメタRLベンチマークとマルチオブジェクトナビゲーションタスクにおけるMemoの有効性を,フォトリアリスティック屋内環境で実証する。
論文 参考訳(メタデータ) (2025-10-22T16:24:47Z) - ReasoningBank: Scaling Agent Self-Evolving with Reasoning Memory [57.517214479414726]
ReasoningBankは、エージェントの自己判断の成功と失敗の経験から一般化可能な推論戦略を抽出するメモリフレームワークである。
テスト時には、エージェントがReasoningBankから関連する記憶を取得してそのインタラクションを知らせ、新しい学習を統合することで、時間が経つにつれてより有能になる。
本稿では,エージェントのインタラクションエクスペリエンスをスケールアップすることにより,学習プロセスの高速化と多様化を図るメモリ対応テストタイムスケーリング(MaTTS)を提案する。
論文 参考訳(メタデータ) (2025-09-29T17:51:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。