論文の概要: HeLa-Mem: Hebbian Learning and Associative Memory for LLM Agents
- arxiv url: http://arxiv.org/abs/2604.16839v1
- Date: Sat, 18 Apr 2026 05:11:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.19605
- Title: HeLa-Mem: Hebbian Learning and Associative Memory for LLM Agents
- Title(参考訳): HeLa-Mem: LLMエージェントのためのヘビアンラーニングと連想記憶
- Authors: Jinchang Zhu, Jindong Li, Cheng Zhang, Jiahong Liu, Menglin Yang,
- Abstract要約: HeLa-Memは、バイオインスパイアされたメモリアーキテクチャで、Hebbianの学習力学を用いた動的グラフとしてメモリをモデル化する。
HeLa-Memは、(1)コアクティベーションパターンを通じて進化するエピソードメモリグラフ、(2)Hebbian Distillationを介して蓄積されるセマンティックメモリストアである。
LoCoMoの実験では、コンテキストトークンをはるかに少なく使用しながら、4つの質問カテゴリで優れたパフォーマンスを示している。
- 参考スコア(独自算出の注目度): 8.86975756125001
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-term memory is a critical challenge for Large Language Model agents, as fixed context windows cannot preserve coherence across extended interactions. Existing memory systems represent conversation history as unstructured embedding vectors, retrieving information through semantic similarity. This paradigm fails to capture the associative structure of human memory, wherein related experiences progressively strengthen interconnections through repeated co-activation. Inspired by cognitive neuroscience, we identify three mechanisms central to biological memory: association, consolidation, and spreading activation, which remain largely absent in current research. To bridge this gap, we propose HeLa-Mem, a bio-inspired memory architecture that models memory as a dynamic graph with Hebbian learning dynamics. HeLa-Mem employs a dual-level organization: (1) an episodic memory graph that evolves through co-activation patterns, and (2) a semantic memory store populated via Hebbian Distillation, wherein a Reflective Agent identifies densely connected memory hubs and distills them into structured, reusable semantic knowledge. This dual-path design leverages both semantic similarity and learned associations, mirroring the episodic-semantic distinction in human cognition. Experiments on LoCoMo demonstrate superior performance across four question categories while using significantly fewer context tokens. Code is available on GitHub: https://github.com/ReinerBRO/HeLa-Mem
- Abstract(参考訳): 長期記憶は大規模言語モデルエージェントにとって重要な課題である。
既存のメモリシステムは、会話履歴を非構造化埋め込みベクトルとして表現し、意味的類似性を通じて情報を取得する。
このパラダイムは、人間の記憶の連想構造を捉えるのに失敗し、関連する経験は、繰り返しのコアクティベーションを通じて相互接続を徐々に強化する。
認知神経科学に触発されて、我々は生物学的記憶の中心となる3つのメカニズムを同定する。
このギャップを埋めるため,Hebbian Learning dynamicsを用いてメモリを動的グラフとしてモデル化するバイオインスピレーションドメモリアーキテクチャHeLa-Memを提案する。
HeLa-Memは、(1)コアクティベーションパターンを通じて進化するエピソードメモリグラフ、(2)Hebbian Distillationを通したセマンティックメモリストア、(2)リフレクティブエージェントが密結合したメモリハブを識別し、それらを構造的に再利用可能なセマンティック知識に蒸留する。
このデュアルパス設計は、意味的類似性と学習された関連の両方を活用し、人間の認知におけるエピソード・セマンティックな区別を反映している。
LoCoMoの実験では、コンテキストトークンをはるかに少なく使用しながら、4つの質問カテゴリで優れたパフォーマンスを示している。
コードはGitHubで入手できる。 https://github.com/ReinerBRO/HeLa-Mem
関連論文リスト
- From Verbatim to Gist: Distilling Pyramidal Multimodal Memory via Semantic Information Bottleneck for Long-Horizon Video Agents [78.30630000529133]
本稿ではファジィトレース理論に基づくピラミッド型マルチモーダルメモリアーキテクチャMM-Memを提案する。
MM-Memメモリは階層的に感覚バッファ、エピソードストリーム、シンボリックに構造する。
実験により、MM-Memがオフラインタスクとストリーミングタスクの両方で有効であることが確認された。
論文 参考訳(メタデータ) (2026-03-02T05:12:45Z) - Cognitive algorithms and systems of episodic memory, semantic memory and their learnings [8.156069657157342]
宣言記憶は、エピソード記憶とセマンティック記憶という2つの分離された部分から構成される。
海馬の病変は、しばしば明示的な記憶の様々な障害を引き起こす。
本章では、明示的な記憶を模倣することを目的とした認知システムについてレビューする。
論文 参考訳(メタデータ) (2026-02-06T23:22:52Z) - The AI Hippocampus: How Far are We From Human Memory? [77.04745635827278]
インプリシットメモリは、事前訓練されたトランスフォーマーの内部パラメータに埋め込まれた知識を指す。
明示メモリは、動的でクエリ可能な知識表現でモデル出力を増大させるように設計された外部ストレージと検索コンポーネントを含んでいる。
エージェントメモリは、自律エージェント内に永続的、時間的に拡張されたメモリ構造を導入する。
論文 参考訳(メタデータ) (2026-01-14T03:24:08Z) - Memory Matters More: Event-Centric Memory as a Logic Map for Agent Searching and Reasoning [55.251697395358285]
大規模言語モデル(LLM)は、環境を推論し、計画し、相互作用するインテリジェントエージェントとして、ますます多くデプロイされている。
長期のシナリオに効果的にスケールするには、そのようなエージェントの重要な機能は、過去の経験を保持し、整理し、取り出すことができるメモリメカニズムである。
イベント理論にインスパイアされたイベント中心のメモリフレームワークであるCompassMemを提案する。
論文 参考訳(メタデータ) (2026-01-08T08:44:07Z) - Memory in the Age of AI Agents [217.9368190980982]
この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。
我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。
実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
論文 参考訳(メタデータ) (2025-12-15T17:22:34Z) - Agentic Learner with Grow-and-Refine Multimodal Semantic Memory [50.81667005063605]
ViLoMemは、コンパクトなスキーマベースのメモリを構築するデュアルストリームメモリフレームワークである。
視覚的障害パターンと論理的推論エラーを符号化し、MLLMが成功し失敗した経験から学ぶことを可能にする。
論文 参考訳(メタデータ) (2025-11-26T18:55:08Z) - Memorization and Knowledge Injection in Gated LLMs [8.305942415868042]
大規模言語モデル(LLM)は、現在、シーケンシャルに新しい記憶を追加し、新しい知識を統合するのに苦労している。
Gated LLM (MEGa) に埋め込まれたメモリは、イベントメモリを直接 LLM の重みに注入する。
推論中、ゲーティング機構は、クエリの埋め込みとストアドメモリの埋め込みとをマッチングすることで、関連するメモリ重みを活性化する。
論文 参考訳(メタデータ) (2025-04-30T00:28:32Z) - MADial-Bench: Towards Real-world Evaluation of Memory-Augmented Dialogue Generation [15.64077949677469]
メモリ拡張対話システム(MADS)の有効性を評価するための新しいメモリ拡張対話ベンチマーク(MADail-Bench)を提案する。
このベンチマークは2つのタスクを別々に評価する: メモリ検索とメモリ認識は、パッシブとプロアクティブの両方のメモリリコールデータを組み込んだものである。
このベンチマークにおける最先端の埋め込みモデルと大規模言語モデルの結果は、さらなる進歩の可能性を示している。
論文 参考訳(メタデータ) (2024-09-23T17:38:41Z) - The Tensor Brain: A Unified Theory of Perception, Memory and Semantic
Decoding [16.37225919719441]
本稿では,認識と記憶の統一的計算理論を提案する。
我々のモデルでは、知覚、エピソード記憶、セマンティック記憶は異なる機能モードと操作モードで実現される。
論文 参考訳(メタデータ) (2021-09-27T23:32:44Z) - Self-Attentive Associative Memory [69.40038844695917]
我々は、個々の体験(記憶)とその発生する関係(関連記憶)の記憶を分離することを提案する。
機械学習タスクの多様性において,提案した2メモリモデルと競合する結果が得られる。
論文 参考訳(メタデータ) (2020-02-10T03:27:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。