論文の概要: Where Should Experience Live? Hierarchical Hebbian Memory for Continual Vision Transformers
- arxiv url: http://arxiv.org/abs/2609.00358v1
- Date: Mon, 31 Aug 2026 20:51:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.077579
- Title: Where Should Experience Live? Hierarchical Hebbian Memory for Continual Vision Transformers
- Title(参考訳): 生きていくべき場所は? 連続視覚変換器のための階層型ヘビアンメモリ
- Abstract要約: 視覚変換器は強力な視覚表現を提供するが、通常はゆっくりと更新されたパラメータに依存する。
高速なワーキングメモリ、永続的なルート付きエピソードメモリ、遅いセマンティックメモリからなる3レベルメモリアーキテクチャである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision Transformers provide strong visual representations but typically rely on slowly updated parameters, limiting their ability to organize newly acquired information across different memory timescales. This work proposes \textit{Hierarchical Hebbian Memory}, a three-level memory architecture composed of rapid Working Memory, persistent Routed Episodic Memory, and slower Semantic Memory. A learned controller regulates memory contribution, read and write routing, plasticity, retention, and consolidation. A causal read-before-write lifecycle ensures that the current outcome cannot influence the prediction it supervises. The architecture is evaluated on Omniglot 5-way 1-shot recognition and CORe50 continual object recognition. With Swin-Tiny, the hierarchical model reaches 97.39\% accuracy on Omniglot and 95.37\% final accuracy on CORe50 when combined with experience replay. Learned multi-bank retrieval reaches 47.50\% delayed-association accuracy, compared with 24.17\% for a single persistent bank and 25.00\% without memory. After intervening distractors, Episodic Memory retains approximately 0.96 cosine similarity with stored associations, while Working Memory falls to approximately 0.05. These results show that Hebbian association and learned memory routing can jointly organize online visual experience across rapid, persistent, and consolidated memory timescales within Vision Transformers.
- Abstract(参考訳): 視覚変換器は強力な視覚表現を提供するが、通常はゆっくりと更新されたパラメータに依存し、異なるメモリタイムスケールで新たに取得した情報を整理する能力を制限する。
この研究は、高速なワーキングメモリ、永続的なルート付きエピソードメモリ、遅いセマンティックメモリからなる3レベルメモリアーキテクチャである「textit{Hierarchical Hebbian Memory}」を提案する。
学習されたコントローラは、メモリコントリビューション、読み書きルーティング、可塑性、保持、統合を規制する。
因果的読み書きライフサイクルは、現在の結果が監督する予測に影響を与えないことを保証する。
このアーキテクチャは、Omniglot 5-way 1-shot RecognitionとCORe50連続物体認識に基づいて評価される。
Swin-Tinyでは、階層モデルはOmniglotで97.39\%、CORe50で95.37\%に達する。
学習されたマルチバンク検索の遅延解合精度は47.50 %に達し、単一の永続銀行では24.17 %、メモリなしでは25.00 %に達する。
中断された後、エピソード記憶は保存された連想と約0.96コサインの類似性を保ち、ワーキングメモリは約0.05となる。
これらの結果から,Hebbianアソシエーションと学習したメモリルーティングは,Vision Transformer内での高速で永続的で統合されたメモリタイムスケール間で,共同でオンライン視覚体験を構成できることが示唆された。
関連論文リスト
- Remember Smarter: Visual History Compressor and Hyperbolic Experience Space for Robotic Memory [54.400138177707504]
remember Smarter (RS) は、視覚履歴と双曲的なエクスペリエンスメモリのブランチを補完するプラグイン・アンド・プレイモジュールである。
pi0に適合すると、RSはLIBERO-Plusの総成功率を53.6%から70.6%に引き上げ、実際のロボット実験でかなりの性能向上を達成した。
論文 参考訳(メタデータ) (2026-08-15T15:13:33Z) - TRUSTMEM: Learning Trustworthy Memory Consolidation for LLM Agents with Long-Term Memory [11.528637007309937]
大規模言語モデル(LLM)エージェントは、拡張されたインタラクションをサポートし、有限コンテキストウィンドウを超えてパーソナライズされたアシストをサポートするために、長期記憶に依存している。
既存のメモリエージェントは、生成された書き込み、修正、削除によって外部メモリを積極的に更新する。
これらの更新は、重要な情報を省略したり、既存の記憶を破損させたり、幻覚コンテンツを導入したりする可能性がある。
本稿では,メモリ統合の信頼性向上を目的としたフレームワークであるTrustMemを提案する。
論文 参考訳(メタデータ) (2026-06-23T20:49:28Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳(メタデータ) (2026-06-23T13:52:46Z) - When Should Memory Stay Silent: Measuring Memory-Use Boundaries in Memory-Augmented Conversational Agents [13.354128891280316]
長期記憶により、言語モデルエージェントはパーソナライズされたインタラクションをサポートすることができる。
利用可能な記憶がいつ応答に統合されるかは、まだ不明である。
検索システムは露光を減らすが、感度の高いメモリがジェネレータに到達すると、統合を排除しない。
論文 参考訳(メタデータ) (2026-06-04T11:54:51Z) - WorldMemArena: Evaluating Multimodal Agent Memory Through Action-World Interaction [72.1620416874118]
マルチモーダルな言語モデルは、長距離エージェントとしてますます多くデプロイされている。
既存のベンチマークは、静的対話上のリコールを測定し、メモリを1つのタスクの精度に分解し、キャプションに対する視覚的な観察を減らす。
マルチモーダルエージェントメモリを,観測可能な4段階ライフサイクルを持つアクションワールドインタラクションループとして定式化する。
論文 参考訳(メタデータ) (2026-05-28T04:27:20Z) - Semantic-Aware Adaptive Visual Memory for Streaming Video Understanding [55.7992006853979]
SAVEMemは、セマンティックな認識をメモリ生成にもたらすフレームワークで、クエリ毎に検索スコープを適応させる。
SAVEMemは、メモリ生成にセマンティックな認識をもたらし、クエリ毎に検索範囲を適応させる、トレーニングフリーのデュアルステージフレームワークである。
論文 参考訳(メタデータ) (2026-05-08T15:40:40Z) - LightMem: Lightweight and Efficient Memory-Augmented Generation [72.21680105265824]
我々は、メモリシステムの性能と効率のバランスをとるLightMemという新しいメモリシステムを紹介した。
人間の記憶のアトキンソン・シフリンモデルにインスパイアされたLightMemは、メモリを3つの相補的なステージにまとめる。
GPTとQwenのバックボーンを用いたLongMemEvalの実験では、LightMemは高いベースライン(最大10.9%のゲイン)を上回り、トークンの使用量を最大117倍に削減している。
論文 参考訳(メタデータ) (2025-10-21T17:58:17Z) - MemoryVLA: Perceptual-Cognitive Memory in Vision-Language-Action Models for Robotic Manipulation [59.31354761628506]
このようなタスクは本質的にマルコフ的ではないが、主流のVLAモデルはそれを見落としているため、ロボット操作には時間的コンテキストが不可欠である。
本稿では,長距離ロボット操作のためのコグニション・メモリ・アクション・フレームワークであるMemoryVLAを提案する。
本稿では,3つのロボットを対象とした150以上のシミュレーションと実世界のタスクについて評価する。
論文 参考訳(メタデータ) (2025-08-26T17:57:16Z) - HEMA : A Hippocampus-Inspired Extended Memory Architecture for Long-Context AI Conversations [0.0]
大規模言語モデル(LLM)は、数百回に及ぶ会話におけるコヒーレンスを維持するのに苦労する。
本稿では,人間の認知プロセスにインスパイアされたデュアルメモリシステムであるHEMAを紹介する。
10Kインデックスのチャンクでは、ベクトルメモリはP@5 >= 0.80 と R@50 >= 0.74 を達成し、精度-リコール曲線の下で領域を2倍にする。
論文 参考訳(メタデータ) (2025-04-23T14:27:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。