論文の概要: CoreMem: Riemannian Retrieval and Fisher-Guided Distillation for Long-Term Memory in Dialogue Agents
- arxiv url: http://arxiv.org/abs/2606.18406v1
- Date: Tue, 16 Jun 2026 18:56:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:50.857332
- Title: CoreMem: Riemannian Retrieval and Fisher-Guided Distillation for Long-Term Memory in Dialogue Agents
- Title（参考訳）: CoreMem: 対話エージェントの長期記憶のためのリーマン検索とフィッシャーガイド蒸留
- Authors: Jiaqi Chen, Yongqin Zeng, Shaoshen Chen, Yijian Zhang, Hai-Tao Zheng, Chunxia Ma, XiuTeng Zhou,
- Abstract要約: CoreMemはリソース効率のよいエッジクラウドメモリアーキテクチャであり、情報幾何学によって根本的に統一されている。
厳格な8GBのVRAM予算内でシームレスに動作し、リソース制約のあるエッジデバイスと理論上は根拠のない、寿命の長いメモリエージェントとのギャップを埋めることに成功した。
- 参考スコア（独自算出の注目度）: 22.037336472678774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Personalized dialogue agents require continuous long-term memory to maintain coherent interactions across multiple sessions. However, deploying these capabilities on consumer-grade hardware (e.g., 8 GB VRAM edge devices) introduces severe memory and compute bottlenecks. Existing systems typically rely on isotropic cosine similarity for retrieval and heuristic rules for context compression. These approaches lack a unified theoretical foundation, frequently suffering from the hubness problem in high-dimensional retrieval and syntactic fragmentation during compression. To overcome these limitations, we propose CoreMem, a resource-efficient edge-cloud memory architecture fundamentally unified by information geometry. First, Riemannian retrieval replaces cosine matching with a locally adaptive Fisher-Rao metric, effectively penalizing hub memories via Mahalanobis distance with O(Ndr) Woodbury acceleration for real-time search. Second, Fisher-guided discrete token distillation (FDTD) introduces a hierarchical sentence-to-token compression mechanism. It derives sensitivity scores from Fisher information traces, providing a principled compression-KL tradeoff augmented with explicit structural syntax protection. Evaluated on the LOCOMO and LongMemEval-S benchmarks, CoreMem achieves strong accuracy improvements, yielding substantial gains in Open-domain (+4.51 pp) and Temporal (+4.17 pp) reasoning. Extensive profiling confirms that CoreMem operates seamlessly within a strict 8 GB VRAM budget, successfully bridging the gap between resource-constrained edge devices and the demand for theoretically grounded, lifelong memory agents.
- Abstract（参考訳）: パーソナライズされた対話エージェントは、複数のセッション間でのコヒーレントな相互作用を維持するために、継続的な長期記憶を必要とする。
しかし、これらの機能をコンシューマグレードのハードウェア(たとえば8GBのVRAMエッジデバイス)にデプロイすると、厳しいメモリと計算のボトルネックが発生する。
既存のシステムでは、検索には等方的コサイン類似性、文脈圧縮にはヒューリスティックな規則が一般的である。
これらのアプローチには統一的な理論基盤が欠如しており、圧縮中の高次元の検索と構文的断片化において、しばしばハブ性の問題に悩まされる。
これらの制約を克服するために、情報幾何学によって根本的に統一されたリソース効率の高いエッジクラウドメモリアーキテクチャCoreMemを提案する。
第一に、リーマン検索はコサインマッチングを局所適応型フィッシャー・ラオ計量に置き換え、マハラノビス距離を介してハブメモリを効果的にペナルティ化し、O(Ndr)ウッドベリー加速度をリアルタイムで探索する。
第二に、フィッシャー誘導型離散トークン蒸留(FDTD)は階層的な文間圧縮機構を導入する。
これはフィッシャー情報トレースから感度スコアを導き、明示的な構文保護を備えた圧縮-KLトレードオフを提供する。
LOCOMOとLongMemEval-Sのベンチマークで評価され、CoreMemは高い精度の向上を実現し、オープンドメイン (+4.51 pp) とテンポラル (+4.17 pp) の推論でかなりの利得を得た。
広範なプロファイリングにより、CoreMemは厳格な8GB VRAM予算内でシームレスに動作し、リソース制約のあるエッジデバイスと理論上は根拠のない、寿命の長いメモリエージェントとのギャップを埋めることに成功した。
関連論文リスト
- Scaling Short-Term Memory of Visuomotor Policies for Long-Horizon Tasks [69.19366746169906]
本稿では,短期記憶を利用するビジュモータポリシーのためのトランスフォーマーベースのアーキテクチャであるPRISMを提案する。
海賊フィルタは情報を取得し、関連する詳細を抑え、性能を向上する。
階層アーキテクチャは、ローカル情報をコンパクトなトークンに圧縮し、計算とメモリフットプリントを改善する。
論文 参考訳（メタデータ） (2026-06-15T03:49:23Z) - Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。
圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。
歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
論文 参考訳（メタデータ） (2026-06-05T17:16:21Z) - eMEM: A Hybrid Spatio-Temporal Memory System For Embodied Agents [1.8047694351309203]
物理環境で動作するエンボディエージェントのためのハイブリッドグラフベースメモリシステムeMEMを提案する。
eMEMはこのギャップをマルチインデックスアーキテクチャ(構造化ストレージ用ITE、近傍セマンティックサーチ用hlib、空間クエリ用Rツリー)で埋める。
また,eMEM-Bench v1は,メモリ評価のためのProcTHOR-10Kシーン上で構築したベンチマークである。
論文 参考訳（メタデータ） (2026-06-02T09:22:12Z) - MemGym: a Long-Horizon Memory Environment for LLM Agents [69.79226770543049]
本稿では,エージェントメモリのベンチマークであるMemGymを紹介する。
MemGymは、メモリパフォーマンスを推論、検索、ツール使用能力から切り離すメモリアイソレーションスコアを報告している。
MEMGYM-CODEQAとMEMGYM-DRの合成パイプラインは、長さ制御可能であり、各ステージでアブレーションを検証可能であり、下流のシナリオと密に整合している。
論文 参考訳（メタデータ） (2026-05-20T07:25:33Z) - AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents [49.63422082885992]
長軸対話エージェントのための適応型ユーザ中心メモリフレームワークであるAdaMemを提案する。
AdaMemは対話履歴をワーキング、エピソディック、ペルソナ、グラフメモリに整理する。
LoCoMo と PERSONAMEM ベンチマーク上での AdaMem の評価を行った。
論文 参考訳（メタデータ） (2026-03-17T13:22:54Z) - LoGeR: Long-Context Geometric Reconstruction with Hybrid Memory [97.14005794889134]
提案するLoGeRは,高密度な3次元再構成を,後最適化なしで極めて長いシーケンスに拡張する新しいアーキテクチャである。
LoGeRはビデオストリームをチャンクで処理し、高忠実度なチャンク内推論に強力な双方向の事前処理を活用する。
このメモリアーキテクチャにより、LoGeRは128フレームのシーケンスでトレーニングでき、推論中に数千フレームまで一般化できる。
論文 参考訳（メタデータ） (2026-03-03T18:55:37Z) - Hippocampus: An Efficient and Scalable Memory Module for Agentic AI [4.508092142808317]
Hippocampusは、セマンティック検索にコンパクトなバイナリシグネチャを使用するエージェント型メモリ管理システムである。
その中核はDWM(Dynamic Wavelet Matrix)であり、超高速検索をサポートするために両方のストリームを圧縮し、共同インデックスする。
評価の結果,Hippocampusはエンドツーエンドの検索遅延を最大31$times$に削減できることがわかった。
論文 参考訳（メタデータ） (2026-02-14T04:25:20Z) - Towards Compressive and Scalable Recurrent Memory [16.831420033939548]
トランスフォーマーは、長いコンテキストへのスケーリングにおいて、注意の二次的なボトルネックに直面します。
最近のアプローチでは、現在のウィンドウを超えてコンテキストを拡張するために、リカレントメモリが導入されている。
我々は,オンライン関数近似のためのHiPPOフレームワークを基盤とした,新しいメモリアーキテクチャであるElastic Memoryを紹介する。
論文 参考訳（メタデータ） (2026-02-11T07:21:49Z) - FlashMem: Distilling Intrinsic Latent Memory via Computation Reuse [4.210760734549566]
FlashMemは、計算再利用を通じて、過渡的推論状態から直接固有のメモリを蒸留するフレームワークである。
実験によると、FlashMemは5倍の推論遅延を減らしながら、重いベースラインのパフォーマンスと一致している。
論文 参考訳（メタデータ） (2026-01-09T03:27:43Z) - Beyond Homogeneous Attention: Memory-Efficient LLMs via Fourier-Approximated KV Cache [67.47789629197857]
本稿では,トランスヘッド次元の不均一な役割を生かした学習自由フレームワークを提案する。
フーリエアテンションは、長コンテキスト非感性次元をフーリエ基底に投影することにより、その時間的進化を固定長のスペクトル係数で近似する。
本稿では,FourierAttention が LongBench と Needle-In-A-Haystack 上で最高の長文精度を実現することを示す。
論文 参考訳（メタデータ） (2025-06-13T15:35:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。