論文の概要: Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval
- arxiv url: http://arxiv.org/abs/2610.08300v1
- Date: Tue, 06 Oct 2026 13:04:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.998068
- Title: Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval
- Title(参考訳): 記憶深さと再構成コンテキスト幅:階層的検索の制御された評価
- Abstract要約: 本研究では,2つのメモリパラメータ間の相互作用(構造深さと応答モデルに供給されるコンテキスト幅)を実験的に検討する。
1Kから4Kへの幅の増大は精度を10.11-17.98ポイント向上させる一方、深さの増大はモノトニックゲインを与えない。
これらの結果は、より深いメモリ構造ではなく、大規模で一貫性のあるコンテキストブロックのさらなる研究を動機付けている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-term conversational memory is becoming an integral component of modern LLM systems. Proposed architectures group records by topics and events, construct hierarchies and graphs, and connect facts through causal and temporal relations. We experimentally study the interaction between two memory parameters: structural depth and the width of context supplied to the answer model. Using EverMemBench, we evaluate depths D1-D4, core budgets of 1,024/2,048/4,096 tokens, and additional Production and Oracle conditions up to the full archive. Increasing width from 1K to 4K improves Accuracy by 10.11-17.98 percentage points, whereas increasing depth provides no monotonic gain. Beyond 8-16K, Production performance reaches a plateau while tokens per correct answer continue to increase; Oracle preserves quality on full archives of 68-71K tokens. These results motivate further investigation of large, coherent context blocks instead of progressively deeper memory structures.
- Abstract(参考訳): 長期の会話記憶は、現代のLLMシステムにおいて不可欠なコンポーネントになりつつある。
提案されたアーキテクチャは、トピックやイベントによるグループ記録、階層やグラフの構築、因果関係と時間関係を通じて事実を結びつける。
本研究では,2つのメモリパラメータ間の相互作用(構造深さと応答モデルに供給されるコンテキスト幅)を実験的に検討する。
EverMemBenchを使用して、D1-D4の深さ、1,024/2,048/4,096トークンのコア予算、さらにProductとOracleの条件をフルアーカイブまで評価します。
1Kから4Kへの幅の増大は精度を10.11-17.98ポイント向上させる一方、深さの増大はモノトニックゲインを与えない。
8-16Kを超えると、プロダクションパフォーマンスは高水準に達し、正解ごとにトークンが増加し続け、Oracleは68-71Kトークンの完全なアーカイブで品質を維持している。
これらの結果は、より深いメモリ構造ではなく、大規模で一貫性のあるコンテキストブロックのさらなる研究を動機付けている。
関連論文リスト
- VideoTapestry: Query-Adaptive Memory Refinement for Multi-Agent Long-Video Understanding [98.11639588256874]
VideoTapestryはトレーニング不要のマルチエージェントフレームワークで、粗大でクエリ駆動の洗練を通じて階層的なビデオメモリに適応する。
VideoTapestryの精度は17.2%、14.9%、9.8%、Benchは7.0%、LongVideoBench(Long Ego)、Video-MME(Long Ego)、Video-MME(Long Ego)である。
論文 参考訳(メタデータ) (2026-10-05T16:44:25Z) - The Evolution of Attention in Large Language Models: Mechanisms, Trade-offs, and Emerging Trends [51.17628561637134]
自己アテンションは、LLMにコンテキストへの細粒度でクエリ依存のアクセスを与える。
本調査は, モデル内コンテクストメモリとしての開発状況を解析する。
論文 参考訳(メタデータ) (2026-09-30T13:03:01Z) - PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents [85.82624962221026]
本稿では、読みを推論から切り離すPARSERを紹介する。
単一のチャンクにバインドされた軽量サブエージェントのバンクは、ドキュメント全体を並列に読み取る。
7Kから896Kまでのコンテキストを持つマルチホップQAでは、4Bバックボーンを持つPARSERが最強のシーケンシャルメモリベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-06T16:19:01Z) - GRAVITY: Architecture-Agnostic Structured Anchoring for Long-Horizon Conversational Memory [38.10762218232756]
本稿では,プラグイン・アンド・プレイ型構造化メモリモジュールGRAVITYを紹介する。
生会話音声から3つの知識表現を抽出する。
ホストシステムのプロンプトにこれらの表現を、構造化アンカーコンテキストとして注入する。
論文 参考訳(メタデータ) (2026-05-03T02:55:46Z) - LMEB: Long-horizon Memory Embedding Benchmark [49.57481835614834]
埋め込みモデルの能力を評価する包括的なフレームワークであるLong-Horizon Memory Embedding Benchmark (LMEB)を紹介する。
LMEBは4つのメモリタイプにまたがる22のデータセットと193のゼロショット検索タスクにまたがる。
我々は、数億から100億のパラメータを含む、広く使われている15の埋め込みモデルを評価した。
論文 参考訳(メタデータ) (2026-03-13T02:09:57Z) - LoGeR: Long-Context Geometric Reconstruction with Hybrid Memory [97.14005794889134]
提案するLoGeRは,高密度な3次元再構成を,後最適化なしで極めて長いシーケンスに拡張する新しいアーキテクチャである。
LoGeRはビデオストリームをチャンクで処理し、高忠実度なチャンク内推論に強力な双方向の事前処理を活用する。
このメモリアーキテクチャにより、LoGeRは128フレームのシーケンスでトレーニングでき、推論中に数千フレームまで一般化できる。
論文 参考訳(メタデータ) (2026-03-03T18:55:37Z) - Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in LLMs [28.807582003957005]
本稿では,長期記憶を必要とするタスクに対する大規模言語モデル(LLM)の能力を評価するためのフレームワークを提案する。
次に、100の会話と2000の検証済みの質問からなる新しいベンチマークであるBEAMを構築します。
モデル性能を向上させるために,LLMに3つの相補的メモリシステムを備えたLIGHT-aフレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-31T07:29:52Z) - CAM: A Constructivist View of Agentic Memory for LLM-Based Reading Comprehension [55.29309306566238]
現在のLarge Language Models (LLM) は、長文文書を解釈する際に圧倒的な情報量に直面している。
この課題は、バニラLSMを自律的な読み出しエージェントに高めることができる凝集性メモリモジュールの必須性を高める。
我々はジャン・ピアジェの構成主義理論(Constructivist Theory)からインスピレーションを得て、エージェントメモリの3つの特性(構造化スキーマ、フレキシブルな同化、動的調節)を表現した。
論文 参考訳(メタデータ) (2025-10-07T02:16:30Z) - Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory [0.5584627289325719]
大規模言語モデル(LLM)は、文脈的に一貫性のある応答を生成する際、顕著な進歩を示した。
しかし、それらの固定されたコンテキストウィンドウは、長時間のマルチセッション対話に対する一貫性を維持するための根本的な課題を生じさせる。
私たちはMem0というスケーラブルなメモリ中心アーキテクチャを導入し、進行中の会話から健全な情報を動的に抽出し、統合し、取得することでこの問題に対処します。
論文 参考訳(メタデータ) (2025-04-28T01:46:35Z) - Enhancing Long-Term Memory using Hierarchical Aggregate Tree for Retrieval Augmented Generation [1.4665304971699265]
HATは子どものノードから情報をカプセル化し、奥行き制御で広い範囲をカバーできる。
実験では、HATはベースラインコンテキストよりもダイアログコヒーレンスと要約品質を改善している。
論文 参考訳(メタデータ) (2024-06-10T09:29:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。