論文の概要: TF-Engram: A Train-Free Engram with SSD-Backed Memory for Large Language Models

• arxiv url: http://arxiv.org/abs/2607.07388v1
• Date: Wed, 08 Jul 2026 13:19:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.391678
• Title: TF-Engram: A Train-Free Engram with SSD-Backed Memory for Large Language Models
• Title（参考訳）: TF-Engram:大規模言語モデルのためのSSDベースのメモリを備えたトレインフリーなエングラム
• Abstract要約: TF-Engramは、語句固有のセマンティックメモリを外部コーパスからオフラインで構築する、列車なしのEngramシステムである。 システム評価の結果,TF-Engramテーブルは適度なオフラインコストで構築でき,SSDベースのストレージはGPUメモリの需要を大幅に削減し,予測プリフェッチは外部メモリアクセスによるスループット損失の多くを回復することがわかった。
• 参考スコア（独自算出の注目度）: 3.914493928069677
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Large Language Models (LLMs) store factual knowledge and domain-specific patterns implicitly in dense Transformer parameters, making knowledge expansion costly through pretraining, fine-tuning, retrieval augmentation, or longer contexts. Engram-style memory offers a compact hidden-state injection pathway, but existing GPU-resident designs often rely on hash-based compression, causing unrelated phrases to collide in shared slots and weakening phrase-level semantic fidelity. We present TF-Engram, a train-free Engram system that constructs phrase-specific semantic memory offline from external corpora, stores large memory tables across a GPU--DRAM--SSD hierarchy, and uses Early-Exit Guided Predictive Prefetching to hide external-memory latency during autoregressive decoding. On Qwen3-0.6B, TF-Engram improves the average downstream score from 57.6 to 59.4, outperforming both the frozen backbone and a parameter-matched LoRA baseline. System evaluation shows that large TF-Engram tables can be built with moderate offline cost, SSD-backed storage substantially reduces GPU memory demand, and predictive prefetching recovers much of the throughput loss caused by external memory access. These results demonstrate that static phrase memory can be integrated into LLM inference as a scalable, train-free, and low-overhead system component.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、事実的知識とドメイン固有のパターンを密なトランスフォーマーパラメータに暗黙的に格納し、事前学習、微調整、検索拡張、あるいはより長いコンテキストを通じて知識を拡張する。 Engramスタイルのメモリは、コンパクトな隠れ状態注入経路を提供するが、既存のGPUレジデント設計は、ハッシュベースの圧縮に依存しており、無関係なフレーズが共有スロットで衝突し、フレーズレベルのセマンティックフィリティが低下する。 TF-Engramは,外部コーパスから文節固有のセマンティックメモリをオフラインに構築し,GPU-DRAM-SSD階層にまたがって大きなメモリテーブルを格納し,自動回帰復号時に外部遅延を隠蔽するためにEarly-Exit Guided Prefetchingを使用する。 Qwen3-0.6Bでは、TF-Engramは平均ダウンストリームスコアを57.6から59.4に改善し、凍結したバックボーンとパラメータマッチングされたLORAベースラインの両方を上回っている。 システム評価の結果,大規模なTF-Engramテーブルは適度なオフラインコストで構築可能であること,SSDベースのストレージはGPUメモリの需要を大幅に低減し,予測プリフェッチは外部メモリアクセスによるスループット損失の多くを回復することがわかった。 これらの結果は,静的なフレーズメモリを,スケーラブルでトレインフリーで低オーバヘッドシステムコンポーネントとしてLLM推論に統合できることを実証している。

関連論文リスト

• Lngram v2: Latent N-Gram Memory with Interpretable Discrete Representations [8.050927352582827]
  トランスフォーマーにはネイティブなルックアップ機構がなく、ローカルな静的パターンを認識して再利用するためには、繰り返し密集した計算が必要である。 Lngram v1は、離散的なn-gramアドレッシングを通じてトークン化非依存の条件記憶を導入する。 Lngram v2はルート数、メモリ次元、バックボーン幅を分離する。
  論文  参考訳（メタデータ） (2026-09-03T06:33:23Z)
• Dual-Grained Agent Memory and Shapley Context Attribution for Multimodal Agentic Learner [55.80248281761638]
  マルチモーダルな大言語モデル (MLLM) は、科学的および数学的推論において、印象的な認識を提供する。 本稿では,DG-Memを提案する。DG-Memは,トレーニングタイムのロールアウトから一度構築した外部記憶メモリと,テスト時に読み取り専用に相談することで,凍結したMLLMを拡張可能なエージェントメモリフレームワークである。
  論文  参考訳（メタデータ） (2026-08-24T13:56:01Z)
• Lngram: N-gram Conditional Memory in Latent Space [7.279732869251628]
  隠れ状態から直接離散シンボルを学習する潜在空間条件記憶モジュールを提案する。 Lngramは、長文言語モデリングにおいてTransformerとEngramのベースラインを上回ります。 LogitLensとCKAによる分析では、Lngramによって予測関連情報が早く現れることが示唆されている。
  論文  参考訳（メタデータ） (2026-05-24T04:59:11Z)
• Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory [65.39827296429527]
  条件付きメモリのスケーリングは、言語モデルのキャパシティを向上する有望な方法である。 Engramのような既存の方法は、事前トレーニング中にスクラッチから大きなメモリテーブルを学習する。 本研究では, グラフトモデルから凍結した隠蔽状態を条件n-gramメモリとして利用する条件記憶スケーリング手法であるメモリグラフトを提案する。
  論文  参考訳（メタデータ） (2026-05-20T09:35:04Z)
• MemGym: a Long-Horizon Memory Environment for LLM Agents [69.79226770543049]
  本稿では,エージェントメモリのベンチマークであるMemGymを紹介する。 MemGymは、メモリパフォーマンスを推論、検索、ツール使用能力から切り離すメモリアイソレーションスコアを報告している。 MEMGYM-CODEQAとMEMGYM-DRの合成パイプラインは、長さ制御可能であり、各ステージでアブレーションを検証可能であり、下流のシナリオと密に整合している。
  論文  参考訳（メタデータ） (2026-05-20T07:25:33Z)
• Does Engram Do Memory Retrieval in Autoregressive Image Generation? [50.31813662801864]
  本研究では,Engramモジュールを2次元空間的$n$-gramハッシュ,ゲート融合,KV-cache互換インクリメンタル推論で視覚に適応させる。 ゲート・クランプ・スイープは、エングラムの経路を完全に無効にすることは破滅的であることを示している。 ドナープローブ実験により、一致した、逆数的な、あるいはランダムな同一クラスの例にハッシュ入力を交換すると、統計的に区別不能な次トーケン分布が生じることが示された。
  論文  参考訳（メタデータ） (2026-05-13T08:40:46Z)
• From Verbatim to Gist: Distilling Pyramidal Multimodal Memory via Semantic Information Bottleneck for Long-Horizon Video Agents [78.30630000529133]
  本稿ではファジィトレース理論に基づくピラミッド型マルチモーダルメモリアーキテクチャMM-Memを提案する。 MM-Memメモリは階層的に感覚バッファ、エピソードストリーム、シンボリックに構造する。 実験により、MM-Memがオフラインタスクとストリーミングタスクの両方で有効であることが確認された。
  論文  参考訳（メタデータ） (2026-03-02T05:12:45Z)
• RAM-Net: Expressive Linear Attention with Selectively Addressable Memory [11.262593123857995]
  RAM-Netは、完全な注意力の表現能力と線形モデルのメモリ効率のギャップを埋めるために設計された新しいアーキテクチャである。 RAM-Netのコアは、明示的なアドレスとして機能する高次元スパースベクトルに入力し、モデルが巨大なメモリ状態に選択的にアクセスできるようにする。
  論文  参考訳（メタデータ） (2026-02-12T13:55:29Z)
• Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models [42.816060150754645]
  我々は,O(1)ルックアップのための古典的な$N$-gram埋め込みを近代化するモジュールであるEngramを介してインスタンス化した,相補的空間軸として条件記憶を導入する。 我々はEngramを27Bパラメータに拡張し、厳密なアイソパラメータとアイソFLOPs MoEベースラインよりも優れた性能を実現する。 我々は,次世代スパースモデルにおいて,条件記憶を必要不可欠なモデリングプリミティブとして想定する。
  論文  参考訳（メタデータ） (2026-01-12T09:54:49Z)
• MemOS: A Memory OS for AI System [116.87568350346537]
  大規模言語モデル(LLM)は、人工知能(AGI)にとって不可欠な基盤となっている。 既存のモデルは、主に静的パラメータと短命なコンテキスト状態に依存しており、ユーザの好みを追跡したり、長い期間にわたって知識を更新する能力を制限する。 MemOSはメモリを管理可能なシステムリソースとして扱うメモリオペレーティングシステムである。
  論文  参考訳（メタデータ） (2025-07-04T17:21:46Z)
• R$^3$Mem: Bridging Memory Retention and Retrieval via Reversible Compression [24.825945729508682]
  情報保持と検索の両方を最適化するメモリネットワークであるR$3$Memを提案する。 R$3$Memは、仮想メモリトークンを使用して無限に長い履歴を圧縮およびエンコードし、階層的な圧縮戦略によってさらに強化される。 実験により,長文言語モデリングおよび検索強化生成タスクにおいて,メモリ設計が最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2025-02-21T21:39:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。