論文の概要: Towards Version-aware Operations and Transaction Memories for Multi-layer MeMo

• arxiv url: http://arxiv.org/abs/2606.24040v1
• Date: Tue, 23 Jun 2026 00:53:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.718056
• Title: Towards Version-aware Operations and Transaction Memories for Multi-layer MeMo
• Title（参考訳）: 多層MeMo用バージョンアウェア動作とトランザクションメモリの実現に向けて
• Authors: Peiran Li,
• Abstract要約: MeMoは明示的な多層相関行列メモリを持つ言語モデルを提案する。 本稿では,そのような記憶が,知識の変化に伴う再訓練の必要性をいかに軽減するかを問う。
• 参考スコア（独自算出の注目度）: 2.5645962152488093
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: MeMo proposes language models with explicit multi-layer correlation matrix memories (CMMs), where memorization, retrieval, and forgetting are architectural operations. This paper asks how such memories can reduce the need for retraining when knowledge changes. For changes expressible as MeMo memory associations, the model's accessible knowledge can be updated by editing explicit memories rather than retraining the whole model. We propose a version-aware operation layer in which high-level operations such as replace, obsolete, keep-history, rollback, and trace are compiled into MeMo-native primitive calls over sequences and tokens. The key observation is that a version-aware operation is rarely a single MeMo association. It is an ordered transaction of primitive edits, for example forgetting one sequence-token chain, memorizing another, preserving a historical chain, and recording an inverse program. The framework introduces two auxiliary CMMs: a Version CMM (V-CMM) for mapping version transitions to transaction handles, and a Transaction CMM (T-CMM) for storing reusable change contents and inverse programs. It supports both direct sequence-level edits and structured diff-level inputs, and outlines an evaluation route for update success, rollback, traceability, locality, and transaction reuse.
• Abstract（参考訳）: MeMoは、暗記、検索、忘れをアーキテクチャ操作とする明示的な多層相関行列メモリ(CMM)を持つ言語モデルを提案する。 本稿では,そのような記憶が,知識の変化に伴う再訓練の必要性をいかに軽減するかを問う。 MeMoメモリアソシエーションとして表現可能な変更に対しては、モデル全体をトレーニングするのではなく、明示的なメモリを編集することで、モデルのアクセス可能な知識を更新することができる。 本稿では,置換,陳腐化,維持履歴,ロールバック,トレースといった高レベルな操作をMeMoネイティブなプリミティブコールにコンパイルするバージョンアウェア操作層を提案する。 鍵となる観察は、バージョン認識操作が単一のMeMoアソシエーションであることはめったにないことである。 これはプリミティブな編集の順序付けられたトランザクションであり、例えば、1つのシーケントチェーンを忘れ、別のシーケントチェーンを記憶し、履歴チェーンを保存し、逆プログラムを記録する。 このフレームワークでは、バージョン移行をトランザクションハンドルにマッピングするVersion CMM(V-CMM)と、再利用可能な変更内容と逆プログラムを格納するTransaction CMM(T-CMM)という2つの補助的なCMMが導入されている。 直接シーケンスレベルの編集と構造化された差分レベルの入力の両方をサポートし、更新成功、ロールバック、トレーサビリティ、ローカリティ、トランザクション再利用の評価ルートを概説する。

関連論文リスト

• MeMo: Memory as a Model [96.54179792557863]
  大規模言語モデル(LLM)は、幅広いタスクにわたって強力なパフォーマンスを達成するが、その後の更新まで事前訓練後に凍結される。 MeMoは、LLMパラメータを変更せずに、新しい知識を専用のメモリモデルにエンコードするモジュラーフレームワークである。 MeMoは、さまざまな設定にまたがる既存のメソッドと比較して、強力なパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-05-14T17:51:34Z)
• MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution [52.29303869050117]
  メモリ拡張LDMエージェントは、長期の相互作用をサポートするために外部メモリバンクを保持する。 MemMAはプラグアンドプレイのマルチエージェントフレームワークで、前方と後方の両方の経路に沿ってメモリサイクルを調整する。
  論文  参考訳（メタデータ） (2026-03-19T10:15:59Z)
• MEMOIR: Lifelong Model Editing with Minimal Overwrite and Informed Retention for LLMs [76.28901550926021]
  寿命の長いモデル編集のための既存の方法は、妥協の一般化、過去の編集の妨害、長い編集シーケンスへのスケールの失敗である。 我々は,学習済みモデルのコア能力を保ちながら,残メモリを介して知識を注入する,新しいスケーラブルなフレームワークMEMOIRを提案する。 MeMOIRは信頼性、一般化、ローカリティのメトリクスにまたがる最先端のパフォーマンスを実現し、最小限の忘れ物で数千のシーケンシャルな編集にスケールする。
  論文  参考訳（メタデータ） (2025-06-09T16:16:42Z)
• HMT: Hierarchical Memory Transformer for Efficient Long Context Language Processing [33.720656946186885]
  Hierarchical Memory Transformer (HMT) はモデル長文処理を容易にする新しいフレームワークである。 HMTは、既存のモデルの長文処理能力を一貫して改善する。
  論文  参考訳（メタデータ） (2024-05-09T19:32:49Z)
• Continual Referring Expression Comprehension via Dual Modular Memorization [133.46886428655426]
  Referring Expression (REC) は、自然言語で記述された対象のイメージ領域をローカライズすることを目的としている。 既存のRECアルゴリズムは、モデルへのデータ供給のトレーニングを前もって行うと強く仮定する。 本稿では、入ってくるタスクのストリーム上でモデルが学習するRECの新しい設定である連続参照表現(CREC)を提案する。 学習済みの知識を忘れずに,スクラッチから繰り返し再学習することなく,逐次的タスクのモデルを継続的に改善するために,デュアルモジュール記憶法という効果的なベースライン手法を提案する。
  論文  参考訳（メタデータ） (2023-11-25T02:58:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。