論文の概要: Evaluating Compressed Memory: Dependence, Utility, and Content Benefit

• arxiv url: http://arxiv.org/abs/2610.19373v1
• Date: Wed, 14 Oct 2026 01:17:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.880911
• Title: Evaluating Compressed Memory: Dependence, Utility, and Content Benefit
• Title（参考訳）: 圧縮メモリの評価:依存性、ユーティリティ、コンテンツベネフィット
• Abstract要約: メモリベクトルをゼロに置き換えることで、トレーニングされたモデルのスコアを下げることができる。 ゼロ化と個別に訓練されたモデルを組み合わせることで、格納されたテキストにアクセスしたり、すべてのドキュメントに対して同じ定数入力を受け取ることができません。
• 参考スコア（独自算出の注目度）: 11.866179260700669
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Does a language model answer better because its compressed memory contains useful document information? Replacing memory vectors with zeros can lower a trained model's score without showing that it outperforms a model trained without memory. We combine zeroing with separately trained models that cannot access stored text or receive the same constant input for every document. Across nine systems, some models rely on memory yet perform worse than the trained alternative. For example, in experiments that predict states in generated stories, zeroing memory worsens a model's prediction loss, yet a model trained without memory achieves lower loss than the original model with intact memory. On TriviaQA, giving xRAG memory from another question's passage raises F1, which measures word overlap with accepted answers, from 19.38 without a document to 24.78. Its effect on how often outputs contain an accepted answer is statistically uncertain. The question's retrieved passage scores higher still (29.88 F1). Thus a gain over no document alone does not establish that the gain requires the question's passage. Evaluations must therefore specify the comparison model, absolute performance, and generation and scoring conditions.
• Abstract（参考訳）: 圧縮されたメモリには有用な文書情報が含まれているので、言語モデルの方がよいのか? メモリベクターをゼロに置き換えることで、トレーニングされたモデルのスコアを下げることができる。 ゼロ化と個別に訓練されたモデルを組み合わせることで、格納されたテキストにアクセスしたり、すべてのドキュメントに対して同じ定数入力を受け取ることができません。 9つのシステムにまたがって、一部のモデルはメモリに依存しているが、訓練された代替システムよりも性能が劣る。 例えば、生成されたストーリーの状態を予測する実験では、ゼロ化メモリはモデルの予測損失を悪化させるが、メモリなしで訓練されたモデルは、無傷のメモリを持つ元のモデルよりも損失を小さくする。 TriviaQAでは、他の質問のパスからxRAGメモリを与えるとF1が上昇し、文書なしで19.38から24.78に単語が重なり合う。 そのアウトプットの頻度に対する影響は統計的に不確実である。 解答パスのスコアは、まだ高い(29.88 F1)。 したがって、文書だけでの利得は、その利得が質問の通過を必要とすることを証明しない。 したがって、評価は比較モデル、絶対性能、生成およびスコアリング条件を指定する必要がある。

関連論文リスト

• Memory Canonicalization: A Framework and Benchmark for Cross-Model Drift in Persistent LLM Memory [0.0]
  本稿では,生のメモリオブジェクトを明示的で構造的に曖昧な標準形式に書き換える書き込み時パイプラインを提案する。 完全正準化メモリに対するクロスモデル感情整合性の改善は, 生メモリに対する不整合性の改善がみられた。
  論文  参考訳（メタデータ） (2026-10-04T11:09:27Z)
• What It Costs to Compose, Rebuild, and Correct Precomputed Memory [0.0]
  言語モデルは、あらかじめ計算されたメモリ、モデルが保存した素材の読み出しから答えることができる。 本論文は、その実践が正しさと失敗する条件をどこに保存するかを図示する。
  論文  参考訳（メタデータ） (2026-08-31T11:49:42Z)
• Echo-Memory: A Controlled Study of Memory in Action World Models [58.77172260403133]
  本研究では,行動条件付き世界モデルにおける記憶機構の制御に関する研究を行う。 既存のメモリ設計と比較するのは難しいのは、ゲインにはバックボーン、トレーニング、検索、評価の違いが絡み合っているからである。 我々はEcho-Memoryを使ってアクション・ツー・ビデオのインタフェースを修正し、生成元によって履歴が保存され読み込まれるかだけを変える。
  論文  参考訳（メタデータ） (2026-06-08T17:54:10Z)
• Memory Grafting: Scaling Language Model Pre-training via Offline Conditional Memory [65.39827296429527]
  条件付きメモリのスケーリングは、言語モデルのキャパシティを向上する有望な方法である。 Engramのような既存の方法は、事前トレーニング中にスクラッチから大きなメモリテーブルを学習する。 本研究では, グラフトモデルから凍結した隠蔽状態を条件n-gramメモリとして利用する条件記憶スケーリング手法であるメモリグラフトを提案する。
  論文  参考訳（メタデータ） (2026-05-20T09:35:04Z)
• Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
  本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。 最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
  論文  参考訳（メタデータ） (2026-05-14T20:15:22Z)
• From Unstructured Recall to Schema-Grounded Memory: Reliable AI Memory via Iterative, Schema-Aware Extraction [39.146761527401424]
  永続的なAIメモリは、しばしば検索問題に還元される。 本稿では、信頼性の高い外部AIメモリはスキーマ基底のハーネスでなければならないと論じる。 本稿では、メモリの取り込みをオブジェクト検出、フィールド検出、フィールド値抽出に分解する反復型スキーマ対応書き込みパスを提案する。
  論文  参考訳（メタデータ） (2026-04-30T14:14:02Z)
• GradMem: Learning to Write Context into Memory with Test-Time Gradient Descent [10.16391634040356]
  サンプルごとのテスト時間最適化を通じてコンテキストをメモリに書き込むGradMemを紹介します。 GradMemは、モデルレベルの自己教師付きコンテキスト再構築損失を明示的に最適化する。 bAbIやSQuADなど、自然言語タスクの競合的な結果が得られる。
  論文  参考訳（メタデータ） (2026-03-14T10:17:33Z)
• Lift Yourself Up: Retrieval-augmented Text Generation with Self Memory [72.36736686941671]
  本稿では,検索拡張生成モデルを改善するための新しいフレームワーク,Selfmemを提案する。 Selfmemは、検索拡張ジェネレータを反復的に使用して、無制限のメモリプールを生成し、メモリセレクタを使用して、続く生成ラウンドの1つの出力をメモリとして選択する。 我々は,3つの異なるテキスト生成タスクにおける自己メモの有効性を評価する。
  論文  参考訳（メタデータ） (2023-05-03T21:40:54Z)
• A Model or 603 Exemplars: Towards Memory-Efficient Class-Incremental Learning [56.450090618578]
  CIL(Class-Incremental Learning)は、この要件を満たすために、限られたメモリサイズでモデルをトレーニングすることを目的としている。 モデルサイズを総予算にカウントし,メモリサイズに整合する手法を比較すると,保存モデルは常に機能しないことを示す。 本稿では,メモリ効率のよい拡張可能なMOdelのための MEMO という,シンプルで効果的なベースラインを提案する。
  論文  参考訳（メタデータ） (2022-05-26T08:24:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。