論文の概要: Engram Injection: A Study of Temporal Validity in Parametric Language-Model Memory

• arxiv url: http://arxiv.org/abs/2610.15882v1
• Date: Sun, 11 Oct 2026 19:58:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.2647
• Title: Engram Injection: A Study of Temporal Validity in Parametric Language-Model Memory
• Title（参考訳）: Engram Injection:パラメトリック言語モデル記憶における時間的妥当性の検討
• Abstract要約: ユーザが好みを変更したり、イベントが以前のものを置き換えると、格納された事実が有効になるのを止めることができる。 言語モデルがそのパラメータでこれらの変化を学習し、質問と現在時間のみから正しく答えられるかどうかを考察する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A stored fact may stop being valid when a user changes a preference or an event replaces an earlier one. We study whether a language model can learn these changes in its parameters and answer correctly from only a question and the current time. Engram Injection stores facts in LoRA adapters and supplies the clock through FiLM conditioning on a frozen Qwen2.5-3B-Instruct model. We compare it with additive clock conditioning, prompting with the full dated history, and retrieving four dated records. We train six matched adapters across three seeds after fixing a sampler that could admit test-age examples into training. The training audit reports no such examples among 127,760 evaluated training inputs. On 62 pairs of questions asked before and after an update, at an elapsed age of seven days excluded from training, both adapter methods answer zero pairs correctly under the primary blinded assistant review with order code 1 held fixed. Full-history prompting answers 59/62 pairs correctly, and retrieval answers 62/62. Separate experiments show that adapters can store facts and that removable memory units can support local deletion. Combining fact selection with time-based version selection remains unsuccessful. These results separate learning a fact from learning when to use it.
• Abstract（参考訳）: ユーザが好みを変更したり、イベントが以前のものを置き換えると、格納された事実が有効になるのを止めることができる。 言語モデルがそのパラメータでこれらの変化を学習し、質問と現在時間のみから正しく答えられるかどうかを考察する。 Engram InjectionはLoRAアダプタに事実を格納し、凍結したQwen2.5-3B-インストラクトモデルでFiLMコンディショニングを通じてクロックを供給する。 我々はこれを加法クロック条件と比較し、全日付履歴を抽出し、4つの日付レコードを検索する。 サンプルを修正したあと、マッチしたアダプタを3つの種に分けて6つ訓練しました。 トレーニング監査では127,760件のトレーニングインプットのうち,そのような例は報告されなかった。 更新前後に質問された62組の質問に対して、トレーニングから除外された7日間の経過時に、どちらのアダプタメソッドも、命令コード1を固定した一次盲目のアシスタントレビューの下で、ゼロペアに正しく答える。 正解は59/62対,正解は62/62であった。 個別の実験では、アダプタは事実を格納でき、取り外し可能なメモリユニットはローカル削除をサポートする。 事実選択と時間ベースのバージョン選択を組み合わせることは、まだ成功していない。 これらの結果は、事実をいつ使うかを学ぶことと区別する。

関連論文リスト

• RoutePrism: Tracing Construction Order Effects in Agent Memory [16.745093090677475]
  RoutePrismは、2つの処理順序で同じソースプールから2回メモリを構築する。 再注文によって取り消されたレコードが実際にタスク関連証拠であったかどうかの4条件の介入テストが一致した。
  論文  参考訳（メタデータ） (2026-09-28T02:37:57Z)
• What Should Data Teach? Moving Bottlenecks Across Circuit, Store, and Use [18.3334052811574]
  サーキットビューでは、計算の作成、必要なコンテンツの提供、利用可能なルートの選択という、3つの異なるボトルネックが明らかにされている。 350Mモデルの連続実験は、3つの介入を同じ事実に結びつける。
  論文  参考訳（メタデータ） (2026-09-26T22:40:36Z)
• When Should LLMs Trust Their Own Revisions? A Risk-Aware Study of Intrinsic Self-Correction [29.91953104203498]
  内在的な自己訂正は、新たな外部証拠を受け取らずに、言語モデルに自身の回答を改訂するよう要求する。 第2のパスはミスを回復できるが、すでに正しい回答を覆すこともできる。 このトレードオフを,BoolQ,GSM8K,Corr2Cause上で29個のオープンウェイトLLMに対して検討した。
  論文  参考訳（メタデータ） (2026-09-23T21:05:53Z)
• Critical-State RL: Diagnosing Trainable States for Multi-Turn Tool Use [54.30773141960395]
  マルチターンインタラクションにおけるトレーニング可能な状態を特定するために、Critical-State RLを導入する。 それぞれの報酬がタスク成功に対するアクションの効果を捉えているかどうか、参照ポリシーよりも改善できるかどうかを評価する。 Berkeley Function Calling Leaderboard (BFCL) v4の実験では、診断選択された州でのトレーニングと代替州でのトレーニングを比較している。
  論文  参考訳（メタデータ） (2026-09-21T17:57:20Z)
• Extractable Memorization From First Principles [66.10415626674103]
  一致した比較が厳密で校正された暗記の主張を可能にすることを示す。 我々は「抽出可能な記憶」を洗練し、有効な記憶のクレームとほぼ確実な生成を必要とする。
  論文  参考訳（メタデータ） (2026-07-14T11:31:36Z)
• Right Knowledge, Wrong Answer: Test-Time Steering for Temporal Fact Conflicts in Open-Weight Language Models [2.11832654407998]
  大規模な言語モデルは、時代遅れの事実と、より新しい上位の事実の両方をパラメータに格納することができるが、標準のプロンプトは依然として時代遅れの回答を引き出す可能性がある。 私たちはこの問題をPTC(Parametric Temporal Conflict)として定式化し、TAS(Tarator Steering)を導入します。 TASは、潜在的な競合を検出し、競合クリティカルな層を特定し、再トレーニングや外部検索なしに、隠れた状態を新しいファクト表現に向けて操る。
  論文  参考訳（メタデータ） (2026-06-18T21:56:18Z)
• Self-Verified Distillation: Your Language Model Is Secretly Its Own Synthetic Data Pipeline [56.53954182896384]
  大規模言語モデルのための簡単な訓練後改良アルゴリズムである自己検証蒸留を提案する。 自己検証蒸留(Self-Verified Distillation)は、未ラベルの種問に対する候補解を生成する。 プロンプトベースの自己検証を使用してフィルタリングし、結果の自己計算データセットをトレーニングする。 トレーニングデータ構築中に、より多くの候補世代をサンプリングし、より大きな検証予算を使用することで、高品質な自己計算データが得られることがわかった。
  論文  参考訳（メタデータ） (2026-05-20T17:26:10Z)
• TTA-Vid: Generalized Test-Time Adaptation for Video Reasoning [54.70019148172847]
  テスト時強化学習(Test-Time Reinforcement Learning)のパラダイムをビデオ言語データに活用することにより,事前学習されたモデルを明示的なラベルなしで,テスト時のビデオサンプルに適応させることができる。 ビデオアプローチのためのテスト時間適応(TTA-Vid)は、同時に動作する2つのコンポーネントを組み合わせる。 TTA-Vidは、様々なビデオ推論タスクで一貫した改善をもたらし、大規模データで訓練された最先端の手法より優れている。
  論文  参考訳（メタデータ） (2026-04-01T09:52:57Z)
• Correcting Suppressed Log-Probabilities in Language Models with Post-Transformer Adapters [0.0]
  ポストトランスフォーマーアダプタは、Qwen3-4B, 8B, 14Bで31個のイデオロギーを識別する事実の抑制を補正する。 アダプタは15のトレーニング事実をすべて記憶し、スケール毎に5つのランダムスプリットにわたる16のホールドアウト事実の11～39%に一般化する。
  論文  参考訳（メタデータ） (2026-03-25T16:27:43Z)
• Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning [109.7767515627765]
  本稿では,関係抽出のための新たな半パラメトリックなプロンプトチューニング手法を提案する。 我々のモデルは、トレーニング中に重みに格納された知識を通して関係を推測する。 本手法は,標準的な教師付き設定と少数ショット設定の両方で最先端を実現することができる。
  論文  参考訳（メタデータ） (2022-05-04T23:38:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。