論文の概要: What Survives When Activation Steering Is Used as Memory

• arxiv url: http://arxiv.org/abs/2610.14958v1
• Date: Sat, 10 Oct 2026 14:31:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.135841
• Title: What Survives When Activation Steering Is Used as Memory
• Title（参考訳）: アクティベーションステアリングがメモリとして使われるときの生き残り
• Abstract要約: アクティベーションステアリングは、最近スキルの記憶として使われている。 ユーザーに関する条件や好みは、代わりにテキストが必要であると仮定される。 凍結LDMの横で、トレーニング不要のアクティベーションメモリを用いて、この仮定をテストする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Activation steering has recently been used as a memory for skills: past experiences of an agent are stored as steering vectors and retrieved later. Facts and preferences about the user are assumed to need text instead. We test that assumption with a training-free activation memory beside a frozen LLM. The change an experience causes in late-layer states is stored as a shift, filed under a whitened key for the conversation's gist, and added back in a later session only when the gist matches. We argue that such a shift is a fixed average of an effect that attention, in context, recomputes for every question, so only question-independent content can survive. In a pre-registered study on Qwen3.5-2B and 9B, with judges from four model families, the memory is selective (about 98% of unrelated replies are unchanged), but facts are stored as the word to say, in the last layers only, and are almost never used (at most 15% clean use, against 96-98% in context). Leanings transfer only in a narrow strength window. Most strikingly, the reference subtracted when writing a preference decides whether its concept or its direction survives: unless the opposite is subtracted, a stored dislike is recalled as a like.
• Abstract（参考訳）: エージェントの過去の経験は、ステアリングベクターとして保存され、後で取得される。 ユーザーに関する条件や好みは、代わりにテキストが必要であると仮定される。 凍結LDMの横で、トレーニング不要のアクティベーションメモリを用いて、この仮定をテストする。 後層状態における経験が引き起こす変化は、シフトとして格納され、会話のギストのホワイトキーの下に申請され、ギストが一致する場合にのみ後続のセッションで追加される。 このようなシフトは、すべての質問に対して注意が再計算される効果の固定平均であり、疑問に依存しないコンテンツのみが生き残ることができる、と我々は主張する。 Qwen3.5-2B と Qwen3.5-2B と 9B の事前登録調査では、4 つのモデルファミリーの審査員が選択的(無関係な応答の約98%は変更されていない)であるが、事実は最後のレイヤのみに格納され、ほとんど使用されない(文脈において 96-98% に対して、15% がクリーン使用されている)。 リーンは狭い強みのウィンドウでのみ転送される。 もっとも印象的なことに、好みを書く際に引かれる参照は、その概念またはその方向が生き残るかどうかを判断する。

関連論文リスト

• Stale, Misattributed, or Late: Where Personal Memory Fails Before Generation [1.2891210250935148]
  時間的妥当性は、主に私たちの設定におけるメモリ構築の特性である。 失敗したマージは古い値をアクティブに残し、偽マージは静かに現在の値を削除します。 2つの凍結ランゲージモデルが生成したテキストでプロンプトエラーを再現する。
  論文  参考訳（メタデータ） (2026-10-07T15:37:12Z)
• Whose Memory Is It? Scope-Aware Commit Rules for Long-Term LLM Memory [0.7734726150561088]
  永続記憶により、エージェントは会話を通して経験を持てるが、ローカルな推論ミスを耐久性のあるものに変える。 我々は,この信号を保存するコミットルールであるCASKを導入し,共有世界の事実が耐久性のあるメモリに入るようにした。 制御された長い会話の競合やツールエージェントのトレースは、この設計がメモリの挿入を改善し、後続の回答を一時的に汚染しないようにしていることを示している。
  論文  参考訳（メタデータ） (2026-10-06T19:05:31Z)
• Beyond the Shadows of Plato's Cave: Evaluating False Memory in Autonomous Agents via Counterfactual Reasoning [90.354889777866]
  我々は,素早い相関関係,環境変化,知識衝突から生じるテクスタイス・メモリを定式化する。 本稿では,反実的推論に基づくエージェント信念の進化を通じて,虚偽記憶を評価する学習自由フレームワークFAMEを提案する。
  論文  参考訳（メタデータ） (2026-09-30T10:35:41Z)
• CAVE-Mem: Boundary-Aware Experience Validation for Memory Search [5.417321678519072]
  そこで我々はCAVE-Memを提案する。CAVE-Memは、経験を型付き介入演算子として表現する、トレーニング不要のフレームワークである。 CAVE-Memはまずベースメモリ検索の回答を取得し、オペレータが現在の基板と一致する場合にのみ、オペレーターがそれを変更できるようにする。 長期の会話記憶、マルチホップ質問応答、長期にわたる物語推論実験は、関連性のみの経験の再利用よりも一貫した利得を示す。
  論文  参考訳（メタデータ） (2026-09-23T05:49:58Z)
• Voice Memory for Agentic Speech Recognition [66.69623133635868]
  エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。 同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。 10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
  論文  参考訳（メタデータ） (2026-07-29T02:42:56Z)
• Is One Score Enough? Rethinking the Evaluation of Sequentially Evolving LLM Memory [50.857546269660276]
  本稿では,大規模言語モデル(LLM)メモリを逐次進化させる診断評価フレームワークであるSeqMem-Evalを紹介する。 最終的なパフォーマンスのみに焦点を当てるのではなく、SeqMem-Evalは、シーケンシャル推論において、メモリ状態がどのように進化し、一般化し、エクスペリエンスを集約し、有用な情報を保持するかを評価する。
  論文  参考訳（メタデータ） (2026-05-14T20:15:22Z)
• Hidden in Memory: Sleeper Memory Poisoning in LLM Agents [39.7102258719441]
  本研究は, 睡眠時記憶障害(sleeper memory poisoning)について検討する。これは, 相手が外部コンテキストを操作して, ユーザに関する偽造記憶を記憶させる, 遅延攻撃である。 従来のプロンプトインジェクションとは異なり、攻撃は休眠状態のままで、後続の会話をまたいで再起動することができる。 GPT-5.5では99.8%、Kim-K2.6では95%の有毒な記憶が加えられた。
  論文  参考訳（メタデータ） (2026-05-14T19:06:10Z)
• MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks [55.145729491377374]
  メモリを持つエージェントの既存の評価は、通常、単独で記憶と行動を評価する。 マルチセッションメモリ-エージェント環境ループにおけるエージェントメモリのベンチマークのための統合評価ジムであるMemoryArenaを紹介する。 MemoryArenaは、Webナビゲーション、優先制約付き計画、プログレッシブ情報検索、シーケンシャルなフォーマルな推論を含む評価をサポートする。
  論文  参考訳（メタデータ） (2026-02-18T09:49:14Z)
• The Illusion of Forgetting: Attack Unlearned Diffusion via Initial Latent Variable Optimization [51.835894707552946]
  非学習型防衛は拡散モデル(DM)からNot-Safe-For-Work概念を浄化すると主張している 本研究では,未学習が言語記号と基礎知識のマッピングを部分的に破壊し,休眠記憶として残り続けることを示す。 IVOは、壊れたマッピングを再構築することで、これらの休眠記憶を再活性化する簡潔で強力な攻撃フレームワークである。
  論文  参考訳（メタデータ） (2026-01-30T02:39:51Z)
• Continual Learning via Sparse Memory Finetuning [58.163704181154834]
  本稿では,スパースパラメータの更新が大惨事な忘れをせずに学習を可能にするかどうかを考察する。 事前学習データの使用に関する新しい知識によって活性化されるメモリスロットのみを更新することにより、新しい知識とモデルの既存の能力との干渉を減らすことができる。 スパースメモリの微調整は、忘れることを大幅に減らしながら、新しい知識を学習することを発見した。
  論文  参考訳（メタデータ） (2025-10-16T19:44:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。