論文の概要: Imprint Reader: From Weight-Update Readout to Behavioral Intervention

• arxiv url: http://arxiv.org/abs/2609.35261v1
• Date: Mon, 28 Sep 2026 14:21:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 07:10:12.949184
• Title: Imprint Reader: From Weight-Update Readout to Behavioral Intervention
• Title（参考訳）: Imprint Reader: ウェイトアップデートの読み出しから行動介入まで
• Abstract要約: textitSemantic Mount-and-Read Tuning (SaRT) でトレーニングされたモデルである textitImprint Reader を導入する。 ホールドアウトされたアップデートで、共同リーダーは審査ベースのPass@100ドル、知識は2%ドル、行動は16%ドルに達した。
• 参考スコア（独自算出の注目度）: 24.112799091528313
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As language models take a growing role in AI development, a natural aspiration is for them to reflect on their own learning process, as humans do, and use that reflection to improve themselves. At the same time, these models have an advantage that human learners lack, since training leaves parameter-level traces that can, in principle, be inspected directly. However, current models cannot decode these traces into an explicit account of what they have learned. To this end, we introduce the \textit{Imprint Reader}, a model trained with \textit{Semantic Mount-and-Read Tuning} (SaRT) to describe frozen weight updates. SMaRT mounts each update onto the Reader and uses an anchor-free meta-query to elicit a natural-language description, while no-change and random-perturbation controls discourage unsupported claims. On held-out updates, the joint Reader reaches judge-based Pass@100 of $2\%$ for knowledge and $16\%$ for behavior. These results demonstrate the feasibility of natural-language readout while pointing to reliability across updates as the next step. Beyond free-form generation, the Reader provides a differentiable proxy for the gap between a specified target behavior and a candidate weight update. Its coordinate-aligned gradients support intervention through MetaEdit. At a $0.5\%$ pruning rate, Reader-guided selection raises measured harmful-prompt refusal from $57.9\%$ to $64.1\%$ under a safety-maintenance target. Using behavior descriptions without target-task training data, MetaEdit increases the frequency of backtracking and sub-goal expressions in mathematical reasoning traces and raises BFCL Overall from $41.69\%$ to $44.60\%$.
• Abstract（参考訳）: 言語モデルがAI開発において役割を担っているため、自然の願望は、人間がしているように、自身の学習プロセスに反映し、そのリフレクションを使って自分自身を改善することである。 同時に、これらのモデルは、トレーニングがパラメータレベルのトレースを残し、原則として、直接検査できるので、人間の学習者が欠落する利点がある。 しかし、現在のモデルではこれらのトレースを、彼らが学んだことの明示的な説明にデコードすることはできない。 この目的のために、凍結重量更新を記述するために、 \textit{Semantic Mount-and-Read Tuning} (SaRT) でトレーニングされたモデルである \textit{Imprint Reader} を紹介する。 SMaRTは各アップデートをReaderにマウントし、アンカーフリーのメタクエリを使用して自然言語記述を発行する。 ホールドアウトされたアップデートで、共同リーダーは審査ベースのPass@100(知識は$2\%、行動は$16\%)に到達した。 これらの結果は、更新間の信頼性を次のステップとして挙げながら、自然言語読み出しの実現可能性を示している。 フリーフォーム生成以外にも、Readerは、指定されたターゲット動作と候補ウェイト更新の間のギャップを、差別化可能なプロキシを提供する。 座標整列勾配はMetaEditによる介入をサポートする。 0.5 %のプルーニングレートで、読者誘導選択は、安全維持目標の下で、有害なプロンプトの拒絶を57.9 %から6.4.1 %に引き上げる。 ターゲットタスクのトレーニングデータを持たない振る舞い記述を使用することで、MetaEditは数学的推論トレースにおけるバックトラックやサブゴール表現の頻度を高め、BFCLを41.69\%から44.60\%に引き上げる。

関連論文リスト

• Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors [0.0]
  インジェクション攻撃から言語モデルを保護する方法を示す。 モデルを保護するためにセマンティックオーバーレイと呼ばれるテクニックを使用します。 スパンを"実行不可能"とマークしたオーバーレイは、幅広いプロンプトインジェクションのクラスに対して防御する。
  論文  参考訳（メタデータ） (2026-08-24T22:26:58Z)
• Perfect Demo Makes Poor Teacher: Learning Robust Alignment from Critical Motion Segments [53.85970147743299]
  専門家によるデモンストレーションは、ロボット模倣学習における金の標準であると広く考えられている。 しかし、挿入、積み重ね、アライメントなどのきめ細かい操作のために、私たちは直感的な失敗モードを発見しました。 視覚言語モデルとアクションエキスパートをブリッジする,コンパクトな動的特徴であるSTAIRを導入する。
  論文  参考訳（メタデータ） (2026-06-14T04:15:29Z)
• Scaling Self-Evolving Agents via Parametric Memory [69.96398842169002]
  既存のメモリ拡張LDMエージェントは、過去の経験をプロンプト空間にのみ保存する。 自己進化型パラメトリックメモリフレームワークである textttTMEM を導入する。 textttTMEMは、様々なモデルスケールで要約ベースのベースラインと検索ベースのベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-06-03T07:18:31Z)
• Adversarial Training for Process Reward Models [47.92183495904245]
  そこでは、ジェネレータ(G$)が、PRM(R$)を欺くための推論エラーを生成することを学習する。 この相互作用は、R$に対して徐々に強みをもたらし、手動のステップレベルラベルを必要とせずに、その堅牢性を改善し、新しいエラーを一般化する。
  論文  参考訳（メタデータ） (2025-11-28T05:32:01Z)
• Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers [90.50039419576807]
  RLVR(Reinforcement Learning with Verifiable Rewards)は、人為的なラベル付けを避けるために、自動検証に対するポリシーを訓練する。 認証ハッキングの脆弱性を軽減するため、多くのRLVRシステムはトレーニング中にバイナリ$0,1$の報酬を破棄する。 この選択にはコストがかかる:textitfalse negatives(正しい回答、FNを拒絶)とtextitfalse positives(間違った回答、FPを受け入れる)を導入する。
  論文  参考訳（メタデータ） (2025-10-01T13:56:44Z)
• Can Gradient Descent Simulate Prompting? [56.60154660021178]
  勾配は新しい情報に対する条件付けの効果を更新する。 勾配降下訓練は、引き起こされたモデルパフォーマンスのいくつか(時には全て)を回復する。 長文モデリングのための新しい道のりを示唆する。
  論文  参考訳（メタデータ） (2025-06-26T04:06:20Z)
• Robot Instance Segmentation with Few Annotations for Grasping [10.005879464111915]
  セミスーパーバイザードラーニング(SSL)とラーニング・スルー・インタラクション(LTI)を組み合わせた新しいフレームワークを提案する。 提案手法は,自己スーパービジョンによる注釈付きデータを利用して,ラベルのない静止画像から生成された擬似シーケンスを用いて時間的コンテキストを組み込む。 本手法をARMBenchmix-object-toteとOCIDの2つのベンチマークで検証し,最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-07-01T13:58:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。