論文の概要: Commutator Memory: Sparse, Path-Local Reading and Steering in Language Models

• arxiv url: http://arxiv.org/abs/2609.34348v1
• Date: Mon, 28 Sep 2026 05:23:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 21:34:56.661515
• Title: Commutator Memory: Sparse, Path-Local Reading and Steering in Language Models
• Title（参考訳）: Commutator Memory: 言語モデルにおけるスパース、パスローカ読み込み、ステアリング
• Abstract要約: 2つのデータソースで言語モデルをトレーニングすることは、同じデータと全露出であっても、異なる重みを与えます。 この経路依存がパラメトリックトレーニング履歴記憶を残しているかどうかを問う。 我々は,ブラケットをロケットを通して1語彙のトークンに投影することで,演算子メモリを定義する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gradient updates on different data generally do not commute: training a language model on two data sources in opposite orders gives different weights, even with the same data and total exposure. Loss or benchmark deltas show that the models differ, not where. We ask whether this path dependence leaves a parametric training-history memory: a weight component that flips sign when the two sources are swapped, is localized in output space, changes the held-out loss gap between the two orders under targeted interventions, and reveals which trained model came from which order. For one small SGD step of size $η$ on each of sources $A$ and $B$, the weight difference $θ_{AB}-θ_{BA}$ is, to leading order, $η^2 b_{AB}$, where $b_{AB}=H_Bg_A-H_Ag_B$ is the Lie bracket of the two gradient fields at the base model. We define commutator memory by projecting the bracket through the logits into one score per vocabulary token; the scores sum to the bracket's prediction of the gap. The scores are localized: on three models, the same readout of the measured $θ_{AB}-θ_{BA}$, or of a bracket from disjoint batches, shares 82-99% of the original top-20 tokens, versus 35-49% for norm-matched random directions. They are causally actionable: in Qwen-3-4B SFT, downweighting the ten tokens with the largest predicted share of the gap closes a median 32% of the measured gap, while frequency-matched tokens with near-zero scores have almost no effect. The weights themselves carry the component: projecting the difference between the two trained models onto $b_{AB}$ identifies which came from which order in 92% of cases across four LLMs (chance 50%). Controlled tests also cover matched-batch DPO, a frozen-rollout GRPO-style objective, and an AdamW endpoint check. The memory is defined per source pair, not per example, and its projection on $b_{AB}$ decays with further training.
• Abstract（参考訳）: 言語モデルを反対の順序で2つのデータソースでトレーニングすることは、同じデータと全露出でも異なる重みを与える。 損失またはベンチマークデルタは、モデルが異なることを示している。 この経路依存がパラメトリックトレーニング履歴記憶を残しているかどうかを問う。2つのソースが交換されたときに符号を反転し、出力空間に局所化され、2つのオーダ間のホールドアウト損失ギャップが変更され、どのトレーニングモデルがどのオーダから来たかを明らかにする。 A$ と $B$ の小さな SGD ステップのそれぞれに対して、重量差 $θ_{AB}-θ_{BA}$ は、主順序に対して $η^2 b_{AB}$ であり、$b_{AB}=H_Bg_A-H_Ag_B$ は基底モデルの2つの勾配場のリーブラケットである。 我々は,ブラケットからロケットを1ボキャブラリトークン当たりの1スコアに投影することで,演算子メモリを定義する。 スコアは3つのモデルで、測定された$θ_{AB}-θ_{BA}$の読み出し、または、結合しないバッチのブラケットの読み出しと同じで、オリジナルのトップ20トークンの82-99%、ノルムマッチングされたランダムな方向の35-49%が共有される。 Qwen-3-4B SFTでは、ギャップの最大シェアが予想される10個のトークンの重み付けは、測定されたギャップの中央32%を閉じる一方、ほぼゼロのスコアを持つ周波数整合トークンは、ほとんど効果がない。 トレーニングされた2つのモデルの違いを$b_{AB}$に投影すると、4つのLCMで92%のケース(50パーセント)で注文される。 制御されたテストは、マッチしたバッチDPO、凍結したGRPOスタイルの目的、AdamWエンドポイントチェックもカバーしている。 メモリは、例ではなくソースペアごとに定義され、さらなるトレーニングで$b_{AB}$崩壊を予測する。

関連論文リスト

• IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
  我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。 セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
  論文  参考訳（メタデータ） (2026-08-17T09:50:52Z)
• Saturation Makes Quantization Error Additive: A Coverage Model with a Certificate [0.0]
  混合精度量子化は、モデルのどの部分がより高い精度を維持するかを決定する必要がある。 本研究は, 層単位での定量化による損失を, 層ごとの感性や, 対方向の感性から再現可能であることを示す。 本稿では, 測定値の差分プロファイルである$f(S)=cbigl (1-prod_iin S (1-a_i)bigr)$を, その$L$適合ブレークレートから数パーセント以内まで再現する。
  論文  参考訳（メタデータ） (2026-07-14T02:08:33Z)
• Scaling Laws for Behavioral Foundation Models over User Event Sequences [2.924581427482972]
  本稿では、共通の2部分の振る舞いモデルアーキテクチャ、特徴ベースのイベント埋め込み、デコーダのみの変換器について検討する。 約600回にわたって、実際のインタラクションデータで動作し、トレーニング用FLOPは1015ドルから1019ドルの範囲で、デプロイ関連軸が4つあります。 計算最適トレーニングは低計算時のテキストと比較してデータ量が多いが、計算量が増加するにつれて、そのD/N$比はチンチラに向かう。
  論文  参考訳（メタデータ） (2026-06-03T15:59:25Z)
• Onsager-Machlup Posterior Transport for Deep Gaussian Processes [31.082191748525137]
  textbfOM-Path(正式にはFBVI-bridge-Path)は、DBVIのDoob-bridged forward SDEに適用されたSongの確率フローODEを使用する。 同じブリッジバックボーン上の2つの厳密なパス空間ELBO(FFJORD log-det; OM-regularized CNF)がアブレーションとして導出される。 OM-Pathは2つの大きなデータセットに対して統計的に有意な勝利をもたらす。
  論文  参考訳（メタデータ） (2026-05-22T09:45:52Z)
• LoRIF: Low-Rank Influence Functions for Scalable Training Data Attribution [62.830878652285406]
  トレーニングデータ属性は、モデルの予測に最も影響したトレーニング例を特定する。 LoRIFは、両方のボトルネックに対処するために、勾配の低ランク構造を利用する。 数百万のサンプルでデータセットでトレーニングされた0.1Bから70Bパラメータのモデルで、LoRIFは最大20$timesのストレージ削減とクエリ時の高速化を実現している。
  論文  参考訳（メタデータ） (2026-01-29T16:18:34Z)
• Catch Your Breath: Adaptive Computation for Self-Paced Sequence Production [55.76222360698305]
  我々は,言語モデルが入力トークン毎に使用する計算ステップの数を動的かつ自律的に拡張できるような,教師付きトレーニング目標のクラスを探索する。 任意のトークンに対して、モデルは don't know> 出力を出力することで、追加の計算ステップを要求できる。 CYBモデルでは精度が向上し,トークンレベルの複雑性とコンテキストに処理時間を適用することができる。
  論文  参考訳（メタデータ） (2025-10-13T21:07:05Z)
• Reinforcement Learning from Adversarial Preferences in Tabular MDPs [62.73758165845971]
  我々は,敵対的嗜好を持つエピソードマルコフ決定プロセス(MDP)の新たな枠組みを導入する。 PbMDP では、標準的なエピソード MDP とは異なり、学習者は2つの候補アーム間の好みを観察する。 我々は、既知遷移の下で、T2/3$という残差境界を達成するアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2025-07-15T20:19:32Z)
• A Statistical Analysis of Deep Federated Learning for Intrinsically Low-dimensional Data [31.52603443208588]
  本稿では,2段階サンプリングモデルにおけるディープフェデレート回帰の一般化特性について検討する。 その結果,エントロピー次元を特徴とする固有次元は,深層学習者の収束率を決定する上で重要な役割を担っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-10-28T01:36:25Z)
• Language models scale reliably with over-training and on downstream tasks [121.69867718185125]
  スケーリング法則は、高価なトレーニング実行を引き出すための有用なガイドである。 しかし、現在の研究と言語モデルがどのように訓練されているかには差がある。 対照的に、スケーリング法則は主に推論における損失を予測するが、モデルは通常下流のタスクのパフォーマンスで比較される。
  論文  参考訳（メタデータ） (2024-03-13T13:54:00Z)
• Beyond Invariance: Test-Time Label-Shift Adaptation for Distributions with "Spurious" Correlations [44.99833362998488]
  テスト時のデータ分散の変化は、予測モデルのパフォーマンスに有害な影響を及ぼす可能性がある。 本研究では,未ラベルサンプルに適用したEMを用いて,共同分布の$p(y, z)$の変化に適応するテストタイムラベルシフト補正を提案する。
  論文  参考訳（メタデータ） (2022-11-28T18:52:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。