論文の概要: Closed Gates Leak: Decomposing Adjacent-Layer Cancellation in Gated Language Models

• arxiv url: http://arxiv.org/abs/2610.39068v1
• Date: Wed, 28 Oct 2026 23:59:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.436036
• Title: Closed Gates Leak: Decomposing Adjacent-Layer Cancellation in Gated Language Models
• Title（参考訳）: クローズドゲートのリーク:ゲーテッド言語モデルにおける隣接層キャンセラの分解
• Abstract要約: 以前の作業では、機能を推奨するレイヤと、不適切なものを拒否する次のレイヤとしてキャンセルを解釈していた。 我々は、前のレイヤの書き込みを次のレイヤの入力から取り除き、キャンセルを分解する。 私たちはその減衰を、それを運ぶニューロンにさかのぼる。
• 参考スコア（独自算出の注目度）: 0.7519872646378835
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In transformer language models with gated multilayer perceptrons (MLPs), adjacent layers write partly against each other into the residual stream. Previous work interpreted this cancellation as layers proposing features and the next layer selectively rejecting the inappropriate ones. We decompose the cancellation by removing the previous layer's write from the input of the next MLP: what the next layer writes along that write splits into what it writes anyway and how much less its MLP writes because the write is present, which we call the damping, and we trace the damping to the neurons that carry it. In gated MLPs the damping is carried by neurons whose gates are closed. SiLU and GELU are slightly negative below zero, so a closed gate still passes a small negative multiple of what the neuron reads, and a neuron whose output weight points along its input weight then subtracts a fraction of the direction it read. Summed over such neurons, closed gates contract the average direction a gated MLP reads, and the previous layer's write is not singled out: the same layer's write at another token is damped as much or more, and the eigenvalue signature from which that work concluded that the correction is selective appears for another token's write as well. Over training the damping grows while what the next layer writes anyway stays flat, and cancellation begins when the damping overtakes it; annealing the negative side of the gate activation away in continued pretraining removes the damping and the cancellation. Adjacent-layer cancellation is therefore weak evidence about which features a model rejects: it is produced by a contraction that gated MLPs apply, on average over directions, to whatever they read.
• Abstract（参考訳）: ゲート型多層パーセプトロン (MLP) を持つトランスフォーマー言語モデルでは、隣接層が一部対向して残留ストリームに書き込まれる。 以前の作業では、この機能を提案するレイヤと、不適切なものを選択的に拒否する次のレイヤとして、このキャンセルを解釈していた。 我々は、次のMLPの入力から前のレイヤの書き込みを取り除いて、キャンセルを分解する。次のレイヤの書き込みは、その書き込みがいずれにせよ、書き込みが存在して、ダンピングと呼ばれる書き込みがどれだけ少ないか、そして、それを運ぶニューロンにダンピングをトレースする。 ゲートMLPでは、ダンピングはゲートが閉じているニューロンによって運ばれる。 SiLU と GELU はゼロ以下でわずかに負であるため、閉じたゲートはニューロンが読むものの小さな負の倍数を通過し、出力重みが入力重みに沿って指しているニューロンは読み出した方向のごく一部を減じる。 このようなニューロンを補うと、閉ゲートはゲートMLPがリードする平均方向を収縮し、前のレイヤの書き込みは選択されない:同じレイヤの別のトークンでの書き込みは、その処理が他のトークンの書き込みにも選択的であると結論付けた固有値シグネチャが、他のトークンの書き込みにも現れる。 トレーニングが進むにつれて、次の層が何を書いているかがフラットのままに成長し、ダンピングがそれを追い越すとキャンセルが始まり、継続的な事前訓練でゲート活性化の負側が熱せられ、ダンピングとキャンセルが除去される。 したがって、隣接層キャンセルは、モデルが拒否する特徴についての弱い証拠である。

関連論文リスト

• Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs [16.404641399364127]
  安全に整合した大規模言語モデル(LLM)は、ジェイルブレイクに対して脆弱であり、良心的な要求を過度に排除することができる。 我々は、デコーダのみのトランスフォーマーの残ストリーム更新を計測可能とし、モジュール更新が出力する有害情報を、可読性の拒否証拠として生成する変更から分離する。
  論文  参考訳（メタデータ） (2026-10-09T06:34:26Z)
• Causal Localization of the Refusal Direction in Audio Language Models [51.56484100374058]
  大きな音声言語モデルは、音声フロントエンドをテキスト言語モデルにアタッチする。 そのようなモデルが有害な音声要求を拒否した場合、その拒絶はフロントエンドによって運ばれるか、あるいはテキストLMから受け継がれているか? 我々は,各モデルの音声-LMインタフェースと試験されたLM残層において,良性のプロンプトから有害な方向を分離し,その成分を吸収し,結果として得られたモデルの最初の拒絶マージンの変化を測定する。
  論文  参考訳（メタデータ） (2026-09-06T17:29:43Z)
• Leverage Is Not Reach: A Control-Window Law for Single-Neuron Steering in Language Models [1.7259824817932294]
  我々は単一ニューロンステアリングのための予算正規化制御ウィンドウフレームワークを開発した。 1つの書き込み方向に沿った線量も1つの制御座標に減少する。 コヒーレント制御は、行動トリガーが崩壊天井の下にあるときに存在する。
  論文  参考訳（メタデータ） (2026-06-18T06:25:18Z)
• Output Vector Editing for Memorization Mitigation in Large Language Models [68.30351930772788]
  大規模な言語モデルは、トレーニングデータからシーケンスを記憶し、再現し、プライバシ、著作権、セキュリティリスクを生み出す。 既存のニューロンレベルの緩和方法は、ニューロンの活性化をゼロにすることで編集を等しくするが、活性化はニューロンが関与するかどうかのみを制御する。 記憶継続に責任を負うニューロンの小さな集合を探索する制約最適化編集である出力ベクトル編集を提案する。
  論文  参考訳（メタデータ） (2026-06-17T07:29:18Z)
• Learning Less Is More: Premature Upper-Layer Attention Specialization Hurts Language Model Pretraining [4.4820697228026845]
  因果デコーダブロックは階層的であり、下位層は上位層が関与する残基を構築する。 我々は,GPT事前訓練における障害モードを同定する:上層は,下層機能を安定化させる前に,鋭い注意パターンにコミットする。 早期訓練中に上層Q/Kプロジェクションのみを一時的に遅くすると、他のパラメータを変更することなく最終的なパープレキシティと下流の精度が向上する。
  論文  参考訳（メタデータ） (2026-05-11T13:01:12Z)
• Layer Collapse in Diffusion Language Models [54.880703002010144]
  拡散言語モデル (DLM) は自己回帰言語モデル (AR) の代替として登場した。 DLMの層崩壊は, 過度なトレーニングによるものではなく, 過度なトレーニングによるものであることを示す。 私たちの発見は、非常に実践的な意味を持っている。
  論文  参考訳（メタデータ） (2026-05-07T14:39:40Z)
• From Early Encoding to Late Suppression: Interpreting LLMs on Character Counting Tasks [49.57538588967748]
  LLM(Large Language Model)は、複雑なベンチマークでは優れているにもかかわらず、単語中の文字数などの基本的な記号的タスクにおいて失敗を示す。 我々は、LLaMA、Qwen、Gemmaなど、現代のアーキテクチャにまたがる一貫した現象を発見した。 LLMにおけるシンボリック推論失敗は,表現不足やスケール不足によるものではなく,モデル計算グラフ内の構造的干渉によるものであることを示す。
  論文  参考訳（メタデータ） (2026-04-01T11:40:12Z)
• Partially Rewriting a Transformer in Natural Language [0.7234862895932991]
  簡単な自然言語の説明を用いて,大規模な言語モデルを部分的に書き直そうと試みる。 我々は、このスパースの最初の層を、各ニューロンの活性化を予測するLCMベースのシミュレーターで置き換える。 これらの修正がモデルの最終出力を歪める程度を測定する。
  論文  参考訳（メタデータ） (2025-01-31T01:12:50Z)
• MLP Can Be A Good Transformer Learner [73.01739251050076]
  自己保持機構はトランスフォーマーの鍵であるが、その計算要求に対してしばしば批判される。 本稿では,非重要注意層を選択的に除去することで,視覚変換器の簡易化と計算負荷削減を実現する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-04-08T16:40:15Z)
• Model-tuning Via Prompts Makes NLP Models Adversarially Robust [97.02353907677703]
  Model-tuning Via Prompts (MVP) による対向的ロバスト性の評価 MVPは、標準的な方法よりも平均8%の性能向上を実現している。 また,これらの利得の基盤となるメカニズムの解明も行なっている。
  論文  参考訳（メタデータ） (2023-03-13T17:41:57Z)
• Non-Autoregressive Sign Language Production via Knowledge Distillation [1.6115449653258351]
  手話生産は、手話における表現を手話で対応するものに変換することを目的としている。 既存のSLPモデルはAutoRegressive(AR)またはNon-Autoregressive(NAR)である。 本稿では,これらの問題に対処するため,知識蒸留(KD)を用いた新しいNAR-SLPモデルを提案する。
  論文  参考訳（メタデータ） (2022-08-12T09:17:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。