論文の概要: Sparse Inter-Layer Dependencies of Transformer FFN Neurons

• arxiv url: http://arxiv.org/abs/2607.11990v1
• Date: Mon, 13 Jul 2026 15:04:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-15 17:08:29.920074
• Title: Sparse Inter-Layer Dependencies of Transformer FFN Neurons
• Title（参考訳）: トランスフォーマーFFNニューロンのスパース層間依存性
• Abstract要約: FFNニューロンの活性化は、前回のニューロン活性化と注意出力のスパースセットによって説明できるかどうかを検討する。 本研究では、上流ニューロンの相対的影響と、標的ニューロンの活性化に対する注意出力を推定する学習自由属性法を提案する。
• 参考スコア（独自算出の注目度）: 32.00544060412007
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feedforward network (FFN) blocks account for a large fraction of the parameters and computation in Transformer architectures, yet their internal structure remains difficult to interpret due to the additive superposition induced by the residual stream. We examine whether the activation of an FFN neuron can be explained by a sparse set of preceding neuron activations and attention outputs. We introduce a training-free attribution method that estimates the relative influence of upstream neurons and attention outputs on a target neuron's activation. Empirically, across models and layers, we find that small subsets of preceding activations and attention outputs suffice to preserve neuron activations with high fidelity when all remaining inputs are masked with their average values. Effective sparsity is even greater when accounting for the inherent activation sparsity of upstream layers. Moreover, applying the neuron-specific masks in all layers simultaneously, such that the induced deviations propagate through the network, leaves model perplexity largely unchanged at moderate sparsity levels. These results demonstrate that, despite dense parameterization, FFNs exhibit sparse and structured inter-layer dependencies at the neuron level. Our method provides a practical, scalable tool for circuit-level interpretability and identifies candidate sparse pathways with potential implications for efficient inference.
• Abstract（参考訳）: フィードフォワードネットワーク(FFN)ブロックは、トランスフォーマーアーキテクチャにおけるパラメータと計算のかなりの部分を占めるが、残留ストリームによって誘導される付加的な重ね合わせのため、内部構造は解釈が困難である。 FFNニューロンの活性化は、前回のニューロン活性化と注意出力のスパースセットによって説明できるかどうかを検討する。 本研究では、上流ニューロンの相対的影響と、標的ニューロンの活性化に対する注意出力を推定する学習自由属性法を提案する。 実験によって、モデルや層全体で、前の活性化と注意出力の小さなサブセットは、残りの全ての入力が平均値で隠されている場合、高い忠実度でニューロンの活性化を維持するのに十分であることがわかった。 上流層の固有な活性化空間を考慮すると、効果的な疎度はさらに大きくなる。 さらに、すべての層にニューロン特異的マスクを同時に適用することで、誘導された偏差がネットワークを介して伝播する。 これらの結果は、高密度パラメータ化にもかかわらず、FFNは神経細胞レベルでスパースおよび構造的層間依存性を示すことを示した。 提案手法は,回路レベルの解釈可能性を実現するための実用的でスケーラブルなツールを提供し,効率的な推論を行う可能性のあるスパース経路を同定する。

関連論文リスト

• General Self-Prediction Enhancement for Spiking Neurons [71.01912385372577]
  スパイキングニューラルネットワーク(SNN)は、イベント駆動のスパース計算によって非常にエネルギー効率が良いが、そのトレーニングは、性能、効率、生物学的妥当性の非微分可能性とトレードオフによって困難である。 本稿では,その入力出力履歴から内部予測電流を生成し,膜電位を変調する自己予測強化スパイキングニューロン法を提案する。 この設計には2つの利点があり、失明した勾配を緩和し、トレーニングの安定性と精度を高める連続的な勾配経路を作成し、また遠位樹状突起変調とエラー駆動のシナプス塑性に類似した生物学的原理と整合する。
  論文  参考訳（メタデータ） (2026-01-29T15:08:48Z)
• Training Deep Normalization-Free Spiking Neural Networks with Lateral Inhibition [52.59263087086756]
  深層ニューラルネットワーク(SNN)のトレーニングは、バッチ正規化のような明示的な正規化スキームに依存している。 本研究では,皮質回路にインスパイアされた側方抑制を取り入れた正規化自由学習フレームワークを提案する。 本稿では,生物リアリズムを持つ深層SNNの安定的学習を可能にするとともに,明示的な正規化に頼らずに競争性能を達成できることを述べる。
  論文  参考訳（メタデータ） (2025-09-27T11:11:30Z)
• Understanding Artificial Neural Network's Behavior from Neuron Activation Perspective [8.251799609350725]
  本稿では,ニューロン活性化ダイナミクスのレンズによるディープニューラルネットワーク(DNN)の複雑な動作について検討する。 本稿では,モデルのニューロン活性化パターンをプロセスとして解析する確率的フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-24T01:01:06Z)
• Towards Utilising a Range of Neural Activations for Comprehending Representational Associations [0.6554326244334868]
  ディープニューラルネットワークにおける中間表現をラベル付けするアプローチでは,その振る舞いに関する貴重な情報を捕捉できないことを示す。 非極端レベルのアクティベーションには、調査する価値のある複雑な情報が含まれていると仮定する。 そこで本研究では,中間領域のロジットサンプルから得られたデータを用いて,スプリアス相関を緩和する手法を開発した。
  論文  参考訳（メタデータ） (2024-11-15T07:54:14Z)
• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• ProAct: Progressive Training for Hybrid Clipped Activation Function to Enhance Resilience of DNNs [0.4660328753262075]
  State-of-the-artメソッドは、ニューロンワイドまたは層ワイドクリッピングアクティベーション機能を提供する。 層単位で切断されたアクティベーション関数はDNNのレジリエンスを高いビット誤り率で保持することはできない。 本稿では,ニューロンワイド法とレイヤバイ層法を統合したハイブリッドクリップ型アクティベーション関数を提案する。
  論文  参考訳（メタデータ） (2024-06-10T14:31:38Z)
• Fully Spiking Actor Network with Intra-layer Connections for Reinforcement Learning [51.386945803485084]
  エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。 既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。 浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
  論文  参考訳（メタデータ） (2024-01-09T07:31:34Z)
• Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
  しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。 ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
  論文  参考訳（メタデータ） (2023-03-06T18:59:13Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)
• Activation function dependence of the storage capacity of treelike neural networks [16.244541005112747]
  ニューラルネットワークにおいて非線形活性化関数が提案されている。 本研究では,活性化関数が木のような2層ネットワークの記憶能力に与える影響について検討する。
  論文  参考訳（メタデータ） (2020-07-21T23:51:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。