論文の概要: Dissecting Jet-Tagger Through Mechanistic Interpretability

• arxiv url: http://arxiv.org/abs/2605.09881v1
• Date: Mon, 11 May 2026 02:11:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.471598
• Title: Dissecting Jet-Tagger Through Mechanistic Interpretability
• Title（参考訳）: 機械的解釈可能性によるジェットタガーの分離
• Authors: Saurabh Rai, Sanmay Ganguly,
• Abstract要約: 我々はTop Quark Tagging参照データセットに基づいてトレーニングされたParticle Transformerアーキテクチャの機械論的解釈可能性解析を行う。 ジェットの分類と内部表現の物理的内容の特徴付けに責任がある計算回路を同定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Mechanistic interpretability seeks to reverse engineer a trained neural network by identifying the minimal subset of internal components. We perform a mechanistic interpretability analysis of the Particle Transformer architecture, trained on the Top Quark Tagging reference dataset, with the goal of identifying the computational circuit responsible for jet classification and characterizing the physical content of its internal representations. Combining zero ablation, path patching with two complementary on-manifold corruption strategies and linear probing of the residual stream, we identify a sparse six-head circuit that recovers the great majority of the full model performance while admitting a clean source-relay-readout interpretation. In this circuit, a single early layer head serves as the primary causal source, a cluster of middle-layer heads acts as relays selectively attending to hard pairwise substructure and a single late-layer head reads out the aggregated signal. Linear probes show that the residual stream is preferentially aligned with the energy correlator basis over the $N$-subjettiness basis. Within the energy correlator basis, the model preferentially encodes 2-prong substructure observables over the 3-prong observables. A per-layer trained probe further reveals that the apparent single step commitment of the model to a classification decision in the first class attention block is in fact a basis rotation, with the discriminating signal already saturating in the particle attention stack. These results demonstrate that mechanistic interpretability methods developed for natural language models can be used for jet physics classifiers and indicate that gradient descent may rediscover physically meaningful aspects of jet tagging without supervision.
• Abstract（参考訳）: 機械的解釈可能性(Mechanistic Interpretability)は、内部コンポーネントの最小サブセットを特定することによって、トレーニングされたニューラルネットワークをリバースエンジニアリングすることを目指している。 本研究では,トップクォークタギング参照データセットに基づいてトレーニングされたParticle Transformerアーキテクチャの機械論的解釈可能性解析を行い,ジェットの分類に責任のある計算回路を特定し,内部表現の物理的内容を特徴付けることを目的とする。 ゼロアブレーションと2つの相補的オンマンフォールドの汚損戦略と残差ストリームの線形探索を組み合わせることで、クリーンなソース・リレー・リードアウト解釈を認めながら、モデル性能の大部分を回復するスパース6ヘッド回路を同定する。 この回路では、単一初期層ヘッドが一次因果源として機能し、中層ヘッドのクラスタが、ハードペアのサブ構造に選択的に関与するリレーとして機能し、単一の後期層ヘッドが集約された信号を読み出す。 線形プローブは、残留ストリームが$N$-subjettiness基底よりもエネルギー相関子基底に優先的に一致していることを示している。 エネルギー相関器基底において、モデルは3つのプロング観測器上の2-プロング部分構造観測器を優先的に符号化する。 さらに、第1級注目ブロックにおける分類決定に対するモデルの明らかな単一ステップのコミットメントが、粒子注意スタックに既に飽和している識別信号とともに、実際にベースローテーションであることを明らかにする。 これらの結果は、自然言語モデルのために開発された機械論的解釈可能性法をジェット物理分類器に応用できることを示し、勾配降下は、監督なしでジェットタグ付けの物理的意味のある側面を再発見できることを示した。

関連論文リスト

• Seeing Through Circuits: Faithful Mechanistic Interpretability for Vision Transformers [54.2202951543048]
  視覚変換器の計算グラフから有用なメカニスティック回路を同定できるかどうかを検討する。 分類のためのクラス固有の回路を復元するビジュアル・サーキット・ディスカバリー(Vi-CD)の効果的な手法を提案する。 これらのモデルの内部計算に透明性を加えることで、視覚変換器から洞察に富み、行動可能なエッジベース回路を復元できることが判明した。
  論文  参考訳（メタデータ） (2026-04-15T23:25:46Z)
• Weight Patching: Toward Source-Level Mechanistic Localization in LLMs [12.558998651017374]
  重み付き同一アーキテクチャモデルにおけるソース指向解析のためのパラメータ空間介入手法であるWeight Patchingを提案する。 本稿では,タスク関連制御状態が形成されたかどうかの共通内部規準を提供する,ベクトル・アンカー・ビヘイビア・インタフェースを中心にしたフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-15T10:21:38Z)
• Towards foundation-style models for energy-frontier heterogeneous neutrino detectors via self-supervised pre-training [0.4151704012621244]
  異種検出器データから再利用可能な表現を学習するための疎ViTフレームワークを提案する。 自己教師付き事前訓練は、マスク付き自己エンコーダ再構築とリレーショナルボクセルレベルの目的を組み合わせる。 プレトレーニングはニュートリノの風味とチャームクォークの識別を継続的に改善する。
  論文  参考訳（メタデータ） (2026-04-08T12:52:00Z)
• TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
  訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。 TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。 TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
  論文  参考訳（メタデータ） (2026-03-02T10:38:54Z)
• Disentangling Recall and Reasoning in Transformer Models through Layer-wise Attention and Activation Analysis [3.1526281887627587]
  モデル一般化の予測には推論からのリコールの排除が不可欠である。 我々は、制御された合成言語パズルのデータセットを使用して、層、頭、ニューロンレベルでトランスフォーマーモデルを探索する。 この結果から、リコールと推論は変換器モデルにおける分離可能だが相互作用する回路に依存しているという最初の因果的証拠が得られた。
  論文  参考訳（メタデータ） (2025-10-03T04:13:06Z)
• Learning local discrete features in explainable-by-design convolutional neural networks [0.0]
  本稿では,側方抑制機構に基づくCNN(Design-by-Design Convolutional Neural Network)を提案する。 このモデルは、残留または高密度のスキップ接続を持つ高精度CNNである予測器で構成されている。 観測を収集し,直接確率を計算することにより,隣接するレベルのモチーフ間の因果関係を説明することができる。
  論文  参考訳（メタデータ） (2024-10-31T18:39:41Z)
• SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
  大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。 本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
  論文  参考訳（メタデータ） (2024-07-23T20:34:23Z)
• Unsupervised Interpretable Basis Extraction for Concept-Based Visual Explanations [44.033369364364084]
  本研究は,CNN画像分類器の予測と中間層表現を,人間の理解可能な概念の観点から説明しようとするものである。 ボトムアップアプローチを採用し、概念ラベルの監督に頼ることなく、機能空間の構造から方向を一括して識別する。 既存の基盤解釈可能性指標の拡張を行い、抽出したベースに変換すると中間層表現がより解釈可能であることを示す。
  論文  参考訳（メタデータ） (2023-03-19T00:37:19Z)
• Recurrent Spectral Network (RSN): shaping the basin of attraction of a discrete map to reach automated classification [4.724825031148412]
  自動分類のための新しい戦略が導入された。これは、完全に訓練された動的システムを利用して、アイテムを異なる引き付け者に向けて操る。 非線型項はトランジェントに作用し、初期条件として供給されたデータを離散力学系に切り離すことができる。 我々の新しい分類手法であるRecurrent Spectral Network (RSN) は、画像処理訓練のための標準データセットと同様に、図形的な目的のために作成された単純なテストベッドモデルに挑戦することに成功した。
  論文  参考訳（メタデータ） (2022-02-09T14:59:06Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。