論文の概要: This is SParTA: A modular, efficient and scalable transformer architecture for jet-tagging
- arxiv url: http://arxiv.org/abs/2610.27106v1
- Date: Mon, 19 Oct 2026 18:06:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.449796
- Title: This is SParTA: A modular, efficient and scalable transformer architecture for jet-tagging
- Title(参考訳): SParTA:ジェットタグのためのモジュール型、効率的、スケーラブルなトランスフォーマーアーキテクチャ
- Abstract要約: 高エネルギー衝突機におけるジェットタグ付けのためのスパース粒子相互作用変換器アーキテクチャ(SParTA)を提案する。
SParTAは、高エネルギーの衝突機にジェットタグを付けるためのモジュラーでスケーラブルで効率的なトランスフォーマーである。
- 参考スコア(独自算出の注目度): 0.5219568203653523
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present the Sparse Particle-interaction Transformer Architecture (SParTA), a modular, scalable, and efficient transformer for jet tagging at high-energy colliders. Exploiting the steeply falling transverse-momentum ($p_T$) spectrum of jet constituents, SParTA factorizes constituent processing into two topological regimes. Ordered by descending $p_T$, only the $N$ hardest constituents (the hard core) participate in quadratic $O(N^2)$ differential interaction attention driven by pairwise physical and learned relational features. The remaining soft constituents are integrated via linear $O(lN)$ cross-attention to the hard core, preserving soft-radiation and color-flow information while avoiding the $O(l^2)$ memory bottleneck of full self-attention over all $l$ constituents. Pairwise interaction features are computed dynamically in-network from constituent four-momenta and conditioned on global jet-level substructure observables. On the quark-gluon tagging benchmark, a 300K-parameter SParTA model achieves an AUC of 92.02% and accuracy of 85.06%, matching the 2.14M-parameter Particle Transformer (ParT) at one-seventh the parameter count and outperforming IAFormer by 21% in background rejection at 30% signal efficiency. On the boosted top-tagging benchmark, SParTA outperforms ParT and ParticleNet with 511K parameters, while we analyze the architectural trade-offs relative to fully dense multi-layer interaction networks.
- Abstract(参考訳): Sparse Particle-Interaction Transformer Architecture (SParTA)について述べる。
SParTAは、ジェット成分の急激な逆モーメント(p_T$)スペクトルを爆発させ、成分処理を2つのトポロジカルな状態に分解する。
p_T$を下方順に振る舞うことで順序付けされ、N$最もハードな成分(ハードコア)のみが2次的な$O(N^2)$リレーショナル特徴と学習されたリレーショナル特徴によって引き起こされる差分相互作用の注意に関与する。
残りのソフトコンポジションは、リニア$O(lN)$ハードコアへのクロスアテンションを通じて統合され、ソフトラディエーションとカラーフロー情報を保存すると同時に、すべての$l$コンポジションに対する完全な自己アテンションのメモリボトルネックを回避する。
Pairwise Interaction features are dynamic-network from component four-momenta and conditioned on global jet-level substructure observables。
クォークグルーオンタグ付けベンチマークでは、300KパラメータSParTAモデルがAUCの92.02%と精度85.06%を達成し、パラメータカウントの7分の1で2.14Mパラメータパーティクルトランスフォーマー(ParT)と一致し、30%の信号効率で背景拒絶率で21%のIAFormerを上回った。
高速化されたトップタグベンチマークでは、SParTAはParTとParticleNetを511Kパラメータで上回り、一方、完全に高密度な多層インタラクションネットワークと比較してアーキテクチャ上のトレードオフを分析する。
関連論文リスト
- QGrAT: Quantum Grade-Aware Transformer for Jet Tagging [0.0]
構成量子ビット間の相互作用にこれらの構造を組み込んだ量子トランスであるQGrAT(Quantum Grade-Aware Transformer)を導入する。
成分 4-モメンタから構成される幾何学的特徴は、時空クリフォード代数 $Cell (1,3)$ の階数によって整理される。
補助量子ビットは、ペアワイズミンコフスキー内部積の積による明示的な3粒子相互作用を導入し、トレーニング可能な回路内読み出しは、結果の量子状態を分類スコアに変換する。
論文 参考訳(メタデータ) (2026-10-12T20:01:59Z) - SQUARE: Structured Quantum Representation Adapters as Compact Quadratic Feature Maps for Frozen Language Models [50.300302932452006]
凍結言語モデル(LM)は、下流の再ランク付け、スコアリング、嗜好モデリングのための固定された特徴抽出器として、ますます使われている。
本稿では、ボトルネックベクトルを振幅符号化し、パラメータ化量子回路を適用し、その結果の状態を測定する構造量子表現アダプタを提案する。
各基底確率関数は、ちょうどボトルネック座標における正規化された二次形式であり、追加のPauli$Z$読み出しはそれらの確率の線形結合であることを示す。
論文 参考訳(メタデータ) (2026-09-29T09:38:29Z) - Flash EQ-Linear: Accelerating Equivariant Linear Layers via Group-wise Discrete Fourier Transform [65.89510337046077]
等変ネットワークは、ウェイトシェアリングを通じて構造的先行として幾何学的対称性を埋め込む。
既存の実装では、構造化された重みを高密度な行列に展開し、それらを一般的な高密度なカーネルにディスパッチする。
これは、同変ネットワークが3つの軸を同時に持つ非同変ネットワークを厳密に支配するのは、これが初めてである。
論文 参考訳(メタデータ) (2026-07-23T12:45:21Z) - Multi-Variable Stellar Parameter Estimation Using Residual Multitask Neural Networks [0.0]
Sloan Digital Sky Survey Data Release 12 spectra から恒星パラメータを推定するためのエンドツーエンドパイプラインを提案する。
提案モデルでは,より深いニューラルネットワークベースラインよりもはるかに少ない複雑性で競合性能を実現する。
論文 参考訳(メタデータ) (2026-06-11T19:48:25Z) - ParFormer: A Vision Transformer with Parallel Mixer and Sparse Channel Attention Patch Embedding [9.144813021145039]
本稿では、並列ミキサーとスパースチャネル注意パッチ埋め込み(SCAPE)を組み込んだ視覚変換器であるParFormerを紹介する。
ParFormerは、畳み込み機構とアテンション機構を組み合わせることで、特徴抽出を改善する。
エッジデバイスのデプロイメントでは、ParFormer-Tのスループットは278.1イメージ/秒で、EdgeNeXt-Sよりも1.38ドル高い。
より大型のParFormer-Lは83.5%のTop-1精度に達し、精度と効率のバランスの取れたトレードオフを提供する。
論文 参考訳(メタデータ) (2024-03-22T07:32:21Z) - Isomer: Isomerous Transformer for Zero-shot Video Object Segmentation [59.91357714415056]
コンテクスト共有変換器(CST)とセマンティックガザリング散乱変換器(SGST)の2つの変種を提案する。
CSTは、軽量な計算により、画像フレーム内のグローバル共有コンテキスト情報を学習し、SGSTは、前景と背景のセマンティック相関を別々にモデル化する。
多段核融合にバニラ変換器を使用するベースラインと比較して,我々は13倍の速度向上を実現し,新しい最先端ZVOS性能を実現する。
論文 参考訳(メタデータ) (2023-08-13T06:12:00Z) - Joint Spatial-Temporal and Appearance Modeling with Transformer for
Multiple Object Tracking [59.79252390626194]
本稿ではTransSTAMという新しい手法を提案する。Transformerを利用して各オブジェクトの外観特徴とオブジェクト間の空間的時間的関係の両方をモデル化する。
提案手法はMOT16, MOT17, MOT20を含む複数の公開ベンチマークで評価され, IDF1とHOTAの両方で明確な性能向上を実現している。
論文 参考訳(メタデータ) (2022-05-31T01:19:18Z) - Efficient conformer: Progressive downsampling and grouped attention for
automatic speech recognition [2.6346614942667235]
計算予算が限られているコンフォーマーアーキテクチャの複雑さを軽減する方法について検討する。
コンフォーマーエンコーダにプログレッシブダウンサンプリングを導入し,グループアテンションと呼ばれる新しいアテンション機構を提案する。
同じコンピューティング予算内では、提案されたアーキテクチャは、より高速なトレーニングとデコードでより良いパフォーマンスを達成する。
論文 参考訳(メタデータ) (2021-08-31T07:48:06Z) - Highly Efficient Salient Object Detection with 100K Parameters [137.74898755102387]
そこで我々は,段階内および複数ステージのマルチスケール機能を効率的に活用するために,フレキシブルな畳み込みモジュールであるOctoConv(gOctConv)を提案する。
我々は、非常に軽量なモデル、すなわちCSNetを構築し、一般的なオブジェクト検出ベンチマークで、約0.2%(100k)の大規模モデルで同等のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-03-12T07:00:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。