論文の概要: Patch Hierarchical Attention Transformer for Efficient Particle Jet Tagging
- arxiv url: http://arxiv.org/abs/2605.21789v1
- Date: Wed, 20 May 2026 22:31:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 20:14:18.49928
- Title: Patch Hierarchical Attention Transformer for Efficient Particle Jet Tagging
- Title(参考訳): 効率的なパーティクルジェットタグングのためのパッチ階層型アテンショントランス
- Authors: Aaron Wang, Zihan Zhao, Alan Xia, Chang Sun, Abhijith Gandrakota, Jennifer Ngadiuba, Richard Cavanaugh, Javier Duarte,
- Abstract要約: リアルタイムのジェットタグは、大型ハドロン衝突型加速器の検出器における短寿命粒子の崩壊を特定するために重要である。
Patch Hierarchical Attention Transformer (PHAT-JeT) は、局所検出器平面構造を符号化する物理に着想を得た幾何学的メッセージパッシングモジュールと、小粒子群内の正確な注意を計算する階層的パッチベースのアテンションスキームの2つのメカニズムを組み合わせたものである。
PHAT-JeTは、制限された予算内で、4つのベンチマーク上の全てのリソース制約ジェットタグモデルの中で、最先端の精度とバックグラウンドの拒絶を達成する。
- 参考スコア(独自算出の注目度): 6.131736935215063
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-time jet tagging is critical for identifying short-lived particle decays in the high-throughput detectors of the Large Hadron Collider, where real-time trigger systems responsible for deciding which collision events to store impose strict latency and accuracy constraints. While transformer architectures achieve the highest jet tagging accuracy when compute is unconstrained, their quadratic self-attention cost makes inference restrictive on trigger budget. Existing efficient variants reduce the computational cost, but hinder the classification performance. To address this limitation, we introduce the Patch Hierarchical Attention Transformer (PHAT-JeT), which combines two mechanisms: a physics-inspired geometric message-passing module that encodes local detector-plane structure, and a hierarchical patch-based attention scheme that computes exact attention within small particle groups while preserving global context through lightweight patch-token communication. Within a restricted budget, PHAT-JeT achieves state-of-the-art accuracy and background rejection among all resource-constrained jet tagging models on four benchmarks (\textsc{hls4ml}, JetClass, Top Tagging, and Quark--Gluon). Our code is available at https://github.com/aaronw5/PHAT-JeT.
- Abstract(参考訳): リアルタイムジェットタギングは、大型ハドロン衝突型加速器の高スループット検出器において、どの衝突イベントを格納するかを判断するリアルタイムトリガーシステムが厳密なレイテンシと精度の制約を課す場合、短寿命粒子の崩壊を特定するために重要である。
変圧器アーキテクチャは、計算が制約されないときに最も高いジェットタグ付け精度を達成するが、その2次自己アテンションコストはトリガ予算に対する推論を制限している。
既存の効率的な変種は計算コストを削減するが、分類性能を阻害する。
この制限に対処するため,Patch Hierarchical Attention Transformer (PHAT-JeT)を導入し,局所検出器-平面構造を符号化する物理に着想を得た幾何学的メッセージパッシングモジュールと,小粒子群内の正確な注意を計算し,グローバルコンテキストを軽量なパッチ・ツーケン通信で保存する階層的パッチ・アテンション・スキームの2つのメカニズムを組み合わせた。
制限された予算の中で、PHAT-JeTは4つのベンチマーク(\textsc{hls4ml}、JetClass、Top Tagging、Quark-Gluon)上の全てのリソース制約されたジェットタグモデルの中で、最先端の精度とバックグラウンドの拒絶を達成する。
私たちのコードはhttps://github.com/aaronw5/PHAT-JeT.comで公開されています。
関連論文リスト
- Scaling Attention via Feature Sparsity [50.64995497733461]
超長期のコンテキストにトランスフォーマーをスケールすることは、自己注意のコスト$O(n2 d)$コストによってボトルネックとなる。
本稿では,高次元表現性を維持するために,クエリとキーを$k$sparseコードとして表現するスパース特徴注意法を提案する。
GPT-2とQwen3の事前トレーニングで、SFAは密度の高いベースラインにマッチし、最高2.5タイムのスピードを向上し、FLOPとKVキャッシュを50%近く削減した。
論文 参考訳(メタデータ) (2026-03-17T08:41:50Z) - JetFormer: A Scalable and Efficient Transformer for Jet Tagging from Offline Analysis to FPGA Triggers [41.229196563303795]
大型ハドロン衝突型加速器(LHC)における粒子ジェットタグ付けのための多用途でスケーラブルなエンコーダのみのトランスフォーマアーキテクチャであるJetFormerを提案する。
特定のデプロイメントレシシシに合わせて調整される従来のアプローチとは異なり、JetFormerはジェットタグのシナリオの全範囲にわたって効果的に動作するように設計されている。
このモデルは、明示的なペアワイズ相互作用の入力に頼ることなく、可変長の粒子特徴集合を処理するが、最先端の手法よりも優れた性能を実現する。
論文 参考訳(メタデータ) (2026-01-23T22:58:25Z) - Spatially Aware Linear Transformer (SAL-T) for Particle Jet Tagging [5.844119137664664]
変換器は高エネルギー粒子衝突における大域的相関と局所的相関を捉えるのに非常に効果的である。
変換器は高エネルギー粒子衝突における大域的相関と局所的相関を捉えるのに非常に効果的である。
本稿では,線形注意を維持できるライフォーマアーキテクチャの拡張である空間認識線形変換器(SAL-T)を紹介する。
論文 参考訳(メタデータ) (2025-10-24T18:00:01Z) - PT$^2$-LLM: Post-Training Ternarization for Large Language Models [52.4629647715623]
大きな言語モデル(LLM)は、様々なタスクにまたがる印象的な機能を示しているが、その大きなメモリと計算能力は、デプロイメントを妨げている。
PT$2$-LLMを提案する。
その中核は2段精製パイプラインを備えた非対称3次量子化器である。
論文 参考訳(メタデータ) (2025-09-27T03:01:48Z) - JetSeg: Efficient Real-Time Semantic Segmentation Model for Low-Power
GPU-Embedded Systems [0.0]
本稿では,JetSegと呼ばれるリアルタイムセマンティックセグメンテーションのための効率的なモデルを提案する。
JetSegはJetNetと呼ばれるエンコーダと改良されたRegSegデコーダで構成されている。
提案手法は,46.70Mパラメータと5.14%のGFLOPを削減し,最先端のリアルタイムエンコーダデコーダモデルより優れている。
論文 参考訳(メタデータ) (2023-05-19T04:07:26Z) - Task-Oriented Over-the-Air Computation for Multi-Device Edge AI [57.50247872182593]
エッジAIをサポートするための6Gネットワークは、AIタスクの効率的かつ効率的な実行に焦点を当てたタスク指向のテクニックを備えている。
本稿では,マルチデバイススプリット推論システムにおけるタスク指向オーバー・ザ・エア計算(AirComp)方式を提案する。
論文 参考訳(メタデータ) (2022-11-02T16:35:14Z) - Efficient Decoder-free Object Detection with Transformers [75.00499377197475]
視覚変換器(ViT)は、物体検出アプローチのランドスケープを変化させている。
本稿では,デコーダフリー完全トランス(DFFT)オブジェクト検出器を提案する。
DFFT_SMALLは、トレーニングおよび推論段階で高い効率を達成する。
論文 参考訳(メタデータ) (2022-06-14T13:22:19Z) - Particle Transformer for Jet Tagging [4.604003661048267]
ジェットタグのための新しい包括的データセットであるJetClassを提示する。
データセットは100Mジェットで構成され、既存の公開データセットよりも約2桁大きい。
我々は、ParT(Particle Transformer)と呼ばれるジェットタグのためのトランスフォーマーベースの新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-02-08T10:36:29Z) - Autoencoders for unsupervised anomaly detection in high energy physics [105.54048699217668]
QCDジェット画像の背景にあるトップジェット画像のタグ付けについて検討する。
標準オートエンコーダ設定をモデル非依存の異常タガーとはみなせないことを示す。
モデル非依存異常検出の課題に対する性能改善策を提案する。
論文 参考訳(メタデータ) (2021-04-19T05:06:57Z) - End-to-End Object Detection with Transformers [88.06357745922716]
本稿では,オブジェクト検出を直接セット予測問題とみなす新しい手法を提案する。
我々のアプローチは検出パイプラインを合理化し、手作業で設計された多くのコンポーネントの必要性を効果的に除去する。
この新しいフレームワークの主な構成要素は、Detection TRansformerまたはDETRと呼ばれ、セットベースのグローバルな損失である。
論文 参考訳(メタデータ) (2020-05-26T17:06:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。