論文の概要: HPCNeuroNet: A Neuromorphic Approach Merging SNN Temporal Dynamics with Transformer Attention for FPGA-based Particle Physics

• arxiv url: http://arxiv.org/abs/2412.17571v1
• Date: Mon, 23 Dec 2024 13:44:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 15:55:31.077983
• Title: HPCNeuroNet: A Neuromorphic Approach Merging SNN Temporal Dynamics with Transformer Attention for FPGA-based Particle Physics
• Title（参考訳）: HPCNeuroNet:FPGA系粒子物理学におけるSNN時間ダイナミクスと変圧器注意を組み合わせたニューロモルフィックアプローチ
• Authors: Murat Isik, Hiruna Vishwamith, Jonathan Naoukin, I. Can Dikmen,
• Abstract要約: HPCNeuroNetは粒子物理学に適したスパイキングニューラルネットワーク(SNN)、トランスフォーマー、高性能コンピューティングの先駆的な融合である。 HPCNeuroNetの中心には、SNNに固有のシーケンシャルダイナミズムと、Transformerのコンテキスト対応アテンション機能の統合がある。 素粒子物理学におけるSNN, Transformer, FPGAベースの高性能コンピューティングの組み合わせは, 重要な前進を示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This paper presents the innovative HPCNeuroNet model, a pioneering fusion of Spiking Neural Networks (SNNs), Transformers, and high-performance computing tailored for particle physics, particularly in particle identification from detector responses. Our approach leverages SNNs' intrinsic temporal dynamics and Transformers' robust attention mechanisms to enhance performance when discerning intricate particle interactions. At the heart of HPCNeuroNet lies the integration of the sequential dynamism inherent in SNNs with the context-aware attention capabilities of Transformers, enabling the model to precisely decode and interpret complex detector data. HPCNeuroNet is realized through the HLS4ML framework and optimized for deployment in FPGA environments. The model accuracy and scalability are also enhanced by this architectural choice. Benchmarked against machine learning models, HPCNeuroNet showcases better performance metrics, underlining its transformative potential in high-energy physics. We demonstrate that the combination of SNNs, Transformers, and FPGA-based high-performance computing in particle physics signifies a significant step forward and provides a strong foundation for future research.
• Abstract（参考訳）: 本稿では,粒子物理,特に検出器応答からの粒子識別に適した,スパイキングニューラルネットワーク(SNN),トランスフォーマー,高性能コンピューティングの先駆的融合である,革新的なHPCNeuroNetモデルを提案する。 提案手法は,SNNの固有時間力学とトランスフォーマーの頑健な注意機構を利用して,複雑な粒子相互作用を識別する際の性能を向上させる。 HPCNeuroNetの中心には、SNNに固有のシーケンシャルなダイナミズムと、トランスフォーマーのコンテキスト認識型アテンション機能の統合があり、モデルが複雑な検出器データを正確に復号し解釈することができる。 HPCNeuroNetは、HLS4MLフレームワークを通じて実現され、FPGA環境へのデプロイに最適化されている。 このアーキテクチャの選択によって、モデルの精度とスケーラビリティも向上します。 機械学習モデルに対してベンチマークされたHPCNeuroNetは、高性能なパフォーマンス指標を示し、高エネルギー物理学におけるその変革の可能性を強調している。 粒子物理学におけるSNN, Transformer, FPGAベースの高性能コンピューティングの組み合わせは, 今後の研究の強力な基盤となることを実証する。

関連論文リスト

• Quantum Attention for Vision Transformers in High Energy Physics [39.38389619339798]
  量子直交ニューラルネットワーク(QONN)を取り入れた新しいハイブリッド量子古典型視覚変換器アーキテクチャを提案する。 この研究は、次世代粒子物理学実験の計算要求に対処する量子強化モデルの可能性を強調している。
  論文  参考訳（メタデータ） (2024-11-20T18:11:17Z)
• Scalable Mechanistic Neural Networks [52.28945097811129]
  長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。 元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。 大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
  論文  参考訳（メタデータ） (2024-10-08T14:27:28Z)
• A Unified Approach for Learning the Dynamics of Power System Generators and Inverter-based Resources [12.723995633698514]
  再生可能エネルギーの統合と電気化のためのインバータベースの資源(IBR)は、電力系統の動的解析に大きく挑戦する。 同期ジェネレータ(SG)とIRBの両方を考慮するため、この研究は個々の動的コンポーネントのモデルを学ぶためのアプローチを示す。
  論文  参考訳（メタデータ） (2024-09-22T14:07:10Z)
• Parallel Proportional Fusion of Spiking Quantum Neural Network for Optimizing Image Classification [10.069224006497162]
  量子・スパイキングニューラルネットワーク(PPF-QSNN)の並列比例融合(Parallel Proportional Fusion of Quantum and Spiking Neural Networks)と呼ばれる新しいアーキテクチャを導入する。 提案したPPF-QSNNは、既存のスパイクニューラルネットワークと、精度、損失、ロバストネスといったメトリクスにわたるシリアル量子ニューラルネットワークの両方より優れている。 本研究は、人工知能計算における量子優位性の発展と応用の基盤となるものである。
  論文  参考訳（メタデータ） (2024-04-01T10:35:35Z)
• SpikingJelly: An open-source machine learning infrastructure platform for spike-based intelligence [51.6943465041708]
  スパイキングニューラルネットワーク(SNN)は、高エネルギー効率のニューロモルフィックチップに脳にインスパイアされたインテリジェンスを実現することを目的としている。 我々は、ニューロモルフィックデータセットの事前処理、深層SNNの構築、パラメータの最適化、およびニューロモルフィックチップへのSNNのデプロイのためのフルスタックツールキットをコントリビュートする。
  論文  参考訳（メタデータ） (2023-10-25T13:15:17Z)
• Astrocyte-Integrated Dynamic Function Exchange in Spiking Neural Networks [0.0]
  本稿では,スパイキングニューラルネットワーク(SNN)の堅牢性と計算効率を向上させるための革新的な手法を提案する。 提案手法はヒト脳に広く分布するグリア細胞であるアストロサイトをSNNに統合し、アストロサイトを増強したネットワークを形成する。 特に、アストロサイトを拡張したSNNは、ほぼゼロのレイテンシと理論上無限のスループットを示し、計算効率が極めて高いことを示唆している。
  論文  参考訳（メタデータ） (2023-09-15T08:02:29Z)
• End-to-end codesign of Hessian-aware quantized neural networks for FPGAs and ASICs [49.358119307844035]
  我々は、共設計ニューラルネットワーク(NN)のトレーニングと実装のためのエンドツーエンドワークフローを開発する。 これにより、ハードウェアにおける効率的なNN実装が、非専門家に、単一のオープンソースワークフローでアクセスできるようになる。 大型ハドロン衝突型加速器(LHC)の40MHz衝突速度で動作しなければならないトリガー決定を含む粒子物理学アプリケーションにおけるワークフローを実演する。 シミュレーションLHC陽子-陽子衝突における高速粒子ジェット用混合精度NNを実装した。
  論文  参考訳（メタデータ） (2023-04-13T18:00:01Z)
• Equivariant Graph Neural Networks for Charged Particle Tracking [1.6626046865692057]
  EuclidNetは荷電粒子追跡のための新しい対称性等価GNNである。 TrackMLデータセット上の最先端のインタラクションネットワークに対してベンチマークを行う。 以上の結果から,EuclidNetは小規模なモデルスケールでほぼ最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-04-11T15:43:32Z)
• Neural Operator with Regularity Structure for Modeling Dynamics Driven by SPDEs [70.51212431290611]
  偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。 本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。 動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
  論文  参考訳（メタデータ） (2022-04-13T08:53:41Z)
• Enhanced physics-constrained deep neural networks for modeling vanadium redox flow battery [62.997667081978825]
  本稿では,物理制約付き深部ニューラルネットワーク(PCDNN)による高精度電圧予測手法を提案する。 ePCDNNは、電圧放電曲線のテール領域を含む電荷放電サイクルを通して、電圧応答を正確にキャプチャすることができる。
  論文  参考訳（メタデータ） (2022-03-03T19:56:24Z)
• Hybrid SNN-ANN: Energy-Efficient Classification and Object Detection for Event-Based Vision [64.71260357476602]
  イベントベースの視覚センサは、画像フレームではなく、イベントストリームの局所的な画素単位の明るさ変化を符号化する。 イベントベースセンサーによる物体認識の最近の進歩は、ディープニューラルネットワークの変換によるものである。 本稿では、イベントベースのパターン認識とオブジェクト検出のためのディープニューラルネットワークのエンドツーエンドトレーニングのためのハイブリッドアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2021-12-06T23:45:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。