論文の概要: MorphAtt: A Neuromorphic Accelerator for Efficient Multi-Head Attention Processing in Spiking Vision Transformers

• arxiv url: http://arxiv.org/abs/2609.33207v1
• Date: Sun, 27 Sep 2026 04:45:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 02:14:35.560311
• Title: MorphAtt: A Neuromorphic Accelerator for Efficient Multi-Head Attention Processing in Spiking Vision Transformers
• Title（参考訳）: MorphAtt:スパイキング・ビジョン・トランスの多面的アテンション処理のためのニューロモルフィック・アクセラレータ
• Abstract要約: スパイキングビジョントランス (SViT) は、エッジでのコンピュータビジョンタスクのための従来のViTに代わるエネルギー効率の高い代替品として開発されている。 我々は,SViT推論を合理化処理により高速化する新しいデジタルアクセラレータであるMorphAttを提案する。 32nm CMOS技術を用いた合成では、MorphAtt は 792-1605 GOPS のスループットを実現し、39-55 mWの消費電力と1.5 mm2の面積を発生させ、20.3-29.1 TOPS/Wのエネルギー効率をもたらす。
• 参考スコア（独自算出の注目度）: 3.1061484260786014
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Spiking Vision Transformers (SViTs) are developed as an energy-efficient alternative to conventional ViTs for computer vision tasks at the edge. However, huge parameter counts and complex multi-head self-attention (MHSA) operations make it challenging to achieve high energy efficiency in SViT inference, especially in tightly constrained applications. To maximize efficiency gains of SViT processing, we propose MorphAtt, a novel digital accelerator that expedites SViT inference through streamlined processing. Specifically, it processes MHSA operations using cascaded hardware modules: a Spiking Query-Key-Value generator (SpikeQKV), a low-complexity Spiking Multi-Head Self-Attention engine (SpikeAtten), and Reparameterization Convolution (RepConv) modules. To mitigate traffic congestion in on-chip memory accesses and data reuse, specialized inter-module buffers are integrated within the dataflow. Under synthesis using 32nm CMOS technology, MorphAtt achieves 792-1605 GOPS of throughput, while incurring ~39-55 mW of power consumption and 1.5 mm^2 of area, which lead to 20.3-29.1 TOPS/W of energy efficiency. These results also demonstrate that our MorphAtt offers better performance and efficiency trade-offs than state-of-the-art, thereby enabling highly energy-efficient vision-based AI systems at the edge.
• Abstract（参考訳）: スパイキングビジョントランス (SViT) は、エッジでのコンピュータビジョンタスクのための従来のViTに代わるエネルギー効率の高い代替品として開発されている。 しかし、巨大なパラメータ数と複雑なマルチヘッド自己アテンション(MHSA)演算は、特に厳密に制約されたアプリケーションにおいて、SViT推論において高いエネルギー効率を達成することを困難にしている。 SViT処理の効率向上を最大化するために,SViT推論を合理化して高速化する新しいデジタルアクセラレータMorphAttを提案する。 具体的には、Spike Query-Key-Value generator (SpikeQKV)、低複雑さのSpike Multi-Head Self-Attention Engine (SpikeAtten)、Reparameterization Convolution (RepConv)モジュールを使用してMHSA操作を処理する。 オンチップメモリアクセスとデータ再利用におけるトラフィックの混雑を軽減するため、特別なモジュール間バッファをデータフローに統合する。 32nm CMOS技術を用いた合成では、MorphAtt はスループット 792-1605 GOPS を実現し、電力消費は39-55 mW、面積 1.5 mm^2 となり、エネルギー効率は 20.3-29.1 TOPS/W となる。 これらの結果は、我々のMorphAttが最先端のAIシステムよりも優れたパフォーマンスと効率のトレードオフを提供することを示した。

関連論文リスト

• Ge$^\text{2}$mS-T: Multi-Dimensional Grouping for Ultra-High Energy Efficiency in Spiking Transformer [84.8831358775386]
  スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも優れたエネルギー効率を提供する ANN-SNN ConversionやSpatial-Temporal Backpropagation (STBP)といった既存のパラダイムは、固有の制限に悩まされている。 Ge$text2$mS-Tを提案する。これは時間的・空間的・ネットワーク的構造次元にまたがるグループ計算を実装した新しいアーキテクチャである。
  論文  参考訳（メタデータ） (2026-04-10T02:58:46Z)
• Low Power Vision Transformer Accelerator with Hardware-Aware Pruning and Optimized Dataflow [0.0]
  本稿では,アルゴリズムハードウェアの共設計により最適化された低消費電力ビジョントランスフォーマーアクセラレータを提案する。 複雑な機構を導入することなく、ハードウェアフレンドリーな動的トークンプルーニングによってモデルの複雑さを低減させる。 ピークスループットは1GHzで1024 GOPS、エネルギー効率は2.31 TOPS/W、面積効率は858.61 GOPS/mm2である。
  論文  参考訳（メタデータ） (2025-10-16T07:44:42Z)
• Design and Implementation of an FPGA-Based Hardware Accelerator for Transformer [0.0]
  トランスフォーマーベースの大規模言語モデルは、注意層とフィードフォワード層のための行列乗法に大きく依存している。 資源制約付き Xilinx KV260 FPGA 上で,高度に最適化されたタイル行列乗算アクセラレータを提案する。 我々の設計では、永続的なオンチップストレージ、最大データ再利用のための堅牢な2レベルタイリング戦略、およびシストリックのような非ローリング計算エンジンを活用している。
  論文  参考訳（メタデータ） (2025-03-20T22:15:42Z)
• CAS-ViT: Convolutional Additive Self-attention Vision Transformers for Efficient Mobile Applications [73.80247057590519]
  ビジョントランスフォーマー(ViT)は、トークンミキサーの強力なグローバルコンテキスト能力によって、ニューラルネットワークの革命的な進歩を示す。 CAS-ViT: Convolutional Additive Self-attention Vision Transformerを導入し、モバイルアプリケーションにおける効率と性能のバランスを実現する。 ImageNet-1Kのパラメータは12M/21Mで83.0%/84.1%である。
  論文  参考訳（メタデータ） (2024-08-07T11:33:46Z)
• An FPGA-Based Reconfigurable Accelerator for Convolution-Transformer Hybrid EfficientViT [5.141764719319689]
  本稿では,VTのハードウェア効率フロンティアを向上するために,FPGAベースのEfficientViTアクセラレータを提案する。 具体的には、軽量な畳み込みや注意を含む様々な操作タイプを効率的にサポートする再構成可能なアーキテクチャを設計する。 実験の結果,我々の加速器はスループット780.2 GOPS,エネルギー効率105.1 GOPS/Wを200MHzで達成した。
  論文  参考訳（メタデータ） (2024-03-29T15:20:33Z)
• Efficient Modulation for Vision Networks [122.1051910402034]
  我々は、効率的なビジョンネットワークのための新しい設計である効率的な変調を提案する。 変調機構が特に効率的なネットワークに適していることを実証する。 私たちのネットワークは、精度と効率のトレードオフをうまく達成できます。
  論文  参考訳（メタデータ） (2024-03-29T03:48:35Z)
• RACE-IT: A Reconfigurable Analog Computing Engine for In-Memory Transformer Acceleration [19.58493837224511]
  Transformer ModelはDeep Neural Networks(DNN)の最先端を表現している。 これらのモデルを処理するには、かなりの計算資源が必要で、結果としてかなりのメモリフットプリントが要求される。 本稿では、より広範な操作をサポートするために、Analog Content Addressable Memories (ACAM)を拡張した再構成可能なAnalog Computing Engine (RACE)を紹介する。 RACEに基づいて、トランスフォーマーモデルの効率的なアナログドメイン実行を実現するための RACE-IT アクセラレータ(インメモリトランスフォーマーの RACE の意味)を提案する。
  論文  参考訳（メタデータ） (2023-11-29T22:45:39Z)
• Edge-MoE: Memory-Efficient Multi-Task Vision Transformer Architecture with Task-level Sparsity via Mixture-of-Experts [60.1586169973792]
  M$3$ViTは、Mix-of-experts (MoE)を導入した最新のマルチタスクViTモデルである。 MoEは精度の向上と80%以上の削減計算を実現しているが、FPGAに効率的なデプロイを行う上での課題は残されている。 Edge-MoEと呼ばれる私たちの研究は、アーキテクチャの革新の集合を伴って、マルチタスクのViTのための最初のエンドツーエンドFPGAアクセラレータを導入するという課題を解決します。
  論文  参考訳（メタデータ） (2023-05-30T02:24:03Z)
• An Algorithm-Hardware Co-Optimized Framework for Accelerating N:M Sparse Transformers [11.811907838840712]
  一般のN:M空間パターンを利用して, フレキシブルかつ効率的にトランスフォーマーを高速化するアルゴリズム・ハードウェア協調最適化フレームワークを提案する。 我々は、N:Mスパーストランスをデプロイする際の大幅な高速化を実現するために、フレキシブルで効率的なハードウェアアーキテクチャ、すなわちSTAを提案する。 実験の結果, 他の方法と比較して, IDPを用いて生成したN:Mスパース変圧器は, トレーニング効率の高い精度で平均6.7%向上することがわかった。
  論文  参考訳（メタデータ） (2022-08-12T04:51:49Z)
• AdaViT: Adaptive Tokens for Efficient Vision Transformer [91.88404546243113]
  本稿では,視覚変換器(ViT)の推論コストを,複雑さの異なる画像に対して適応的に調整する手法であるAdaViTを紹介する。 AdaViTは、推論が進むにつれてネットワーク内で処理されるビジョントランスフォーマーのトークン数を自動で削減することで、これを実現する。
  論文  参考訳（メタデータ） (2021-12-14T18:56:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。