論文の概要: Energy-Efficient CNN Acceleration with MSDF Digit-Serial Arithmetic on FPGA
- arxiv url: http://arxiv.org/abs/2606.25562v1
- Date: Wed, 24 Jun 2026 08:37:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.281453
- Title: Energy-Efficient CNN Acceleration with MSDF Digit-Serial Arithmetic on FPGA
- Title(参考訳): MSDF Digit-Serial Arithmetic on FPGAによる省エネルギーCNN高速化
- Abstract要約: 本稿では,イメージセグメンテーションのためのU-Netアーキテクチャにおいて,畳み込み層のエネルギー効率の高いハードウェアアクセラレーションを提案する。
本稿では,これらの演算を統合パイプラインに融合する乗算付加アーキテクチャを提案する。
MMAユニットは空間入力深度を並列に処理するように設計されており、スタンドアロンのMSDFベースの設計と従来の設計の両方よりも大幅に高い性能を実現している。
- 参考スコア(独自算出の注目度): 2.5799854351636564
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: This paper presents an energy-efficient hardware acceleration of the convolutional layers in the U-Net architecture for image segmentation, implemented on FPGA. While digit-serial arithmetic, particularly most-significant-digit-first (MSDF) techniques, offers a compact hardware footprint, it suffers from initial latency before producing the first output digit. This delay accumulates in cascaded operations like multiplication followed by addition, where each unit introduces its own startup overhead. To overcome this, we propose a merged multiply-add (MMA) architecture that fuses these operations into a unified pipeline. Instead of incurring separate delays, the MMA introduces a single streamlined latency per iteration, shorter than the combined latency of conventional cascaded units, resulting in enhanced throughput and efficiency. The MMA units are designed to process spatial input depths in parallel, achieving significantly higher performance than both standalone MSDF-based and conventional designs. We evaluate the proposed design using U-Net as a target application. Despite operating at a lower frequency than a CPU, the FPGA-based accelerator achieves up to an order of magnitude higher energy efficiency, delivering up to $15.14$ GOPS/W compared to $1.93$ GOPS/W for CPU-based inference. The design also shows approximately $9\times$ reduction in energy consumption compared to MSDF-based FPGA implementations. These results highlight the efficacy of the merged arithmetic approach for resource-constrained, latency-sensitive edge applications in medical imaging and computer vision.
- Abstract(参考訳): 本稿では,FPGA上に実装された画像分割のためのU-Netアーキテクチャにおいて,畳み込み層のエネルギー効率の高いハードウェアアクセラレーションを提案する。
数値シリアル算術、特に最も重要なデジタルファースト(MSDF)技術はコンパクトなハードウェアフットプリントを提供するが、最初の出力ディジットを生成する前に初期遅延に悩まされる。
この遅延は、重複のようなカスケード操作に蓄積され、その後追加され、各ユニットが独自の起動オーバーヘッドを導入する。
そこで本研究では,これらの演算を統合パイプラインに融合する,MMA(Multiply-add)アーキテクチャを提案する。
別々の遅延を発生させる代わりに、MMAは1イテレーションごとに1つの合理化レイテンシを導入し、従来のカスケードユニットと組み合わせたレイテンシよりも短くなり、スループットと効率が向上した。
MMAユニットは空間入力深度を並列に処理するように設計されており、スタンドアロンのMSDFベースの設計と従来の設計の両方よりも大幅に高い性能を実現している。
対象アプリケーションとしてU-Netを用いた提案手法の評価を行った。
CPUより低い周波数で動作するにもかかわらず、FPGAベースのアクセラレータは最大で15.14ドル GOPS/W、CPUベースの推論では1.93ドル GOPS/Wとなる。
また、MSDFベースのFPGA実装と比較して、エネルギー消費の約9倍の削減率を示す。
これらの結果は,医用画像およびコンピュータビジョンにおける資源制約,遅延感応性エッジアプリケーションに対する算術的手法の有効性を浮き彫りにしたものである。
関連論文リスト
- ELiTeFormer: An Efficient Transformer for FPGAs [3.884894816711594]
トランスフォーマーブロックは、大きな言語モデル(LLM)で広く使われているが、現在のデプロイメント課題である。
ELiTeFormerは,ハイブリッド線形アテンションと超低精度(3次)線形プロジェクションを一体化した最初のトランスフォーマーモデルである。
論文 参考訳(メタデータ) (2026-07-04T00:52:06Z) - Ge$^\text{2}$mS-T: Multi-Dimensional Grouping for Ultra-High Energy Efficiency in Spiking Transformer [84.8831358775386]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも優れたエネルギー効率を提供する
ANN-SNN ConversionやSpatial-Temporal Backpropagation (STBP)といった既存のパラダイムは、固有の制限に悩まされている。
Ge$text2$mS-Tを提案する。これは時間的・空間的・ネットワーク的構造次元にまたがるグループ計算を実装した新しいアーキテクチャである。
論文 参考訳(メタデータ) (2026-04-10T02:58:46Z) - AdaFuse: Accelerating Dynamic Adapter Inference via Token-Level Pre-Gating and Fused Kernel Optimization [84.25316984309725]
動的スパース構造とパラメータ効率のよいアダプタ(例えばLoRA)の統合は、大規模言語モデル(LLM)を拡張するための強力な技術である。
計算負荷は最小限に抑えられるが、計算のレイテンシが急上昇し、復号速度が2.5倍以上遅くなる。
AdaFuseはアルゴリズムと基盤となるハードウェアシステムとの緊密な協調設計に基づいて構築されたフレームワークで、効率的な動的アダプタ実行を実現する。
論文 参考訳(メタデータ) (2026-03-12T12:46:42Z) - Exact Nearest-Neighbor Search on Energy-Efficient FPGA Devices [10.725513609195]
本稿では,FPGAの低レベル構成を同一とする2つの異なるエネルギー効率ソリューションを提案する。
最初のソリューションは、バッチのクエリをストリームデータセット上で並列に処理することで、システムのスループットを最大化する。
2つ目は、各kNN受信クエリをインメモリデータセット上で並列に処理することで、レイテンシを最小限にする。
論文 参考訳(メタデータ) (2025-10-19T07:29:16Z) - Intra-DP: A High Performance Collaborative Inference System for Mobile Edge Computing [67.98609858326951]
Intra-DPはモバイルデバイス上でのディープニューラルネットワーク(DNN)に最適化された高性能な協調推論システムである。
推論毎のレイテンシを最大50%削減し、最先端のベースラインと比較してエネルギー消費量を最大75%削減する。
評価の結果,DP内の遅延は,最先端のベースラインと比較して最大50%,エネルギー消費は最大75%減少することがわかった。
論文 参考訳(メタデータ) (2025-07-08T09:50:57Z) - Fast, Scalable, Energy-Efficient Non-element-wise Matrix Multiplication on FPGA [10.630802853096462]
現代のニューラルネットワーク(NN)アーキテクチャは、膨大な数の乗算演算に依存している。
本稿ではFPGA上の高スループット,スケーラブル,エネルギー効率の非要素的行列乗算ユニットを提案する。
AMUを使用すると、FPGAベースの量子ニューラルネットワーク(QNN)アクセラレーターの最先端ソリューションよりも最大9倍高いスループットと112倍高いエネルギー効率が得られる。
論文 参考訳(メタデータ) (2024-07-02T15:28:10Z) - SWAT: Scalable and Efficient Window Attention-based Transformers Acceleration on FPGAs [3.302913401404089]
スライディングウィンドウベースの静的スパースアテンションは、入力トークンのアテンションスコープを制限することで問題を緩和する。
本稿では,データフローを意識したFPGAベースのアクセラレーション設計であるSWATを提案する。
論文 参考訳(メタデータ) (2024-05-27T10:25:08Z) - LL-GNN: Low Latency Graph Neural Networks on FPGAs for High Energy
Physics [45.666822327616046]
本研究は,粒子検出器のための低グラフニューラルネットワーク(LL-GNN)設計のための新しい再構成可能なアーキテクチャを提案する。
LL-GNNの設計は、洗練されたアルゴリズムが実験データを効率的に処理できるようにすることで、次世代のトリガーシステムを進化させる。
論文 参考訳(メタデータ) (2022-09-28T12:55:35Z) - Adaptable Butterfly Accelerator for Attention-based NNs via Hardware and
Algorithm Co-design [66.39546326221176]
多くのAIタスクにおいて、注意に基づくニューラルネットワークが普及している。
注意機構とフィードフォワードネットワーク(FFN)の使用は、過剰な計算とメモリ資源を必要とする。
本稿では,注目機構とFFNの両方を近似するために,バタフライの分散パターンを統一したハードウェアフレンドリーな変種を提案する。
論文 参考訳(メタデータ) (2022-09-20T09:28:26Z) - EdgeBERT: Sentence-Level Energy Optimizations for Latency-Aware
Multi-Task NLP Inference [82.1584439276834]
BERTのようなトランスフォーマーベースの言語モデルでは、自然言語処理(NLP)タスクの精度が大幅に向上する。
We present EdgeBERT, a in-deepth algorithm- hardware co-design for latency-aware energy optimization for multi-task NLP。
論文 参考訳(メタデータ) (2020-11-28T19:21:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。