論文の概要: DHFP-PE: Dual-Precision Hybrid Floating Point Processing Element for AI Acceleration
- arxiv url: http://arxiv.org/abs/2604.04507v1
- Date: Mon, 06 Apr 2026 08:17:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:19.140524
- Title: DHFP-PE: Dual-Precision Hybrid Floating Point Processing Element for AI Acceleration
- Title(参考訳): DHFP-PE:AI加速のための2倍精度ハイブリッド浮動小数点処理要素
- Authors: Shubham Kumar, Vijay Pratap Sharma, Vaibhav Neema, Santosh Kumar Vishvakarma,
- Abstract要約: 本稿では,FP8フォーマット (E4M3, E5M2) とFP4フォーマット (E2M1, E1M2) をサポートする完全パイプライン2倍精度浮動小数点MAC処理エンジンを提案する。
提案アーキテクチャでは、FP8の標準4x4乗算器や2ビットオペランドの2つの並列2x2乗算器として、単一の4ビット単位乗算器を動作させる新しいビット分割方式を採用している。
提案する処理エンジンは、0.00396mm2の面積と2.13mWの消費電力を有する1.94GHzの動作周波数を実現する。
- 参考スコア(独自算出の注目度): 2.1512536685031285
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rapid adoption of low-precision arithmetic in artificial intelligence and edge computing has created a strong demand for energy-efficient and flexible floating-point multiply-accumulate (MAC) units. This paper presents a fully pipelined dual-precision floating-point MAC processing engine supporting FP8 formats (E4M3, E5M2) and FP4 formats (E2M1, E1M2), specifically optimized for low-power and high-throughput AI workloads. The proposed architecture employs a novel bit-partitioning technique that enables a single 4-bit unit multiplier to operate either as a standard 4x4 multiplier for FP8 or as two parallel 2x2 multipliers for 2-bit operands, achieving 100 percent hardware utilization without duplicating logic. Implemented in 28 nm technology, the proposed processing engine achieves an operating frequency of 1.94 GHz with an area of 0.00396 mm^2 and power consumption of 2.13 mW, resulting in up to 60.4 percent area reduction and 86.6 percent power savings compared to state-of-the-art designs.
- Abstract(参考訳): 人工知能とエッジコンピューティングにおける低精度算術の急速な採用により、エネルギー効率と柔軟な浮動小数点乗算(MAC)ユニットの需要が高まっている。
本稿では、FP8フォーマット(E4M3, E5M2)とFP4フォーマット(E2M1, E1M2)をサポートし、特に低消費電力で高スループットなAIワークロードに最適化された、完全なパイプライン化された二重精度浮動小数点MAC処理エンジンを提案する。
提案アーキテクチャでは,FP8の標準4x4乗算器や2ビットオペランドの並列2x2乗算器として1つの4ビット単位乗算器を動作させ,論理を重複させることなく100%のハードウェア利用を実現する。
28nm技術で実装されたこの処理エンジンは、0.00396mm^2の面積と2.13mWの消費電力を持つ1.94GHzの動作周波数を実現し、最先端の設計と比較して60.4%の面積削減と86.6%の省電力を実現した。
関連論文リスト
- BWTA: Accurate and Efficient Binarized Transformer by Algorithm-Hardware Co-design [71.97035034203275]
バイナライゼーションにおけるゼロ点歪みを解析し,BWTA量子化方式を提案する。
本稿では,Smooth Multi-Stage Quantizationを提案し,レベルワイド・デグラデーション・ストラテジーとMagnitude Alignment Projection Factorを組み合わせた。
実験の結果、BWTAはTransformerベースのモデルに対して、GLUEでは平均3.5%、タスクでは2%未満の精度でフル精度のパフォーマンスにアプローチしていることがわかった。
論文 参考訳(メタデータ) (2026-04-05T04:25:07Z) - Bridging the Gap Between Promise and Performance for Microscaling FP4 Quantization [77.67818998672516]
本研究は,MXFP4とNVFP4の学習後量子化に関する総合的研究である。
本稿では,従来のGPTQ量子化アルゴリズムの変種であるMicro-Rotated-GPTQ(MR-GPTQ)を紹介する。
MR-GPTQは最先端の精度で一致または性能が向上することを示す。
論文 参考訳(メタデータ) (2025-09-27T09:22:21Z) - XR-NPE: High-Throughput Mixed-precision SIMD Neural Processing Engine for Extended Reality Perception Workloads [0.0]
XR-NPEは、視覚慣性オドメトリー(VIO)、物体分類、視線抽出のような拡張現実(XR)知覚のために設計されている。
結果が公開され、デザイナと研究者が簡単にそれらを採用して構築できるようになる。
論文 参考訳(メタデータ) (2025-08-18T16:13:00Z) - An Inquiry into Datacenter TCO for LLM Inference with FP8 [18.01919466758935]
大規模言語モデル(LLM)の計算特性をTCOの観点から解析する。
我々は、Intel(Gaudi 2 & 3)とNVIDIA(H100 & H200)のAIアクセラレーターにおけるTCOに影響を与える重要なワークロード特性について検討する。
ガウディHPUは,特にFP8量子化モデルにおいて,薄型GEMMよりも優れた利用率が得られることがわかった。
論文 参考訳(メタデータ) (2025-02-03T05:26:22Z) - Flex-PE: Flexible and SIMD Multi-Precision Processing Element for AI Workloads [0.0]
本研究は,フレキシブル・SIMDマルチ精度処理素子(FlexPE)を提案する。
提案設計では,パイプラインモードで最大16倍FxP4,8倍FxP8,4倍FxP16,1倍FxP32のスループットを実現する。
論文 参考訳(メタデータ) (2024-12-16T12:25:57Z) - QUIK: Towards End-to-End 4-Bit Inference on Generative Large Language
Models [57.04178959678024]
重み付けとアクティベーションの両方を4ビットにキャストすることで、大きな生成モデルに対する推論計算の大部分が実行可能であることを示す。
これをQUIKと呼ばれるハイブリッド量子化戦略により実現し、重みとアクティベーションの大部分を4ビットに圧縮する。
我々は、QUIKフォーマットを高効率なレイヤワイドランタイムに適合させるGPUカーネルを提供し、これにより、エンドツーエンドのスループットが3.4倍に向上する。
論文 参考訳(メタデータ) (2023-10-13T17:15:05Z) - RedMule: A Mixed-Precision Matrix-Matrix Operation Engine for Flexible
and Energy-Efficient On-Chip Linear Algebra and TinyML Training Acceleration [15.869673535117032]
現在のトレーニングアルゴリズムは、精度とダイナミックレンジの要求を満たすために浮動小数点行列演算に依存している。
RedMulEは、多精度浮動小数点一般行列演算(GEMM-Ops)加速のために考案された、低消費電力の特殊アクセラレータである。
RedMulE は FP16 と FP8 で 58.5 GFLOPS と 117 GFLOPS をそれぞれ達成し、計算要素の配列を99.4% 利用している。
論文 参考訳(メタデータ) (2023-01-10T11:07:16Z) - Adaptable Butterfly Accelerator for Attention-based NNs via Hardware and
Algorithm Co-design [66.39546326221176]
多くのAIタスクにおいて、注意に基づくニューラルネットワークが普及している。
注意機構とフィードフォワードネットワーク(FFN)の使用は、過剰な計算とメモリ資源を必要とする。
本稿では,注目機構とFFNの両方を近似するために,バタフライの分散パターンを統一したハードウェアフレンドリーな変種を提案する。
論文 参考訳(メタデータ) (2022-09-20T09:28:26Z) - FP8 Formats for Deep Learning [49.54015320992368]
2つのエンコーディングからなる8ビット浮動小数点(FP8)バイナリインターチェンジフォーマットを提案する。
E4M3のダイナミックレンジは無限大を表現せず、NaNに対して1つのマティーサビットパターンしか持たないことによって拡張される。
16ビットのトレーニングセッションで達成した結果の質を効果的にマッチングし,FP8フォーマットが様々な画像および言語タスクに対して有効であることを示す。
論文 参考訳(メタデータ) (2022-09-12T17:39:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。