論文の概要: TADA: Technology Aware DNN Accelerator Performance and Energy Estimator
- arxiv url: http://arxiv.org/abs/2611.00292v1
- Date: Fri, 30 Oct 2026 19:17:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 02:13:30.821243
- Title: TADA: Technology Aware DNN Accelerator Performance and Energy Estimator
- Title(参考訳): TADA:DNN加速器の性能とエネルギー推定技術
- Abstract要約: 本稿では,メモリ技術に配慮した加速器の性能とエネルギー推定器であるTADについて述べる。
特定のワークロード、ハードウェア構成、メモリ技術に対するシステムのレイテンシとエネルギを予測する。
これはシミュレータが選択したメモリ技術と98.7-100%の領域予算で一致し、平均的なEDP損失は0.21%である。
- 参考スコア(独自算出の注目度): 9.291297435378596
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural network (DNN) accelerators for edge inference must meet tight energy, latency, and area (EDP) constraints, and their optimal hardware architecture and dataflow configuration is typically identified through design space exploration (DSE). However, on-chip memory technology including cell type, bank organization, and process node, is rarely treated as a first-class citizen in DSE. For example, increasing memory capacity can reduce memory accesses through greater data reuse, but at the cost of higher area and access energy, thereby limiting the compute units budget. Consequently, memory technology can fundamentally shift the optimal accelerator architecture for a given area and EDP budget. Existing machine learning (ML)-based DSE methods require repeating simulation, data generation, and model training for each new memory technology. We present TADA, a memory technology-aware DNN accelerator performance and energy estimator that predicts system latency and energy for a given workload, hardware configuration, and memory technology. TADA is trained on a synthetic dataset that generalizes across memory technologies. The dataset spans current and future technology trends while enforcing physics-based guardrails to preserve realistic area-energy trade-offs. Each memory technology is represented by a technology signature, a vector of read energy, write energy, and storage capacity across a range of areas, provided as input alongside the workload and hardware configuration. Across 21 unseen technology curves spanning SRAM, STTRAM, ReRAM, PCM, FeFET, eDRAM, and CTT, TADA predicts system energy and latency with 1.5-4.4% and 0.7-1.2% mean absolute percentage error, respectively. In three pairwise case studies, it matches the simulator-selected memory technology at 98.7-100% of area budgets, with a mean EDP loss of at most 0.21%, while achieving over 10^4x higher evaluation throughput.
- Abstract(参考訳): エッジ推論のためのディープニューラルネットワーク(DNN)アクセラレータは、厳密なエネルギー、レイテンシ、領域(EDP)の制約を満たす必要がある。
しかし、セルタイプ、銀行組織、プロセスノードを含むオンチップメモリ技術は、DSEにおいて第一級市民として扱われることは滅多にない。
例えば、メモリ容量の増加は、より大きなデータ再利用によってメモリアクセスを減らすが、より高い面積とアクセスエネルギーのコストで計算ユニットの予算が制限される。
その結果、メモリ技術は、与えられた領域の最適な加速器アーキテクチャとEDP予算を根本的にシフトさせることができる。
既存の機械学習(ML)ベースのDSE手法では、新しいメモリ技術ごとに繰り返しシミュレーション、データ生成、モデルトレーニングが必要となる。
メモリ技術に対応したDNNアクセラレーターの性能とエネルギ推定器であるTADは、所定のワークロード、ハードウェア構成、メモリ技術のシステム遅延とエネルギを予測する。
TADAは、メモリ技術全体にわたって一般化される合成データセットに基づいて訓練されている。
このデータセットは、現実的な地域エネルギートレードオフを維持するために物理ベースのガードレールを強制しながら、現在および将来の技術トレンドにまたがる。
それぞれのメモリ技術は、技術シグネチャ、リードエネルギのベクトル、書き込みエネルギ、および様々な領域にわたるストレージ容量で表現され、ワークロードやハードウェア構成と共に入力として提供される。
SRAM、STTRAM、ReRAM、PCM、FeFET、eDRAM、CTTにまたがる21の未確認技術曲線において、TADはシステムエネルギーと遅延をそれぞれ1.5-4.4%、0.7-1.2%の平均絶対パーセンテージ誤差で予測する。
3つのケーススタディにおいて、シミュレータ選択したメモリ技術は、面積予算の98.7-100%で一致し、平均的なEDP損失は0.21%であり、高い評価スループットは10^4倍である。
関連論文リスト
- Hardware-software co-exploration with racetrack memory based in-memory computing for CNN inference in embedded systems [54.045712360156024]
レーストラックメモリは、データ密度の高い製造を可能にする不揮発性技術である。
メモリセルを持つインメモリ演算回路は、メモリ密度と電力効率の両方に影響を与える。
レーストラックメモリに最適化された効率的なインメモリ畳み込みニューラルネットワーク(CNN)アクセラレータを提案する。
論文 参考訳(メタデータ) (2025-07-02T07:29:53Z) - Efficient and accurate neural field reconstruction using resistive memory [52.68088466453264]
デジタルコンピュータにおける従来の信号再構成手法は、ソフトウェアとハードウェアの両方の課題に直面している。
本稿では,スパース入力からの信号再構成のためのソフトウェア・ハードウェア協調最適化を用いた体系的アプローチを提案する。
この研究は、AI駆動の信号復元技術を進歩させ、将来の効率的で堅牢な医療AIと3Dビジョンアプリケーションへの道を開く。
論文 参考訳(メタデータ) (2024-04-15T09:33:09Z) - Random resistive memory-based deep extreme point learning machine for
unified visual processing [67.51600474104171]
ハードウェア・ソフトウェア共同設計型, ランダム抵抗型メモリベース深部極点学習マシン(DEPLM)を提案する。
我々の共同設計システムは,従来のシステムと比較して,エネルギー効率の大幅な向上とトレーニングコストの削減を実現している。
論文 参考訳(メタデータ) (2023-12-14T09:46:16Z) - Pruning random resistive memory for optimizing analogue AI [54.21621702814583]
AIモデルは、エネルギー消費と環境持続可能性に前例のない課題を提示する。
有望な解決策の1つは、アナログコンピューティングを再考することである。
ここでは、構造的塑性に着想を得たエッジプルーニングを用いたユニバーサルソリューション、ソフトウェア・ハードウエアの共設計について報告する。
論文 参考訳(メタデータ) (2023-11-13T08:59:01Z) - Evaluation of STT-MRAM as a Scratchpad for Training in ML Accelerators [9.877596714655096]
深層ニューラルネットワーク(DNN)のトレーニングは非常にメモリ集約的なプロセスである。
Spin-Transfer-Torque MRAM (STT-MRAM) は、加速器の訓練に望ましいいくつかの特性を提供する。
MRAMはシステムレベルのエネルギーを最大15-22倍改善することを示す。
論文 参考訳(メタデータ) (2023-08-03T20:36:48Z) - CAMEL: Co-Designing AI Models and Embedded DRAMs for Efficient On-Device
Learning [8.339901980070616]
リソース制限されたデバイスでのAIのトレーニングは、コンピューティングワークロードの要求と、ディープニューラルネットワーク(DNN)が必要とするメモリ消費とデータアクセスの大幅な増加により、大きな課題となる。
過渡学習データのための一次記憶媒体として,組込み動的ランダムアクセスメモリ(eDRAM)を提案する。
我々は,eDRAMをプライマリオンチップメモリとして活用する,TextitCAMELという,高効率なオンデバイストレーニングエンジンを提案する。
論文 参考訳(メタデータ) (2023-05-04T20:57:01Z) - Resistive Neural Hardware Accelerators [0.46198289193451136]
ReRAMベースのインメモリコンピューティングは、領域と電力効率のよい推論の実装において大きな可能性を秘めている。
ReRAMベースのインメモリコンピューティングへの移行は、領域と電力効率のよい推論の実装において大きな可能性を秘めている。
本稿では,最先端のReRAMベースディープニューラルネットワーク(DNN)多コアアクセラレータについて概説する。
論文 参考訳(メタデータ) (2021-09-08T21:11:48Z) - SmartDeal: Re-Modeling Deep Network Weights for Efficient Inference and
Training [82.35376405568975]
ディープニューラルネットワーク(DNN)は重いパラメータ化を伴い、ストレージ用の外部動的ランダムアクセスメモリ(DRAM)につながります。
We present SmartDeal (SD), a algorithm framework to trade high-cost memory storage/ access for lower-cost compute。
SDは貯蔵および訓練エネルギーの10.56xそして4.48x減少、最先端の訓練のベースラインと比較される無視可能な正確さの損失をもたらすことを示します。
論文 参考訳(メタデータ) (2021-01-04T18:54:07Z) - One-step regression and classification with crosspoint resistive memory
arrays [62.997667081978825]
高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。
ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。
結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
論文 参考訳(メタデータ) (2020-05-05T08:00:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。