論文の概要: NASA: Neural Architecture Search and Acceleration for Hardware Inspired
Hybrid Networks
- arxiv url: http://arxiv.org/abs/2210.13361v1
- Date: Mon, 24 Oct 2022 16:03:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-25 21:55:27.923371
- Title: NASA: Neural Architecture Search and Acceleration for Hardware Inspired
Hybrid Networks
- Title(参考訳): NASA: ハードウェアにインスパイアされたハイブリッドネットワークのためのニューラルアーキテクチャ検索と高速化
- Authors: Huihong Shi, Haoran You, Yang Zhao, Zhongfeng Wang, and Yingyan Lin
- Abstract要約: 我々はNASAというニューラルアーキテクチャ検索・加速フレームワークを提案する。
自動乗算型DNN開発を可能にし、専用乗算型加速器を統合する。
実験は、達成可能な精度と効率のトレードオフの観点から、NASAのアルゴリズム・ハードウェアの共同設計フレームワークの利点を一貫して評価する。
- 参考スコア(独自算出の注目度): 24.95135135092478
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multiplication is arguably the most cost-dominant operation in modern deep
neural networks (DNNs), limiting their achievable efficiency and thus more
extensive deployment in resource-constrained applications. To tackle this
limitation, pioneering works have developed handcrafted multiplication-free
DNNs, which require expert knowledge and time-consuming manual iteration,
calling for fast development tools. To this end, we propose a Neural
Architecture Search and Acceleration framework dubbed NASA, which enables
automated multiplication-reduced DNN development and integrates a dedicated
multiplication-reduced accelerator for boosting DNNs' achievable efficiency.
Specifically, NASA adopts neural architecture search (NAS) spaces that augment
the state-of-the-art one with hardware-inspired multiplication-free operators,
such as shift and adder, armed with a novel progressive pretrain strategy (PGP)
together with customized training recipes to automatically search for optimal
multiplication-reduced DNNs; On top of that, NASA further develops a dedicated
accelerator, which advocates a chunk-based template and auto-mapper dedicated
for NASA-NAS resulting DNNs to better leverage their algorithmic properties for
boosting hardware efficiency. Experimental results and ablation studies
consistently validate the advantages of NASA's algorithm-hardware co-design
framework in terms of achievable accuracy and efficiency tradeoffs. Codes are
available at https://github.com/RICE-EIC/NASA.
- Abstract(参考訳): 乗算は、現代のディープニューラルネットワーク(DNN)において最もコストがかかる演算であり、達成可能な効率を制限し、リソース制約のあるアプリケーションへのより広範なデプロイを可能にする。
この制限に対処するために、先駆的な作業は、専門家の知識と時間を要する手作業によるイテレーションを必要とする、手作りの乗算不要のDNNを開発した。
この目的のために,NASA というニューラル・アーキテクチャ・サーチ・アクセラレーション・フレームワークを提案し,DNN の達成可能な効率を向上するために,自動乗算還元 DNN 開発を実現し,専用乗算還元加速器を統合する。
Specifically, NASA adopts neural architecture search (NAS) spaces that augment the state-of-the-art one with hardware-inspired multiplication-free operators, such as shift and adder, armed with a novel progressive pretrain strategy (PGP) together with customized training recipes to automatically search for optimal multiplication-reduced DNNs; On top of that, NASA further develops a dedicated accelerator, which advocates a chunk-based template and auto-mapper dedicated for NASA-NAS resulting DNNs to better leverage their algorithmic properties for boosting hardware efficiency.
実験結果とアブレーション研究は、達成可能な精度と効率のトレードオフの観点から、NASAのアルゴリズム・ハードウェアの共同設計フレームワークの利点を一貫して評価している。
コードはhttps://github.com/RICE-EIC/NASAで公開されている。
関連論文リスト
- Spyx: A Library for Just-In-Time Compiled Optimization of Spiking Neural
Networks [0.08965418284317034]
Spiking Neural Networks(SNN)は、小さくて低消費電力なハードウェアフットプリントによるエネルギー効率の向上を提供する。
本稿では、JAXで設計された新しい軽量SNNシミュレーションおよび最適化ライブラリSpyxを紹介する。
論文 参考訳(メタデータ) (2024-02-29T09:46:44Z) - LitE-SNN: Designing Lightweight and Efficient Spiking Neural Network through Spatial-Temporal Compressive Network Search and Joint Optimization [48.41286573672824]
スパイキングニューラルネットワーク(SNN)は人間の脳の情報処理機構を模倣し、エネルギー効率が高い。
本稿では,空間圧縮と時間圧縮の両方を自動ネットワーク設計プロセスに組み込むLitE-SNNという新しい手法を提案する。
論文 参考訳(メタデータ) (2024-01-26T05:23:11Z) - SpikingJelly: An open-source machine learning infrastructure platform
for spike-based intelligence [51.6943465041708]
スパイキングニューラルネットワーク(SNN)は、高エネルギー効率のニューロモルフィックチップに脳にインスパイアされたインテリジェンスを実現することを目的としている。
我々は、ニューロモルフィックデータセットの事前処理、深層SNNの構築、パラメータの最適化、およびニューロモルフィックチップへのSNNのデプロイのためのフルスタックツールキットをコントリビュートする。
論文 参考訳(メタデータ) (2023-10-25T13:15:17Z) - Energy-Efficient Deployment of Machine Learning Workloads on
Neuromorphic Hardware [0.11744028458220425]
ディープラーニングハードウェアアクセラレータがいくつかリリースされ、ディープニューラルネットワーク(DNN)が消費する電力と面積の削減に特化している。
個別の時系列データで動作するスパイクニューラルネットワーク(SNN)は、特殊なニューロモルフィックイベントベース/非同期ハードウェアにデプロイすると、大幅な電力削減を実現することが示されている。
本研究では,事前学習したDNNをSNNに変換するための一般的なガイドを提供するとともに,ニューロモルフィックハードウェア上でのSNNの展開を改善するためのテクニックも提示する。
論文 参考訳(メタデータ) (2022-10-10T20:27:19Z) - FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。
この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。
分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
論文 参考訳(メタデータ) (2022-01-18T13:59:22Z) - E3NE: An End-to-End Framework for Accelerating Spiking Neural Networks
with Emerging Neural Encoding on FPGAs [6.047137174639418]
エンドツーエンドフレームワークのE3NEはFPGAのための効率的なSNN推論ロジックを生成する。
E3NEはハードウェアリソースの50%未満を消費し、20%の電力を消費する一方で、レイテンシを桁違いに低減する。
論文 参考訳(メタデータ) (2021-11-19T04:01:19Z) - DNA: Differentiable Network-Accelerator Co-Search [27.559653195015706]
そこで我々は,一致したネットワークやアクセラレータを自動的に検索する,差別化可能なネットワーク加速器のコサーチフレームワークであるDNAを提案する。
1)DNNアクセラレータの汎用設計スペースと、アルゴリズム探索を可能にするPyTorchなどのDNNフレームワークとの互換性。
実験およびアブレーション研究により、DNAによって生成されたマッチングネットワークと加速器は、常に最先端(SOTA)のDNNや加速器より優れていることが示されている。
論文 参考訳(メタデータ) (2020-10-28T05:57:16Z) - MS-RANAS: Multi-Scale Resource-Aware Neural Architecture Search [94.80212602202518]
我々は,MS-RANAS(Multi-Scale Resource-Aware Neural Architecture Search)を提案する。
我々は,検索コストの削減を図るために,ワンショットのアーキテクチャ探索手法を採用した。
我々は精度-速度トレードオフの観点から最先端の結果を得る。
論文 参考訳(メタデータ) (2020-09-29T11:56:01Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z) - You Only Spike Once: Improving Energy-Efficient Neuromorphic Inference
to ANN-Level Accuracy [51.861168222799186]
スパイキングニューラルネットワーク(英: Spiking Neural Networks、SNN)は、神経型ネットワークの一種である。
SNNはスパースであり、重量はごくわずかであり、通常、より電力集約的な乗算および累積演算の代わりに追加操作のみを使用する。
本研究では,TTFS符号化ニューロモルフィックシステムの限界を克服することを目的としている。
論文 参考訳(メタデータ) (2020-06-03T15:55:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。