論文の概要: Thermal-Aware Compilation of Spiking Neural Networks to Neuromorphic Hardware

• arxiv url: http://arxiv.org/abs/2010.04773v2
• Date: Thu, 17 Dec 2020 21:26:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-09 05:40:33.655006
• Title: Thermal-Aware Compilation of Spiking Neural Networks to Neuromorphic Hardware
• Title（参考訳）: スパイクニューラルネットワークのニューロモルフィックハードウェアへのサーマルアウェアコンパイル
• Authors: Twisha Titirsha and Anup Das
• Abstract要約: 本稿では、SNNベースの機械学習ワークロードのニューロンとシナプスをニューロモルフィックハードウェアにマッピングする手法を提案する。 ハードウェアの各クロスバーの平均温度は平均11.4低下し, リーク電力消費量は52%減少した。
• 参考スコア（独自算出の注目度）: 0.30458514384586394
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hardware implementation of neuromorphic computing can significantly improve performance and energy efficiency of machine learning tasks implemented with spiking neural networks (SNNs), making these hardware platforms particularly suitable for embedded systems and other energy-constrained environments. We observe that the long bitlines and wordlines in a crossbar of the hardware create significant current variations when propagating spikes through its synaptic elements, which are typically designed with non-volatile memory (NVM). Such current variations create a thermal gradient within each crossbar of the hardware, depending on the machine learning workload and the mapping of neurons and synapses of the workload to these crossbars. \mr{This thermal gradient becomes significant at scaled technology nodes and it increases the leakage power in the hardware leading to an increase in the energy consumption.} We propose a novel technique to map neurons and synapses of SNN-based machine learning workloads to neuromorphic hardware. We make two novel contributions. First, we formulate a detailed thermal model for a crossbar in a neuromorphic hardware incorporating workload dependency, where the temperature of each NVM-based synaptic cell is computed considering the thermal contributions from its neighboring cells. Second, we incorporate this thermal model in the mapping of neurons and synapses of SNN-based workloads using a hill-climbing heuristic. The objective is to reduce the thermal gradient in crossbars. We evaluate our neuron and synapse mapping technique using 10 machine learning workloads for a state-of-the-art neuromorphic hardware. We demonstrate an average 11.4K reduction in the average temperature of each crossbar in the hardware, leading to a 52% reduction in the leakage power consumption (11% lower total energy consumption) compared to a performance-oriented SNN mapping technique.
• Abstract（参考訳）: ニューロモルフィックコンピューティングのハードウェア実装は、スパイクニューラルネットワーク(SNN)で実装された機械学習タスクのパフォーマンスとエネルギー効率を大幅に向上させ、これらのハードウェアプラットフォームは組み込みシステムや他のエネルギー制約のある環境に特に適している。 ハードウェアのクロスバーの長いビット線とワード線は、通常非揮発性メモリ(NVM)で設計されるシナプス要素を介してスパイクを伝播する際に、大きな電流変化を生じさせる。 このような変化は、ハードウェアの各クロスバー内で、機械学習のワークロードと、これらのクロスバーへの負荷のニューロンとシナプスのマッピングに依存する熱勾配を生成する。 この温度勾配は、スケールされた技術ノードにおいて重要となり、ハードウェアのリーク電力を増加させ、エネルギー消費を増加させる。 ニューロモルフィックハードウェアにSNNベースの機械学習ワークロードのニューロンとシナプスをマッピングする新しい手法を提案する。 我々は2つの新しい貢献をした。 まず, 各NVM系シナプス細胞の温度を計算し, 隣接するセルの熱的寄与を考慮し, 負荷依存性を取り入れたニューロモルフィックハードウェアにおけるクロスバーの詳細な熱モデルを構築した。 第2に、この熱モデルを、丘登りヒューリスティックを用いてSNNベースのワークロードのニューロンとシナプスのマッピングに組み込む。 クロスバーの熱勾配を減少させることが目的である。 我々は、最先端のニューロモルフィックハードウェアのための10の機械学習ワークロードを用いて、ニューロンとシナプスマッピング手法を評価する。 ハードウェアの各クロスバーの平均温度を平均11.4K削減し,性能指向SNNマッピング技術と比較して,リーク電力消費量(総エネルギー消費率11%)を52%削減した。

関連論文リスト

• Analog Spiking Neuron in CMOS 28 nm Towards Large-Scale Neuromorphic Processors [0.8426358786287627]
  本研究では,TSMCの28nmCMOS技術を用いた低消費電力Leaky Integrate- and-Fireニューロンの設計を提案する。 製造されたニューロンは1.61 fJ/スパイクを消費し、34$mu m2$の活性領域を占有し、最大スパイク周波数は250mVで300kHzである。
  論文  参考訳（メタデータ） (2024-08-14T17:51:20Z)
• Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
  スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。 スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。 我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
  論文  参考訳（メタデータ） (2024-04-08T16:34:35Z)
• Single Neuromorphic Memristor closely Emulates Multiple Synaptic Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
  我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。 これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
  論文  参考訳（メタデータ） (2024-02-26T15:01:54Z)
• A Resource-efficient Spiking Neural Network Accelerator Supporting Emerging Neural Encoding [6.047137174639418]
  スパイキングニューラルネットワーク(SNN)は、その低消費電力乗算自由コンピューティングにより、最近勢いを増している。 SNNは、大規模なモデルのための人工知能ニューラルネットワーク(ANN)と同様の精度に達するために、非常に長いスパイク列車(1000台まで)を必要とする。 ニューラルエンコーディングでSNNを効率的にサポートできる新しいハードウェアアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-06-06T10:56:25Z)
• An Adiabatic Capacitive Artificial Neuron with RRAM-based Threshold Detection for Energy-Efficient Neuromorphic Computing [62.997667081978825]
  神経細胞の体細胞膜電位を誘導するために, 断熱性シナプスコンデンサを特徴とする人工ニューロンを提案する。 最初の4-bit adiabaticacacitive neuron proof-of-conceptの例では、90%のシナプスエネルギーが節約された。
  論文  参考訳（メタデータ） (2022-02-02T17:12:22Z)
• FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
  本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。 この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。 分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
  論文  参考訳（メタデータ） (2022-01-18T13:59:22Z)
• Training Feedback Spiking Neural Networks by Implicit Differentiation on the Equilibrium State [66.2457134675891]
  スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。 既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。 本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2021-09-29T07:46:54Z)
• Mapping and Validating a Point Neuron Model on Intel's Neuromorphic Hardware Loihi [77.34726150561087]
  インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。 Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。 Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
  論文  参考訳（メタデータ） (2021-09-22T16:52:51Z)
• Endurance-Aware Mapping of Spiking Neural Networks to Neuromorphic Hardware [4.234079120512533]
  ニューロモルフィックコンピューティングシステムは、ハードウェアのクロスバーアレイとして高密度で低消費電力のシナプスストレージを実装するために、メムリスタを取り入れている。 縦断クロスバーの長いビット線とワードラインは寄生電圧降下の主な原因であり、電流非対称性を生み出す。 機械学習ワークロードのマッピングにおいて,各クロスバーに持続時間変動を組み込むことで,寿命を改善する手法であるeSpineを提案する。
  論文  参考訳（メタデータ） (2021-03-09T20:43:28Z)
• Compiling Spiking Neural Networks to Mitigate Neuromorphic Hardware Constraints [0.30458514384586394]
  スパイキングニューラルネットワーク(SNN)は、資源制約と電力制約のあるプラットフォーム上での計算制約付きパターン認識を効率的に行う。 ニューロモルフィックハードウェア上で実行されるSNNは、これらのプラットフォームのエネルギー消費をさらに削減することができる。
  論文  参考訳（メタデータ） (2020-11-27T19:10:23Z)
• Enabling Resource-Aware Mapping of Spiking Neural Networks via Spatial Decomposition [4.059246535401608]
  タイルベースのニューロモーフィックハードウェアへのスパイクニューラルネットワーク(SNN)ベースの応用は、ますます困難になりつつある。 ニューロン毎に多くのシナプス前接続を持つ複雑なSNNモデルでは、タイルリソースに適合するようにトレーニング後にいくつかの接続を切断する必要がある。 本稿では,多くのシナプス前結合を持つニューロン機能を,同種神経ユニットの配列に分解する新しいアンローリング手法を提案する。
  論文  参考訳（メタデータ） (2020-09-19T21:04:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。