論文の概要: Energy-Efficient High-Accuracy Spiking Neural Network Inference Using
Time-Domain Neurons
- arxiv url: http://arxiv.org/abs/2202.02015v2
- Date: Sun, 10 Apr 2022 02:13:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-26 21:00:13.587137
- Title: Energy-Efficient High-Accuracy Spiking Neural Network Inference Using
Time-Domain Neurons
- Title(参考訳): 時間領域ニューロンを用いたエネルギー効率の高いスパイクニューラルネットワーク推定
- Authors: Joonghyun Song, Jiwon Shin, Hanseok Kim, Woo-Seok Choi
- Abstract要約: 本稿では低出力高線形時間領域I&Fニューロン回路を提案する。
提案されたニューロンは、MNIST推論において4.3倍のエラー率をもたらす。
提案したニューロン回路で消費される電力は1ニューロンあたり0.230uWとシミュレートされ、これは既存の電圧領域ニューロンよりも桁違いに低い。
- 参考スコア(独自算出の注目度): 0.18352113484137625
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the limitations of realizing artificial neural networks on prevalent
von Neumann architectures, recent studies have presented neuromorphic systems
based on spiking neural networks (SNNs) to reduce power and computational cost.
However, conventional analog voltage-domain integrate-and-fire (I&F) neuron
circuits, based on either current mirrors or op-amps, pose serious issues such
as nonlinearity or high power consumption, thereby degrading either inference
accuracy or energy efficiency of the SNN. To achieve excellent energy
efficiency and high accuracy simultaneously, this paper presents a low-power
highly linear time-domain I&F neuron circuit. Designed and simulated in a 28nm
CMOS process, the proposed neuron leads to more than 4.3x lower error rate on
the MNIST inference over the conventional current-mirror-based neurons. In
addition, the power consumed by the proposed neuron circuit is simulated to be
0.230uW per neuron, which is orders of magnitude lower than the existing
voltage-domain neurons.
- Abstract(参考訳): 広く普及しているフォン・ノイマンのアーキテクチャ上でニューラルネットワークを実現することの限界のため、近年の研究はspyking neural networks (snns)に基づくニューロモルフィックシステムを提案し、電力と計算コストを削減した。
しかし、従来のアナログ電圧領域集積ファイア(i&f)ニューロン回路は、電流ミラーまたはオペアンプをベースとし、非線形性や高消費電力などの深刻な問題を引き起こし、snnの推論精度またはエネルギー効率を低下させる。
エネルギー効率と高精度を同時に実現するために,低出力高線形時間領域I&Fニューロン回路を提案する。
28nmのCMOSプロセスで設計、シミュレートされ、提案されたニューロンは、従来の現在のミラーベースニューロンよりも4.3倍低い誤差率となる。
さらに、提案したニューロン回路によって消費される電力は、既存の電圧領域ニューロンよりも桁違い低い1ニューロン当たり0.230uWとシミュレートされる。
関連論文リスト
- A More Accurate Approximation of Activation Function with Few Spikes Neurons [6.306126887439676]
スパイキングニューラルネットワーク(SNN)はエネルギー効率のよいニューラルネットワークとして多くの注目を集めている。
従来のスパイキングニューロン、例えば漏れた統合・発火ニューロンは、複雑な非線形活性化関数を正確に表現することはできない。
論文 参考訳(メタデータ) (2024-08-19T02:08:56Z) - Exploiting Heterogeneity in Timescales for Sparse Recurrent Spiking Neural Networks for Energy-Efficient Edge Computing [16.60622265961373]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングの最前線である。
本稿では,SNNのパフォーマンスに革命をもたらす3つの画期的な研究をまとめる。
論文 参考訳(メタデータ) (2024-07-08T23:33:12Z) - Deep Pulse-Coupled Neural Networks [31.65350290424234]
ニューラルネットワーク(SNN)は、ニューロンを利用して脳の情報処理機構をキャプチャする。
本研究では、複雑な力学、すなわちパルス結合型ニューラルネットワーク(PCNN)を用いた、より生物学的に実証可能なニューラルモデルを活用する。
我々は、SNNでよく使われるLIFニューロンをPCNNニューロンに置き換えることで、ディープパルス結合ニューラルネットワーク(DPCNN)を構築する。
論文 参考訳(メタデータ) (2023-12-24T08:26:00Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳(メタデータ) (2023-06-14T13:34:13Z) - Constraints on the design of neuromorphic circuits set by the properties
of neural population codes [61.15277741147157]
脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。
ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
論文 参考訳(メタデータ) (2022-12-08T15:16:04Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-06T13:04:45Z) - SIT: A Bionic and Non-Linear Neuron for Spiking Neural Network [12.237928453571636]
スパイキングニューラルネットワーク(SNN)は、時間的情報処理能力と消費電力の低さから、研究者の関心を喚起している。
現在の最先端の手法は、ニューロンが単純な Leaky-Integrate-and-Fire (LIF) モデルに基づいて構築されているため、生物学的な可視性と性能を制限している。
高レベルの動的複雑さのため、現代のニューロンモデルがSNNの実践で実装されることはめったにない。
論文 参考訳(メタデータ) (2022-03-30T07:50:44Z) - Event-based Video Reconstruction via Potential-assisted Spiking Neural
Network [48.88510552931186]
バイオインスパイアされたニューラルネットワークは、イベント駆動ハードウェア上での計算効率の向上につながる可能性がある。
完全スパイキングニューラルネットワーク(EVSNN)に基づくイベントベースビデオ再構成フレームワークを提案する。
スパイクニューロンは、そのような時間依存タスクを完了させるために有用な時間情報(メモリ)を格納する可能性がある。
論文 参考訳(メタデータ) (2022-01-25T02:05:20Z) - POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with
Integer Quadratic Integrate-and-Fire Neurons [50.591267188664666]
2つの階層構造を持つ180nmプロセス技術において,集団に基づくディジタルスパイキングニューロモルフィックプロセッサを提案する。
提案手法は,生体模倣型ニューロモルフィックシステム,低消費電力,低遅延推論処理アプリケーションの開発を可能にする。
論文 参考訳(メタデータ) (2022-01-19T09:26:34Z) - Improving Spiking Neural Network Accuracy Using Time-based Neurons [0.24366811507669117]
アナログニューロンを用いた低消費電力スパイクニューラルネットワークに基づくニューロモルフィックコンピューティングシステムの研究が注目されている。
技術のスケールダウンに伴い、アナログニューロンはスケールが難しく、電圧ヘッドルーム/ダイナミックレンジの減少と回路の非線形性に悩まされる。
本稿では,28nmプロセスで設計した既存の電流ミラー型電圧ドメインニューロンの非線形挙動をモデル化し,ニューロンの非線形性の影響によりSNN推定精度を著しく劣化させることができることを示す。
本稿では,時間領域のスパイクを処理し,線形性を大幅に向上させる新しいニューロンを提案する。
論文 参考訳(メタデータ) (2022-01-05T00:24:45Z) - Continuous Learning and Adaptation with Membrane Potential and
Activation Threshold Homeostasis [91.3755431537592]
本稿では,MPATH(Membrane Potential and Activation Threshold Homeostasis)ニューロンモデルを提案する。
このモデルにより、ニューロンは入力が提示されたときに自動的に活性を調節することで動的平衡の形式を維持することができる。
実験は、モデルがその入力から適応し、継続的に学習する能力を示す。
論文 参考訳(メタデータ) (2021-04-22T04:01:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。