論文の概要: Low-Power Low-Latency Keyword Spotting and Adaptive Control with a
SpiNNaker 2 Prototype and Comparison with Loihi
- arxiv url: http://arxiv.org/abs/2009.08921v1
- Date: Fri, 18 Sep 2020 16:38:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 02:31:10.838200
- Title: Low-Power Low-Latency Keyword Spotting and Adaptive Control with a
SpiNNaker 2 Prototype and Comparison with Loihi
- Title(参考訳): SpiNNaker 2 プロトタイプによる低消費電力低レイテンシキーワードスポッティングと適応制御と Loihi との比較
- Authors: Yexin Yan, Terrence C. Stewart, Xuan Choo, Bernhard Vogginger,
Johannes Partzsch, Sebastian Hoeppner, Florian Kelber, Chris Eliasmith, Steve
Furber, Christian Mayr
- Abstract要約: 我々は,第2世代SpiNNaker(SpiNNaker 2)ニューロモルフィックシステムのプロトタイプチップ上で,ニューラルネットワークに基づく2つのベンチマークタスクを実装した。
SpiNNaker 2 プロトタイプにおける乗算累積 (MAC) 配列の利点を強調した。
同じベンチマークタスクをLoihiニューロモルフィックチップ上で実装し、消費電力と計算時間について並べて比較した。
- 参考スコア(独自算出の注目度): 4.153110480139905
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We implemented two neural network based benchmark tasks on a prototype chip
of the second-generation SpiNNaker (SpiNNaker 2) neuromorphic system: keyword
spotting and adaptive robotic control. Keyword spotting is commonly used in
smart speakers to listen for wake words, and adaptive control is used in
robotic applications to adapt to unknown dynamics in an online fashion. We
highlight the benefit of a multiply accumulate (MAC) array in the SpiNNaker 2
prototype which is ordinarily used in rate-based machine learning networks when
employed in a neuromorphic, spiking context. In addition, the same benchmark
tasks have been implemented on the Loihi neuromorphic chip, giving a
side-by-side comparison regarding power consumption and computation time. While
Loihi shows better efficiency when less complicated vector-matrix
multiplication is involved, with the MAC array, the SpiNNaker 2 prototype shows
better efficiency when high dimensional vector-matrix multiplication is
involved.
- Abstract(参考訳): ニューラルネットワークに基づく2つのベンチマークタスクを,第2世代SpiNNaker(SpiNNaker 2)ニューロモルフィックシステム(キーワードスポッティングと適応ロボット制御)のプロトタイプチップ上に実装した。
キーワードスポッティングは、ウェイクワードを聞くためにスマートスピーカーで一般的に使われ、適応制御は、オンラインの方法で未知のダイナミクスに適応するためにロボットアプリケーションで使用される。
ニューロモルフィックなスパイクコンテキストで使用される場合,レートベース機械学習ネットワークで通常使用されるSpinNNaker 2のプロトタイプにおいて,乗算蓄積(MAC)アレイの利点を強調した。
さらに、同じベンチマークタスクがloihiニューロモルフィックチップに実装されており、消費電力と計算時間について並べて比較されている。
Loihiは、より複雑なベクトル行列乗算が関与しない場合には効率が向上するが、MACアレイでは、SpiNNaker 2のプロトタイプは高次元ベクトル行列乗算が関与する場合には効率が向上する。
関連論文リスト
- Prototype Learning Guided Hybrid Network for Breast Tumor Segmentation in DCE-MRI [58.809276442508256]
本稿では,畳み込みニューラルネットワーク(CNN)とトランスフォーマー層を組み合わせたハイブリッドネットワークを提案する。
プライベートおよびパブリックなDCE-MRIデータセットの実験結果から,提案したハイブリッドネットワークは最先端の手法よりも優れた性能を示した。
論文 参考訳(メタデータ) (2024-08-11T15:46:00Z) - A Primal-Dual Framework for Transformers and Neural Networks [52.814467832108875]
自己注意は、シーケンスモデリングタスクにおけるトランスフォーマーの顕著な成功の鍵である。
自己アテンションは、支持ベクトル回帰問題から導かれる支持ベクトル展開に対応することを示す。
Batch Normalized Attention (Attention-BN) と Scaled Head (Attention-SH) の2つの新しい注意点を提案する。
論文 参考訳(メタデータ) (2024-06-19T19:11:22Z) - Fully Spiking Actor Network with Intra-layer Connections for
Reinforcement Learning [51.386945803485084]
エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。
既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。
浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
論文 参考訳(メタデータ) (2024-01-09T07:31:34Z) - VeRA: Vector-based Random Matrix Adaptation [29.99581464596137]
本稿では,Vectorをベースとしたランダム行列適応(Random Matrix Adaptation, VeRA)を提案する。
GLUE と E2E ベンチマーク、画像分類タスクでの有効性を示し、7B と 13B の言語モデルの命令チューニングへの応用を示す。
論文 参考訳(メタデータ) (2023-10-17T17:59:46Z) - Use Your INSTINCT: INSTruction optimization for LLMs usIng Neural bandits Coupled with Transformers [66.823588073584]
大規模言語モデル (LLM) は命令追従能力に優れ、様々なアプリケーションで優れた性能を発揮している。
最近の研究は、ブラックボックスLLMに与えられる命令を自動的に最適化するために、クエリ効率のよいベイズ最適化(BO)アルゴリズムを用いている。
NNサロゲートによりBOのGPを置換し,ブラックボックスLLMの命令を最適化するニューラルバンディットアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-02T02:01:16Z) - NeuralMatrix: Compute the Entire Neural Networks with Linear Matrix Operations for Efficient Inference [20.404864470321897]
本稿では,ディープニューラルネットワーク(DNN)モデル全体の計算を線形行列演算に弾性的に変換するニューラルマトリックスを提案する。
CNNとトランスフォーマーベースのモデルによる実験は、広範囲のDNNモデルを正確かつ効率的に実行するためのNeuralMatrixの可能性を実証している。
このレベルの効率性は通常、特定のニューラルネットワーク用に設計されたアクセラレータでのみ達成できる。
論文 参考訳(メタデータ) (2023-05-23T12:03:51Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - A Stable, Fast, and Fully Automatic Learning Algorithm for Predictive
Coding Networks [65.34977803841007]
予測符号化ネットワークは、ベイズ統計学と神経科学の両方にルーツを持つ神経科学にインスパイアされたモデルである。
シナプス重みに対する更新規則の時間的スケジュールを変更するだけで、元の規則よりもずっと効率的で安定したアルゴリズムが得られることを示す。
論文 参考訳(メタデータ) (2022-11-16T00:11:04Z) - SpikiLi: A Spiking Simulation of LiDAR based Real-time Object Detection
for Autonomous Driving [0.0]
Spiking Neural Networksは、電力効率、計算効率、処理遅延を大幅に改善する新しいニューラルネットワーク設計アプローチである。
まず,複雑なディープラーニングタスク,すなわちLidarベースの3Dオブジェクト検出による自動運転への適用性について説明する。
論文 参考訳(メタデータ) (2022-06-06T20:05:17Z) - A Spiking Neural Network for Image Segmentation [3.4998703934432682]
我々は,深層ニューラルネットワーク(ANN)アーキテクチャのU-Netを,Nengoフレームワークを用いたスパイキングニューラルネットワーク(SNN)アーキテクチャに変換する。
レートベースモデルとスパイクベースモデルの両方がトレーニングされ、パフォーマンスとパワーのベンチマークに最適化されている。
Intel Loihiのニューロモルフィックチップのニューロモルフィック実装は、従来のハードウェアよりも2倍エネルギー効率が高い。
論文 参考訳(メタデータ) (2021-06-16T16:23:18Z) - Deep Reinforcement Learning with Population-Coded Spiking Neural Network
for Continuous Control [0.0]
深層強化学習(DRL)を用いた深層批評家ネットワークと連携して訓練された集団符号化スパイキングアクターネットワーク(PopSAN)を提案する。
我々は、トレーニング済みのPopSANをIntelのLoihiニューロモルフィックチップにデプロイし、本手法をメインストリームのDRLアルゴリズムと比較し、連続的な制御を行った。
本研究はニューロモルフィックコントローラの効率性をサポートし,エネルギー効率とロバスト性の両方が重要である場合,我々のハイブリッドRLをディープラーニングの代替として提案する。
論文 参考訳(メタデータ) (2020-10-19T16:20:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。