Fugu-MT 論文翻訳(概要): RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics

論文の概要: RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics

arxiv url: http://arxiv.org/abs/2209.00084v1
Date: Wed, 31 Aug 2022 19:36:01 GMT
ステータス: 処理完了
システム内更新日: 2022-09-02 13:20:27.000827
Title: RecLight: A Recurrent Neural Network Accelerator with Integrated Silicon Photonics
Title（参考訳）: RecLight: 集積シリコンフォトニクスを備えたリカレントニューラルネットワーク加速器
Authors: Febin Sunny, Mahdi Nikdast, Sudeep Pasricha
Abstract要約: 本稿では、シンプルなRNN、GRU、LSTMを高速化するRecLightと呼ばれる新しいフォトニックハードウェアアクセラレータを提案する。 RecLightは、最先端と比較して、ビット当たり37倍のエネルギと10%のスループットを実現している。
参考スコア（独自算出の注目度）: 5.188712126001397
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Recurrent Neural Networks (RNNs) are used in applications that learn dependencies in data sequences, such as speech recognition, human activity recognition, and anomaly detection. In recent years, newer RNN variants, such as GRUs and LSTMs, have been used for implementing these applications. As many of these applications are employed in real-time scenarios, accelerating RNN/LSTM/GRU inference is crucial. In this paper, we propose a novel photonic hardware accelerator called RecLight for accelerating simple RNNs, GRUs, and LSTMs. Simulation results indicate that RecLight achieves 37x lower energy-per-bit and 10% better throughput compared to the state-of-the-art.
Abstract（参考訳）: リカレントニューラルネットワーク(recurrent neural network、rnn)は、音声認識、人間のアクティビティ認識、異常検出など、データシーケンスの依存関係を学ぶアプリケーションで使用される。近年では、GRUやLSTMといった新しいRNNがこれらのアプリケーションの実装に使われている。これらのアプリケーションの多くはリアルタイムシナリオで使用されるため、RNN/LSTM/GRU推論の高速化が不可欠である。本稿では、シンプルなRNN、GRU、LSTMを高速化する、RecLightと呼ばれる新しいフォトニックハードウェアアクセラレータを提案する。シミュレーションの結果、RecLightは最先端と比較して37倍のエネルギー/ビット、10%のスループットを実現している。

関連論文リスト

Accurate Mapping of RNNs on Neuromorphic Hardware with Adaptive Spiking Neurons [2.9410174624086025]
我々は、SigmaDelta$-low-pass RNN(lpRNN)を、レートベースのRNNをスパイクニューラルネットワーク(SNN)にマッピングするために提示する。適応スパイキングニューロンモデルは、$SigmaDelta$-modulationを使って信号を符号化し、正確なマッピングを可能にする。我々は、Intelのニューロモルフィック研究チップLoihiにおけるlpRNNの実装を実演する。
論文参考訳（メタデータ） (2024-07-18T14:06:07Z)
Properties and Potential Applications of Random Functional-Linked Types of Neural Networks [81.56822938033119]
ランダム関数リンクニューラルネットワーク(RFLNN)は、深い構造を学習する別の方法を提供する。本稿では周波数領域の観点からRFLNNの特性について考察する。本稿では,より優れた性能でBLSネットワークを生成する手法を提案し,ポゾン方程式を解くための効率的なアルゴリズムを設計する。
論文参考訳（メタデータ） (2023-04-03T13:25:22Z)
Braille Letter Reading: A Benchmark for Spatio-Temporal Pattern Recognition on Neuromorphic Hardware [50.380319968947035]
近年の深層学習手法は,そのようなタスクにおいて精度が向上しているが,従来の組込みソリューションへの実装は依然として計算量が非常に高く,エネルギーコストも高い。文字読み込みによるエッジにおける触覚パターン認識のための新しいベンチマークを提案する。フィードフォワードとリカレントスパイキングニューラルネットワーク(SNN)を、サロゲート勾配の時間によるバックプロパゲーションを用いてオフラインでトレーニングし比較し、効率的な推論のためにIntel Loihimorphicチップにデプロイした。 LSTMは14%の精度で繰り返しSNNより優れており、Loihi上での繰り返しSNNは237倍のエネルギーである。
論文参考訳（メタデータ） (2022-05-30T14:30:45Z)
Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation [70.75043144299168]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。非分化性のため、SNNを効率的に訓練することは困難である。本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
論文参考訳（メタデータ） (2022-05-01T12:44:49Z)
FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
論文参考訳（メタデータ） (2022-01-18T13:59:22Z)
Alignment Restricted Streaming Recurrent Neural Network Transducer [29.218353627837214]
本稿では、RNN-T損失関数の修正とアライメント制限付きRNN-Tモデルの開発について述べる。 Ar-RNN-T損失は、トークン放出遅延とワードエラーレート(WER)の間のトレードオフをナビゲートする洗練された制御を提供する。 Ar-RNN-Tモデルは、任意の遅延範囲内でトークンの放出を保証することにより、ASRエンドポイントのような下流アプリケーションを改善する。
論文参考訳（メタデータ） (2020-11-05T19:38:54Z)
Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文参考訳（メタデータ） (2020-07-02T15:38:44Z)
Achieving Online Regression Performance of LSTMs with Simple RNNs [0.0]
本稿では,パラメータ数に線形時間を要する1次学習アルゴリズムを提案する。 SRNNが我々のアルゴリズムでトレーニングされている場合、LSTMと非常によく似た回帰性能を2～3倍の短いトレーニング時間で提供することを示す。
論文参考訳（メタデータ） (2020-05-16T11:41:13Z)
Efficient Synthesis of Compact Deep Neural Networks [17.362146401041528]
ディープニューラルネットワーク(DNN)は、無数の機械学習アプリケーションにデプロイされている。これらの大規模で深いモデルは、膨大な計算コスト、高いメモリ帯域幅、長いレイテンシのために、現実世界のアプリケーションには適さないことが多い。本稿では,DNN/LSTMモデルの自動合成手法について概説する。
論文参考訳（メタデータ） (2020-04-18T21:20:04Z)
Temporal Pulses Driven Spiking Neural Network for Fast Object Recognition in Autonomous Driving [65.36115045035903]
スパイキングニューラルネットワーク(SNN)を用いた生時間パルスで直接物体認識問題に対処する手法を提案する。各種データセットを用いて評価した結果,提案手法は最先端の手法に匹敵する性能を示しながら,優れた時間効率を実現している。
論文参考訳（メタデータ） (2020-01-24T22:58:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。