論文の概要: Scalable Nanophotonic-Electronic Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2208.13144v1
- Date: Sun, 28 Aug 2022 06:10:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-30 13:47:07.299953
- Title: Scalable Nanophotonic-Electronic Spiking Neural Networks
- Title(参考訳): スケーラブルなナノフォトニック電子スパイクニューラルネットワーク
- Authors: Luis El Srouji, Yun-Jhu Lee, Mehmet Berkay On, Li Zhang, S.J. Ben Yoo
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、高度に並列化されたリアルタイム処理が可能な新しい計算パラダイムを提供する。
フォトニックデバイスは、SNN計算パラダイムに適合する高帯域並列アーキテクチャの設計に最適である。
CMOSとSiPhの併用技術はスケーラブルなSNNコンピューティングアーキテクチャの設計に適している。
- 参考スコア(独自算出の注目度): 3.9918594409417576
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Spiking neural networks (SNN) provide a new computational paradigm capable of
highly parallelized, real-time processing. Photonic devices are ideal for the
design of high-bandwidth, parallel architectures matching the SNN computational
paradigm. Co-integration of CMOS and photonic elements allow low-loss photonic
devices to be combined with analog electronics for greater flexibility of
nonlinear computational elements. As such, we designed and simulated an
optoelectronic spiking neuron circuit on a monolithic silicon photonics (SiPh)
process that replicates useful spiking behaviors beyond the leaky
integrate-and-fire (LIF). Additionally, we explored two learning algorithms
with the potential for on-chip learning using Mach-Zehnder Interferometric
(MZI) meshes as synaptic interconnects. A variation of Random Backpropagation
(RPB) was experimentally demonstrated on-chip and matched the performance of a
standard linear regression on a simple classification task. Meanwhile, the
Contrastive Hebbian Learning (CHL) rule was applied to a simulated neural
network composed of MZI meshes for a random input-output mapping task. The
CHL-trained MZI network performed better than random guessing but does not
match the performance of the ideal neural network (without the constraints
imposed by the MZI meshes). Through these efforts, we demonstrate that
co-integrated CMOS and SiPh technologies are well-suited to the design of
scalable SNN computing architectures.
- Abstract(参考訳): spiking neural networks (snn)は、高度に並列化されたリアルタイム処理が可能な新しい計算パラダイムを提供する。
フォトニックデバイスは、SNN計算パラダイムに適合する高帯域並列アーキテクチャの設計に最適である。
CMOSとフォトニック素子の併用により、低損失フォトニックデバイスとアナログエレクトロニクスを組み合わせることで、非線形計算素子の柔軟性を高めることができる。
そこで我々は, リーク型積分・点火(lif)を超えて有用な点火挙動を再現するモノリシックシリコンフォトニクス(siph)プロセス上に, 光電子的点火ニューロン回路を設計・シミュレーションした。
さらに,Mach-Zehnder Interferometric (MZI)メッシュをシナプス相互接続として用いた2つの学習アルゴリズムについて検討した。
ランダムバックプロパゲーション(rpb)の変動を実験的に実証し,単純な分類タスクにおける標準線形回帰の性能と一致させた。
一方,ランダムな入出力マッピングタスクのためのmziメッシュからなるシミュレーションニューラルネットワークに対して,hbbian learning(chl)ルールを適用した。
CHLで訓練されたMZIネットワークは、ランダムな推測よりも優れているが、(MZIメッシュによって課される制約なしで)理想的なニューラルネットワークの性能にマッチしない。
これらの取り組みを通じて、CMOSとSiPhの併用はスケーラブルなSNNコンピューティングアーキテクチャの設計に適していることを示す。
関連論文リスト
- Neuromorphic Wireless Split Computing with Multi-Level Spikes [69.73249913506042]
ニューロモルフィックコンピューティングでは、スパイクニューラルネットワーク(SNN)が推論タスクを実行し、シーケンシャルデータを含むワークロードの大幅な効率向上を提供する。
ハードウェアとソフトウェアの最近の進歩は、スパイクニューロン間で交換された各スパイクに数ビットのペイロードを埋め込むことにより、推論精度をさらに高めることを示した。
本稿では,マルチレベルSNNを用いた無線ニューロモルフィック分割計算アーキテクチャについて検討する。
論文 参考訳(メタデータ) (2024-11-07T14:08:35Z) - Scalable Mechanistic Neural Networks [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳(メタデータ) (2024-10-08T14:27:28Z) - A Realistic Simulation Framework for Analog/Digital Neuromorphic Architectures [73.65190161312555]
ARCANAは、混合信号ニューロモルフィック回路の特性を考慮に入れたスパイクニューラルネットワークシミュレータである。
その結果,ソフトウェアでトレーニングしたスパイクニューラルネットワークの挙動を,信頼性の高い推定結果として提示した。
論文 参考訳(メタデータ) (2024-09-23T11:16:46Z) - 1-bit Quantized On-chip Hybrid Diffraction Neural Network Enabled by Authentic All-optical Fully-connected Architecture [4.594367761345624]
本研究では,行列乗算をDNNに組み込んだ新しいアーキテクチャであるHybrid Diffraction Neural Network(HDNN)を紹介する。
特異位相変調層と振幅変調層を用いて、トレーニングされたニューラルネットワークは、数字認識タスクにおいて96.39%と89%の顕著な精度を示した。
論文 参考訳(メタデータ) (2024-04-11T02:54:17Z) - Parallel Proportional Fusion of Spiking Quantum Neural Network for Optimizing Image Classification [10.069224006497162]
量子・スパイキングニューラルネットワーク(PPF-QSNN)の並列比例融合(Parallel Proportional Fusion of Quantum and Spiking Neural Networks)と呼ばれる新しいアーキテクチャを導入する。
提案したPPF-QSNNは、既存のスパイクニューラルネットワークと、精度、損失、ロバストネスといったメトリクスにわたるシリアル量子ニューラルネットワークの両方より優れている。
本研究は、人工知能計算における量子優位性の発展と応用の基盤となるものである。
論文 参考訳(メタデータ) (2024-04-01T10:35:35Z) - Free-Space Optical Spiking Neural Network [0.0]
自由空間光深絞り畳み込みニューラルネットワーク(OSCNN)について紹介する。
この手法は人間の眼の計算モデルからインスピレーションを得ている。
以上の結果から,電子的ONNと比較して,レイテンシと消費電力を最小に抑えた有望な性能を示す。
論文 参考訳(メタデータ) (2023-11-08T09:41:14Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - On-Chip Error-triggered Learning of Multi-layer Memristive Spiking
Neural Networks [1.7958576850695402]
オンライン3次重み更新を用いた局所的,勾配に基づく,エラートリガー付き学習アルゴリズムを提案する。
提案アルゴリズムは,多層SNNを記憶型ニューロモルフィックハードウェアでオンライントレーニングすることを可能にする。
論文 参考訳(メタデータ) (2020-11-21T19:44:19Z) - Ultra-Low-Power FDSOI Neural Circuits for Extreme-Edge Neuromorphic
Intelligence [2.6199663901387997]
インメモリコンピューティング 混合信号ニューロモルフィックアーキテクチャはエッジコンピューティングのセンサ処理への応用に期待できる超低消費電力のソリューションを提供する。
本稿では、FDSOI(Fully-Depleted Silicon on Insulator)統合プロセスの特徴を利用する混合信号アナログ/デジタル回路を提案する。
論文 参考訳(メタデータ) (2020-06-25T09:31:29Z) - Training End-to-End Analog Neural Networks with Equilibrium Propagation [64.0476282000118]
本稿では,勾配降下による終端から終端までのアナログニューラルネットワークの学習法を提案する。
数学的には、アナログニューラルネットワークのクラス(非線形抵抗性ネットワークと呼ばれる)がエネルギーベースモデルであることが示される。
我々の研究は、オンチップ学習をサポートする、超高速でコンパクトで低消費電力のニューラルネットワークの新世代の開発を導くことができる。
論文 参考訳(メタデータ) (2020-06-02T23:38:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。