論文の概要: RF-Photonic Deep Learning Processor with Shannon-Limited Data Movement
- arxiv url: http://arxiv.org/abs/2207.06883v2
- Date: Thu, 6 Jun 2024 21:32:35 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-10 23:21:09.494528
- Title: RF-Photonic Deep Learning Processor with Shannon-Limited Data Movement
- Title(参考訳): シャノン制限データ移動を用いたRFフォトニックディープラーニングプロセッサ
- Authors: Ronald Davis III, Zaijun Chen, Ryan Hamerly, Dirk Englund,
- Abstract要約: 光ニューラルネットワーク(ONN)は、超低レイテンシとエネルギー消費を持つ有望な加速器である。
我々は、周波数領域のデータを符号化する乗法的アナログ周波数変換ONN(MAFT-ONN)を導入する。
我々は、生のRF信号で完全にアナログのディープラーニングを演算する最初のハードウェアアクセラレータを実験的に実証した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Edholm's Law predicts exponential growth in data rate and spectrum bandwidth for communications and is forecasted to remain true for the upcoming deployment of 6G. Compounding this issue is the exponentially increasing demand for deep neural network (DNN) compute, including DNNs for signal processing. However, the slowing of Moore's Law due to the limitations of transistor-based electronics means that completely new paradigms for computing will be required to meet these increasing demands for advanced communications. Optical neural networks (ONNs) are promising DNN accelerators with ultra-low latency and energy consumption. Yet state-of-the-art ONNs struggle with scalability and implementing linear with in-line nonlinear operations. Here we introduce our multiplicative analog frequency transform ONN (MAFT-ONN) that encodes the data in the frequency domain, achieves matrix-vector products in a single shot using photoelectric multiplication, and uses a single electro-optic modulator for the nonlinear activation of all neurons in each layer. We experimentally demonstrate the first hardware accelerator that computes fully-analog deep learning on raw RF signals, performing single-shot modulation classification with 85% accuracy, where a 'majority vote' multi-measurement scheme can boost the accuracy to 95% within 5 consecutive measurements. In addition, we demonstrate frequency-domain finite impulse response (FIR) linear-time-invariant (LTI) operations, enabling a powerful combination of traditional and AI signal processing. We also demonstrate the scalability of our architecture by computing nearly 4 million fully-analog multiplies-and-accumulates for MNIST digit classification. Our latency estimation model shows that due to the Shannon capacity-limited analog data movement, MAFT-ONN is hundreds of times faster than traditional RF receivers operating at their theoretical peak performance.
- Abstract(参考訳): エドホルムの法則は、通信におけるデータレートと帯域幅の指数的な増加を予測し、次の6Gの展開について真実であると予測されている。
この問題を複雑にしているのは、信号処理用のDNNを含むディープニューラルネットワーク(DNN)計算の需要が指数関数的に増加することである。
しかし、トランジスタベースのエレクトロニクスの限界によるムーアの法則の減速は、これらの高度な通信に対する要求を満たすために、完全に新しい計算パラダイムが要求されることを意味している。
光ニューラルネットワーク(ONN)は、超低レイテンシとエネルギー消費を備えたDNNアクセラレーターを約束している。
しかし、最先端のONNはスケーラビリティに苦慮し、線形非線形演算とインライン非線形演算を実装している。
ここでは、周波数領域のデータを符号化し、光電乗算を用いて1ショットで行列ベクトル積を得る乗算型アナログ周波数変換ONN(MAFT-ONN)を導入し、各層における全てのニューロンの非線形活性化に単一電気光学変調器を用いる。
RF信号の完全アナログ深度を計算し、85%の精度で単発変調分類を行い、5連続測定で95%まで精度を向上できるハードウェアアクセラレータを試作した。
さらに、周波数領域有限インパルス応答(FIR)線形時間不変(LTI)演算を実証し、従来の信号処理とAI信号処理の強力な組み合わせを可能にする。
また、MNIST桁分類のための400万近い完全アナログ乗算および累積を計算することで、アーキテクチャのスケーラビリティを実証する。
我々の遅延推定モデルは、シャノン容量制限アナログデータ移動により、MAFT-ONNは理論的なピーク性能で動作している従来のRF受信機よりも数百倍高速であることを示している。
関連論文リスト
- Neuromorphic Wireless Split Computing with Multi-Level Spikes [69.73249913506042]
ニューロモルフィックコンピューティングでは、スパイクニューラルネットワーク(SNN)が推論タスクを実行し、シーケンシャルデータを含むワークロードの大幅な効率向上を提供する。
ハードウェアとソフトウェアの最近の進歩は、スパイクニューロン間で交換された各スパイクに数ビットのペイロードを埋め込むことにより、推論精度をさらに高めることを示した。
本稿では,マルチレベルSNNを用いた無線ニューロモルフィック分割計算アーキテクチャについて検討する。
論文 参考訳(メタデータ) (2024-11-07T14:08:35Z) - Multiscale fusion enhanced spiking neural network for invasive BCI neural signal decoding [13.108613110379961]
本稿では,MFSNN(Multiscale Fusion Spiking Neural Network)を用いた新しいアプローチを提案する。
MFSNNは、人間の視覚知覚に見られる並列処理とマルチスケール機能融合をエミュレートし、リアルタイム、効率的、エネルギーを節約する神経信号復号を可能にする。
MFSNNは、GRUなどの従来のニューラルネットワーク手法を精度と計算効率の両方で超越している。
論文 参考訳(メタデータ) (2024-09-14T09:53:30Z) - Deep Learning for Low-Latency, Quantum-Ready RF Sensing [2.5393702482222813]
近年の研究では、無線周波数(RF)信号のソフトウェア処理を強化するためにディープラーニングを適用することが期待されている。
本稿では,RF信号分類のための量子可読機械学習手法の実装について述べる。
論文 参考訳(メタデータ) (2024-04-27T17:22:12Z) - 1-bit Quantized On-chip Hybrid Diffraction Neural Network Enabled by Authentic All-optical Fully-connected Architecture [4.594367761345624]
本研究では,行列乗算をDNNに組み込んだ新しいアーキテクチャであるHybrid Diffraction Neural Network(HDNN)を紹介する。
特異位相変調層と振幅変調層を用いて、トレーニングされたニューラルネットワークは、数字認識タスクにおいて96.39%と89%の顕著な精度を示した。
論文 参考訳(メタデータ) (2024-04-11T02:54:17Z) - ADC/DAC-Free Analog Acceleration of Deep Neural Networks with Frequency
Transformation [2.7488316163114823]
本稿では,アナログ領域の周波数ベーステンソル変換を用いた周波数領域ニューラルネットワークのエネルギー効率向上手法を提案する。
提案手法は,変換行列のトレーニング可能なパラメータを不要にすることで,よりコンパクトなセルを実現する。
16$times$16のクロスバーで8ビット入力処理を行い,Watt当たりの1602テラ演算のエネルギー効率を実現する。
論文 参考訳(メタデータ) (2023-09-04T19:19:39Z) - Speed Limits for Deep Learning [67.69149326107103]
熱力学の最近の進歩は、初期重量分布から完全に訓練されたネットワークの最終分布への移動速度の制限を可能にする。
線形および線形化可能なニューラルネットワークに対して,これらの速度制限に対する解析式を提供する。
NTKスペクトルとラベルのスペクトル分解に関するいくつかの妥当なスケーリング仮定を考えると、学習はスケーリングの意味で最適である。
論文 参考訳(メタデータ) (2023-07-27T06:59:46Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Single-Shot Optical Neural Network [55.41644538483948]
深層ニューラルネットワークに必要な計算資源を削減するために,「重定常」アナログ光学・電子ハードウェアが提案されている。
我々は、スケーラブルで1層当たり単発の重み付き光学プロセッサを提案する。
論文 参考訳(メタデータ) (2022-05-18T17:49:49Z) - Time-coded Spiking Fourier Transform in Neuromorphic Hardware [4.432142139656578]
本研究では,Fourier変換と数学的に等価な時間ベースのスパイクニューラルネットワークを提案する。
我々はニューロモルフィックチップLoihiにネットワークを実装し、自動車周波数変調連続波レーダを用いた5つの実シナリオの実験を行った。
論文 参考訳(メタデータ) (2022-02-25T12:15:46Z) - Two-Timescale End-to-End Learning for Channel Acquisition and Hybrid
Precoding [94.40747235081466]
本研究では,ミリ波(mmWave)大規模マルチインプット多重出力(MIMO)システムのためのエンドツーエンドの深層学習に基づくジョイントトランスシーバ設計アルゴリズムを提案する。
我々は受信したパイロットを受信機でフィードバックビットにマッピングし、さらに送信機でハイブリッドプリコーダにフィードバックビットをマッピングするDNNアーキテクチャを開発した。
論文 参考訳(メタデータ) (2021-10-22T20:49:02Z) - One-step regression and classification with crosspoint resistive memory
arrays [62.997667081978825]
高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。
ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。
結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
論文 参考訳(メタデータ) (2020-05-05T08:00:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。