論文の概要: Large-scale neuromorphic optoelectronic computing with a reconfigurable
diffractive processing unit
- arxiv url: http://arxiv.org/abs/2008.11659v1
- Date: Wed, 26 Aug 2020 16:34:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-24 20:43:29.242672
- Title: Large-scale neuromorphic optoelectronic computing with a reconfigurable
diffractive processing unit
- Title(参考訳): reconfigurable diffractive processing unitを用いた大規模ニューロモルフィック光電子計算
- Authors: Tiankuang Zhou, Xing Lin, Jiamin Wu, Yitong Chen, Hao Xie, Yipeng Li,
Jintao Fan, Huaqiang Wu, Lu Fang and Qionghai Dai
- Abstract要約: 回折処理ユニットを構築することにより、光電子再構成可能な計算パラダイムを提案する。
異なるニューラルネットワークを効率的にサポートし、数百万のニューロンで高いモデル複雑性を達成することができる。
市販の光電子部品を用いたプロトタイプシステムは,最先端のグラフィックス処理ユニットの性能を超越している。
- 参考スコア(独自算出の注目度): 38.898230519968116
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Application-specific optical processors have been considered disruptive
technologies for modern computing that can fundamentally accelerate the
development of artificial intelligence (AI) by offering substantially improved
computing performance. Recent advancements in optical neural network
architectures for neural information processing have been applied to perform
various machine learning tasks. However, the existing architectures have
limited complexity and performance; and each of them requires its own dedicated
design that cannot be reconfigured to switch between different neural network
models for different applications after deployment. Here, we propose an
optoelectronic reconfigurable computing paradigm by constructing a diffractive
processing unit (DPU) that can efficiently support different neural networks
and achieve a high model complexity with millions of neurons. It allocates
almost all of its computational operations optically and achieves extremely
high speed of data modulation and large-scale network parameter updating by
dynamically programming optical modulators and photodetectors. We demonstrated
the reconfiguration of the DPU to implement various diffractive feedforward and
recurrent neural networks and developed a novel adaptive training approach to
circumvent the system imperfections. We applied the trained networks for
high-speed classifying of handwritten digit images and human action videos over
benchmark datasets, and the experimental results revealed a comparable
classification accuracy to the electronic computing approaches. Furthermore,
our prototype system built with off-the-shelf optoelectronic components
surpasses the performance of state-of-the-art graphics processing units (GPUs)
by several times on computing speed and more than an order of magnitude on
system energy efficiency.
- Abstract(参考訳): アプリケーション固有の光学プロセッサは、人工知能(ai)の開発を根本的に加速し、計算性能を大幅に向上できる現代コンピューティングの破壊的技術とみなされてきた。
様々な機械学習タスクを実行するために、光ニューラルネットワークアーキテクチャの最近の進歩が応用されている。
しかし、既存のアーキテクチャは複雑さとパフォーマンスが限られており、デプロイ後に異なるアプリケーションのために異なるニューラルネットワークモデルを切り替えるように再構成できない独自の設計が必要である。
本稿では、異なるニューラルネットワークを効率的にサポートし、数百万のニューロンで高いモデル複雑性を達成するディフュージョン処理ユニット(dpu)を構築することで、光電子再構成可能なコンピューティングパラダイムを提案する。
ほぼ全ての計算処理を光学的に割り当て、光学変調器と光検出器を動的にプログラミングすることで、非常に高速なデータ変調と大規模ネットワークパラメータの更新を実現する。
各種拡散フィードフォワードおよびリカレントニューラルネットワークを実装するためのDPUの再構成を実証し,システム欠陥を回避するための適応トレーニング手法を開発した。
ベンチマークデータセット上で,手書き文字画像とヒューマンアクションビデオの高速分類に訓練されたネットワークを適用し,電子計算機の手法と同等の分類精度を示した。
さらに,市販のオプトエレクトロニック部品を用いたプロトタイプシステムでは,最先端のグラフィックス処理ユニット(GPU)の性能を数倍上回り,システムエネルギー効率は1桁以上である。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Random resistive memory-based deep extreme point learning machine for
unified visual processing [67.51600474104171]
ハードウェア・ソフトウェア共同設計型, ランダム抵抗型メモリベース深部極点学習マシン(DEPLM)を提案する。
我々の共同設計システムは,従来のシステムと比較して,エネルギー効率の大幅な向上とトレーニングコストの削減を実現している。
論文 参考訳(メタデータ) (2023-12-14T09:46:16Z) - Free-Space Optical Spiking Neural Network [0.0]
自由空間光深絞り畳み込みニューラルネットワーク(OSCNN)について紹介する。
この手法は人間の眼の計算モデルからインスピレーションを得ている。
以上の結果から,電子的ONNと比較して,レイテンシと消費電力を最小に抑えた有望な性能を示す。
論文 参考訳(メタデータ) (2023-11-08T09:41:14Z) - Sophisticated deep learning with on-chip optical diffractive tensor
processing [5.081061839052458]
フォトニック集積回路は、電子回路によってもたらされる帯域制限と電力ウォールを緩和するための効率的なアプローチを提供する。
我々は、オンチップ回折により、光畳み込みユニット(OCU)と呼ばれる畳み込み加速度を実装する光学コンピューティングアーキテクチャを提案する。
OCUを基本単位として、光学畳み込みニューラルネットワーク(oCNN)を構築し、分類と回帰という2つの一般的なディープラーニングタスクを実装する。
論文 参考訳(メタデータ) (2022-12-20T03:33:26Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - All-optical graph representation learning using integrated diffractive
photonic computing units [51.15389025760809]
フォトニックニューラルネットワークは、電子の代わりに光子を用いて脳にインスパイアされた計算を行う。
我々は、DGNN(diffractive graph neural network)と呼ばれる全光グラフ表現学習アーキテクチャを提案する。
ベンチマークデータベースを用いたノードおよびグラフレベルの分類タスクにおけるDGNN抽出機能の利用を実演し、優れた性能を実現する。
論文 参考訳(メタデータ) (2022-04-23T02:29:48Z) - FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。
この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。
分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
論文 参考訳(メタデータ) (2022-01-18T13:59:22Z) - Monolithic Silicon Photonic Architecture for Training Deep Neural
Networks with Direct Feedback Alignment [0.6501025489527172]
CMOS互換シリコンフォトニックアーキテクチャによって実現されたニューラルネットワークのオンチップトレーニングを提案する。
提案手法では,エラーのバックプロパゲーションではなく,エラーフィードバックを用いてニューラルネットワークをトレーニングする,直接フィードバックアライメントトレーニングアルゴリズムを用いる。
オンチップMAC演算結果を用いて,MNISTデータセットを用いたディープニューラルネットワークのトレーニング実験を行った。
論文 参考訳(メタデータ) (2021-11-12T18:31:51Z) - Real-time Multi-Task Diffractive Deep Neural Networks via
Hardware-Software Co-design [1.6066483376871004]
本研究は,d$2$nnsでロバストかつノイズ耐性のあるマルチタスク学習を実現する,新しいハードウェアソフトウェア共同設計手法を提案する。
私たちの実験結果は、汎用性とハードウェア効率の大幅な改善を示し、提案されたマルチタスクD$2$NNアーキテクチャの堅牢性を実証します。
論文 参考訳(メタデータ) (2020-12-16T12:29:54Z) - Ultra-Low-Power FDSOI Neural Circuits for Extreme-Edge Neuromorphic
Intelligence [2.6199663901387997]
インメモリコンピューティング 混合信号ニューロモルフィックアーキテクチャはエッジコンピューティングのセンサ処理への応用に期待できる超低消費電力のソリューションを提供する。
本稿では、FDSOI(Fully-Depleted Silicon on Insulator)統合プロセスの特徴を利用する混合信号アナログ/デジタル回路を提案する。
論文 参考訳(メタデータ) (2020-06-25T09:31:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。