論文の概要: The role of all-optical neural networks
- arxiv url: http://arxiv.org/abs/2306.06632v2
- Date: Tue, 13 Jun 2023 08:12:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-14 10:30:24.865244
- Title: The role of all-optical neural networks
- Title(参考訳): 全光神経ネットワークの役割
- Authors: Micha{\l} Matuszewski, Adam Prystupiuk, Andrzej Opala
- Abstract要約: 大規模なニューラルネットワークモデルでは、すべての光学デバイスが推論において有利になる。
我々は、フットプリント、非線形性の強さ、光信号劣化、計算精度の制限、量子ノイズを含む全光学ニューラルネットワークの限界を考慮する。
- 参考スコア(独自算出の注目度): 2.3204178451683264
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In light of recent achievements in optical computing and machine learning, we
consider the conditions under which all-optical computing may surpass
electronic and optoelectronic computing in terms of energy efficiency and
scalability. When considering the performance of a system as a whole, the cost
of memory access and data acquisition is likely to be one of the main
efficiency bottlenecks not only for electronic, but also for optoelectronic and
all-optical devices. However, we predict that all-optical devices will be at an
advantage in the case of inference in large neural network models, and the
advantage will be particularly large in the case of generative models. We also
consider the limitations of all-optical neural networks including footprint,
strength of nonlinearity, optical signal degradation, limited precision of
computations, and quantum noise.
- Abstract(参考訳): 光コンピューティングと機械学習における最近の業績を踏まえ、エネルギー効率とスケーラビリティの観点から、全光コンピューティングが電子および光電子コンピューティングを上回る条件について考察する。
システム全体としての性能を考慮すると、メモリアクセスとデータ取得のコストは、電子だけでなく、光電子デバイスや全光デバイスでも主要な効率ボトルネックの1つになりがちである。
しかし、大きなニューラルネットワークモデルでは、全光学デバイスが推論において有利になり、生成モデルでは特に有利になると予想する。
また、足跡、非線形性の強さ、光信号劣化、計算精度の制限、量子ノイズを含む全光ニューラルネットワークの限界についても考察する。
関連論文リスト
- Optical training of large-scale Transformers and deep neural networks with direct feedback alignment [48.90869997343841]
我々は,ハイブリッド電子フォトニックプラットフォーム上で,ダイレクトフィードバックアライメントと呼ばれる多目的でスケーラブルなトレーニングアルゴリズムを実験的に実装した。
光処理ユニットは、このアルゴリズムの中央動作である大規模ランダム行列乗算を最大1500テラOpsで行う。
我々は、ハイブリッド光アプローチの計算スケーリングについて検討し、超深度・広帯域ニューラルネットワークの潜在的な利点を実証する。
論文 参考訳(メタデータ) (2024-09-01T12:48:47Z) - Genetically programmable optical random neural networks [0.0]
遺伝的にプログラム可能であるが、光学的ランダムプロジェクションによる高性能を実現するための単純な光学ニューラルネットワークを実証する。
ランダムプロジェクションカーネルとして機能する散乱媒質の配向を遺伝的にプログラミングすることにより,本手法は最適なカーネルを発見し,初期試験精度を7-22%向上させる。
提案手法は,シンプルでスケーラブルな設計で,光ニューラルネットワークの高性能化を実現するための有望な手法である。
論文 参考訳(メタデータ) (2024-03-19T06:55:59Z) - All-optical modulation with single-photons using electron avalanche [69.65384453064829]
単光子強度ビームを用いた全光変調の実証を行った。
本稿では,テラヘルツ高速光スイッチングの可能性を明らかにする。
論文 参考訳(メタデータ) (2023-12-18T20:14:15Z) - Free-Space Optical Spiking Neural Network [0.0]
自由空間光深絞り畳み込みニューラルネットワーク(OSCNN)について紹介する。
この手法は人間の眼の計算モデルからインスピレーションを得ている。
以上の結果から,電子的ONNと比較して,レイテンシと消費電力を最小に抑えた有望な性能を示す。
論文 参考訳(メタデータ) (2023-11-08T09:41:14Z) - Training neural networks with end-to-end optical backpropagation [1.1602089225841632]
光プロセスを用いてニューラルネットワークをトレーニングするアルゴリズムであるバックプロパゲーションの実装方法を示す。
我々のアプローチは、様々なアナログプラットフォーム、材料、ネットワーク構造に適用可能である。
これは、トレーニングタスクと推論タスクの両方において、アナログ光学プロセスに完全に依存するニューラルネットワークを構築する可能性を示している。
論文 参考訳(メタデータ) (2023-08-09T21:11:26Z) - Physics-aware Differentiable Discrete Codesign for Diffractive Optical
Neural Networks [12.952987240366781]
本研究は,Diffractive Optical Neural Network (DONN) の効率的なトレーニングを可能にする,新しいデバイス間ハードウェア・ソフトウェア符号フレームワークを提案する。
Gumbel-Softmaxは、現実世界のデバイスパラメータからDONNの前方関数への微分可能な離散マッピングを可能にするために使用される。
その結果,提案手法は従来の量子化法に比べて大きな利点があることがわかった。
論文 参考訳(メタデータ) (2022-09-28T17:13:28Z) - Single-Shot Optical Neural Network [55.41644538483948]
深層ニューラルネットワークに必要な計算資源を削減するために,「重定常」アナログ光学・電子ハードウェアが提案されている。
我々は、スケーラブルで1層当たり単発の重み付き光学プロセッサを提案する。
論文 参考訳(メタデータ) (2022-05-18T17:49:49Z) - Photonics for artificial intelligence and neuromorphic computing [52.77024349608834]
フォトニック集積回路は超高速な人工ニューラルネットワークを可能にした。
フォトニックニューロモルフィックシステムはナノ秒以下のレイテンシを提供する。
これらのシステムは、機械学習と人工知能の需要の増加に対応する可能性がある。
論文 参考訳(メタデータ) (2020-10-30T21:41:44Z) - Optoelectronic Intelligence [0.0]
汎用知能を持つ大規模ニューラルネットワークでは、通信のためのフォトニクスと計算のためのエレクトロニクスの属性は相補的で相互依存的である。
私は光電子ハードウェアの概念をスケッチし、まずシナプス回路から始まり、ウェハスケールの統合を継続し、光ファイバの白色物質と相互接続するシステムに拡張します。
論文 参考訳(メタデータ) (2020-10-17T01:26:29Z) - Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。
このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。
線形光ネットワークの転送行列を再構成する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-01T16:04:22Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳(メタデータ) (2020-05-04T13:24:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。