論文の概要: An optical neural network using less than 1 photon per multiplication

• arxiv url: http://arxiv.org/abs/2104.13467v1
• Date: Tue, 27 Apr 2021 20:43:23 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-29 12:39:02.120900
• Title: An optical neural network using less than 1 photon per multiplication
• Title（参考訳）: 乗算1光子未満を用いた光ニューラルネットワーク
• Authors: Tianyu Wang, Shi-Yuan Ma, Logan G. Wright, Tatsuhiro Onodera, Brian Richard and Peter L. McMahon
• Abstract要約: 手書き桁分類において99%の精度を達成する光ニューラルネットワークを実験的に実証した。 この性能は、カスタム自由空間光学プロセッサを使用して達成された。 私達の結果は低光力操作のための原則を提供します。
• 参考スコア（独自算出の注目度）: 4.003843776219224
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning has rapidly become a widespread tool in both scientific and commercial endeavors. Milestones of deep learning exceeding human performance have been achieved for a growing number of tasks over the past several years, across areas as diverse as game-playing, natural-language translation, and medical-image analysis. However, continued progress is increasingly hampered by the high energy costs associated with training and running deep neural networks on electronic processors. Optical neural networks have attracted attention as an alternative physical platform for deep learning, as it has been theoretically predicted that they can fundamentally achieve higher energy efficiency than neural networks deployed on conventional digital computers. Here, we experimentally demonstrate an optical neural network achieving 99% accuracy on handwritten-digit classification using ~3.2 detected photons per weight multiplication and ~90% accuracy using ~0.64 photons (~$2.4 \times 10^{-19}$ J of optical energy) per weight multiplication. This performance was achieved using a custom free-space optical processor that executes matrix-vector multiplications in a massively parallel fashion, with up to ~0.5 million scalar (weight) multiplications performed at the same time. Using commercially available optical components and standard neural-network training methods, we demonstrated that optical neural networks can operate near the standard quantum limit with extremely low optical powers and still achieve high accuracy. Our results provide a proof-of-principle for low-optical-power operation, and with careful system design including the surrounding electronics used for data storage and control, open up a path to realizing optical processors that require only $10^{-16}$ J total energy per scalar multiplication -- which is orders of magnitude more efficient than current digital processors.
• Abstract（参考訳）: ディープラーニングは、科学と商業の両方の分野で急速に普及している。 人間のパフォーマンスを超える深層学習のマイルストーンは、ゲームプレイング、自然言語翻訳、医療画像分析といった様々な分野において、ここ数年で多くのタスクで達成されてきた。 しかし、電子プロセッサ上での深層ニューラルネットワークのトレーニングと実行に関連する高エネルギーコストにより、継続的な進歩はますます妨げられている。 光ニューラルネットワークは、従来のデジタルコンピュータにデプロイされたニューラルネットワークよりも高いエネルギー効率を達成することができると理論的に予測されているため、ディープラーニングの代替物理プラットフォームとして注目されている。 本研究では,約3.2個の検出光子を重み乗算,約90%の精度で約0.64光子(約2.4 \times 10^{-19}$ j)の重み乗算を用いて,手書き桁分類において99%の精度を達成する光ニューラルネットワークを実験的に実証する。 この性能は、行列ベクトル乗算を非常に並列に実行する独自の自由空間光学プロセッサを用いて達成され、同時に最大0.5万スカラー(重み)乗算が行われた。 市販の光学コンポーネントと標準ニューラルネットワークのトレーニング手法を用いて、光ニューラルネットワークが標準量子限界付近で非常に低い光パワーで動作し、高い精度を達成できることを実証した。 その結果、低消費電力運転のための原理実証と、データ記憶と制御に使用される周辺電子機器を含む慎重なシステム設計が提供され、現在のデジタルプロセッサよりも桁違いに効率の良い10^{-16}$jのスカラー乗算あたりの総エネルギーを必要とする光プロセッサを実現する道を開くことができた。

関連論文リスト

• Optical training of large-scale Transformers and deep neural networks with direct feedback alignment [48.90869997343841]
  我々は,ハイブリッド電子フォトニックプラットフォーム上で,ダイレクトフィードバックアライメントと呼ばれる多目的でスケーラブルなトレーニングアルゴリズムを実験的に実装した。 光処理ユニットは、このアルゴリズムの中央動作である大規模ランダム行列乗算を最大1500テラOpsで行う。 我々は、ハイブリッド光アプローチの計算スケーリングについて検討し、超深度・広帯域ニューラルネットワークの潜在的な利点を実証する。
  論文  参考訳（メタデータ） (2024-09-01T12:48:47Z)
• Expressivity of Neural Networks with Random Weights and Learned Biases [44.02417750529102]
  最近の研究は、任意の関数がパラメータの小さな部分集合をチューニングすることによって同様に学習できることを示し、普遍近似の境界を推し進めている。 ランダムな重みを固定したフィードフォワードニューラルネットワークが、バイアスのみを学習することによって複数のタスクを実行することができることを示す理論的および数値的なエビデンスを提供する。 我々の結果は神経科学に関係しており、シナプスの重みを変えることなく動的に行動に関連のある変化が起こる可能性を実証している。
  論文  参考訳（メタデータ） (2024-07-01T04:25:49Z)
• Genetically programmable optical random neural networks [0.0]
  遺伝的にプログラム可能であるが、光学的ランダムプロジェクションによる高性能を実現するための単純な光学ニューラルネットワークを実証する。 ランダムプロジェクションカーネルとして機能する散乱媒質の配向を遺伝的にプログラミングすることにより,本手法は最適なカーネルを発見し,初期試験精度を7-22%向上させる。 提案手法は,シンプルでスケーラブルな設計で,光ニューラルネットワークの高性能化を実現するための有望な手法である。
  論文  参考訳（メタデータ） (2024-03-19T06:55:59Z)
• TeMPO: Efficient Time-Multiplexed Dynamic Photonic Tensor Core for Edge AI with Compact Slow-Light Electro-Optic Modulator [44.74560543672329]
  我々は,TMPOと呼ばれる時間多重化動的フォトニックテンソルアクセラレータを,クロス層デバイス/回路/アーキテクチャのカスタマイズにより提案する。 我々は,368.6TOPSピーク性能,22.3TOPS/Wエネルギー効率,1.2TOPS/mm$2$計算密度を実現した。 この研究は、多層共設計とドメイン固有のカスタマイズの力を示し、将来の電子フォトニクス加速器への道を開く。
  論文  参考訳（メタデータ） (2024-02-12T03:40:32Z)
• Spatially Varying Nanophotonic Neural Networks [39.1303097259564]
  電子の代わりに光子を使った演算を実行するフォトニックプロセッサは、超低レイテンシと消費電力で光ニューラルネットワークを実現することを約束する。 既存の光学ニューラルネットワークは、基礎となるネットワーク設計によって制限されており、最先端の電子ニューラルネットワークよりもはるかに低い画像認識精度を実現している。
  論文  参考訳（メタデータ） (2023-08-07T08:48:46Z)
• Quantum-noise-limited optical neural networks operating at a few quanta per activation [5.494796517705931]
  我々は,光学ニューラルネットワークを訓練し,決定論的画像分類タスクを高精度に行うことができることを示す。 単一光子系で動作する隠蔽層を有する光ニューラルネットワークを用いて, 試験精度98%のMNIST分類を実験的に実証した。
  論文  参考訳（メタデータ） (2023-07-28T17:59:46Z)
• Single-Shot Optical Neural Network [55.41644538483948]
  深層ニューラルネットワークに必要な計算資源を削減するために,「重定常」アナログ光学・電子ハードウェアが提案されている。 我々は、スケーラブルで1層当たり単発の重み付き光学プロセッサを提案する。
  論文  参考訳（メタデータ） (2022-05-18T17:49:49Z)
• 11 TeraFLOPs per second photonic convolutional accelerator for deep learning optical neural networks [0.0]
  10 TeraFLOPS(1秒あたりの浮動小数点演算)を超える全光ベクトル畳み込み加速器を実証する。 次に、同じハードウェアを用いて、10個の出力ニューロンを持つ深部光学CNNを逐次形成し、900ピクセルの手書き数字画像と88%の精度で完全な10桁の認識を成功させる。 このアプローチはスケーラブルで、無人車やリアルタイムビデオ認識のような要求のあるアプリケーションのために、より複雑なネットワークに対してトレーニング可能である。
  論文  参考訳（メタデータ） (2020-11-14T21:24:01Z)
• Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
  集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。 このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。 線形光ネットワークの転送行列を再構成する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-01T16:04:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。