論文の概要: Quantum-noise-limited optical neural networks operating at a few quanta per activation

• arxiv url: http://arxiv.org/abs/2307.15712v1
• Date: Fri, 28 Jul 2023 17:59:46 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-31 11:47:07.300465
• Title: Quantum-noise-limited optical neural networks operating at a few quanta per activation
• Title（参考訳）: アクティベーション当たり数量子で動作する量子ノイズ制限型光ニューラルネットワーク
• Authors: Shi-Yuan Ma, Tianyu Wang, J\'er\'emie Laydevant, Logan G. Wright and Peter L. McMahon
• Abstract要約: 我々は,光学ニューラルネットワークを訓練し,決定論的画像分類タスクを高精度に行うことができることを示す。 単一光子系で動作する隠蔽層を有する光ニューラルネットワークを用いて, 試験精度98%のMNIST分類を実験的に実証した。
• 参考スコア（独自算出の注目度）: 5.494796517705931
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Analog physical neural networks, which hold promise for improved energy efficiency and speed compared to digital electronic neural networks, are nevertheless typically operated in a relatively high-power regime so that the signal-to-noise ratio (SNR) is large (>10). What happens if an analog system is instead operated in an ultra-low-power regime, in which the behavior of the system becomes highly stochastic and the noise is no longer a small perturbation on the signal? In this paper, we study this question in the setting of optical neural networks operated in the limit where some layers use only a single photon to cause a neuron activation. Neuron activations in this limit are dominated by quantum noise from the fundamentally probabilistic nature of single-photon detection of weak optical signals. We show that it is possible to train stochastic optical neural networks to perform deterministic image-classification tasks with high accuracy in spite of the extremely high noise (SNR ~ 1) by using a training procedure that directly models the stochastic behavior of photodetection. We experimentally demonstrated MNIST classification with a test accuracy of 98% using an optical neural network with a hidden layer operating in the single-photon regime; the optical energy used to perform the classification corresponds to 0.008 photons per multiply-accumulate (MAC) operation, which is equivalent to 0.003 attojoules of optical energy per MAC. Our experiment used >40x fewer photons per inference than previous state-of-the-art low-optical-energy demonstrations, to achieve the same accuracy of >90%. Our work shows that some extremely stochastic analog systems, including those operating in the limit where quantum noise dominates, can nevertheless be used as layers in neural networks that deterministically perform classification tasks with high accuracy if they are appropriately trained.
• Abstract（参考訳）: アナログ物理ニューラルネットワークは、デジタル電子ニューラルネットワークと比較してエネルギー効率と速度の向上を約束するが、通常、信号対雑音比(SNR)が大きくなるように、比較的高出力な状態で運用される(>10)。 アナログシステムの動作が高度に確率的になり、ノイズが信号の小さな摂動ではないような、超低消費電力のシステムで操作されたらどうなるのか? 本稿では,ある層が単一光子のみを用いてニューロンを活性化させる極限で動作する光ニューラルネットワークの設定において,この問題を考察する。 この限界におけるニューロンの活性化は、弱い光信号の単一光子検出の根本的な確率的性質から生じる量子ノイズによって支配される。 超高ノイズ(snr~1)にもかかわらず、光検出の確率的振舞いを直接モデル化する訓練手順を用いて、確率的光ニューラルネットワークを高い精度で決定論的画像分類タスクに訓練することが可能であることを示す。 単一光子系で動作する隠蔽層を有する光ニューラルネットワークを用いて,テスト精度98%のMNIST分類を実験的に実証し,その分類に使用する光エネルギーは,光エネルギー0.003 attojoules per MAC(MAC)演算あたり0.008 Photonsに相当することを示した。 実験では、従来の低光エネルギー実験よりも40倍少ない光子を用いて、90%の精度を実現した。 我々の研究は、量子ノイズが支配する極限で動作しているものを含む、非常に確率的なアナログシステムが、適切な訓練を受けた場合、決定的に高い精度で分類タスクを実行するニューラルネットワークの層として使用できることを示している。

関連論文リスト

• All-optical modulation with single-photons using electron avalanche [69.65384453064829]
  単光子強度ビームを用いた全光変調の実証を行った。 本稿では,テラヘルツ高速光スイッチングの可能性を明らかにする。
  論文  参考訳（メタデータ） (2023-12-18T20:14:15Z)
• Spatially Varying Nanophotonic Neural Networks [39.1303097259564]
  電子の代わりに光子を使った演算を実行するフォトニックプロセッサは、超低レイテンシと消費電力で光ニューラルネットワークを実現することを約束する。 既存の光学ニューラルネットワークは、基礎となるネットワーク設計によって制限されており、最先端の電子ニューラルネットワークよりもはるかに低い画像認識精度を実現している。
  論文  参考訳（メタデータ） (2023-08-07T08:48:46Z)
• Integrated multi-operand optical neurons for scalable and hardware-efficient deep learning [10.157562103034]
  この研究は、カスタマイズされたマルチオペランドフォトニックデバイスに基づくスケーラブルで効率的な光学ドット生成エンジンを提案する。 画像認識におけるマルチオペランドMach-Zehnder-Interferometer (MOMZI) を用いたMOONの有用性を実験的に実証した。
  論文  参考訳（メタデータ） (2023-05-31T06:25:39Z)
• Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
  しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。 ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
  論文  参考訳（メタデータ） (2023-03-06T18:59:13Z)
• On-chip quantum information processing with distinguishable photons [55.41644538483948]
  多光子干渉は光量子技術の中心にある。 そこで本研究では,共振器型集積光子源に必要なスケールで変形した光子を干渉させるのに十分な時間分解能で検出を実装できることを実験的に実証した。 ボソンサンプリング実験において,非イデアル光子の時間分解検出がエンタングル操作の忠実度を向上し,計算複雑性の低減を図ることができることを示す。
  論文  参考訳（メタデータ） (2022-10-14T18:16:49Z)
• Optical Neural Ordinary Differential Equations [44.97261923694945]
  隠れ層の連続力学を光学的ODE解法でパラメータ化する光学的ニューラル常微分方程式(ON-ODE)アーキテクチャを提案する。 On-ODEは、PNNとフォトニックインテグレータと光フィードバックループとから構成されており、残留ニューラルネットワーク(ResNet)と、チップ領域占有率を効果的に低減したリカレントニューラルネットワークを表現するように構成できる。
  論文  参考訳（メタデータ） (2022-09-26T04:04:02Z)
• Single-Shot Optical Neural Network [55.41644538483948]
  深層ニューラルネットワークに必要な計算資源を削減するために,「重定常」アナログ光学・電子ハードウェアが提案されている。 我々は、スケーラブルで1層当たり単発の重み付き光学プロセッサを提案する。
  論文  参考訳（メタデータ） (2022-05-18T17:49:49Z)
• Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing [0.0]
  超高速かつ低消費電力で動作可能な光電子人工ニューロンを提案する。 提案システムは、励起可能なトンネルダイオード(RTD)素子とナノスケール光源を組み合わせたものである。
  論文  参考訳（メタデータ） (2021-07-14T14:11:04Z)
• Photonic neural field on a silicon chip: large-scale, high-speed neuro-inspired computing and sensing [0.0]
  フォトニックニューラルネットワークは、低レイテンシと超低エネルギー消費で高速なニューラル処理を実現する大きな可能性を秘めている。 本稿では、フォトニック・ニューラルフィールドの概念を提案し、シリコンチップ上で実験的に実装し、高度にスケーラブルなニューラルインスピレーションド・コンピューティングを実現する。 本研究では,オンチップ・フォトニック・ニューラルフィールドを情報の保存手段として使用し,低誤差でカオス時系列予測を行う。
  論文  参考訳（メタデータ） (2021-05-22T09:28:51Z)
• An optical neural network using less than 1 photon per multiplication [4.003843776219224]
  手書き桁分類において99%の精度を達成する光ニューラルネットワークを実験的に実証した。 この性能は、カスタム自由空間光学プロセッサを使用して達成された。 私達の結果は低光力操作のための原則を提供します。
  論文  参考訳（メタデータ） (2021-04-27T20:43:23Z)
• Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
  集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。 このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。 線形光ネットワークの転送行列を再構成する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-01T16:04:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。