論文の概要: Physics-aware Differentiable Discrete Codesign for Diffractive Optical Neural Networks

• arxiv url: http://arxiv.org/abs/2209.14252v1
• Date: Wed, 28 Sep 2022 17:13:28 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-29 17:06:28.554647
• Title: Physics-aware Differentiable Discrete Codesign for Diffractive Optical Neural Networks
• Title（参考訳）: 回折型ニューラルネットの物理対応微分可能離散符号
• Authors: Yingjie Li, Ruiyang Chen, Weilu Gao, Cunxi Yu
• Abstract要約: 本研究は,Diffractive Optical Neural Network (DONN) の効率的なトレーニングを可能にする,新しいデバイス間ハードウェア・ソフトウェア符号フレームワークを提案する。 Gumbel-Softmaxは、現実世界のデバイスパラメータからDONNの前方関数への微分可能な離散マッピングを可能にするために使用される。 その結果,提案手法は従来の量子化法に比べて大きな利点があることがわかった。
• 参考スコア（独自算出の注目度）: 12.952987240366781
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffractive optical neural networks (DONNs) have attracted lots of attention as they bring significant advantages in terms of power efficiency, parallelism, and computational speed compared with conventional deep neural networks (DNNs), which have intrinsic limitations when implemented on digital platforms. However, inversely mapping algorithm-trained physical model parameters onto real-world optical devices with discrete values is a non-trivial task as existing optical devices have non-unified discrete levels and non-monotonic properties. This work proposes a novel device-to-system hardware-software codesign framework, which enables efficient physics-aware training of DONNs w.r.t arbitrary experimental measured optical devices across layers. Specifically, Gumbel-Softmax is employed to enable differentiable discrete mapping from real-world device parameters into the forward function of DONNs, where the physical parameters in DONNs can be trained by simply minimizing the loss function of the ML task. The results have demonstrated that our proposed framework offers significant advantages over conventional quantization-based methods, especially with low-precision optical devices. Finally, the proposed algorithm is fully verified with physical experimental optical systems in low-precision settings.
• Abstract（参考訳）: DNN(Diffractive Optical Neural Network)は、デジタルプラットフォームに実装する際に本質的に制限される従来のディープニューラルネットワーク(DNN)と比較して、電力効率、並列性、計算速度の面で大きな利点をもたらすため、多くの注目を集めている。 しかし、アルゴリズムが学習した物理モデルパラメータを離散値を持つ実世界の光学デバイスに逆マッピングすることは非自明な作業であり、既存の光学デバイスは非統一的な離散レベルと非単調な特性を持っている。 本研究は、DONNを任意の実験的な光学デバイスで層をまたいだ物理認識訓練を可能にする、新しいデバイス間ハードウェア・ソフトウェア符号フレームワークを提案する。 具体的には、Gumbel-Softmaxを使用して、実世界のデバイスパラメータからDONNの前方関数への微分可能な離散マッピングを可能にし、そこでは、MLタスクの損失関数を最小化することで、DONNの物理パラメータをトレーニングすることができる。 その結果,提案手法は従来の量子化方式,特に低精度光デバイスに対して大きな利点があることがわかった。 最後に、提案アルゴリズムは、低精度設定の物理実験光学系で完全に検証される。

関連論文リスト

• 1-bit Quantized On-chip Hybrid Diffraction Neural Network Enabled by Authentic All-optical Fully-connected Architecture [4.594367761345624]
  本研究では,行列乗算をDNNに組み込んだ新しいアーキテクチャであるHybrid Diffraction Neural Network(HDNN)を紹介する。 特異位相変調層と振幅変調層を用いて、トレーニングされたニューラルネットワークは、数字認識タスクにおいて96.39%と89%の顕著な精度を示した。
  論文  参考訳（メタデータ） (2024-04-11T02:54:17Z)
• Optical Quantum Sensing for Agnostic Environments via Deep Learning [59.088205627308]
  本稿では,革新的な深層学習に基づく量子センシング手法を提案する。 これにより、光学量子センサーは、非依存環境でハイゼンベルク限界(HL)に達することができる。 我々の発見は、光学量子センシングタスクを加速する新しいレンズを提供する。
  論文  参考訳（メタデータ） (2023-11-13T09:46:05Z)
• Free-Space Optical Spiking Neural Network [0.0]
  自由空間光深絞り畳み込みニューラルネットワーク(OSCNN)について紹介する。 この手法は人間の眼の計算モデルからインスピレーションを得ている。 以上の結果から,電子的ONNと比較して,レイテンシと消費電力を最小に抑えた有望な性能を示す。
  論文  参考訳（メタデータ） (2023-11-08T09:41:14Z)
• Forward-Forward Training of an Optical Neural Network [6.311461340782698]
  光ファイバにおける多重モード非線形波動伝搬を利用した実験を行い, 光学系を用いたFFAアプローチの実現可能性を示す。 その結果、FFAで訓練された多層NNアーキテクチャに光変換を組み込むことにより、性能が向上する可能性が示唆された。
  論文  参考訳（メタデータ） (2023-05-30T16:15:57Z)
• Physics-aware Roughness Optimization for Diffractive Optical Neural Networks [15.397285424104469]
  微分光学ニューラルネットワーク(DONN)は、従来のディープニューラルネットワークよりも有望な優位性を示している。 本稿では,数値モデリングと実運用における性能差を低減するために,物理対応の回折型光ニューラルネットワークトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-04-04T03:19:36Z)
• Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
  しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。 ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
  論文  参考訳（メタデータ） (2023-03-06T18:59:13Z)
• Signal Detection in MIMO Systems with Hardware Imperfections: Message Passing on Neural Networks [101.59367762974371]
  本稿では,Multi-Input-multiple-output (MIMO)通信システムにおける信号検出について検討する。 パイロット信号が限られているディープニューラルネットワーク(DNN)のトレーニングは困難であり、実用化を妨げている。 我々は、ユニタリ近似メッセージパッシング(UAMP)アルゴリズムを利用して、効率的なメッセージパッシングに基づくベイズ信号検出器を設計する。
  論文  参考訳（メタデータ） (2022-10-08T04:32:58Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Neural Operator with Regularity Structure for Modeling Dynamics Driven by SPDEs [70.51212431290611]
  偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。 本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。 動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
  論文  参考訳（メタデータ） (2022-04-13T08:53:41Z)
• An Adaptive Device-Edge Co-Inference Framework Based on Soft Actor-Critic [72.35307086274912]
  高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。 本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。 レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
  論文  参考訳（メタデータ） (2022-01-09T09:31:50Z)
• Physics-informed Neural Network for Nonlinear Dynamics in Fiber Optics [10.335960060544904]
  深層学習と物理を組み合わせる物理インフォームドニューラルネットワーク (PINN) について, 非線形シュリンガー方程式を解くために検討した。 PINNは、効果的な偏微分方程式解法であるだけでなく、光ファイバーにおける科学計算と自動モデリングの進歩にも期待できる技術である。
  論文  参考訳（メタデータ） (2021-09-01T12:19:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。