論文の概要: Gradients of unitary optical neural networks using parameter-shift rule

• arxiv url: http://arxiv.org/abs/2506.11565v1
• Date: Fri, 13 Jun 2025 08:21:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-16 17:50:49.715172
• Title: Gradients of unitary optical neural networks using parameter-shift rule
• Title（参考訳）: パラメータシフト規則を用いたユニタリ光ニューラルネットワークの勾配
• Authors: Jinzhe Jiang, Yaqian Zhao, Xin Zhang, Chen Li, Yunlong Yu, Hailing Liu,
• Abstract要約: 本稿では、ユニタリ光ニューラルネットワーク(UONN)におけるパラメータシフト則(PSR)の勾配計算への応用について検討する。 シフトパラメータ値で関数を評価することによって勾配を計算するPSRは,マッハ・ツェンダー干渉計メッシュから構築したUONNのトレーニングに効果的に適用できることを示す。 本稿では,光ニューラルネットワークにおける位相パラメータの最適化にPSRを適用するための理論的枠組みと実践的手法について述べる。
• 参考スコア（独自算出の注目度）: 14.364214412875494
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper explores the application of the parameter-shift rule (PSR) for computing gradients in unitary optical neural networks (UONNs). While backpropagation has been fundamental to training conventional neural networks, its implementation in optical neural networks faces significant challenges due to the physical constraints of optical systems. We demonstrate how PSR, which calculates gradients by evaluating functions at shifted parameter values, can be effectively adapted for training UONNs constructed from Mach-Zehnder interferometer meshes. The method leverages the inherent Fourier series nature of optical interference in these systems to compute exact analytical gradients directly from hardware measurements. This approach offers a promising alternative to traditional in silico training methods and circumvents the limitations of both finite difference approximations and all-optical backpropagation implementations. We present the theoretical framework and practical methodology for applying PSR to optimize phase parameters in optical neural networks, potentially advancing the development of efficient hardware-based training strategies for optical computing systems.
• Abstract（参考訳）: 本稿では,パラメータシフト規則(PSR)のユニタリ光ニューラルネットワーク(UONN)の勾配計算への応用について検討する。 バックプロパゲーションは従来のニューラルネットワークのトレーニングには基本的だが、光学的ニューラルネットワークの実装は光学系の物理的制約のために重大な課題に直面している。 シフトパラメータ値で関数を評価することによって勾配を計算するPSRは,マッハ・ツェンダー干渉計メッシュから構築したUONNのトレーニングに効果的に適用できることを示す。 この手法は、これらの系における光干渉の固有のフーリエ級数の性質を利用して、ハードウェア測定から直接正確な解析勾配を計算する。 このアプローチは、従来のシリコトレーニング手法に代わる有望な代替手段を提供し、有限差分近似と全光バックプロパゲーション実装の両方の制限を回避する。 本稿では,光ニューラルネットワークにおける位相パラメータの最適化にPSRを適用するための理論的枠組みと実践的手法について述べる。

関連論文リスト

• A Neural Network Training Method Based on Neuron Connection Coefficient Adjustments [2.684545081600664]
  本稿では,対称微分方程式に基づくニューラルネットワークの新しいトレーニング手法を提案する。 以前導入された方法とは異なり、このアプローチは微分方程式の固定点の調整を必要としない。 このアプローチを検証するため、MNISTデータセット上でテストを行い、有望な結果を得た。
  論文  参考訳（メタデータ） (2025-01-25T16:07:30Z)
• Randomized Forward Mode Gradient for Spiking Neural Networks in Scientific Machine Learning [4.178826560825283]
  スパイキングニューラルネットワーク(SNN)は、ディープニューラルネットワークの階層的学習能力とスパイクベースの計算のエネルギー効率を組み合わせた、機械学習における有望なアプローチである。 SNNの伝統的なエンドツーエンドトレーニングは、しばしばバックプロパゲーションに基づいており、重み更新はチェーンルールによって計算された勾配から導かれる。 この手法は, 生体適合性に限界があり, ニューロモルフィックハードウェアの非効率性のため, 課題に遭遇する。 本研究では,SNNの代替トレーニング手法を導入する。後方伝搬の代わりに,前方モード内での重量摂動手法を活用する。
  論文  参考訳（メタデータ） (2024-11-11T15:20:54Z)
• Generalizable Non-Line-of-Sight Imaging with Learnable Physical Priors [52.195637608631955]
  非視線画像(NLOS)は、その潜在的な応用により注目されている。 既存のNLOS再構成アプローチは、経験的物理的前提に依存して制約される。 本稿では,Learningable Path Compensation(LPC)とAdaptive Phasor Field(APF)の2つの主要な設計を含む,学習に基づく新しいソリューションを提案する。
  論文  参考訳（メタデータ） (2024-09-21T04:39:45Z)
• Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
  スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。 本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
  論文  参考訳（メタデータ） (2024-09-17T04:48:45Z)
• Training Large-Scale Optical Neural Networks with Two-Pass Forward Propagation [0.0]
  本稿では、トレーニング効率、非線形関数の実装、大規模入力データ処理に関連する光学ニューラルネットワーク(ONN)の限界について述べる。 ランダムノイズによる誤差の変調と再入出力により,特定の非線形アクティベーション関数を回避する新しいトレーニング手法であるTwo-Pass Forward Propagationを導入する。 統合光学系における単純なニューラルネットワークを用いた畳み込みニューラルネットワークの新たな実装法を提案する。
  論文  参考訳（メタデータ） (2024-08-15T11:27:01Z)
• Advancing Spatio-Temporal Processing in Spiking Neural Networks through Adaptation [6.233189707488025]
  ニューロモルフィックハードウェア上のニューラルネットワークは、非喫煙者よりも消費電力の少ないオーダーを約束する。 このようなシステム上でのスパイクベースの計算のための標準的なニューロンモデルは、長い間、統合と火災(LIF)ニューロンであった。 いわゆるアダプティブLIFニューロンの根源はよく分かっていない。
  論文  参考訳（メタデータ） (2024-08-14T12:49:58Z)
• Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
  しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。 ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
  論文  参考訳（メタデータ） (2023-03-06T18:59:13Z)
• Reparameterization through Spatial Gradient Scaling [69.27487006953852]
  リパラメータ化は、学習中に畳み込み層を等価なマルチブランチ構造に変換することによって、ディープニューラルネットワークの一般化を改善することを目的としている。 本稿では,畳み込みネットワークにおける重み間の学習焦点を再分配する空間勾配スケーリング手法を提案する。
  論文  参考訳（メタデータ） (2023-03-05T17:57:33Z)
• Physics-aware Differentiable Discrete Codesign for Diffractive Optical Neural Networks [12.952987240366781]
  本研究は,Diffractive Optical Neural Network (DONN) の効率的なトレーニングを可能にする,新しいデバイス間ハードウェア・ソフトウェア符号フレームワークを提案する。 Gumbel-Softmaxは、現実世界のデバイスパラメータからDONNの前方関数への微分可能な離散マッピングを可能にするために使用される。 その結果,提案手法は従来の量子化法に比べて大きな利点があることがわかった。
  論文  参考訳（メタデータ） (2022-09-28T17:13:28Z)
• Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
  集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。 このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。 線形光ネットワークの転送行列を再構成する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-01T16:04:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。