論文の概要: Compatible Learning for Deep Photonic Neural Network
- arxiv url: http://arxiv.org/abs/2003.08360v1
- Date: Sat, 14 Mar 2020 13:21:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-23 20:38:41.109094
- Title: Compatible Learning for Deep Photonic Neural Network
- Title(参考訳): ディープフォトニックニューラルネットワークのための互換性のある学習
- Authors: Yong-Liang Xiao, Rongguang Liang, Jianxin Zhong, Xianyu Su, Zhisheng
You
- Abstract要約: フォトニックニューラルネットワークは、予測指向のタスクに重要な可能性を秘めている。
そこで我々は,非線形な活性化を効率的に選択できる,複雑な空間における互換性のある学習プロトコルを開発した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Realization of deep learning with coherent optical field has attracted
remarkably attentions presently, which benefits on the fact that optical matrix
manipulation can be executed at speed of light with inherent parallel
computation as well as low latency. Photonic neural network has a significant
potential for prediction-oriented tasks. Yet, real-value Backpropagation
behaves somewhat intractably for coherent photonic intelligent training. We
develop a compatible learning protocol in complex space, of which nonlinear
activation could be selected efficiently depending on the unveiled compatible
condition. Compatibility indicates that matrix representation in complex space
covers its real counterpart, which could enable a single channel mingled
training in real and complex space as a unified model. The phase logical XOR
gate with Mach-Zehnder interferometers and diffractive neural network with
optical modulation mechanism, implementing intelligent weight learned from
compatible learning, are presented to prove the availability. Compatible
learning opens an envisaged window for deep photonic neural network.
- Abstract(参考訳): コヒーレントな光学場を用いたディープラーニングの実現が注目されているが、これは光行列操作が本質的に並列計算と低レイテンシで光速で実行できる点に利点がある。
フォトニックニューラルネットワークは、予測指向タスクに重要な可能性を持っている。
しかし、実数値バックプロパゲーションは、コヒーレントなフォトニックインテリジェントなトレーニングではやや難解に振る舞う。
複素空間における非線型なアクティベーションを, 明らかにされた互換条件に応じて効率的に選択できる, 互換性のある学習プロトコルを開発した。
互換性は、複素空間における行列表現が実際の表現をカバーすることを示し、統一モデルとして実空間と複素空間における単一のチャネルの混合トレーニングを可能にする。
相論理xorゲートとmach-zehnder干渉計,および光変調機構を備えた拡散型ニューラルネットワークを用いて,互換性のある学習から学習した知的重みを実装した。
互換性のある学習は、深層フォトニックニューラルネットワークのための望まれる窓を開く。
関連論文リスト
- Optical training of large-scale Transformers and deep neural networks with direct feedback alignment [48.90869997343841]
我々は,ハイブリッド電子フォトニックプラットフォーム上で,ダイレクトフィードバックアライメントと呼ばれる多目的でスケーラブルなトレーニングアルゴリズムを実験的に実装した。
光処理ユニットは、このアルゴリズムの中央動作である大規模ランダム行列乗算を最大1500テラOpsで行う。
我々は、ハイブリッド光アプローチの計算スケーリングについて検討し、超深度・広帯域ニューラルネットワークの潜在的な利点を実証する。
論文 参考訳(メタデータ) (2024-09-01T12:48:47Z) - Coherence Awareness in Diffractive Neural Networks [21.264497139730473]
拡散ネットワークでは空間コヒーレンス(空間コヒーレンス)の程度が劇的な効果を持つことを示す。
特に、物体の空間的コヒーレンス長が光学系で保存される最小の特徴量に匹敵する場合、非コヒーレントおよびコヒーレント極端は許容できる近似として機能しないことを示す。
論文 参考訳(メタデータ) (2024-08-13T07:19:40Z) - NeuralFastLAS: Fast Logic-Based Learning from Raw Data [54.938128496934695]
シンボリック・ルール学習者は解釈可能な解を生成するが、入力を記号的に符号化する必要がある。
ニューロシンボリックアプローチは、ニューラルネットワークを使用して生データを潜在シンボリック概念にマッピングすることで、この問題を克服する。
我々は,ニューラルネットワークを記号学習者と共同でトレーニングする,スケーラブルで高速なエンドツーエンドアプローチであるNeuralFastLASを紹介する。
論文 参考訳(メタデータ) (2023-10-08T12:33:42Z) - Scalable Nanophotonic-Electronic Spiking Neural Networks [3.9918594409417576]
スパイキングニューラルネットワーク(SNN)は、高度に並列化されたリアルタイム処理が可能な新しい計算パラダイムを提供する。
フォトニックデバイスは、SNN計算パラダイムに適合する高帯域並列アーキテクチャの設計に最適である。
CMOSとSiPhの併用技術はスケーラブルなSNNコンピューティングアーキテクチャの設計に適している。
論文 参考訳(メタデータ) (2022-08-28T06:10:06Z) - Hybrid training of optical neural networks [1.0323063834827415]
光学ニューラルネットワークは、機械学習ハードウェアの有望なタイプとして登場しつつある。
これらのネットワークは主に、デジタルシミュレータのシリコトレーニング後に光推論を行うために開発されている。
我々は,光ニューラルネットワークのハイブリッドトレーニングを,多種多様な光ニューラルネットワークに適用できることを実証した。
論文 参考訳(メタデータ) (2022-03-20T21:16:42Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。
学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。
さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
論文 参考訳(メタデータ) (2021-06-15T05:30:17Z) - Photonic neural field on a silicon chip: large-scale, high-speed
neuro-inspired computing and sensing [0.0]
フォトニックニューラルネットワークは、低レイテンシと超低エネルギー消費で高速なニューラル処理を実現する大きな可能性を秘めている。
本稿では、フォトニック・ニューラルフィールドの概念を提案し、シリコンチップ上で実験的に実装し、高度にスケーラブルなニューラルインスピレーションド・コンピューティングを実現する。
本研究では,オンチップ・フォトニック・ニューラルフィールドを情報の保存手段として使用し,低誤差でカオス時系列予測を行う。
論文 参考訳(メタデータ) (2021-05-22T09:28:51Z) - Rapid characterisation of linear-optical networks via PhaseLift [51.03305009278831]
集積フォトニクスは優れた位相安定性を提供し、半導体産業によって提供される大規模な製造性に依存することができる。
このような光回路に基づく新しいデバイスは、機械学習アプリケーションにおいて高速でエネルギー効率の高い計算を約束する。
線形光ネットワークの転送行列を再構成する新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-01T16:04:22Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳(メタデータ) (2020-08-19T04:53:31Z) - Unitary Learning for Deep Diffractive Neural Network [0.0]
深層拡散型ニューラルネットワーク上での一元学習プロトコルを提案する。
単元学習における時間空間の進化特性を定式化し解明する。
予備的な応用として、単位学習を伴う深層拡散ニューラルネットワークを2次元分類と検証タスクに仮実装する。
論文 参考訳(メタデータ) (2020-08-17T07:16:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。