論文の概要: Characterizing Coherent Integrated Photonic Neural Networks under
Imperfections
- arxiv url: http://arxiv.org/abs/2207.10835v1
- Date: Fri, 22 Jul 2022 01:33:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-25 13:48:55.616779
- Title: Characterizing Coherent Integrated Photonic Neural Networks under
Imperfections
- Title（参考訳）: 不完全条件下でのコヒーレント統合フォトニックニューラルネットワークの特性評価
- Authors: Sanmitra Banerjee, Mahdi Nikdast, Krishnendu Chakrabarty
- Abstract要約: 従来の電子AIアクセラレータの後継として、統合フォトニックニューラルネットワーク(IPNN)が登場している。
本稿ではボトムアップ手法を用いて,IPNNにおける不確実性と不正確性の影響を系統的に評価する。
- 参考スコア（独自算出の注目度）: 7.387054116520716
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Integrated photonic neural networks (IPNNs) are emerging as promising
successors to conventional electronic AI accelerators as they offer substantial
improvements in computing speed and energy efficiency. In particular, coherent
IPNNs use arrays of Mach-Zehnder interferometers (MZIs) for unitary
transformations to perform energy-efficient matrix-vector multiplication.
However, the underlying MZI devices in IPNNs are susceptible to uncertainties
stemming from optical lithographic variations and thermal crosstalk and can
experience imprecisions due to non-uniform MZI insertion loss and quantization
errors due to low-precision encoding in the tuned phase angles. In this paper,
we, for the first time, systematically characterize the impact of such
uncertainties and imprecisions (together referred to as imperfections) in IPNNs
using a bottom-up approach. We show that their impact on IPNN accuracy can vary
widely based on the tuned parameters (e.g., phase angles) of the affected
components, their physical location, and the nature and distribution of the
imperfections. To improve reliability measures, we identify critical IPNN
building blocks that, under imperfections, can lead to catastrophic degradation
in the classification accuracy. We show that under multiple simultaneous
imperfections, the IPNN inferencing accuracy can degrade by up to 46%, even
when the imperfection parameters are restricted within a small range. Our
results also indicate that the inferencing accuracy is sensitive to
imperfections affecting the MZIs in the linear layers next to the input layer
of the IPNN.
- Abstract（参考訳）: 統合フォトニックニューラルネットワーク(IPNN)は、計算速度とエネルギー効率を大幅に向上させるため、従来の電子AIアクセラレーターの後継として期待されている。
特に、コヒーレントIPNNは、エネルギー効率の良い行列ベクトル乗算を行うために、一元変換にマッハ・ツェンダー干渉計(MZI)のアレイを使用する。
しかし、IPNNの基盤となるMZIデバイスは、光リソグラフィ変動や熱クロストークに起因する不確実性の影響を受けやすく、非均一なMZI挿入損失と調整相角での低精度符号化による量子化誤差による不整合を経験することができる。
本稿では、ボトムアップアプローチを用いて、IPNNにおける不確実性と不完全性(以下、不完全性と呼ぶ)の影響を、初めて体系的に特徴づける。
IPNNの精度への影響は、影響を受けるコンポーネントの調整されたパラメータ(位相角など)、物理的位置、不完全性の性質と分布によって大きく異なることが示される。
信頼性向上のために,不完全性の下で,分類精度の破壊的劣化につながる重要なipnnビルディングブロックを同定する。
本研究は, 複数回の同時不完全性の下では, 少ない範囲で不完全性パラメータが制限された場合でもIPNN推論精度が最大46%低下することを示す。
また,IPNNの入力層の横の線形層におけるMZIに影響を及ぼす欠陥に,推論精度が敏感であることを示す。
関連論文リスト
- EPIM: Efficient Processing-In-Memory Accelerators based on Epitome [78.79382890789607]
畳み込みのような機能を提供する軽量神経オペレータであるEpitomeを紹介する。
ソフトウェア側では,PIMアクセラレータ上でのエピトームのレイテンシとエネルギを評価する。
ハードウェア効率を向上させるため,PIM対応層設計手法を提案する。
論文 参考訳（メタデータ） (2023-11-12T17:56:39Z) - Cal-DETR: Calibrated Detection Transformer [67.75361289429013]
本稿では,Deformable-DETR,UP-DETR,DINOのキャリブレーション検出トランス(Cal-DETR)のメカニズムを提案する。
我々は、不確実性を利用してクラスロジットを変調する不確実性誘導ロジット変調機構を開発する。
その結果、Cal-DETRは、ドメイン内およびドメイン外の両方を校正する競合する列車時間法に対して有効であることがわかった。
論文 参考訳（メタデータ） (2023-11-06T22:13:10Z) - Analysis of Optical Loss and Crosstalk Noise in MZI-based Coherent
Photonic Neural Networks [8.930237478906266]
シリコンフォトニックベースのニューラルネットワーク(SP-NN)アクセラレーターは、電子加速器に代わる有望な代替品として登場した。
本稿ではボトムアップ手法を用いて,光損失とクロストークノイズを包括的にモデル化する。
異なるスケールのSP-NNに対して,高出力のペナルティと破滅的推論精度が最大84%低下することを示す。
論文 参考訳（メタデータ） (2023-08-07T02:01:18Z) - Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。
よりスムーズな関数との補間により、より一般化できることを示す。
論文 参考訳（メタデータ） (2023-05-30T19:37:44Z) - Data efficiency and extrapolation trends in neural network interatomic
potentials [0.0]
ニューラルネットワーク間ポテンシャル(NNIP)の一般化にアーキテクチャと最適化がどう影響するかを示す。
NNIPにおけるテストエラーはスケーリング関係に従っており、ノイズに対して堅牢であるが、高精度なシステムではMD安定性を予測できないことを示す。
我々の研究は、多くの共通NNIPの補間性能に対する深い学習の正当性を提供する。
論文 参考訳（メタデータ） (2023-02-12T00:34:05Z) - A Dimension-Augmented Physics-Informed Neural Network (DaPINN) with High
Level Accuracy and Efficiency [0.20391237204597357]
物理インフォームドニューラルネットワーク(PINN)は様々な分野に広く応用されている。
本稿では,新しい次元拡張物理インフォームドニューラルネットワーク(DaPINN)を提案する。
DaPINNは同時に、PINNの精度と効率を大幅に向上させる。
論文 参考訳（メタデータ） (2022-10-19T15:54:37Z) - Auto-PINN: Understanding and Optimizing Physics-Informed Neural
Architecture [77.59766598165551]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングのパワーを科学計算にもたらし、科学と工学の実践に革命をもたらしている。
本稿では,ニューラル・アーキテクチャ・サーチ(NAS)手法をPINN設計に適用したAuto-PINNを提案する。
標準PDEベンチマークを用いた包括的事前実験により、PINNの構造と性能の関係を探索することができる。
論文 参考訳（メタデータ） (2022-05-27T03:24:31Z) - Characterization and Optimization of Integrated Silicon-Photonic Neural
Networks under Fabrication-Process Variations [8.690877625458324]
シリコンフォトニックニューラルネットワーク(SPNN)は、電子人工知能(AI)アクセラレーターの後継として期待されている。
SPNNの基盤となるシリコンフォトニックデバイスは、光学リソグラフィーの不完全性から生じる避けられない製造過程の変動(FPV)に敏感である。
本研究では,SPNNにおける異なるFPVに対するMZI耐性を改善するために,新しい変動認識型設計時最適化手法を提案する。
論文 参考訳（メタデータ） (2022-04-19T23:03:36Z) - Mixed Precision Low-bit Quantization of Neural Network Language Models
for Speech Recognition [67.95996816744251]
長期間のメモリリカレントニューラルネットワーク(LSTM-RNN)とトランスフォーマーで表される最先端言語モデル(LM)は、実用アプリケーションではますます複雑で高価なものになりつつある。
現在の量子化法は、均一な精度に基づいており、量子化誤差に対するLMの異なる部分での様々な性能感度を考慮できない。
本稿では,新しい混合精度ニューラルネットワークLM量子化法を提案する。
論文 参考訳（メタデータ） (2021-11-29T12:24:02Z) - Performance of teleportation-based error correction circuits for bosonic
codes with noisy measurements [58.720142291102135]
テレポーテーションに基づく誤り訂正回路を用いて、回転対称符号の誤り訂正能力を解析する。
マイクロ波光学における現在達成可能な測定効率により, ボソニック回転符号の破壊ポテンシャルは著しく低下することが判明した。
論文 参考訳（メタデータ） (2021-08-02T16:12:13Z) - Modeling Silicon-Photonic Neural Networks under Uncertainties [4.205518884494758]
シリコンフォトニクスニューラルネットワーク(spnn)は、デジタル電子回路に比べて計算速度とエネルギー効率が大幅に向上する。
しかし,SPNNのエネルギー効率と精度は,製造過程や温度変化から生じる不確実性の影響が大きい。
MZI(Mch-Zehnder Interferometer)ベースのSPNNの分類精度に対するランダム不確実性の影響に関する最初の包括的かつ階層的研究を提示する。
論文 参考訳（メタデータ） (2020-12-19T04:41:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。