論文の概要: Quantized Non-Volatile Nanomagnetic Synapse based Autoencoder for
Efficient Unsupervised Network Anomaly Detection
- arxiv url: http://arxiv.org/abs/2309.06449v1
- Date: Tue, 12 Sep 2023 02:29:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-14 16:50:42.678770
- Title: Quantized Non-Volatile Nanomagnetic Synapse based Autoencoder for
Efficient Unsupervised Network Anomaly Detection
- Title（参考訳）: 量子化非揮発性ナノ磁気合成に基づく非教師なしネットワーク異常検出のためのオートエンコーダ
- Authors: Muhammad Sabbir Alam, Walid Al Misba, Jayasimha Atulasimha
- Abstract要約: ハードウェア,エネルギ,計算資源の制限により,リアルタイムに学習可能なエッジデバイスにオートエンコーダを実装することは困難であることを示す。
自己エンコーダのシナプスとして磁区壁(DW)をホストするノッチを用いた強磁性競馬場を提案する。
我々のDWベースのアプローチは、浮動小数点法と比較して、トレーニング中の重量更新の少なくとも3桁の顕著な減少を示す。
- 参考スコア（独自算出の注目度）: 0.07892577704654172
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In the autoencoder based anomaly detection paradigm, implementing the
autoencoder in edge devices capable of learning in real-time is exceedingly
challenging due to limited hardware, energy, and computational resources. We
show that these limitations can be addressed by designing an autoencoder with
low-resolution non-volatile memory-based synapses and employing an effective
quantized neural network learning algorithm. We propose a ferromagnetic
racetrack with engineered notches hosting a magnetic domain wall (DW) as the
autoencoder synapses, where limited state (5-state) synaptic weights are
manipulated by spin orbit torque (SOT) current pulses. The performance of
anomaly detection of the proposed autoencoder model is evaluated on the NSL-KDD
dataset. Limited resolution and DW device stochasticity aware training of the
autoencoder is performed, which yields comparable anomaly detection performance
to the autoencoder having floating-point precision weights. While the limited
number of quantized states and the inherent stochastic nature of DW synaptic
weights in nanoscale devices are known to negatively impact the performance,
our hardware-aware training algorithm is shown to leverage these imperfect
device characteristics to generate an improvement in anomaly detection accuracy
(90.98%) compared to accuracy obtained with floating-point trained weights.
Furthermore, our DW-based approach demonstrates a remarkable reduction of at
least three orders of magnitude in weight updates during training compared to
the floating-point approach, implying substantial energy savings for our
method. This work could stimulate the development of extremely energy efficient
non-volatile multi-state synapse-based processors that can perform real-time
training and inference on the edge with unsupervised data.
- Abstract（参考訳）: オートエンコーダに基づく異常検出パラダイムでは,ハードウェア,エネルギー,計算資源の制限により,リアルタイムに学習可能なエッジデバイスにオートエンコーダを実装することは極めて困難である。
これらの制限は、低解像度の非揮発性メモリベースのシナプスを持つオートエンコーダを設計し、効果的な量子化ニューラルネットワーク学習アルゴリズムを用いて対処できることが示される。
磁気領域壁(DW)を自己エンコーダのシナプスとして包含するノッチを用いた強磁性競馬場を提案し, スピン軌道トルク(SOT)電流パルスによって有限状態(5状態)シナプス重みを演算する。
NSL-KDDデータセットを用いて,提案したオートエンコーダモデルの異常検出性能を評価する。
浮動小数点精度重みを有するオートエンコーダに匹敵する異常検出性能を有するオートエンコーダの限定分解能及びDWデバイス確率性学習を行う。
ナノスケールデバイスにおけるDWシナプス重みの量子化状態の限られた数と固有確率特性は性能に悪影響を及ぼすことが知られているが,ハードウェア・アウェア・トレーニング・アルゴリズムはこれらの不完全なデバイス特性を活用し,浮動小数点学習重量の精度と比較して異常検出精度(90.98%)の向上を図っている。
さらに,本手法は浮動小数点法に比べて,トレーニング中の重み更新の少なくとも3桁の大幅な削減効果を示し,本手法の省エネルギー効果を示唆する。
この研究は、非教師なしデータでエッジ上でリアルタイムのトレーニングと推論を行うことができる超エネルギー効率の非揮発性マルチステートシナプスベースのプロセッサの開発を促進する可能性がある。
関連論文リスト
- Cal-DETR: Calibrated Detection Transformer [67.75361289429013]
本稿では,Deformable-DETR,UP-DETR,DINOのキャリブレーション検出トランス(Cal-DETR)のメカニズムを提案する。
我々は、不確実性を利用してクラスロジットを変調する不確実性誘導ロジット変調機構を開発する。
その結果、Cal-DETRは、ドメイン内およびドメイン外の両方を校正する競合する列車時間法に対して有効であることがわかった。
論文 参考訳（メタデータ） (2023-11-06T22:13:10Z) - A Cryogenic Memristive Neural Decoder for Fault-tolerant Quantum Error Correction [0.0]
インメモリ・クロスバー(IMC)アーキテクチャに基づくニューラルデコーダの設計と解析を行う。
ハードウェアを意識したリトレーニング手法を開発し、フィデリティ損失を軽減する。
この研究は、フォールトトレラントQECの統合のためのスケーラブルで高速で低消費電力のMCCハードウェアへの経路を提供する。
論文 参考訳（メタデータ） (2023-07-18T17:46:33Z) - Label-free timing analysis of SiPM-based modularized detectors with
physics-constrained deep learning [9.234802409391111]
モジュール化検出器のタイミング解析のためのディープラーニングに基づく新しい手法を提案する。
本稿では,提案手法が求める最適関数の存在を数学的に証明し,モデルのトレーニングと校正のための体系的アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-04-24T09:16:31Z) - The END: An Equivariant Neural Decoder for Quantum Error Correction [73.4384623973809]
データ効率のよいニューラルデコーダを導入し、この問題の対称性を活用する。
本稿では,従来のニューラルデコーダに比べて精度の高い新しい同変アーキテクチャを提案する。
論文 参考訳（メタデータ） (2023-04-14T19:46:39Z) - Deep Quantum Error Correction [73.54643419792453]
量子誤り訂正符号(QECC)は、量子コンピューティングのポテンシャルを実現するための鍵となる要素である。
本研究では,新しいエンペンド・ツー・エンドの量子誤りデコーダを効率的に訓練する。
提案手法は,最先端の精度を実現することにより,QECCのニューラルデコーダのパワーを実証する。
論文 参考訳（メタデータ） (2023-01-27T08:16:26Z) - Signal Detection in MIMO Systems with Hardware Imperfections: Message
Passing on Neural Networks [101.59367762974371]
本稿では,Multi-Input-multiple-output (MIMO)通信システムにおける信号検出について検討する。
パイロット信号が限られているディープニューラルネットワーク(DNN)のトレーニングは困難であり、実用化を妨げている。
我々は、ユニタリ近似メッセージパッシング(UAMP)アルゴリズムを利用して、効率的なメッセージパッシングに基づくベイズ信号検出器を設計する。
論文 参考訳（メタデータ） (2022-10-08T04:32:58Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳（メタデータ） (2022-09-29T04:06:00Z) - Energy Efficient Learning with Low Resolution Stochastic Domain Wall
Synapse Based Deep Neural Networks [0.9176056742068814]
ドメインウォール(DW)位置の変動が大きい超低分解能(少なくとも5状態)シナプスは、エネルギー効率が良く、高い検定精度が得られることを実証した。
学習アルゴリズムに適切な修正を施すことにより,その動作と,その低分解能の効果に対処し,高いテスト精度を実現することができることを示す。
論文 参考訳（メタデータ） (2021-11-14T09:12:29Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳（メタデータ） (2020-07-14T09:07:29Z) - High-level Modeling of Manufacturing Faults in Deep Neural Network
Accelerators [2.6258269516366557]
Googleのユニットプロセッシング(TPU)は、ニューラルネットワークアクセラレータで、ニューラルネットワークのクラック内での計算にsystolic配列ベースの行列乗算ハードウェアを使用する。
行列乗算ユニットの任意の状態要素における欠陥は、これらの推論ネットワークにおいて予期せぬ誤りを引き起こす可能性がある。
離散時間マルコフ連鎖(DTMC)形式を用いたTPUにおける永久断層の定式化とその伝播モデルを提案する。
論文 参考訳（メタデータ） (2020-06-05T18:11:14Z) - QUANOS- Adversarial Noise Sensitivity Driven Hybrid Quantization of
Neural Networks [3.2242513084255036]
QUINOSは、逆雑音感度(ANS)に基づく層特異的ハイブリッド量子化を行うフレームワークである
CIFAR10, CIFAR100データセットを用いた実験により, QUINOSは対向ロバスト性の観点から, 均一に量子化された8ビット精度のベースラインより優れていることが示された。
論文 参考訳（メタデータ） (2020-04-22T15:56:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。