論文の概要: Quantized Non-Volatile Nanomagnetic Synapse based Autoencoder for
Efficient Unsupervised Network Anomaly Detection
- arxiv url: http://arxiv.org/abs/2309.06449v1
- Date: Tue, 12 Sep 2023 02:29:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-14 16:50:42.678770
- Title: Quantized Non-Volatile Nanomagnetic Synapse based Autoencoder for
Efficient Unsupervised Network Anomaly Detection
- Title（参考訳）: 量子化非揮発性ナノ磁気合成に基づく非教師なしネットワーク異常検出のためのオートエンコーダ
- Authors: Muhammad Sabbir Alam, Walid Al Misba, Jayasimha Atulasimha
- Abstract要約: ハードウェア,エネルギ,計算資源の制限により,リアルタイムに学習可能なエッジデバイスにオートエンコーダを実装することは困難であることを示す。
自己エンコーダのシナプスとして磁区壁(DW)をホストするノッチを用いた強磁性競馬場を提案する。
我々のDWベースのアプローチは、浮動小数点法と比較して、トレーニング中の重量更新の少なくとも3桁の顕著な減少を示す。
- 参考スコア（独自算出の注目度）: 0.07892577704654172
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In the autoencoder based anomaly detection paradigm, implementing the
autoencoder in edge devices capable of learning in real-time is exceedingly
challenging due to limited hardware, energy, and computational resources. We
show that these limitations can be addressed by designing an autoencoder with
low-resolution non-volatile memory-based synapses and employing an effective
quantized neural network learning algorithm. We propose a ferromagnetic
racetrack with engineered notches hosting a magnetic domain wall (DW) as the
autoencoder synapses, where limited state (5-state) synaptic weights are
manipulated by spin orbit torque (SOT) current pulses. The performance of
anomaly detection of the proposed autoencoder model is evaluated on the NSL-KDD
dataset. Limited resolution and DW device stochasticity aware training of the
autoencoder is performed, which yields comparable anomaly detection performance
to the autoencoder having floating-point precision weights. While the limited
number of quantized states and the inherent stochastic nature of DW synaptic
weights in nanoscale devices are known to negatively impact the performance,
our hardware-aware training algorithm is shown to leverage these imperfect
device characteristics to generate an improvement in anomaly detection accuracy
(90.98%) compared to accuracy obtained with floating-point trained weights.
Furthermore, our DW-based approach demonstrates a remarkable reduction of at
least three orders of magnitude in weight updates during training compared to
the floating-point approach, implying substantial energy savings for our
method. This work could stimulate the development of extremely energy efficient
non-volatile multi-state synapse-based processors that can perform real-time
training and inference on the edge with unsupervised data.
- Abstract（参考訳）: オートエンコーダに基づく異常検出パラダイムでは,ハードウェア,エネルギー,計算資源の制限により,リアルタイムに学習可能なエッジデバイスにオートエンコーダを実装することは極めて困難である。
これらの制限は、低解像度の非揮発性メモリベースのシナプスを持つオートエンコーダを設計し、効果的な量子化ニューラルネットワーク学習アルゴリズムを用いて対処できることが示される。
磁気領域壁(DW)を自己エンコーダのシナプスとして包含するノッチを用いた強磁性競馬場を提案し, スピン軌道トルク(SOT)電流パルスによって有限状態(5状態)シナプス重みを演算する。
NSL-KDDデータセットを用いて,提案したオートエンコーダモデルの異常検出性能を評価する。
浮動小数点精度重みを有するオートエンコーダに匹敵する異常検出性能を有するオートエンコーダの限定分解能及びDWデバイス確率性学習を行う。
ナノスケールデバイスにおけるDWシナプス重みの量子化状態の限られた数と固有確率特性は性能に悪影響を及ぼすことが知られているが,ハードウェア・アウェア・トレーニング・アルゴリズムはこれらの不完全なデバイス特性を活用し,浮動小数点学習重量の精度と比較して異常検出精度(90.98%)の向上を図っている。
さらに,本手法は浮動小数点法に比べて,トレーニング中の重み更新の少なくとも3桁の大幅な削減効果を示し,本手法の省エネルギー効果を示唆する。
この研究は、非教師なしデータでエッジ上でリアルタイムのトレーニングと推論を行うことができる超エネルギー効率の非揮発性マルチステートシナプスベースのプロセッサの開発を促進する可能性がある。
関連論文リスト
- Designing DNNs for a trade-off between robustness and processing performance in embedded devices [1.474723404975345]
機械学習ベースの組み込みシステムは、ソフトエラーに対して堅牢である必要がある。
本稿では,摂動に対するモデルロバスト性を改善するために有界AFを用いた場合の適合性について検討する。
自律運転におけるシーン理解のためのハイパースペクトル画像のセマンティックセグメンテーションタスクの実行を目的としたエンコーダ・デコーダの完全畳み込みモデルの解析を行う。
論文 参考訳（メタデータ） (2024-12-04T19:34:33Z) - Evaluating Single Event Upsets in Deep Neural Networks for Semantic Segmentation: an embedded system perspective [1.474723404975345]
本稿では,組み込みディープニューラルネットワーク(DNN)のロバスト性評価について述べる。
本研究は,様々なエンコーダデコーダモデルの層間およびビット間感度をソフトエラーに精査することにより,セグメント化DNNのSEUに対する脆弱性を徹底的に調査する。
本稿では,資源制約によるデプロイメントに適したメモリや計算コストを伴わない,実用的な軽量なエラー軽減手法を提案する。
論文 参考訳（メタデータ） (2024-12-04T18:28:38Z) - Cal-DETR: Calibrated Detection Transformer [67.75361289429013]
本稿では,Deformable-DETR,UP-DETR,DINOのキャリブレーション検出トランス(Cal-DETR)のメカニズムを提案する。
我々は、不確実性を利用してクラスロジットを変調する不確実性誘導ロジット変調機構を開発する。
その結果、Cal-DETRは、ドメイン内およびドメイン外の両方を校正する競合する列車時間法に対して有効であることがわかった。
論文 参考訳（メタデータ） (2023-11-06T22:13:10Z) - A Cryogenic Memristive Neural Decoder for Fault-tolerant Quantum Error Correction [0.0]
インメモリ・クロスバー(IMC)アーキテクチャに基づくニューラルデコーダの設計と解析を行う。
ハードウェアを意識したリトレーニング手法を開発し、フィデリティ損失を軽減する。
この研究は、フォールトトレラントQECの統合のためのスケーラブルで高速で低消費電力のMCCハードウェアへの経路を提供する。
論文 参考訳（メタデータ） (2023-07-18T17:46:33Z) - Label-free timing analysis of SiPM-based modularized detectors with
physics-constrained deep learning [9.234802409391111]
モジュール化検出器のタイミング解析のためのディープラーニングに基づく新しい手法を提案する。
本稿では,提案手法が求める最適関数の存在を数学的に証明し,モデルのトレーニングと校正のための体系的アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-04-24T09:16:31Z) - The END: An Equivariant Neural Decoder for Quantum Error Correction [73.4384623973809]
データ効率のよいニューラルデコーダを導入し、この問題の対称性を活用する。
本稿では,従来のニューラルデコーダに比べて精度の高い新しい同変アーキテクチャを提案する。
論文 参考訳（メタデータ） (2023-04-14T19:46:39Z) - Deep Quantum Error Correction [73.54643419792453]
量子誤り訂正符号(QECC)は、量子コンピューティングのポテンシャルを実現するための鍵となる要素である。
本研究では,新しいエンペンド・ツー・エンドの量子誤りデコーダを効率的に訓練する。
提案手法は,最先端の精度を実現することにより,QECCのニューラルデコーダのパワーを実証する。
論文 参考訳（メタデータ） (2023-01-27T08:16:26Z) - Signal Detection in MIMO Systems with Hardware Imperfections: Message
Passing on Neural Networks [101.59367762974371]
本稿では,Multi-Input-multiple-output (MIMO)通信システムにおける信号検出について検討する。
パイロット信号が限られているディープニューラルネットワーク(DNN)のトレーニングは困難であり、実用化を妨げている。
我々は、ユニタリ近似メッセージパッシング(UAMP)アルゴリズムを利用して、効率的なメッセージパッシングに基づくベイズ信号検出器を設計する。
論文 参考訳（メタデータ） (2022-10-08T04:32:58Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳（メタデータ） (2022-09-29T04:06:00Z) - Energy Efficient Learning with Low Resolution Stochastic Domain Wall
Synapse Based Deep Neural Networks [0.9176056742068814]
ドメインウォール(DW)位置の変動が大きい超低分解能(少なくとも5状態)シナプスは、エネルギー効率が良く、高い検定精度が得られることを実証した。
学習アルゴリズムに適切な修正を施すことにより,その動作と,その低分解能の効果に対処し,高いテスト精度を実現することができることを示す。
論文 参考訳（メタデータ） (2021-11-14T09:12:29Z) - AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。
我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
論文 参考訳（メタデータ） (2020-07-14T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。