論文の概要: Towards efficient deep autoencoders for multivariate time series anomaly
detection
- arxiv url: http://arxiv.org/abs/2403.02429v1
- Date: Mon, 4 Mar 2024 19:22:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 17:08:35.714450
- Title: Towards efficient deep autoencoders for multivariate time series anomaly
detection
- Title（参考訳）: 多変量時系列異常検出のための高効率深部オートエンコーダの開発
- Authors: Marcin Pietro\'n, Dominik \.Zurek, Kamil Faber, Roberto Corizzo
- Abstract要約: 本稿では,3つの要素を含むディープオートエンコーダの圧縮手法を提案する。
第一に、プルーニングは、高速な探索プロセスにより、破滅的な精度の低下を防止しつつ、重量を減らす。
第二に、線形および非線形量子化は、各重みごとにビット数を減らし、モデルの複雑さを減少させる。
- 参考スコア（独自算出の注目度）: 0.8681331155356999
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate time series anomaly detection is a crucial problem in many
industrial and research applications. Timely detection of anomalies allows, for
instance, to prevent defects in manufacturing processes and failures in
cyberphysical systems. Deep learning methods are preferred among others for
their accuracy and robustness for the analysis of complex multivariate data.
However, a key aspect is being able to extract predictions in a timely manner,
to accommodate real-time requirements in different applications. In the case of
deep learning models, model reduction is extremely important to achieve optimal
results in real-time systems with limited time and memory constraints. In this
paper, we address this issue by proposing a novel compression method for deep
autoencoders that involves three key factors. First, pruning reduces the number
of weights, while preventing catastrophic drops in accuracy by means of a fast
search process that identifies high sparsity levels. Second, linear and
non-linear quantization reduces model complexity by reducing the number of bits
for every single weight. The combined contribution of these three aspects allow
the model size to be reduced, by removing a subset of the weights (pruning),
and decreasing their bit-width (quantization). As a result, the compressed
model is faster and easier to adopt in highly constrained hardware
environments. Experiments performed on popular multivariate anomaly detection
benchmarks, show that our method is capable of achieving significant model
compression ratio (between 80% and 95%) without a significant reduction in the
anomaly detection performance.
- Abstract（参考訳）: 多変量時系列異常検出は多くの産業・研究応用において重要な問題である。
異常をタイムリーに検出することで、例えば、製造プロセスやサイバーフィジカルシステムの障害を防止することができる。
複雑な多変量データの解析には,その精度とロバスト性から深層学習法が好まれる。
しかし、重要な側面は、異なるアプリケーションにおけるリアルタイム要求を満たすために、タイムリーに予測を抽出できることである。
ディープラーニングモデルの場合、時間とメモリの制約が制限されたリアルタイムシステムにおいて、最適な結果を得るためには、モデル削減が極めて重要である。
本稿では,3つの鍵となる要素を含む深層オートエンコーダに対して,新しい圧縮手法を提案する。
第一に、プルーニングは重量を減らすと同時に、高い空間レベルを識別する高速な探索プロセスにより、破滅的な精度低下を防ぐ。
第二に、線形および非線形量子化は、各重みごとにビット数を減らし、モデルの複雑さを減らす。
これら3つの側面の複合的な寄与により、重みのサブセットを取り除き(刈り込み)、ビット幅を減らし(量子化)、モデルサイズを縮小することができる。
その結果、圧縮モデルは、高度に制約されたハードウェア環境において、より高速で容易に採用できる。
一般的な多変量異常検出ベンチマークで行った実験から,本手法は異常検出性能を著しく低下させることなく,モデル圧縮率(80%から95%)を著しく向上できることが示された。
関連論文リスト
- Graph Spatiotemporal Process for Multivariate Time Series Anomaly
Detection with Missing Values [67.76168547245237]
本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。
実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
論文 参考訳（メタデータ） (2024-01-11T10:10:16Z) - Sparse Binary Transformers for Multivariate Time Series Modeling [1.3965477771846404]
軽量圧縮ニューラルネットワークは,高密度浮動小数点変換器に匹敵する精度が得られることを示す。
本モデルは,3つの時系列学習課題 – 分類,異常検出,単段階予測 – で良好な結果が得られる。
本稿では,パラメータ数,ビットサイズ,浮動小数点演算(FLOP)数など,さまざまな指標に対するアプローチの計算的節約度を測定した。
論文 参考訳（メタデータ） (2023-08-09T00:23:04Z) - Multi-scale Fusion Fault Diagnosis Method Based on Two-Dimensionaliztion
Sequence in Complex Scenarios [0.0]
転がり軸受は回転機械において重要な要素であり、その欠陥は深刻な損傷を引き起こす可能性がある。
異常の早期発見は破滅的な事故を防ぐために不可欠である。
従来のインテリジェントな手法は時系列データを解析するのに用いられてきたが、現実のシナリオでは、センサデータはノイズが多く、時間領域で正確に特徴付けることはできない。
本稿では,産業シナリオに展開するためのマルチスケール機能融合モデルとディープラーニング圧縮技術を用いて,畳み込みニューラルネットワークの改良手法を提案する。
論文 参考訳（メタデータ） (2023-04-11T13:05:50Z) - Mixed Precision Post Training Quantization of Neural Networks with
Sensitivity Guided Search [7.392278887917975]
混合精度量子化により、異なるテンソルを様々な数値精度のレベルに量子化することができる。
我々は,コンピュータビジョンと自然言語処理の手法を評価し,最大27.59%,34.31%のレイテンシ低減を実証した。
論文 参考訳（メタデータ） (2023-02-02T19:30:00Z) - Fundamental Limits of Two-layer Autoencoders, and Achieving Them with
Gradient Methods [91.54785981649228]
本稿では,非線形二層型オートエンコーダについて述べる。
本結果は,人口リスクの最小化要因を特徴付け,その最小化要因が勾配法によって達成されることを示す。
符号アクティベーション関数の特別な場合において、この解析は、シャローオートエンコーダによるガウス音源の損失圧縮の基本的な限界を確立する。
論文 参考訳（メタデータ） (2022-12-27T12:37:34Z) - Unified Multivariate Gaussian Mixture for Efficient Neural Image
Compression [151.3826781154146]
先行変数と超優先度を持つ潜伏変数は、変動画像圧縮において重要な問題である。
ベクトル化された視点で潜伏変数を観察する際、相関関係や相関関係は存在する。
当社のモデルでは、速度歪曲性能が向上し、圧縮速度が3.18倍に向上した。
論文 参考訳（メタデータ） (2022-03-21T11:44:17Z) - Time-Series Anomaly Detection with Implicit Neural Representation [0.38073142980733]
Inlicit Neural Representation-based Anomaly Detection (INRAD)を提案する。
入力に時間がかかり、その時点で対応する値を出力する単純な多層パーセプトロンを訓練する。
そして,その表現誤りを異常検出のための異常スコアとして利用する。
論文 参考訳（メタデータ） (2022-01-28T06:17:24Z) - TELESTO: A Graph Neural Network Model for Anomaly Classification in
Cloud Services [77.454688257702]
機械学習(ML)と人工知能(AI)はITシステムの運用とメンテナンスに適用される。
1つの方向は、修復自動化を可能にするために、繰り返し発生する異常タイプを認識することである。
与えられたデータの次元変化に不変な手法を提案する。
論文 参考訳（メタデータ） (2021-02-25T14:24:49Z) - Variable Skipping for Autoregressive Range Density Estimation [84.60428050170687]
深部自己回帰モデルを用いた距離密度推定を高速化する手法である可変スキップについて述べる。
可変スキップは、10-100$timesの効率向上をもたらすことを示す。
論文 参考訳（メタデータ） (2020-07-10T19:01:40Z) - Automatic heterogeneous quantization of deep neural networks for
low-latency inference on the edge for particle detectors [5.609098985493794]
我々は,チップ上での最小エネルギー,高精度,ナノ秒の推論,完全自動展開のための,深層ニューラルネットワークモデルの最適ヘテロジニゼーションバージョンを設計する手法を提案する。
これはCERN大型ハドロン衝突型加速器における陽子-陽子衝突におけるイベント選択の手順に不可欠であり、リソースは厳密に制限され、$mathcal O(1)mu$sのレイテンシが要求される。
論文 参考訳（メタデータ） (2020-06-15T15:07:49Z) - SUOD: Accelerating Large-Scale Unsupervised Heterogeneous Outlier
Detection [63.253850875265115]
外乱検出(OD)は、一般的なサンプルから異常物体を識別するための機械学習(ML)タスクである。
そこで我々は,SUODと呼ばれるモジュール型加速度システムを提案する。
論文 参考訳（メタデータ） (2020-03-11T00:22:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。