論文の概要: TinyAD: Memory-efficient anomaly detection for time series data in Industrial IoT

• arxiv url: http://arxiv.org/abs/2303.03611v1
• Date: Tue, 7 Mar 2023 02:56:15 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-08 16:34:23.791982
• Title: TinyAD: Memory-efficient anomaly detection for time series data in Industrial IoT
• Title（参考訳）: TinyAD: 産業用IoTにおける時系列データのメモリ効率異常検出
• Authors: Yuting Sun, Tong Chen, Quoc Viet Hung Nguyen, Hongzhi Yin
• Abstract要約: 我々は,リアルタイムな異常検出のためのCNNのオンボード推論を効率的に行うための,Tiny Anomaly Detection (TinyAD) という新しいフレームワークを提案する。 CNNのピークメモリ消費を低減するため、我々は2つの相補的戦略、 in-place と patch-by-patch のメモリ再スケジューリングについて検討する。 我々のフレームワークは、オーバーヘッドを無視してピークメモリ消費を2～5倍削減できる。
• 参考スコア（独自算出の注目度）: 43.207210990362825
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Monitoring and detecting abnormal events in cyber-physical systems is crucial to industrial production. With the prevalent deployment of the Industrial Internet of Things (IIoT), an enormous amount of time series data is collected to facilitate machine learning models for anomaly detection, and it is of the utmost importance to directly deploy the trained models on the IIoT devices. However, it is most challenging to deploy complex deep learning models such as Convolutional Neural Networks (CNNs) on these memory-constrained IIoT devices embedded with microcontrollers (MCUs). To alleviate the memory constraints of MCUs, we propose a novel framework named Tiny Anomaly Detection (TinyAD) to efficiently facilitate onboard inference of CNNs for real-time anomaly detection. First, we conduct a comprehensive analysis of depthwise separable CNNs and regular CNNs for anomaly detection and find that the depthwise separable convolution operation can reduce the model size by 50-90% compared with the traditional CNNs. Then, to reduce the peak memory consumption of CNNs, we explore two complementary strategies, in-place, and patch-by-patch memory rescheduling, and integrate them into a unified framework. The in-place method decreases the peak memory of the depthwise convolution by sparing a temporary buffer to transfer the activation results, while the patch-by-patch method further reduces the peak memory of layer-wise execution by slicing the input data into corresponding receptive fields and executing in order. Furthermore, by adjusting the dimension of convolution filters, these strategies apply to both univariate time series and multidomain time series features. Extensive experiments on real-world industrial datasets show that our framework can reduce peak memory consumption by 2-5x with negligible computation overhead.
• Abstract（参考訳）: サイバー物理システムの異常事象の監視と検出は、産業生産に不可欠である。 産業用モノのインターネット(Industrial Internet of Things, IIoT)の普及に伴い、異常検出のための機械学習モデルを容易にするために膨大な時系列データが収集され、トレーニングされたモデルをIIoTデバイスに直接デプロイすることが最も重要である。 しかし、CNN(Convolutional Neural Networks)のような複雑なディープラーニングモデルを、マイクロコントローラ(MCU)に埋め込まれたメモリ制限されたIIoTデバイスにデプロイすることは最も難しい。 MCUのメモリ制約を軽減するために,リアルタイム異常検出のためのCNNのオンボード推論を効率的に行うTiny Anomaly Detection (TinyAD) という新しいフレームワークを提案する。 まず, 深度分離可能なCNNと正規CNNの総合解析を行い, 従来のCNNと比較して, 深度分離可能な畳み込み操作によりモデルサイズを50～90%削減できることを確認した。 次に、cnnのピークメモリ消費を減らすために、インプレースとパッチバイパッチのメモリ再スケジュールという2つの補完戦略を検討し、それらを統一フレームワークに統合する。 in-place法では、一時的なバッファをスペアして活性化結果を転送することで、奥行き畳み込みのピークメモリを減少させ、patch-by-patch法では、入力データを対応する受容フィールドにスライスして順番に実行することにより、さらに層間実行のピークメモリを減少させる。 さらに、畳み込みフィルタの次元を調整することで、これらの戦略は単変量時系列と多領域時系列の特徴の両方に適用できる。 実世界の産業データセットに関する大規模な実験により、我々のフレームワークは計算オーバーヘッドを無視してピークメモリ消費を2～5倍削減できることを示した。

関連論文リスト

• DA-Flow: Dual Attention Normalizing Flow for Skeleton-based Video Anomaly Detection [52.74152717667157]
  本稿では,DAM(Dual Attention Module)と呼ばれる軽量モジュールを提案する。 フレームアテンション機構を使用して、最も重要なフレームを識別し、スケルトンアテンション機構を使用して、最小パラメータとフロップで固定されたパーティション間の広範な関係をキャプチャする。
  論文  参考訳（メタデータ） (2024-06-05T06:18:03Z)
• Low-power event-based face detection with asynchronous neuromorphic hardware [2.0774873363739985]
  本稿では、SynSense Speckニューロモルフィックチップ上に展開されたイベントベースの顔検出のためのオンチップスパイクニューラルネットワークの最初の例を示す。 トレーニングに用いるオフチップクロック駆動シミュレーションとオンチップイベント駆動推論との精度の相違について述べる。 オンチップ顔検出のmAP[0.5]は0.6で、20mWしか消費しない。
  論文  参考訳（メタデータ） (2023-12-21T19:23:02Z)
• PREM: A Simple Yet Effective Approach for Node-Level Graph Anomaly Detection [65.24854366973794]
  ノードレベルのグラフ異常検出(GAD)は、医学、ソーシャルネットワーク、eコマースなどの分野におけるグラフ構造化データから異常ノードを特定する上で重要な役割を果たす。 本稿では,GADの効率を向上させるために,PREM (preprocessing and Matching) という簡単な手法を提案する。 我々のアプローチは、強力な異常検出機能を維持しながら、GADを合理化し、時間とメモリ消費を削減します。
  論文  参考訳（メタデータ） (2023-10-18T02:59:57Z)
• DTAAD: Dual Tcn-Attention Networks for Anomaly Detection in Multivariate Time Series Data [0.0]
  本稿では,Transformer と Dual Temporal Convolutional Network (TCN) に基づく異常検出・診断モデル DTAAD を提案する。 予測精度の向上と相関性の向上のために,スケーリング手法とフィードバック機構を導入している。 7つの公開データセットに対する実験により、DTAADは検出および診断性能の両面で現在最先端のベースライン法の大部分を超えていることが確認された。
  論文  参考訳（メタデータ） (2023-02-17T06:59:45Z)
• BSSAD: Towards A Novel Bayesian State-Space Approach for Anomaly Detection in Multivariate Time Series [0.0]
  ベイジアン状態空間異常検出(BSSAD)と呼ばれる新しい,革新的な異常検出手法を提案する。 提案手法の設計は,ベイズ状態空間アルゴリズムの次の状態予測における強みと,繰り返しニューラルネットワークとオートエンコーダの有効性を組み合わせたものである。 特に,粒子フィルタとアンサンブルカルマンフィルタのベイズ状態空間モデルの利用に着目する。
  論文  参考訳（メタデータ） (2023-01-30T16:21:18Z)
• Self-Attentive Pooling for Efficient Deep Learning [6.822466048176652]
  そこで本研究では,標準プーリング層に対するドロップイン代替として使用可能な,非局所的な自己係留型プーリング手法を提案する。 我々は、ImageNet上のMobileNet-V2の様々な変種に対する既存のプール技術のテスト精度を平均1.2%上回る。 提案手法は,イソメモリフットプリントを用いたSOTA技術と比較して1.43%高い精度を実現している。
  論文  参考訳（メタデータ） (2022-09-16T00:35:14Z)
• MCUNetV2: Memory-Efficient Patch-based Inference for Tiny Deep Learning [72.80896338009579]
  メモリボトルネックは畳み込みニューラルネットワーク(CNN)の設計における不均衡なメモリ分布に起因する。 本稿では,ピークメモリを大幅に削減するパッチ・バイ・パッチ・推論スケジューリングを提案する。 ニューラルアーキテクチャサーチによるプロセスを自動化し、ニューラルアーキテクチャと推論スケジューリングを共同で最適化し、MCUNetV2に導いた。
  論文  参考訳（メタデータ） (2021-10-28T17:58:45Z)
• Deep Anomaly Detection for Time-series Data in Industrial IoT: A Communication-Efficient On-device Federated Learning Approach [40.992167455141946]
  本稿では,IIoTにおける時系列データ検出のための,新しい通信効率の高いデバイス上でのフェデレーション学習(FL)に基づく深層異常検出フレームワークを提案する。 まず、分散エッジデバイスが協調して異常検出モデルを訓練し、その一般化能力を向上させるためのFLフレームワークを導入する。 次に,アテンションメカニズムに基づく畳み込みニューラルネットワーク-Long Short Term Memory (AMCNN-LSTM) モデルを提案し,異常を正確に検出する。 第三に,提案したフレームワークを産業異常検出のタイムラインに適用するために,トップテキスト選択に基づく勾配圧縮機構を提案する。
  論文  参考訳（メタデータ） (2020-07-19T16:47:26Z)
• Contextual-Bandit Anomaly Detection for IoT Data in Distributed Hierarchical Edge Computing [65.78881372074983]
  IoTデバイスは複雑なディープニューラルネットワーク(DNN)モデルにはほとんど余裕がなく、異常検出タスクをクラウドにオフロードすることは長い遅延を引き起こす。 本稿では,分散階層エッジコンピューティング(HEC)システムを対象とした適応型異常検出手法のデモと構築を行う。 提案手法は,検出タスクをクラウドにオフロードした場合と比較して,精度を犠牲にすることなく検出遅延を著しく低減することを示す。
  論文  参考訳（メタデータ） (2020-04-15T06:13:33Z)
• Adaptive Anomaly Detection for IoT Data in Hierarchical Edge Computing [71.86955275376604]
  本稿では,階層型エッジコンピューティング(HEC)システムに対する適応型異常検出手法を提案する。 本研究では,入力データから抽出した文脈情報に基づいてモデルを選択する適応的手法を設計し,異常検出を行う。 提案手法を実際のIoTデータセットを用いて評価し,検出タスクをクラウドにオフロードするのとほぼ同じ精度を維持しながら,検出遅延を84%削減できることを実証した。
  論文  参考訳（メタデータ） (2020-01-10T05:29:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。