論文の概要: Transformer-Based Bearing Fault Detection using Temporal Decomposition Attention Mechanism
- arxiv url: http://arxiv.org/abs/2412.11245v1
- Date: Sun, 15 Dec 2024 16:51:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-17 13:59:17.853921
- Title: Transformer-Based Bearing Fault Detection using Temporal Decomposition Attention Mechanism
- Title（参考訳）: 時間分解アテンション機構を用いた変圧器型軸受故障検出
- Authors: Marzieh Mirzaeibonehkhater, Mohammad Ali Labbaf-Khaniki, Mohammad Manthouri,
- Abstract要約: ベアリング故障検出は予測保守において重要な課題であり、正確かつタイムリーな故障識別はコストダウンや機器の損傷を防ぐことができる。
トランスフォーマーニューラルネットワークの従来の注意機構は、振動データを保持する複雑な時間パターンを捉えるのに苦労することが多く、最適以下の性能をもたらす。
本稿では,時系列データの長期依存性と周期的変動の両方を捉えるために,時間偏差符号化と季節差分解を組み合わせた新しい注意機構である時間分解注意機構(TDA)を提案する。
- 参考スコア（独自算出の注目度）: 0.40964539027092917
- License:
- Abstract: Bearing fault detection is a critical task in predictive maintenance, where accurate and timely fault identification can prevent costly downtime and equipment damage. Traditional attention mechanisms in Transformer neural networks often struggle to capture the complex temporal patterns in bearing vibration data, leading to suboptimal performance. To address this limitation, we propose a novel attention mechanism, Temporal Decomposition Attention (TDA), which combines temporal bias encoding with seasonal-trend decomposition to capture both long-term dependencies and periodic fluctuations in time series data. Additionally, we incorporate the Hull Exponential Moving Average (HEMA) for feature extraction, enabling the model to effectively capture meaningful characteristics from the data while reducing noise. Our approach integrates TDA into the Transformer architecture, allowing the model to focus separately on the trend and seasonal components of the data. Experimental results on the Case Western Reserve University (CWRU) bearing fault detection dataset demonstrate that our approach outperforms traditional attention mechanisms and achieves state-of-the-art performance in terms of accuracy and interpretability. The HEMA-Transformer-TDA model achieves an accuracy of 98.1%, with exceptional precision, recall, and F1-scores, demonstrating its effectiveness in bearing fault detection and its potential for application in other time series tasks with seasonal patterns or trends.
- Abstract（参考訳）: ベアリング故障検出は予測保守において重要な課題であり、正確かつタイムリーな故障識別はコストダウンや機器の損傷を防ぐことができる。
トランスフォーマーニューラルネットワークの従来の注意機構は、振動データを保持する複雑な時間パターンを捉えるのに苦労することが多く、最適以下の性能をもたらす。
この制限に対処するために,時系列データの長期依存性と周期的変動の両方を捉えるために,時間的バイアス符号化と季節的トレンド分解を組み合わせた新しい注意機構である時間的分解注意機構(TDA)を提案する。
さらに,Hull Exponential moving Average (HEMA) を特徴抽出に組み込むことにより,ノイズを低減しつつ,データから有意な特徴を効果的に捉えることができる。
当社のアプローチでは,TDAをTransformerアーキテクチャに統合することで,データのトレンドと季節的コンポーネントを別途重視することが可能です。
断層検出データセットを用いたケース・ウェスタン・リザーブ大学(CWRU)の実験結果から,我々の手法は従来の注意機構より優れ,精度と解釈性の観点から最先端の性能を実現していることが示された。
HEMA-Transformer-TDAモデルは、異常な精度、リコール、F1スコアで98.1%の精度を達成し、異常検出と季節パターンや傾向のある他の時系列タスクへの応用の可能性を示す。
関連論文リスト
- Powerformer: A Transformer with Weighted Causal Attention for Time-series Forecasting [50.298817606660826]
我々は,非因果重みをスムーズな重み付き崩壊に応じて再加重する因果重みに置き換える新しいトランスフォーマーであるPowerformerを紹介する。
我々の実証実験の結果,Powerformer は公開時系列ベンチマークで最先端の精度を達成できた。
分析の結果、トレーニング中にモデルの局所性バイアスが増幅され、時系列データとパワールールに基づく注意の相互作用が示されることがわかった。
論文 参考訳（メタデータ） (2025-02-10T04:42:11Z) - Steam Turbine Anomaly Detection: An Unsupervised Learning Approach Using Enhanced Long Short-Term Memory Variational Autoencoder [3.004788114489393]
ラベルなしデータセットの精度の高い教師なし異常検出のためのELSTMVAE-DAF-GMM(ELSTMVAE-DAF-GMM)を提案する。
VAEとLSTMを統合したELSTMVAEは,低次元位相空間に高次元時系列データを投影するために用いられた。
新たなDAF(Deep Advanced Feature)は、LSTMVAEモデルから遅延埋め込みと再構成の相違をハイブリダイズし、より包括的なデータ表現を提供する。
論文 参考訳（メタデータ） (2024-11-16T10:11:36Z) - Spatial-Temporal Bearing Fault Detection Using Graph Attention Networks and LSTM [0.7864304771129751]
本稿では,グラフ注意ネットワーク(GAT)とLong Short-Term Memory(LSTM)ネットワークを組み合わせた新しい手法を提案する。
このアプローチは、センサデータ内の空間的および時間的依存関係を捕捉し、軸受故障検出の精度を向上させる。
論文 参考訳（メタデータ） (2024-10-15T12:55:57Z) - Attention as Robust Representation for Time Series Forecasting [23.292260325891032]
多くの実用化には時系列予測が不可欠である。
トランスフォーマーの重要な特徴、注意機構、データ表現を強化するために動的に埋め込みを融合させ、しばしば注意重みを副産物の役割に還元する。
提案手法は,時系列の主表現として注目重みを高くし,データポイント間の時間的関係を利用して予測精度を向上させる。
論文 参考訳（メタデータ） (2024-02-08T03:00:50Z) - Graph Spatiotemporal Process for Multivariate Time Series Anomaly
Detection with Missing Values [67.76168547245237]
本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。
実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
論文 参考訳（メタデータ） (2024-01-11T10:10:16Z) - Causal Disentanglement Hidden Markov Model for Fault Diagnosis [55.90917958154425]
本研究では, 軸受破壊機構の因果性を学ぶために, 因果解離隠れマルコフモデル (CDHM) を提案する。
具体的には、時系列データをフル活用し、振動信号を断層関連要因と断層関連要因に段階的に分解する。
アプリケーションの範囲を広げるために、学習された非絡み合った表現を他の作業環境に転送するために、教師なしのドメイン適応を採用する。
論文 参考訳（メタデータ） (2023-08-06T05:58:45Z) - AnomalyBERT: Self-Supervised Transformer for Time Series Anomaly
Detection using Data Degradation Scheme [0.7216399430290167]
時系列、特にラベルなしデータに対する異常検出タスクは、難しい問題である。
自己教師型モデルトレーニングに適切なデータ劣化スキームを適用することで、この問題に対処する。
自己認識機構に触発されて、時間的文脈を認識するトランスフォーマーベースのアーキテクチャを設計する。
論文 参考訳（メタデータ） (2023-05-08T05:42:24Z) - Novel features for the detection of bearing faults in railway vehicles [88.89591720652352]
我々は,Mel-Frequency Cepstral Coefficients (MFCCs) とAmplitude Modulation Spectrogram (AMS) から抽出した特徴を,軸受欠陥の検出のための特徴として紹介する。
論文 参考訳（メタデータ） (2023-04-14T10:09:50Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳（メタデータ） (2023-01-05T13:59:29Z) - DeepVol: Volatility Forecasting from High-Frequency Data with Dilated Causal Convolutions [53.37679435230207]
本稿では,Dilated Causal Convolutionsに基づくDeepVolモデルを提案する。
実験結果から,提案手法は高頻度データからグローバルな特徴を効果的に学習できることが示唆された。
論文 参考訳（メタデータ） (2022-09-23T16:13:47Z) - Remaining Useful Life Prediction Using Temporal Deep Degradation Network
for Complex Machinery with Attention-based Feature Extraction [17.831515307314802]
ニューラルネットワークを用いたセンサストリーミングデータから抽出した劣化関連特徴は、RUL予測の精度を劇的に向上させることができる。
1次元畳み込みニューラルネットワーク (1D CNN) による劣化関連特徴を持つRUL予測を行うため, 時間分解ネットワークモデル(TDDN)を提案する。
その結果,TDDNモデルでは,現在の機械学習モデルと比較して,複雑な条件下で最高のRUL予測精度が得られることがわかった。
論文 参考訳（メタデータ） (2022-02-21T10:23:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。