論文の概要: Benchmarking Hybrid Deep Learning Architectures for Predictive Maintenance in Industry 4.0
- arxiv url: http://arxiv.org/abs/2609.22583v1
- Date: Fri, 18 Sep 2026 21:07:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.464757
- Title: Benchmarking Hybrid Deep Learning Architectures for Predictive Maintenance in Industry 4.0
- Title(参考訳): 産業における予測保守のためのハイブリッドディープラーニングアーキテクチャのベンチマーク4.0
- Abstract要約: 産業4.0における予測メンテナンスとは、センサー、機械、生産システムからのデータを用いて、機器が故障する確率を推定することである。
メンテナンスを予測するモデルは、研究室で完璧に機能するかもしれないが、実際の工場データに適用した場合、予期せず失敗する。
700以上の実験で6つのディープラーニングアーキテクチャを評価した。
- 参考スコア(独自算出の注目度): 3.7565443710265805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Predictive maintenance in Industry 4.0 refers to using data from sensors, machines, and production systems to estimate when equipment is likely to fail, so maintenance can be planned before a breakdown occurs [1]. However, a model that predicts maintenance may work perfectly in the lab but fail unexpectedly when applied to real factory data [2]. To solve this "reliability" gap, we evaluated six deep learning architectures across more than 700 experimental runs. We focused on the two dominant approaches in the field: Recurrent Neural Networks (RNNs), which process data step-by-step, like reading a sentence [3], and Transformers, a recent dominant approach, which look at the entire sequence at once to spot important connections [4]. We examined whether Transformers still outperform recurrent neural networks (RNNs) when the data includes noise [5]. We found that while Transformers excelled at tracking stable, slow-moving processes, they tend to overreact to chaotic data, mistakenly taking sensor noise for meaningful signals [6]. We also found that the hybrid method that combines a Long Short-Term Memory (LSTM) layer with a Transformer layer is more resilient to noisy data from factory shops [7]. Functioning as a noise filter, the LSTM smooths out data volatility, allowing the Transformer to focus on the bigger picture without being distracted [8]. The hybrid model did not just improve accuracy; it proved to be significantly more consistent than complex models, delivering reliable predictions regardless of how chaotic the underlying system became.
- Abstract(参考訳): 産業4.0における予測メンテナンスとは、センサー、機械、生産システムのデータを用いて機器が故障する確率を推定することであり、故障が起こる前にメンテナンスを計画することができる。
しかし、保守を予測できるモデルは、研究室では完璧に機能するかもしれないが、実際の工場データに適用した場合、予期せず失敗する。
この"信頼性"のギャップを解決するために,700以上の実験走行で6つのディープラーニングアーキテクチャを評価した。
文を読む[3]のようなデータを段階的に処理するリカレントニューラルネットワーク(RNN)と、最近支配的なアプローチであるTransformersでは、シーケンス全体を一度に調べて重要な接続を見つける[4]。
ノイズを含むデータを含む場合,トランスフォーマーがリカレントニューラルネットワーク(RNN)を上回っているかどうかを検討した[5]。
トランスフォーマーは、安定でスローモーションのプロセスを追跡するのに優れていますが、カオスデータに過度に反応し、センサノイズを有意な信号として間違える傾向があります [6]。
また,Long Short-Term Memory (LSTM) 層を Transformer 層と組み合わせたハイブリッド手法は,工場店のノイズデータに対してより耐性が高いことがわかった[7]。
ノイズフィルタとして機能し、LSTMはデータのボラティリティを滑らかにし、Transformerは[8]を邪魔することなく大きな画像に集中できる。
ハイブリッドモデルは単に精度を向上するだけでなく、複雑なモデルよりもはるかに一貫性があり、基盤となるシステムがどのようにカオスになったかに関わらず、信頼性の高い予測を提供することを示した。
関連論文リスト
- Transformer Meets Twicing: Harnessing Unattended Residual Information [2.1605931466490795]
トランスフォーマーベースのディープラーニングモデルは、多くの言語やビジョンタスクで最先端のパフォーマンスを達成した。
自己注意機構は複雑なデータパターンを扱えることが証明されているが、注意行列の表現能力はトランスフォーマー層間で著しく低下する。
本研究では,NLM平滑化の低パス動作を軽減するため,非パラメトリック回帰におけるカーネルツイシング手順を用いた新しいアテンション機構であるTwicing Attentionを提案する。
論文 参考訳(メタデータ) (2025-03-02T01:56:35Z) - On the Optimization and Generalization of Two-layer Transformers with Sign Gradient Descent [51.50999191584981]
Sign Gradient Descent (SignGD) はアダムの効果的なサロゲートである。
我々はSignGDが雑音の多いデータセット上で2層トランスを最適化する方法について検討する。
SignGDの一般化が不十分なのはデータノイズによるものではなく、SignGDとAdamの両方が現実世界のタスクに高品質なデータを必要とすることを示唆している。
論文 参考訳(メタデータ) (2024-10-07T09:36:43Z) - FaultFormer: Pretraining Transformers for Adaptable Bearing Fault Classification [7.136205674624813]
本稿では,トランスモデルに基づく自己教師型事前学習および微調整フレームワークを提案する。
特に、最先端のアキュラシーに到達するための異なるトークン化とデータ拡張戦略について検討する。
このパラダイムでは、異なるベアリング、障害、機械からラベル付けされていないデータに基づいてモデルを事前訓練し、新しいデータスカースアプリケーションに素早くデプロイすることが可能になる。
論文 参考訳(メタデータ) (2023-12-04T22:51:02Z) - In-Context Convergence of Transformers [63.04956160537308]
勾配降下法により訓練したソフトマックスアテンションを有する一層変圧器の学習力学について検討した。
不均衡な特徴を持つデータに対しては、学習力学が段階的に収束する過程をとることを示す。
論文 参考訳(メタデータ) (2023-10-08T17:55:33Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳(メタデータ) (2023-05-25T10:58:46Z) - Robust representations of oil wells' intervals via sparse attention
mechanism [2.604557228169423]
正規化変換器(Reguformers)と呼ばれる効率的な変換器のクラスを導入する。
私たちの実験の焦点は、石油とガスのデータ、すなわちウェルログにあります。
このような問題に対する我々のモデルを評価するために、20以上の井戸からなるウェルログからなる産業規模のオープンデータセットで作業する。
論文 参考訳(メタデータ) (2022-12-29T09:56:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。