論文の概要: BatteryBERT for Realistic Battery Fault Detection Using Point-Masked Signal Modeling
- arxiv url: http://arxiv.org/abs/2506.15712v1
- Date: Sat, 31 May 2025 06:06:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-29 09:28:14.780492
- Title: BatteryBERT for Realistic Battery Fault Detection Using Point-Masked Signal Modeling
- Title(参考訳): 点列信号モデリングを用いた実時間電池故障検出のためのバッテリバート
- Authors: Songqi Zhou, Ruixue Liu, Yixing Wang, Jia Lu, Benben Jiang,
- Abstract要約: 本稿では,バッテリー故障検出のためのBERTスタイルの事前学習を適応する新しいフレームワークを提案する。
標準のBERTアーキテクチャを、カスタマイズされた時系列からトーケン表現モジュールと、ポイントレベルのマスケッド信号モデリング(point-MSM)プリトレーニングタスクで拡張する。
このアプローチは、シーケンシャル電流、電圧、その他の電荷放電サイクルデータに対する自己教師付き学習を可能にする。
- 参考スコア(独自算出の注目度): 1.7397173676239939
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurate fault detection in lithium-ion batteries is essential for the safe and reliable operation of electric vehicles and energy storage systems. However, existing methods often struggle to capture complex temporal dependencies and cannot fully leverage abundant unlabeled data. Although large language models (LLMs) exhibit strong representation capabilities, their architectures are not directly suited to the numerical time-series data common in industrial settings. To address these challenges, we propose a novel framework that adapts BERT-style pretraining for battery fault detection by extending the standard BERT architecture with a customized time-series-to-token representation module and a point-level Masked Signal Modeling (point-MSM) pretraining task tailored to battery applications. This approach enables self-supervised learning on sequential current, voltage, and other charge-discharge cycle data, yielding distributionally robust, context-aware temporal embeddings. We then concatenate these embeddings with battery metadata and feed them into a downstream classifier for accurate fault classification. Experimental results on a large-scale real-world dataset show that models initialized with our pretrained parameters significantly improve both representation quality and classification accuracy, achieving an AUROC of 0.945 and substantially outperforming existing approaches. These findings validate the effectiveness of BERT-style pretraining for time-series fault detection.
- Abstract(参考訳): リチウムイオン電池の正確な故障検出は、電気自動車やエネルギー貯蔵システムの安全かつ信頼性の高い運転に不可欠である。
しかし、既存の手法は複雑な時間的依存を捉えるのに苦労することが多く、豊富なラベルのないデータを完全に活用できない。
大規模言語モデル(LLM)は強力な表現能力を持つが、そのアーキテクチャは産業環境で一般的な数値時系列データに直接適合しない。
これらの課題に対処するため,標準的なBERTアーキテクチャを拡張して,バッテリー故障検出のためのBERTスタイルの事前訓練を行う新しいフレームワークを提案し,バッテリーアプリケーション用にカスタマイズされた時系列・ツー・ツー・ケン表現モジュールとポイントレベルマスケ信号モデリング(point-MSM)プリトレーニングタスクを提案する。
このアプローチにより、シーケンシャルな電流、電圧、その他の電荷放電サイクルデータに対する自己教師付き学習が可能となり、分布的に堅牢で、文脈対応の時間的埋め込みが得られる。
次に、これらの埋め込みとバッテリメタデータを結合し、正確な故障分類のための下流分類器に供給する。
大規模実世界のデータセットによる実験結果から,事前訓練されたパラメータで初期化したモデルでは,表現品質と分類精度が有意に向上し,0.945のAUROCが達成され,既存のアプローチよりも大幅に向上していることがわかった。
本研究は, BERT型プレトレーニングによる時系列故障検出の有効性を検証した。
関連論文リスト
- End-to-End Framework for Predicting the Remaining Useful Life of Lithium-Ion Batteries [0.04660328753262073]
本稿では、最近のチャージ放電サイクルのデータを利用して残りの使用可能なサイクル数を推定するRUL予測手法を提案する。
このアプローチは、新しい信号処理パイプラインとディープラーニング予測モデルの両方を導入している。
2つの一般公開された大規模データセットの実験結果から,提案手法がベースライン深層学習手法と機械学習技術より優れていることが示された。
論文 参考訳(メタデータ) (2025-05-22T13:28:18Z) - AdvKT: An Adversarial Multi-Step Training Framework for Knowledge Tracing [64.79967583649407]
知識追跡(KT)は、学生の知識状態を監視し、質問シーケンスに対する反応をシミュレートする。
既存のKTモデルは通常、単一ステップのトレーニングパラダイムに従っており、大きなエラーの蓄積につながる。
本稿では,多段階KTタスクに着目した新しい知識追跡のための多段階学習フレームワーク(AdvKT)を提案する。
論文 参考訳(メタデータ) (2025-04-07T03:31:57Z) - Powerformer: A Transformer with Weighted Causal Attention for Time-series Forecasting [50.298817606660826]
我々は,非因果重みをスムーズな重み付き崩壊に応じて再加重する因果重みに置き換える新しいトランスフォーマーであるPowerformerを紹介する。
我々の実証実験の結果,Powerformer は公開時系列ベンチマークで最先端の精度を達成できた。
分析の結果、トレーニング中にモデルの局所性バイアスが増幅され、時系列データとパワールールに基づく注意の相互作用が示されることがわかった。
論文 参考訳(メタデータ) (2025-02-10T04:42:11Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - A Robust and Explainable Data-Driven Anomaly Detection Approach For
Power Electronics [56.86150790999639]
本稿では,2つの異常検出・分類手法,すなわち行列プロファイルアルゴリズムと異常変換器を提案する。
行列プロファイルアルゴリズムは、ストリーミング時系列データにおけるリアルタイム異常を検出するための一般化可能なアプローチとして適している。
検知器の感度、リコール、検出精度を調整するために、一連のカスタムフィルタが作成され、追加される。
論文 参考訳(メタデータ) (2022-09-23T06:09:35Z) - Dynaformer: A Deep Learning Model for Ageing-aware Battery Discharge
Prediction [2.670887944566458]
本稿では,少数の電圧/電流サンプルから同時に老化状態を推定できるトランスフォーマーに基づく新しいディープラーニングアーキテクチャを提案する。
実験の結果, 学習モデルは様々な複雑さの入力電流分布に有効であり, 広範囲の劣化レベルに対して堅牢であることがわかった。
論文 参考訳(メタデータ) (2022-06-01T15:31:06Z) - Data-driven Residual Generation for Early Fault Detection with Limited
Data [4.129225533930966]
多くの複雑なシステムでは、システムのための高精度なモデルを開発することは不可能である。
データ駆動型ソリューションは、いくつかの実践的な理由から、産業システムにおいて大きな注目を集めている。
モデルに基づく手法とは異なり、圧力や電圧などの時系列測定を他の情報源と組み合わせることが直接の前進である。
論文 参考訳(メタデータ) (2021-09-28T03:18:03Z) - Robust Data-Driven Error Compensation for a Battery Model [0.0]
今日の大量のバッテリデータは、より正確で信頼性の高いシミュレーションにはまだ使われていません。
データ駆動型エラーモデルを導入し、既存の物理的動機付けモデルを強化します。
ニューラルネットワークは、既存の動的エラーを補償し、基礎となるデータの記述に基づいてさらに制限される。
論文 参考訳(メタデータ) (2020-12-31T16:11:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。