論文の概要: Cross-Domain Joint-Embedding Pretraining For Heterogeneous Industrial Time Series
- arxiv url: http://arxiv.org/abs/2611.02489v1
- Date: Mon, 02 Nov 2026 04:05:47 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:20:20.141682
- Title: Cross-Domain Joint-Embedding Pretraining For Heterogeneous Industrial Time Series
- Title(参考訳): 不均一産業時系列のためのクロスドメイン結合型プレトレーニング
- Abstract要約: 異種産業時系列(JEPA-HITS)における共同埋め込み予測アーキテクチャを用いたドメイン間自己教師型事前学習の検討
ダウンストリームトレーニングにおける回帰と分類問題に対する表現再利用の評価を行い,LODO(Leave-one-domain-out)プレトレーニングを行った。
以上の結果から,異種産業プロセスからのラベルなし時系列測定は,ラベル付きデータに制限のある下流学習のための再利用可能な表現を提供する可能性が示唆された。
- 参考スコア(独自算出の注目度): 2.4958651162443943
- License:
- Abstract: Industrial predictive maintenance and manufacturing tasks frequently contain abundant sensor measurements, but with limited labeled data. We investigate cross-domain self-supervised pretraining using joint-embedding predictive architecture for heterogeneous industrial time series (JEPA-HITS), which learns one encoder from various domains such as battery, semiconductor chemical mechanical planarization (CMP), computer numerical control (CNC) machining, and bearing while preserving dataset-specific temporal scales. We evaluate representation reuse on regression and classification problems under reduced-label downstream training, and leave-one-domain-out (LODO) pretraining. Compared with the same architecture initialized randomly, LODO pretraining reduces RMSE from 10.72 to 7.95 on battery remaining useful life (RUL), 4.34 to 3.89 on CMP, and 13.53 to 11.72 on tool wear regression, while improving bearing fault diagnosis macro-F1 from 0.547 to 0.737. Overall results suggest that unlabeled time series measurements from heterogeneous industrial processes can provide reusable representations for downstream learning with limited labeled data.
- Abstract(参考訳): 産業の予測保守と製造のタスクは、しばしば豊富なセンサー測定を含むが、ラベル付きデータしか持たない。
本研究では, 電池, 半導体化学メカニカルプラナライゼーション (CMP) , コンピュータ数値制御 (CNC) 加工, 軸受などの様々な領域から1つのエンコーダを学習し, データセット固有の時間スケールを保ちながら, 組込み予測アーキテクチャを用いて, クロスドメインの自己指導型プレトレーニングについて検討する。
ダウンストリームトレーニングにおける回帰と分類問題に対する表現再利用の評価を行い,LODO(Leave-one-domain-out)プレトレーニングを行った。
同じアーキテクチャがランダムに初期化されているのに対し、LODOプレトレーニングはRMSEを10.72から7.95に減らし(RUL)、CMPでは4.34から3.89に、ツール摩耗のレグレッションでは13.53から11.72に減らし、障害診断マクロF1を0.547から0.737に改善した。
以上の結果から,異種産業プロセスからのラベルなし時系列測定は,ラベル付きデータに制限のある下流学習のための再利用可能な表現を提供する可能性が示唆された。
関連論文リスト
- Towards Robust Time Series Learning via Capacity-Centric Modulation [76.23489485385964]
本稿では,CCM(Capacity-Centric Modulation)を相補的,サンプル適応正規化原理として提案する。
SACM(Sample-Adaptive Capacity Modulation)は,スペクトル空間の分散を利用して,サンプルワイドドロップアウト確率を割り当てるタスク非依存のフレームワークである。
301個の実世界のデータセット-バックボーンペアのうち、SACMは平均でMSEの予測を6.7%削減し、分類精度を3.04%改善し、ポイント調整されたF1を17.05%改善した。
論文 参考訳(メタデータ) (2026-09-30T10:51:23Z) - FreqCondNorm: Towards Cross-domain Predictive Maintenance through a Frequency-Conditioned Transformer Foundation Model [0.0]
深い予測的メンテナンスモデルは、マシン間の転送可能性の低下と運用条件に悩まされる。
本稿では,FreqCondNormを提案する。FreqCondNormは,FILM方式の周波数正規化層を導入するトランスフォーマーアーキテクチャである。
アーキテクチャは5つのパブリックな予測メンテナンスデータセットで事前トレーニングされている。
論文 参考訳(メタデータ) (2026-09-17T15:07:43Z) - IPM-FM: A Foundation Model with Consensus Feature Selection for Industrial Process Monitoring [59.59850511287819]
産業プロセス監視基盤モデル(IPM-FM)を提案する。
まず、自己教師付き事前学習を通じて、ラベルのない産業プロセスデータから汎用的な表現を学習する。
少数のタスクラベル付きデータを使用して特定の監視タスクに適応し、最終的に校正された予測を生成する。
論文 参考訳(メタデータ) (2026-09-08T07:43:04Z) - Vision-Language Models for Analog Gauge Reading: An Empirical Study of Specialization, Transfer and Reliability [3.112410411428948]
本研究は,汎用視覚言語モデル(VLM)の特殊化,伝達,堅牢性,信頼性の体系的評価である。
Qwen2.5-VL-7B-インストラクトモデルは、ゼロショットプロンプト、インコンテキストラーニング(ICL)、および量子化低ランク適応(QLoRA)を用いたパラメータ効率の微調整を用いて評価される。
最高の微調整MPE値は、95%信頼区間(CI)が1.43-3.90%、圧力ゲージデータセットが2.61%、CIが1.66-3.80%、および4.4の合成データセットで2.39%である。
論文 参考訳(メタデータ) (2026-08-18T12:47:14Z) - How Much Capacity Does EEG Denoising Need? Ultra-Compact Networks reveal Benchmark Saturation and Metric-Utility Gap [0.0]
深層学習EEG(Deep Learning EEG Denoising Architectures)は、数万から数千万のパラメータに拡張されているが、実験変数としてモデルキャパシティを分離した以前の研究はない。
アーキテクチャ,損失,データ分割,トレーニングレシピの両ギャップに対処し,最小限の深さ分離可能な畳み込みU-Netで1.05Kから40.26Kパラメータまでのチャネル幅を網羅する。
論文 参考訳(メタデータ) (2026-06-07T12:17:25Z) - UTOPYA: A Multimodal Deep Learning Framework for Physics-Informed Anomaly Detection and Time-Series Prediction [42.532335022354545]
バッチプロセスにおける異常検出は、過渡的ダイナミクス、欠陥ラベルの不足、単一モードセンサデータへの依存によって妨げられる。
本研究は, バッチ蒸留における異常検出, 時系列予測, 位相分類を共同で扱うマルチモーダルフレームワークUTOPYAを紹介する。
本研究で導入された物理インフォームド正規化スキームは、時間的滑らかさと熱力学的モノトニクスを強制する。
論文 参考訳(メタデータ) (2026-05-18T10:28:15Z) - SCALE:Scalable Conditional Atlas-Level Endpoint transport for virtual cell perturbation prediction [46.645872209565574]
仮想セル摂動予測のための大規模基盤モデルを提案する。
まず、データスループットを大幅に改善するBioNeMoベースのトレーニングおよび推論フレームワークを構築します。
第二に、摂動予測を条件付き輸送として定式化し、それをセットアウェアフローアーキテクチャで実装する。
第3に,生物学的に有意な指標に基づく厳密なセルレベルプロトコルを用いて,Tahoe-100Mのモデルを評価する。
論文 参考訳(メタデータ) (2026-03-18T05:51:08Z) - Do Generative Metrics Predict YOLO Performance? An Evaluation Across Models, Augmentation Ratios, and Dataset Complexity [43.338311770275745]
本報告では, YOLOv11の合成増強の制御された評価法について述べる。
実際のトレーニングスプリットの10%から150%の増大率に対して, GAN, 拡散, ハイブリッドベースの6つのジェネレータをベンチマークした。
データセット生成/拡張設定毎に、マッチしたサイズのブートストラッププロトコルで事前トレーニングデータセットメトリクスを計算する。
論文 参考訳(メタデータ) (2026-02-20T03:02:36Z) - PEFT-MuTS: A Multivariate Parameter-Efficient Fine-Tuning Framework for Remaining Useful Life Prediction based on Cross-domain Time Series Representation Model [11.1448655248427]
データ駆動型残留有用寿命(RUL)予測の適用は、大量の劣化データの可用性によって長い間制約されてきた。
本研究はPEFT-MuTS, aについて検討する。
クロスドメイン事前学習時系列表現モデルに基づく数ショットRUL予測のための効率的なファインチューニングフレームワーク。
論文 参考訳(メタデータ) (2026-01-30T06:46:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。