論文の概要: Self-Supervised Pretraining for PHM: What Transfers, What Does Not, and What Federating It Costs
- arxiv url: http://arxiv.org/abs/2610.35280v1
- Date: Mon, 26 Oct 2026 11:50:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.908112
- Title: Self-Supervised Pretraining for PHM: What Transfers, What Does Not, and What Federating It Costs
- Title(参考訳): PHMのための自己監督型プレトレーニング - 転送と非適用とフェデレーションのコスト-
- Abstract要約: 自己監督型プレトレーニングは、有能な時系列基礎モデルを生み出しているが、その予後と健康管理の価値は測定されていない。
我々は、47の公開PHMデータセットのコーパスで測定し、単一のテンソル契約に調和し、11のデータセットが完全に事前トレーニングから守られるように分割する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Self-supervised pretraining has produced capable time-series foundation models, but its value for Prognostics and Health Management (PHM) has not been measured under leakage-controlled conditions. We measure it on a corpus of 47 public PHM datasets, harmonized to a single tensor contract and partitioned so that 11 datasets are withheld from pretraining in full. Transfer turns out to be task-dependent: a compact channel-independent Transformer encoder (801,808 parameters) pretrained with masked patch prediction raises fault-classification macro-F1 from 0.350 to 0.812 on CWRU and from 0.569 to 0.951 on HSG18, yet on CMAPSS remaining-useful-life estimation no pretrained checkpoint reliably improves upon a from-scratch baseline. We pretrain under two regimes---centralized, and simulated cross-silo federated with ten clients grouped by physical domain---holding architecture, objective, source data and optimization budget fixed. Two further findings are negative. At matched budget the centralized encoder leads by 15.5--20.2 macro-F1 points in four of four comparisons, although the comparison is confounded by a learning-rate schedule that favours the centralized arm and rests on a single pretraining run per regime; on RUL the two regimes are indistinguishable. And the intrinsic SSL loss is not a valid selection criterion: the centralized encoder more than halves the federated reconstruction loss without a corresponding gap on RUL, and a server-momentum sweep moves downstream validation macro-F1 by up to 0.29 while the SSL loss varies by 0.021. Transfer also hinges on the backbone learning rate: the same checkpoint yields 0.169 or 0.829 macro-F1 on CWRU depending on a single order of magnitude. We release the corpus pipeline, the protocol and the code.
- Abstract(参考訳): 自己監督型プレトレーニングでは, 有能な時系列基礎モデルが作成されているが, 診断・健康管理(PHM)に対する価値は, 漏洩制御下では測定されていない。
我々は、47の公開PHMデータセットのコーパスで測定し、単一のテンソル契約に調和し、11のデータセットが完全に事前トレーニングから守られるように分割する。
マスク付きパッチ予測で事前訓練されたコンパクトチャネル非依存のトランスフォーマーエンコーダ (801,808 パラメータ) は、CWRUでは0.350から0.812、HSG18では0.569から0.951に、CMAPSSでは残りの寿命推定では既定チェックポイントが確実に改善されない。
我々は,4つの制度の4つの比較において,集中型エンコーダを15.5~20.2マクロF1ポイントリードするが,その比較は,中央集中型アームが好まれる学習段階のスケジュールと,各制度ごとの1回の事前トレーニング実行が好まれる。RULでは2つの制度が区別不可能である。
そして、本質的なSSL損失は有効な選択基準ではない:集中エンコーダは、RULに対応するギャップを伴わずにフェデレーションされた再構築損失を半減し、サーバモメンタムスイープは、SSL損失が0.021まで変化する一方で、下流検証マクロF1を最大0.29まで移動させる。
同じチェックポイントがCWRU上の0.169または0.829のマクロF1を1桁のオーダーで生成する。
コーパスパイプライン、プロトコル、コードをリリースします。
関連論文リスト
- Smoothing the Top-k Exposure Boundary for Sparse Mixture-of-Experts [45.31502436468577]
本稿では, 分散分布の局所化から, アクティブなエキスパート予算を$k$とするElastic Expert Routingを提案する。
サンプリング近傍は対称のままであるため、この手法は決定論的トレーニングの予測計算コストと一致する。
オフスクラッチ事前トレーニングでは、検証LM損失を0.04ドルまで減らし、静的のトップ$k$ベースラインを平均16ドルポイント上回る。
論文 参考訳(メタデータ) (2026-10-08T09:31:19Z) - PMosFM: Preconditioned Manifold Matching for One-Step Physics-Constrained Generation [47.34605477768213]
textbf Preconditioned textbfManifold textbfone-textbfstep textbfFlow textbfMatching (textbfPMosFM) は1ステップの物理制約付き生成のための事前条件付き多様体マッチングフレームワークである。
多様体デコーダの制約を符号化することにより、PMosFMは残留損失と終端残差を分離することなく固有座標の輸送を学習する。
論文 参考訳(メタデータ) (2026-09-30T17:48:21Z) - QuPID: Quantum Parameter-Efficient Input-Dependent Retrieval Adaptation for Medical RAG [43.163742253145635]
QuPIDは、量子パラメータ効率の入力依存型検索適応である。
凍結した画像の特徴を限られたデータでローカルアーカイブに適応させる。
凍った医療エンコーダよりも、ChestX-ray14とmuraでAT-5(P@5)の精度が高い。
論文 参考訳(メタデータ) (2026-09-27T08:22:58Z) - FreqCondNorm: Towards Cross-domain Predictive Maintenance through a Frequency-Conditioned Transformer Foundation Model [0.0]
深い予測的メンテナンスモデルは、マシン間の転送可能性の低下と運用条件に悩まされる。
本稿では,FreqCondNormを提案する。FreqCondNormは,FILM方式の周波数正規化層を導入するトランスフォーマーアーキテクチャである。
アーキテクチャは5つのパブリックな予測メンテナンスデータセットで事前トレーニングされている。
論文 参考訳(メタデータ) (2026-09-17T15:07:43Z) - Serverless gossip training of LSTM failure detectors: A matched-protocol comparison with federated, local and centralized learning on NASA C-MAPSS [8.745073422125925]
Federated Averaging (FedAvg)は、これを集中集約で解決する。
我々は、同期リングゴシップをFedAvgと比較し、局所訓練を分離し、LSTMを集中的に参照する。
FD001では、FedAvgの89.9 +/-1.1%、ローカルトレーニングの83.6 +/-6.7%、集中トレーニングの93.5 +/-2.1%に対して、Gossipは89.6 +/-1.3%のターミナルウインドウF1に達した。
論文 参考訳(メタデータ) (2026-09-17T03:34:29Z) - The Filter Metric is Safety-Critical: Phantom Advantages in Group-Relative RL under Shaped Rewards [1.667501390377158]
グループ相対的なポリシー最適化は、動的サンプリングによって非コントラストのロールアウトグループを捨てることができる。
我々は,複合形状の報酬の下で,計量述語ミスマッチを同定し,定量化する。
論文 参考訳(メタデータ) (2026-09-12T10:36:55Z) - Can You Trust Frozen Hematology Foundation Models under Acquisition Shift? [0.0]
4つの公開シングルセル取得ドメインで15の凍結エンコーダを監査する。
ドメイン内の線形プローブマクロF1は飽和(0.98-0.997)であるが、クロスデータセットマクロF1は34-72%低下する。
ドメイン内で最高のDinoBloom-Lは、RedDinoといくつかの一般および病理エンコーダに次いで、最もシフトしたターゲット(MLL23)で15の10位に落ちる。
論文 参考訳(メタデータ) (2026-08-25T20:55:57Z) - Posterior Augmented Flow Matching [64.1559809786948]
後拡張フローマッチング(PAFM)はフローマッチング(FM)の一般化である
PAFMは、異なるモデルスケールで最大3.4FID50KでFMよりも改善されていることを示す。
論文 参考訳(メタデータ) (2026-05-01T17:59:59Z) - Decoder Performance in Hybrid CV-Discrete Surface-Code Threshold Estimation Using LiDMaS+ [3.833542530785707]
閾値推定はフォールトトレラント量子コンピューティングの中心であるが、報告された閾値はコードやノイズモデルだけでなく、シンドロームデータを解釈するデコーダにも依存する。
標準パウリノイズモデルとGKP方式のディジタル化を動機としたハイブリッド連続変数/離散モデルの両方による表面符号閾値推定の依存性について検討する。
論文 参考訳(メタデータ) (2026-03-06T03:33:00Z) - DFedADMM: Dual Constraints Controlled Model Inconsistency for
Decentralized Federated Learning [52.83811558753284]
分散学習(DFL)は、中央サーバーを捨て、分散通信ネットワークを確立する。
既存のDFL手法は依然として、局所的な矛盾と局所的な過度なオーバーフィッティングという2つの大きな課題に悩まされている。
論文 参考訳(メタデータ) (2023-08-16T11:22:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。