論文の概要: SensOFormer: Foundation Models for Particle Accelerators
- arxiv url: http://arxiv.org/abs/2611.02031v1
- Date: Sun, 01 Nov 2026 16:25:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 06:41:31.090307
- Title: SensOFormer: Foundation Models for Particle Accelerators
- Title(参考訳): SensOFormer: 粒子加速器の基礎モデル
- Abstract要約: SensOFormerはPerceiverスタイルのエンコーダ・デコーダアーキテクチャで、可変センサーセットを扱うように設計されている。
本稿では,Perceiver-style encoder-decoderアーキテクチャで可変センサ集合を処理可能なデノナイズ変換器であるSensOFormerを紹介する。
このモデルは、複数の粒子加速器データセットに事前トレーニングされ、インプット、異常検出、空洞識別、障害識別を含む下流タスクに転送される。
- 参考スコア(独自算出の注目度): 46.568487965999225
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large-scale scientific facilities, such as particle accelerators, are complex systems composed of thousands of interacting components that must operate collectively to support diagnostics and control, and ensure safe, reliable operation. These facilities rely on extensive sensor networks that generate large volumes of heterogeneous, incomplete, and noisy telemetry, often sampled at different rates across subsystems. In this paper, we adopt the foundation-model paradigm to learn general-purpose sensor representations from historical accelerator data through self-supervised pretraining. We introduce SensOFormer, a denoising masked transformer with a Perceiver-style encoder-decoder architecture designed to handle variable sensor sets, accommodate heterogeneous sampling rates, and learn robust representations from noisy measurements. The model is pretrained on multiple particle-accelerator datasets and transferred to downstream tasks, including missing-data imputation, anomaly detection, cavity identification, and fault identification. Through extensive evaluations and comparisons, we demonstrate that a single self-supervised model can learn reusable representations for diverse operational tasks in large-scale scientific facilities. Project page: https://mahindrautela.github.io/sensoformer.
- Abstract(参考訳): 粒子加速器のような大規模科学施設は、何千もの相互作用するコンポーネントからなる複雑なシステムであり、診断と制御をサポートし、安全で信頼性の高い操作を保証するために一括して運用する必要がある。
これらの施設は、しばしばサブシステム間で異なるレートでサンプリングされる、異種、不完全、ノイズの多いテレメトリーを大量に生成する広範囲なセンサーネットワークに依存している。
本稿では,自己教師型事前学習を通じて,過去の加速器データから汎用的なセンサ表現を学習するための基礎モデルパラダイムを採用する。
SensOFormerはPerceiver方式のエンコーダ・デコーダアーキテクチャで、可変センサセットの処理、異種サンプリングレートの調整、ノイズ測定によるロバスト表現の学習を行う。
このモデルは、複数の粒子加速器データセットに事前トレーニングされ、欠落データ計算、異常検出、空洞識別、障害識別などの下流タスクに転送される。
広範囲な評価と比較により,大規模科学施設における多種多様な運用課題に対する再利用可能な表現を,単一の自己教師型モデルで学習できることが実証された。
プロジェクトページ: https://mahindrautela.github.io/sensoformer.com
関連論文リスト
- Sensor-Aware Joint Data Fusion and State Estimation under Sparse Multi-rate Distribution Grid Sensing [0.20999222360659606]
ローカルストレージとジェネレーションの追加とシステムの複雑さが増すにつれ、現代の電力網にとってますます必要となる。
本稿では,特定バス上で測定関数とサンプリングプロセスの型付けと局所化を行う不均一潜在グラフODEを提案する。
観測可能性の低下に伴い,複数のIEEE標準トポロジにまたがって有効性を示す。
論文 参考訳(メタデータ) (2026-10-10T20:12:30Z) - Modular Foundation Models for Time-Series Perception in Digital Twins [0.8983000676504388]
エンジニアリング デジタルツインとPHM(Prognostics and Health Management)システムは、時系列データから実行可能な情報を抽出するために、堅牢な知覚モジュールに依存している。
本稿では,事前学習した表現エンコーダの集合に基づく時系列知覚のためのモジュラー基礎モデルを提案する。
このフレームワークは異種データセットの自己教師付き学習を活用して、複数のPHMタスク間で再利用可能な、転送可能およびタスクに依存しない表現を学習する。
論文 参考訳(メタデータ) (2026-07-03T20:02:28Z) - Towards foundation-style models for energy-frontier heterogeneous neutrino detectors via self-supervised pre-training [0.4151704012621244]
異種検出器データから再利用可能な表現を学習するための疎ViTフレームワークを提案する。
自己教師付き事前訓練は、マスク付き自己エンコーダ再構築とリレーショナルボクセルレベルの目的を組み合わせる。
プレトレーニングはニュートリノの風味とチャームクォークの識別を継続的に改善する。
論文 参考訳(メタデータ) (2026-04-08T12:52:00Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Integrating Inverse and Forward Modeling for Sparse Temporal Data from Sensor Networks [2.4280350854512673]
センサネットワークからのスパースデータを解析するためのフレームワークであるCavePerceptionを提案する。
我々は、スパース、ノイズ、および潜在的に不完全なセンサデータの解釈可能性を改善することを目的としている。
論文 参考訳(メタデータ) (2025-02-19T11:24:51Z) - Data Quality Monitoring for the Hadron Calorimeters Using Transfer Learning for Anomaly Detection [0.7767589715518638]
トランスファーラーニング(TL)メカニズムは、新しいタスクに事前訓練されたモデルを利用することで、データのスパーシリティとモデルの複雑さを軽減することを約束する。
畳み込み,グラフ,リカレントニューラルネットワークを組み込んだハイブリッドオートエンコーダアーキテクチャを用いて,高次元ST ADにおけるTLの可能性を示す。
本研究では,CERNにおけるコンパクト・ムーン・ソレノイド実験のキャロリメータの異なる部位で訓練されたモデルの伝達性について検討した。
論文 参考訳(メタデータ) (2024-08-29T15:19:06Z) - SimPLR: A Simple and Plain Transformer for Efficient Object Detection and Segmentation [49.65221743520028]
マルチスケールインダクティブバイアスをアテンション機構にシフトさせることで, プレーン検出器SimPLRが動作可能であることを示す。
我々はSimPLRとスケールアウェアスを併用した実験を通して、単純なアーキテクチャでありながら、マルチスケールビジョントランスフォーマーの代替品と競合することを発見した。
論文 参考訳(メタデータ) (2023-10-09T17:59:26Z) - SensiX++: Bringing MLOPs and Multi-tenant Model Serving to Sensory Edge
Devices [69.1412199244903]
エッジデバイス上でMLOpsを統合した,適応モデル実行のためのマルチテナントランタイムを提案する。
S SensiX++は、高度にモジュール化されたコンポーネント化と、明確な抽象化によるデータ操作の外部化と、システム全体のオーケストレーションのためのドキュメント中心の宣言という、2つの基本原則で運用されている。
SensiX++のさまざまな自動化コンポーネントの全体的なスループットと定量化メリットについて報告し、運用の複雑さを著しく低減し、エッジデバイスへの組み込みモデルのデプロイ、アップグレード、再構成、提供の労力を削減する効果を実証する。
論文 参考訳(メタデータ) (2021-09-08T22:06:16Z) - SUOD: Accelerating Large-Scale Unsupervised Heterogeneous Outlier
Detection [63.253850875265115]
外乱検出(OD)は、一般的なサンプルから異常物体を識別するための機械学習(ML)タスクである。
そこで我々は,SUODと呼ばれるモジュール型加速度システムを提案する。
論文 参考訳(メタデータ) (2020-03-11T00:22:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。