論文の概要: BioSerenity-E1: a self-supervised EEG model for medical applications
- arxiv url: http://arxiv.org/abs/2503.10362v1
- Date: Thu, 13 Mar 2025 13:42:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-14 15:50:41.480216
- Title: BioSerenity-E1: a self-supervised EEG model for medical applications
- Title(参考訳): BioSerenity-E1 : 医療応用のための自己監督型脳波モデル
- Authors: Ruggero G. Bettinardi, Mohamed Rahmouni, Ulysse Gimenez,
- Abstract要約: BioSerenity-E1は臨床脳波治療のための自己監督型基礎モデルの1つである。
スペクトルトークン化とマスク付き予測を組み合わせることで、関連する診断タスク間で最先端のパフォーマンスを実現する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Electroencephalography (EEG) serves as an essential diagnostic tool in neurology; however, its accurate manual interpretation is a time-intensive process that demands highly specialized expertise, which remains relatively scarce and not consistently accessible. To address these limitations, the implementation of automated pre-screening and analysis systems for EEG data holds considerable promise. Advances in self-supervised learning made it possible to pre-train complex deep learning architectures on large volumes of unlabeled EEG data to learn generalizable representations, that can later be used to enhance performance on multiple tasks while needing less downstream data. In the present paper, we introduce BioSerenity-E1, the first of a family of self-supervised foundation models for clinical EEG applications that combines spectral tokenization with masked prediction to achieve state-of-the-art performance across relevant diagnostic tasks. The two-phase self-supervised pretraining framework initially acquires compressed EEG representations via a transformer-based VQ-VAE architecture designed to reconstruct log-multitaper spectral projections, then implements extensive (70% block) masked token prediction to force the model to learn complex spatiotemporal dependencies in EEG signals. BioSerenity-E1 achieves strong performance across three clinical tasks, either in line or above state-of-the-art methods: seizure detection (AUROC = 0.926, Sensitivity = 0.909), normal/abnormal classification (AUPRC = 0.970 on proprietary data; 0.910 on TUH-Abnormal), and multiclass pathology differentiation on unbalanced data (Weighted F1 = 0.730). The utility of BioSerenity-E1 is further confirmed in low-data regimes scenarios, showing clear improvements in AUPRC (from +2% to 17%) when trained on less than 10% of the available data.
- Abstract(参考訳): 脳電図(EEG)は神経学において重要な診断ツールであるが、正確な手動解釈は高度に専門的な専門知識を必要とする時間集約的なプロセスであり、比較的希少であり、一貫してアクセスできない。
これらの制限に対処するため、EEGデータの自動事前スクリーニングと分析システムの実装は、かなりの可能性を秘めている。
自己教師付き学習の進歩により、大量のラベルのないEEGデータ上で複雑なディープラーニングアーキテクチャを事前訓練して、一般化可能な表現を学習することが可能になった。
本稿では,脳波のスペクトルトークン化とマスク付き予測を併用し,関連する診断タスクにおける最先端性能を実現する,臨床脳波アプリケーションのための自己監督基盤モデルの1つであるBioSerenity-E1について紹介する。
2段階の自己監督型事前学習フレームワークは、まず、対数マルチパースペクトルの投影を再構成するために設計されたトランスフォーマーベースのVQ-VAEアーキテクチャを介して圧縮されたEEG表現を取得し、次に広範囲(70%ブロック)のマスク付きトークン予測を実装して、EEG信号の複雑な時空間依存性を学習させる。
BioSerenity-E1は, 発作検出(AUROC = 0.926, Sensitivity = 0.909), 正常/異常分類(AUPRC = 0.970, TUH-Abnormal, 0.910, 重み付きF1 = 0.730, 重み付きF1 = 0.730, 重み付きF1, 重み付きF1 = 0.730, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1, 重み付きF1の3つの臨床タスクにおいて, 高いパフォーマンスを実現する。
BioSerenity-E1の実用性は、低データレシエーションのシナリオでさらに確認されており、利用可能なデータの10%未満のトレーニングでAUPRC(+2%から17%)が明確に改善されている。
関連論文リスト
- FEMBA: Efficient and Scalable EEG Analysis with a Bidirectional Mamba Foundation Model [19.91895489891802]
本稿では,脳波分析のための新たな自己組織化フレームワークであるFEMBA(Foundational EEG Mamba + Bidirectional Architecture)を紹介する。
2次時間とメモリの複雑さが原因のTransformerベースのモデルとは異なり、FEMBAはシーケンス長と線形にスケールする。
トランスモデルと比較して競争性能が向上し、計算コストは大幅に低下する。
論文 参考訳(メタデータ) (2025-02-10T13:15:52Z) - CEReBrO: Compact Encoder for Representations of Brain Oscillations Using Efficient Alternating Attention [53.539020807256904]
交互注意(CEReBrO)を用いた脳振動の表現のための圧縮法について紹介する。
トークン化方式は、チャネルごとのパッチで脳波信号を表現します。
本研究では,チャネル内時間的ダイナミックスとチャネル間空間的相関を共同でモデル化し,通常の自己アテンションに比べて6倍少ないメモリで2倍の速度向上を実現するための注意機構を提案する。
論文 参考訳(メタデータ) (2025-01-18T21:44:38Z) - Enhancing Glucose Level Prediction of ICU Patients through Hierarchical Modeling of Irregular Time-Series [4.101915841246237]
ICU患者の血糖値(BG)を予測するためのマルチソース不規則時間変換器(MITST)
MITSTはトランスフォーマーの階層アーキテクチャを採用しており、特徴レベル、タイムスタンプ、ソースレベルのコンポーネントで構成されている。
論文 参考訳(メタデータ) (2024-11-03T03:03:11Z) - Self-Supervised Pre-Training with Joint-Embedding Predictive Architecture Boosts ECG Classification Performance [0.0]
10のパブリックECGデータベースを組み合わせることで、教師なしの大規模な事前トレーニングデータセットを作成します。
我々は、このデータセットでJEPAを使用してVision Transformerを事前トレーニングし、様々なTB-XLベンチマークでそれらを微調整する。
論文 参考訳(メタデータ) (2024-10-02T08:25:57Z) - FoME: A Foundation Model for EEG using Adaptive Temporal-Lateral Attention Scaling [19.85701025524892]
FoME (Foundation Model for EEG) は適応的側方アテンションスケーリングを用いた新しいアプローチである。
FoMEは1.7TBの頭皮と頭蓋内脳波記録のデータセットで事前訓練されており、1,096kのステップで745Mのパラメータが訓練されている。
論文 参考訳(メタデータ) (2024-09-19T04:22:40Z) - BISeizuRe: BERT-Inspired Seizure Data Representation to Improve Epilepsy Monitoring [13.35453284825286]
本研究では,BERTモデルを用いた脳波による発作検出の新しい手法を提案する。
BENDRは2段階のトレーニングプロセス、事前トレーニング、微調整を行う。
最適化されたモデルでは性能が大幅に向上し、0.23 FP/h、2.5$times$はベースラインモデルよりも低く、感度は低いが許容できる。
論文 参考訳(メタデータ) (2024-06-27T14:09:10Z) - EKGNet: A 10.96{\mu}W Fully Analog Neural Network for Intra-Patient
Arrhythmia Classification [79.7946379395238]
心電図不整脈分類におけるアナログ計算と深層学習を組み合わせた統合的アプローチを提案する。
本稿では,低消費電力で高精度にアーカイブするハードウェア効率と完全アナログ不整脈分類アーキテクチャであるEKGNetを提案する。
論文 参考訳(メタデータ) (2023-10-24T02:37:49Z) - Robust and Efficient Medical Imaging with Self-Supervision [80.62711706785834]
医用画像AIの堅牢性とデータ効率を向上させるための統一表現学習戦略であるREMEDISを提案する。
様々な医療画像タスクを研究し, 振り返りデータを用いて3つの現実的な応用シナリオをシミュレートする。
論文 参考訳(メタデータ) (2022-05-19T17:34:18Z) - EEG-Inception: An Accurate and Robust End-to-End Neural Network for
EEG-based Motor Imagery Classification [123.93460670568554]
本稿では,脳波に基づく運動画像(MI)分類のための新しい畳み込みニューラルネットワーク(CNN)アーキテクチャを提案する。
提案したCNNモデル、すなわちEEG-Inceptionは、Inception-Timeネットワークのバックボーン上に構築されている。
提案するネットワークは、生のEEG信号を入力とし、複雑なEEG信号前処理を必要としないため、エンドツーエンドの分類である。
論文 参考訳(メタデータ) (2021-01-24T19:03:10Z) - Uncovering the structure of clinical EEG signals with self-supervised
learning [64.4754948595556]
教師付き学習パラダイムは、しばしば利用可能なラベル付きデータの量によって制限される。
この現象は脳波(EEG)などの臨床関連データに特に問題となる。
ラベルのないデータから情報を抽出することで、ディープニューラルネットワークとの競合性能に到達することができるかもしれない。
論文 参考訳(メタデータ) (2020-07-31T14:34:47Z) - ECG-DelNet: Delineation of Ambulatory Electrocardiograms with Mixed
Quality Labeling Using Neural Networks [69.25956542388653]
ディープラーニング(DL)アルゴリズムは、学術的、産業的にも重くなっている。
セグメンテーションフレームワークにECGの検出とデライン化を組み込むことにより、低解釈タスクにDLをうまく適用できることを実証する。
このモデルは、PhyloNetのQTデータベースを使用して、105個の増幅ECG記録から訓練された。
論文 参考訳(メタデータ) (2020-05-11T16:29:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。