論文の概要: OSF: On Pre-training and Scaling of Sleep Foundation Models

• arxiv url: http://arxiv.org/abs/2603.00190v1
• Date: Fri, 27 Feb 2026 02:14:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-03 19:50:56.095045
• Title: OSF: On Pre-training and Scaling of Sleep Foundation Models
• Title（参考訳）: OSF:スリープファンデーションモデルの事前トレーニングとスケーリングについて
• Authors: Zitao Shuai, Zongzhe Xu, David Yang, Wei Wang, Yuzhe Yang,
• Abstract要約: ポリソムノグラフィー(PSG)は睡眠評価のための金の基準を提供するが、記録装置とコホートの間でかなりの異質性に悩まされている。 9つの公開ソースから166,500時間の睡眠記録を収集し、包括的な完全なオープンソースベンチマークであるSleepBenchを構築します。 我々は、さまざまな睡眠および疾患予測タスクに関する9つのデータセットにわたる最先端のパフォーマンスを実現する睡眠FMのファミリーであるOSFを紹介する。
• 参考スコア（独自算出の注目度）: 5.58192204016425
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Polysomnography (PSG) provides the gold standard for sleep assessment but suffers from substantial heterogeneity across recording devices and cohorts. There have been growing efforts to build general-purpose foundation models (FMs) for sleep physiology, but lack an in-depth understanding of the pre-training process and scaling patterns that lead to more generalizable sleep FMs. To fill this gap, we curate a massive corpus of 166,500 hours of sleep recordings from nine public sources and establish SleepBench, a comprehensive, fully open-source benchmark. Leveraging SleepBench, we systematically evaluate four families of self-supervised pre-training objectives and uncover three critical findings: (1) existing FMs fail to generalize to missing channels at inference; (2) channel-invariant feature learning is essential for pre-training; and (3) scaling sample size, model capacity, and multi-source data mixture consistently improves downstream performance.With an enhanced pre-training and scaling recipe, we introduce OSF, a family of sleep FMs that achieves state-of-the-art performance across nine datasets on diverse sleep and disease prediction tasks. Further analysis of OSF also reveals intriguing properties in sample efficiency, hierarchical aggregation, and cross-dataset scaling.
• Abstract（参考訳）: ポリソムノグラフィー(PSG)は睡眠評価のための金の基準を提供するが、記録装置とコホートの間でかなりの異質性に悩まされている。 睡眠生理学のための汎用基礎モデル(FM)を構築する努力が増えているが、より一般化可能な睡眠FMに繋がる事前学習プロセスとスケーリングパターンの詳細な理解が欠如している。 このギャップを埋めるために、9つの公開ソースから166,500時間の睡眠記録を収集し、包括的な完全なオープンソースベンチマークであるSleepBenchを構築します。 スリープベンチを利用すると、4つの自己指導型事前学習目標を体系的に評価し、(1)既存のFMは推論時に欠落したチャネルに一般化できないこと、(2)チャネル不変な特徴学習は事前学習に不可欠であること、(3)サンプルサイズ、モデルキャパシティ、およびマルチソースデータの組み合わせのスケーリングは、ダウンストリームのパフォーマンスを一貫して改善すること、そして、強化された事前学習およびスケーリングのレシピにより、様々な睡眠および疾患予測タスクに関する9つのデータセットの最先端パフォーマンスを達成する睡眠FMのファミリーであるOSFを導入する。 OSFのさらなる分析により、サンプル効率、階層的アグリゲーション、およびデータセット間スケーリングの興味深い性質が明らかにされる。

関連論文リスト

• Self-Supervised Learning via Flow-Guided Neural Operator on Time-Series Data [57.85958428020496]
  Flow-Guided Neural Operator (FGNO)は、演算子学習とフローマッチングを組み合わせた新しいフレームワークである。 FGNOは、短時間フーリエ変換を用いて関数空間のマッピングを学習し、異なる時間分解能を統一する。 推論中にノイズのある入力を使用する以前の生成SSL法とは異なり、ノイズのある表現を学習しながら、クリーンな入力を用いて表現抽出を行う。
  論文  参考訳（メタデータ） (2026-02-12T18:54:57Z)
• A Context-Aware Temporal Modeling through Unified Multi-Scale Temporal Encoding and Hierarchical Sequence Learning for Single-Channel EEG Sleep Staging [0.0]
  本研究は、自動睡眠ステージングのための実用的で広く利用可能な信号である、単一チャネル脳波(EEG)に焦点を当てる。 既存のアプローチでは、クラス不均衡、限定された受容場モデリング、不十分な解釈可能性といった課題に直面している。 本研究は,単一チャネル脳波睡眠ステージングのためのコンテキスト認識・解釈可能なフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-28T15:42:33Z)
• MedSeqFT: Sequential Fine-tuning Foundation Models for 3D Medical Image Segmentation [55.37355146924576]
  MedSeqFTは、医用画像解析のためのシーケンシャルな微調整フレームワークである。 事前訓練されたモデルを新しいタスクに適応させ、表現能力を改善する。 最先端の微調整戦略を一貫して上回ります。
  論文  参考訳（メタデータ） (2025-09-07T15:22:53Z)
• AdaFusion: Prompt-Guided Inference with Adaptive Fusion of Pathology Foundation Models [49.550545038402184]
  本稿では,新しいプロンプト誘導推論フレームワークであるAdaFusionを提案する。 本手法は,多様なモデルからタイルレベルの特徴を圧縮・整列する。 AdaFusionは、分類タスクと回帰タスクの両方にわたって、個々のPFMを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-08-07T07:09:31Z)
• PSDNorm: Test-Time Temporal Normalization for Deep Learning in Sleep Staging [63.05435596565677]
  我々は,モンジュマッピングと時間文脈を利用したPSDNormを提案し,信号の深層学習モデルにおける特徴写像の正規化を行う。 PSDNormは、BatchNormよりも4倍のデータ効率が高く、目に見えない左のデータセットで最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-03-06T16:20:25Z)
• SleepGMUformer: A gated multimodal temporal neural network for sleep staging [12.839348425917581]
  本稿では、WristHR-Motion-SleepおよびSleepEDF-78の心拍、運動、ステップ、脳波(Fpz-Cz、Pz-Oz)、EOGを含む多ドメイン睡眠データのためのゲート型時空間ニューラルネットワークを提案する。 1)機能アライメント、値ハンドリングの欠如、EEGデトレクションのための前処理モジュール、2)時間次元における複雑な睡眠特徴のための特徴抽出モジュール、3)リアルタイムなモータリティ重み付けのための動的融合モジュール。
  論文  参考訳（メタデータ） (2025-02-20T03:42:42Z)
• MSSC-BiMamba: Multimodal Sleep Stage Classification and Early Diagnosis of Sleep Disorders with Bidirectional Mamba [5.606144017978037]
  本研究では,睡眠時ステージングと障害分類の自動モデルを構築し,診断精度と効率を向上させる。 マルチモード睡眠状態分類モデルMSSC-BiMamba を設計した。 このモデルは、マルチモーダルPSGデータを用いたスリープステージングにBiMambaを初めて適用し、計算とメモリ効率を大幅に向上させた。
  論文  参考訳（メタデータ） (2024-05-30T15:16:53Z)
• The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
  この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。 我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。 このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
  論文  参考訳（メタデータ） (2023-09-13T10:40:41Z)
• Transparency in Sleep Staging: Deep Learning Method for EEG Sleep Stage Classification with Model Interpretability [5.747465732334616]
  本研究では,残差ネットワーク内に圧縮ブロックと励起ブロックを統合し,複雑な時間的依存関係を理解するために,特徴抽出と積み重ねBi-LSTMを組み込んだエンド・ツー・エンドディープラーニング(DL)モデルを提案する。 本研究の特筆すべき側面は、睡眠ステージングのためのGradCamの適応であり、この領域における説明可能なDLモデルの最初の事例であり、その決定と睡眠専門家の洞察の一致である。
  論文  参考訳（メタデータ） (2023-09-10T17:56:03Z)
• Classification of sleep stages from EEG, EOG and EMG signals by SSNet [2.1915057426589746]
  睡眠段階の分類は、睡眠障害ブレスティング(SDB)病を含む睡眠関連疾患の診断において重要な役割を担っている。 我々は,CNNとLSTMに基づく2つのディープラーニングネットワークからなる,SSNetというエンドツーエンドのディープラーニングアーキテクチャを提案する。 本モデルでは, 睡眠段階の分類において, 最先端技術と比較して最高の性能を達成している。
  論文  参考訳（メタデータ） (2023-07-03T01:05:24Z)
• Adaptive Memory Networks with Self-supervised Learning for Unsupervised Anomaly Detection [54.76993389109327]
  教師なし異常検出は、通常のデータのみをトレーニングすることで、目に見えない異常を検出するモデルを構築することを目的としている。 本稿では,これらの課題に対処するために,自己教師付き学習(AMSL)を用いた適応記憶ネットワーク(Adaptive Memory Network)を提案する。 AMSLには、一般的な正規パターンを学ぶための自己教師付き学習モジュールと、リッチな特徴表現を学ぶための適応型メモリ融合モジュールが組み込まれている。
  論文  参考訳（メタデータ） (2022-01-03T03:40:21Z)
• Sleep Staging Based on Serialized Dual Attention Network [0.0]
  生の脳波に基づく深層学習モデルSDANを提案する。 チャネルアテンションと空間アテンション機構を連続的に組み合わせて、キー情報をフィルタリングしハイライトする。 他の方法と比較して、N1睡眠期において優れた結果が得られる。
  論文  参考訳（メタデータ） (2021-07-18T13:18:12Z)
• Robust Finite Mixture Regression for Heterogeneous Targets [70.19798470463378]
  本稿では,サンプルクラスタの探索と,複数の不完全な混合型ターゲットを同時にモデル化するFMRモデルを提案する。 我々は、高次元の学習フレームワークの下で、無症状のオラクルのパフォーマンス境界をモデルに提供します。 その結果,我々のモデルは最先端の性能を達成できることがわかった。
  論文  参考訳（メタデータ） (2020-10-12T03:27:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。