論文の概要: STAMP: Spatial-Temporal Adapter with Multi-Head Pooling
- arxiv url: http://arxiv.org/abs/2511.10848v2
- Date: Thu, 20 Nov 2025 16:28:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-21 15:01:03.079163
- Title: STAMP: Spatial-Temporal Adapter with Multi-Head Pooling
- Title(参考訳): STAMP:マルチヘッドプール付き時空間アダプタ
- Authors: Brad Shook, Abby Turner, Jieshi Chen, Michał Wiliński, Mononito Goswami, Jonathan Elmer, Artur Dubrawski,
- Abstract要約: 複数のドメインのデータに基づいて事前訓練された時系列基礎モデル(TSFM)は、多様なモデリングタスクにおいて強い性能を示す。
マルチヘッドプール型空間適応器(STAMP)について紹介する。
STAMPは、EEGデータの空間時間特性を暗黙的にモデル化し、最先端のEEGFMに匹敵する性能を達成する。
- 参考スコア(独自算出の注目度): 13.792578087107238
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series foundation models (TSFMs) pretrained on data from multiple domains have shown strong performance on diverse modeling tasks. Various efforts have been made to develop foundation models specific to electroencephalography (EEG) data, which records brain electrical activity as time series. However, no comparative analysis of EEG-specific foundation models (EEGFMs) versus general TSFMs has been performed on EEG-specific tasks. We introduce a novel Spatial-Temporal Adapter with Multi-Head Pooling (STAMP), which leverages univariate embeddings produced by a general TSFM, implicitly models spatial-temporal characteristics of EEG data, and achieves performance comparable to state-of-the-art EEGFMs. A comprehensive analysis is performed on 8 benchmark datasets of clinical tasks using EEG for classification, along with ablation studies. Our proposed adapter is lightweight in trainable parameters and flexible in the inputs it can accommodate, supporting easy modeling of EEG data using TSFMs.
- Abstract(参考訳): 複数のドメインのデータに基づいて事前訓練された時系列基礎モデル(TSFM)は、多様なモデリングタスクにおいて強い性能を示す。
脳波(EEG)データに特有の基礎モデルを開発するために,脳電気活動を時系列として記録する様々な試みがなされている。
しかし、脳波特異的基礎モデル(EEGFMs)と一般TSFMsの比較分析は、脳波特異的タスクでは行われていない。
本稿では、一般TSFMによる一変量埋め込みを活用し、脳波データの空間時間特性を暗黙的にモデル化し、最先端のEEGFMに匹敵する性能を実現する、新しい空間時間適応型マルチヘッドポーリング(STAMP)を提案する。
脳波を分類に用いた8つの臨床タスクのベンチマークデータセットとアブレーション研究を総合的に分析した。
提案アダプタはトレーニング可能なパラメータで軽量で,適応可能な入力に柔軟で,TSFMを用いたEEGデータのモデリングが容易である。
関連論文リスト
- EEGDM: EEG Representation Learning via Generative Diffusion Model [17.595769291603688]
生成拡散モデル(EEGDM)に基づく脳波表現学習フレームワークを提案する。
具体的には,拡散事前学習のための構造化状態空間モデルを開発し,DDPM(Denoising Diffusion Probabilistic Model)フレームワークを用いて学習を行った。
提案した潜時核融合変換器 (LFT) を用いた下流分類作業において, 得られた潜時脳波表現を用いた。
論文 参考訳(メタデータ) (2025-08-13T14:40:52Z) - Are foundation models useful feature extractors for electroencephalography analysis? [9.413178499853156]
脳波を用いた医療時系列分析における基礎モデルの有効性について検討する。
分析の結果,基礎モデルは意味のある脳波の特徴を抽出し,ドメイン適応を伴わずとも特化モデルに優れ,タスク固有のバイオマーカーをローカライズすることがわかった。
論文 参考訳(メタデータ) (2025-02-28T14:21:34Z) - BrainGPT: Unleashing the Potential of EEG Generalist Foundation Model by Autoregressive Pre-training [15.135177893151008]
EEGPTはこれらの課題に対処するために設計された最初の一般のEEG基盤モデルである。
まず,各電極を基本単位として扱う電極ワイド・モデリング手法を提案する。
第2に、最初の自己回帰型脳波事前学習モデルを開発する。
第3に,学習可能な電極グラフネットワークを用いたマルチタスク転送学習パラダイムを提案する。
論文 参考訳(メタデータ) (2024-10-14T12:17:54Z) - EEG-SSM: Leveraging State-Space Model for Dementia Detection [21.67998806043568]
ステートスペースモデル(SSM)は、長いデータシーケンスを効果的に処理するために注目を集めている。
本研究では,脳波データを用いた認知症分類のための状態空間モデルに基づく新しいアプローチであるEEG-SSMを紹介する。
論文 参考訳(メタデータ) (2024-07-25T06:20:03Z) - Geodesic Optimization for Predictive Shift Adaptation on EEG data [53.58711912565724]
ドメイン適応メソッドは、$X$と$y$で分散シフトが同時に発生したときに苦労する。
本稿では,GOPSA(Geodesic Optimization for Predictive Shift Adaptation)と呼ばれる新しい手法を提案する。
GOPSAは、脳波のバイオメディカル応用のための混合効果モデリングと機械学習を併用する可能性を持っている。
論文 参考訳(メタデータ) (2024-07-04T12:15:42Z) - LTSM-Bundle: A Toolbox and Benchmark on Large Language Models for Time Series Forecasting [69.33802286580786]
LTSM-Bundleは総合的なツールボックスであり、LTSMをトレーニングするためのベンチマークである。
複数の次元からLTSMをモジュール化し、ベンチマークし、プロンプト戦略、トークン化アプローチ、ベースモデルの選択、データ量、データセットの多様性を含む。
実験により、この組み合わせは最先端のLTSMや従来のTSF法と比較して、ゼロショットと少数ショットのパフォーマンスが優れていることが示された。
論文 参考訳(メタデータ) (2024-06-20T07:09:19Z) - Synthetic location trajectory generation using categorical diffusion
models [50.809683239937584]
拡散モデル(DPM)は急速に進化し、合成データのシミュレーションにおける主要な生成モデルの一つとなっている。
本稿では,個人が訪れた物理的位置を表す変数列である合成個別位置軌跡(ILT)の生成にDPMを用いることを提案する。
論文 参考訳(メタデータ) (2024-02-19T15:57:39Z) - ESTformer: Transformer utilising spatiotemporal dependencies for electroencephalogram super-resolution [17.375026288273794]
変換器をベースとした買収依存を利用したEEGフレームワークを開発した。
EEG SRタスクのためのTransformerは、EEG SRタスクのためのTransformerの汎用性を示す。
脳波に基づく人物識別と感情認識タスクにおいて,SRデータの優位性を検証した。
論文 参考訳(メタデータ) (2023-12-03T12:26:32Z) - Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。
CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。
睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文 参考訳(メタデータ) (2023-05-30T08:24:01Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Adversarial Sample Enhanced Domain Adaptation: A Case Study on
Predictive Modeling with Electronic Health Records [57.75125067744978]
ドメイン適応を容易にするデータ拡張手法を提案する。
逆生成したサンプルはドメイン適応時に使用される。
その結果,本手法の有効性とタスクの一般性が確認された。
論文 参考訳(メタデータ) (2021-01-13T03:20:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。