論文の概要: NeurIPT: Foundation Model for Neural Interfaces
- arxiv url: http://arxiv.org/abs/2510.16548v1
- Date: Sat, 18 Oct 2025 15:45:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 00:56:39.033338
- Title: NeurIPT: Foundation Model for Neural Interfaces
- Title(参考訳): NeurIPT:ニューラルネットワークの基礎モデル
- Authors: Zitao Fang, Chenxuan Li, Hongting Zhou, Shuyang Yu, Guodong Du, Ashwaq Qasem, Yang Lu, Jing Li, Junsong Zhang, Sim Kuan Goh,
- Abstract要約: NeurIPTは、トレーニング済みトランスフォーマーを備えた多様なEEGベースのニューラルインタフェース向けに開発された基礎モデルである。
我々はAAMP(Amplitude-Aware Masked Pretraining)を導入し、局所的以外の様々な信号強度にわたる堅牢な表現を学習する。
また、局所脳の特徴を効果的に活用するために、微調整中にインターローブプール(IILP)を開発する。
- 参考スコア(独自算出の注目度): 13.659630322026095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Electroencephalography (EEG) has wide-ranging applications, from clinical diagnosis to brain-computer interfaces (BCIs). With the increasing volume and variety of EEG data, there has been growing interest in establishing foundation models (FMs) to scale up and generalize neural decoding. Despite showing early potential, applying FMs to EEG remains challenging due to substantial inter-subject, inter-task, and inter-condition variability, as well as diverse electrode configurations across recording setups. To tackle these open challenges, we propose NeurIPT, a foundation model developed for diverse EEG-based Neural Interfaces with a Pre-trained Transformer by capturing both homogeneous and heterogeneous spatio-temporal characteristics inherent in EEG signals. Temporally, we introduce Amplitude-Aware Masked Pretraining (AAMP), masking based on signal amplitude rather than random intervals, to learn robust representations across varying signal intensities beyond local interpolation. Moreover, this temporal representation is enhanced by a Progressive Mixture-of-Experts (PMoE) architecture, where specialized expert subnetworks are progressively introduced at deeper layers, adapting effectively to the diverse temporal characteristics of EEG signals. Spatially, NeurIPT leverages the 3D physical coordinates of electrodes, enabling effective transfer of embedding across varying EEG settings, and develops Intra-Inter Lobe Pooling (IILP) during fine-tuning to efficiently exploit regional brain features. Empirical evaluations across eight downstream BCI datasets, via fine-tuning, demonstrated NeurIPT consistently achieved state-of-the-art performance, highlighting its broad applicability and robust generalization. Our work pushes forward the state of FMs in EEG and offers insights into scalable and generalizable neural information processing systems.
- Abstract(参考訳): 脳波検査(EEG)は臨床診断から脳-コンピュータインターフェース(BCI)まで幅広い応用がある。
脳波データの量や多様性の増大に伴い、ニューラルネットワークのスケールアップと一般化を目的とした基礎モデル(FM)の確立への関心が高まっている。
初期の可能性を示したにもかかわらず、オブジェクト間、タスク間、条件間のばらつき、記録装置間の電極構成の多様さにより、EEGにFMを適用することは依然として困難である。
このようなオープンな課題に対処するために,脳波信号に固有の時空間特性と均一性の両方を捉えることにより,事前学習型トランスフォーマを用いた多様な脳波ベースニューラルインタフェースのための基礎モデルNeurIPTを提案する。
時としてAAMP(Amplitude-Aware Masked Pretraining)を導入し,局所補間を超えた様々な信号強度にわたるロバスト表現を学習する。
さらに、この時間表現はプログレッシブ・ミックス・オブ・エクササイズ(PMoE)アーキテクチャによって強化され、より深い層で専門的なサブネットが徐々に導入され、脳波信号の多様な時間特性に効果的に適応する。
空間的には、NeurIPTは電極の3D物理座標を利用し、様々な脳波設定にまたがる効果的な埋め込みの伝達を可能にし、微調整中にインターローブプール(IILP)を開発し、局所的な脳の特徴を効率的に活用する。
8つの下流BCIデータセットに対する実証的な評価は、微調整を通じて、NeurIPTが一貫して最先端のパフォーマンスを達成し、その広範な適用性と堅牢な一般化を強調した。
我々の研究は、脳波におけるFMの状態を推し進め、スケーラブルで一般化可能なニューラル情報処理システムに関する洞察を提供する。
関連論文リスト
- EEGDM: EEG Representation Learning via Generative Diffusion Model [17.595769291603688]
生成拡散モデル(EEGDM)に基づく脳波表現学習フレームワークを提案する。
具体的には,拡散事前学習のための構造化状態空間モデルを開発し,DDPM(Denoising Diffusion Probabilistic Model)フレームワークを用いて学習を行った。
提案した潜時核融合変換器 (LFT) を用いた下流分類作業において, 得られた潜時脳波表現を用いた。
論文 参考訳(メタデータ) (2025-08-13T14:40:52Z) - A Novel Data Augmentation Strategy for Robust Deep Learning Classification of Biomedical Time-Series Data: Application to ECG and EEG Analysis [2.355460994057843]
本研究では,様々な信号タイプにまたがる最先端性能を実現する,新しい統合型深層学習フレームワークを提案する。
従来の研究とは異なり、将来予測能力を達成するために信号の複雑さを科学的に増加させ、最高の予測を導いた。
アーキテクチャには130MBのメモリとプロセスが10ミリ秒で必要であり、ローエンドデバイスやウェアラブルデバイスへのデプロイに適していることを示唆している。
論文 参考訳(メタデータ) (2025-07-16T21:38:10Z) - CodeBrain: Towards Decoupled Interpretability and Multi-Scale Architecture for EEG Foundation Model [52.466542039411515]
EEGファウンデーションモデル(EFM)は、タスク固有のモデルのスケーラビリティ問題に対処するために登場した。
このギャップを埋めるために設計された2段階のEMFであるCodeBrainを紹介します。
第1段階では、異種時間・周波数の脳波信号を離散トークンに分解するTFDual-Tokenizerを導入する。
第2段階では、構造化されたグローバル畳み込みとスライディングウインドウの注意を結合したマルチスケールEEGSSMアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-06-10T17:20:39Z) - BrainOmni: A Brain Foundation Model for Unified EEG and MEG Signals [46.121056431476156]
異種脳波とMEG記録を対象とする脳基礎モデルBrain Omniを提案する。
既存のアプローチは一般的に、パフォーマンスとクロスドメインのスケーラビリティを制限する、分離、モダリティ、データセット固有のモデルに依存します。
EEGの合計1,997時間、MEGデータの656時間は、事前トレーニングのために公開されているソースからキュレーションされ、標準化されている。
論文 参考訳(メタデータ) (2025-05-18T14:07:14Z) - CognitionCapturer: Decoding Visual Stimuli From Human EEG Signal With Multimodal Information [61.1904164368732]
脳波信号の表現にマルチモーダルデータを完全に活用する統合フレームワークであるCognitionCapturerを提案する。
具体的には、CognitionCapturerは、各モダリティに対してモダリティエキスパートを訓練し、EEGモダリティからモダリティ情報を抽出する。
このフレームワークは生成モデルの微調整を一切必要とせず、より多くのモダリティを組み込むように拡張することができる。
論文 参考訳(メタデータ) (2024-12-13T16:27:54Z) - RISE-iEEG: Robust to Inter-Subject Electrodes Implantation Variability iEEG Classifier [0.0]
頭蓋内脳波(iEEG)は、臨床および脳-コンピュータインターフェースの応用にますます使われている。
本稿では, 電極内注入変動に頑健な新しいデコーダモデルを提案する。
我々はこのモデルをRISE-iEEGと呼び、このモデルはRobust to Inter-Subject Electrode implantation Variability iEEG の略である。
論文 参考訳(メタデータ) (2024-08-12T18:33:19Z) - DGSD: Dynamical Graph Self-Distillation for EEG-Based Auditory Spatial
Attention Detection [49.196182908826565]
AAD(Auditory Attention Detection)は、マルチスピーカー環境で脳信号からターゲット話者を検出することを目的としている。
現在のアプローチは主に、画像のようなユークリッドデータを処理するために設計された従来の畳み込みニューラルネットワークに依存している。
本稿では、入力として音声刺激を必要としないAADのための動的グラフ自己蒸留(DGSD)手法を提案する。
論文 参考訳(メタデータ) (2023-09-07T13:43:46Z) - Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。
CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。
睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文 参考訳(メタデータ) (2023-05-30T08:24:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。