論文の概要: Neural State Prediction: Obstructing Shortcut Learning in EEG Foundation Models
- arxiv url: http://arxiv.org/abs/2609.31167v1
- Date: Fri, 25 Sep 2026 11:58:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.372747
- Title: Neural State Prediction: Obstructing Shortcut Learning in EEG Foundation Models
- Title(参考訳): 神経状態予測:脳波基礎モデルにおけるショートカット学習の妨害
- Abstract要約: EEGファンデーションモデルは、ラベルなしの録音から学ぶために、マスク付き予測をますます利用している。
予測対象と利用可能なコンテキストの両方を制約する潜在予測フレームワークであるNeural State Prediction (NSP)を導入する。
NSPは14のデータセットで63.94のマクロバランスの正確さを達成し、最も評価されたベースラインを2.35ポイント上回っている。
- 参考スコア(独自算出の注目度): 22.581510792369514
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: EEG foundation models increasingly use masked prediction to learn from unlabeled recordings, but optimizing this objective does not ensure transferable neural representations. A central challenge is that stable positional cues and local correlations can make masked regions predictable without integrating distributed neural context. To reduce this reliance on low-information prediction paths, we introduce Neural State Prediction (NSP), a latent-predictive framework that constrains both the prediction target and the available context. NSP uses a Target Encoder updated by an exponential moving average (EMA) to define latent supervision. Identity residualization removes additive effects associated with channel identity and relative time from the targets, while topology-separated context excludes their immediate spatial and temporal neighborhood from the visible input. We pretrain NSP on 2.2 million EEG segments from TUEG and evaluate it across 30 downstream datasets spanning clinical diagnosis, sleep staging, emotion recognition, motor imagery, event-related potentials, cognitive-state decoding, and language retrieval. Under full-parameter multi-task fine-tuning on EEG-FM-Bench, NSP achieves 63.94 macro balanced accuracy across 14 datasets, exceeding the strongest evaluated baseline by 2.35 percentage points. Controlled component ablations assess the contribution of each mechanism, while matched context controls and held-out interventions characterize the role of context geometry, signal content, and positional information. Jointly designing latent targets and their context offers a promising direction for EEG foundation models that learn from distributed signal structure.
- Abstract(参考訳): EEGファンデーションモデルは、ラベルのない記録から学習するためにマスク付き予測を使用することが多いが、この目的を最適化することは、伝達可能な神経表現を保証するものではない。
中心的な課題は、安定した位置の手がかりと局所的な相関が、分散したニューラルネットワークコンテキストを統合することなく、マスキングされた領域を予測可能にすることである。
この低情報予測パスへの依存を軽減するために,予測対象と利用可能なコンテキストの両方を制約する潜在予測フレームワークであるNeural State Prediction (NSP)を導入する。
NSPは指数移動平均(EMA)によって更新されたターゲットエンコーダを使用して潜伏監視を定義する。
アイデンティティの残留化は、チャネルのアイデンティティと相対時間に関連する付加的な効果をターゲットから取り除き、トポロジで区切られたコンテキストは、その即時的な空間的および時間的近傍を可視的な入力から除外する。
NSPをTUEGから220万の脳波セグメントに事前トレーニングし、臨床診断、睡眠ステージング、感情認識、運動画像、事象関連電位、認知状態復号、言語検索を含む30の下流データセットで評価する。
EEG-FM-Benchのマルチタスクの完全な微調整の下で、NSPは14のデータセットで63.94のマクロバランスの正確さを達成し、最も評価されたベースラインを2.35ポイント超えた。
制御されたコンポーネントのアブレーションは、コンテキスト制御とホールドアウトの介入がコンテキスト幾何学、信号内容、位置情報の役割を特徴づける一方で、各メカニズムの貢献を評価する。
潜在目標とそれらのコンテキストを共同で設計することで、分散信号構造から学習するEEG基盤モデルに有望な方向性を提供する。
関連論文リスト
- Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。
そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。
制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
論文 参考訳(メタデータ) (2026-08-20T13:59:57Z) - Beyond Activation Alignment: The Geometry of Neural Sensitivity [0.0]
そこで我々は,小摂動を識別する表現能力に着目した,局所的測位可能な情報に基づくフレームワークを提案する。
対称正定値行列の多様体上の対数スペクトル距離を用いてこれらの正規化シグネチャを比較する。
経験的に、このフレームワークは、独立に訓練された人工ニューラルネットワークで対応するレイヤのリカバリを可能にする。
論文 参考訳(メタデータ) (2026-05-04T23:21:24Z) - Zero-Shot EEG-to-Gait Decoding via Phase-Aware Representation Learning [9.49131859415923]
ドメイン一般化型脳波-モーションデコーディングフレームワークであるNeuroDyGaitを提案する。
構造化されたコントラスト表現学習とリレーショナルドメインモデリングを使用して、脳波とモーション埋め込みのセマンティックアライメントを実現する。
ベンチマークデータセットのクロスオブジェクト歩行復号における適応や優れた性能を必要とせずに、見えない個人に対するゼロショットモーション予測を実現する。
論文 参考訳(メタデータ) (2025-06-24T06:03:49Z) - CodeBrain: Towards Decoupled Interpretability and Multi-Scale Architecture for EEG Foundation Model [52.466542039411515]
EEGファウンデーションモデル(EFM)は、タスク固有のモデルのスケーラビリティ問題に対処するために登場した。
このギャップを埋めるために設計された2段階のEMFであるCodeBrainを紹介します。
第1段階では、異種時間・周波数の脳波信号を離散トークンに分解するTFDual-Tokenizerを導入する。
第2段階では、構造化されたグローバル畳み込みとスライディングウインドウの注意を結合したマルチスケールEEGSSMアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-06-10T17:20:39Z) - Neurosymbolic AI for Travel Demand Prediction: Integrating Decision Tree Rules into Neural Networks [21.445133878049333]
本研究では、決定木(DT)に基づくシンボルルールとニューラルネットワーク(NN)を統合し、旅行需要を予測するニューロシンボリック人工知能(Neurosymbolic AI)フレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-02T05:10:31Z) - TokenUnify: Scaling Up Autoregressive Pretraining for Neuron Segmentation [65.65530016765615]
本稿では,3つの相補的な学習目標を通じて,大規模依存関係をキャプチャする階層型予測コーディングフレームワークを提案する。
TokenUnifyは、ランダムトークン予測、次のトークン予測、およびすべてのトークン予測を統合して、包括的な表現空間を作成する。
また,120億個の注釈付きボクセルを付加した大規模EMデータセットを導入し,空間連続性を持つ理想的な長周期視覚データを提供する。
論文 参考訳(メタデータ) (2024-05-27T05:45:51Z) - Graph Neural Processes for Spatio-Temporal Extrapolation [36.01312116818714]
グラフ内の周囲のコンテキストから対象地点のデータを生成する補間時間プロセスのタスクについて検討する。
既存の手法では、ニューラルネットワークのような学習に精通したモデルや、ガウスのような統計的アプローチが使用されている。
本稿では,これらの機能を同時に制御するニューラル潜在変数モデルであるスポースグラフニューラル・プロセス(STGNP)を提案する。
論文 参考訳(メタデータ) (2023-05-30T03:55:37Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - Pre-training via Denoising for Molecular Property Prediction [53.409242538744444]
本稿では,3次元分子構造の大規模データセットを平衡に利用した事前学習手法について述べる。
近年のノイズレギュラー化の進展に触発されて, 事前学習の目的は, 雑音の除去に基づくものである。
論文 参考訳(メタデータ) (2022-05-31T22:28:34Z) - Subject Independent Emotion Recognition using EEG Signals Employing
Attention Driven Neural Networks [2.76240219662896]
主観非依存の感情認識が可能な新しいディープラーニングフレームワークを提案する。
タスクを実行するために、アテンションフレームワークを備えた畳み込みニューラルネットワーク(CNN)を提示する。
提案手法は、公開データセットを使用して検証されている。
論文 参考訳(メタデータ) (2021-06-07T09:41:15Z) - Collaborative Boundary-aware Context Encoding Networks for Error Map
Prediction [65.44752447868626]
本稿では,AEP-Net と呼ばれる協調的コンテキスト符号化ネットワークを提案する。
具体的には、画像とマスクのより優れた特徴融合のための協調的な特徴変換分岐と、エラー領域の正確な局所化を提案する。
AEP-Netはエラー予測タスクの平均DSCが0.8358,0.8164であり、ピアソン相関係数が0.9873である。
論文 参考訳(メタデータ) (2020-06-25T12:42:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。