論文の概要: Continuous-Latent Predictive Modeling with Semantic Alignment for EEG-Language Foundation Models
- arxiv url: http://arxiv.org/abs/2608.11656v1
- Date: Wed, 12 Aug 2026 04:54:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.453984
- Title: Continuous-Latent Predictive Modeling with Semantic Alignment for EEG-Language Foundation Models
- Title(参考訳): 脳波言語基礎モデルのセマンティックアライメントを用いた連続潜時予測モデル
- Abstract要約: 脳波基礎モデルの最近の進歩は、一般化可能なニューラルデコードを可能にする大規模な事前訓練の可能性を示している。
マスク付きオートエンコーディングはタスク関連セマンティクスよりも低レベルの信号再構成を優先する傾向があり、一方自己回帰モデリングは連続神経力学と離散トークン空間のミスマッチを生成する。
脳卒中予測モデル(BLPM:Brain Latent Predictive Model)を提案する。
- 参考スコア(独自算出の注目度): 44.422104968778676
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in EEG foundation models have demonstrated the potential of large-scale pretraining to enable generalizable neural decoding across subjects, recording environments, and datasets. However, dominant pretraining paradigms face key challenges: masked autoencoding tends to prioritize low-level signal reconstruction over task-relevant semantics, while autoregressive modeling creates a mismatch between continuous neural dynamics and discrete token spaces. To address these challenges, new strategies are needed to effectively align continuous EEG representations with natural-language semantics and enable their integration with large language models. Accordingly, we propose Brain Latent Predictive Model (BLPM), an EEG-language foundation model that reformulates heterogeneous EEG decoding tasks as a continuous semantic embedding prediction problem. BLPM introduces a Continuous EEG Latent Predictive (CELP) encoder that learns transferable representations through latent target prediction. Building on these representations, a Multi-Query Semantic Decomposition (MQSD) module extracts task-relevant information and aligns continuous EEG representations with textual semantics within a shared latent space according to their semantic relationships. Experiments across multiple benchmarks demonstrate consistent generalization performance across diverse tasks, establishing continuous latent semantic prediction as an effective paradigm for EEG-language foundation models.
- Abstract(参考訳): 脳波基礎モデルの最近の進歩は、被験者、記録環境、データセットをまたいで一般化可能なニューラルデコーディングを可能にするために、大規模な事前トレーニングの可能性を実証している。
マスク付きオートエンコーディングはタスク関連セマンティクスよりも低レベルの信号再構成を優先する傾向があり、一方自己回帰モデリングは連続神経力学と離散トークン空間のミスマッチを生成する。
これらの課題に対処するためには、継続的なEEG表現を自然言語のセマンティクスと効果的に整合させ、大きな言語モデルとの統合を可能にするための新しい戦略が必要である。
そこで我々は,不均一な脳波復号処理を連続的セマンティック埋め込み予測問題として再構成する脳波言語基盤モデルであるBrain Latent Predictive Model (BLPM)を提案する。
BLPMは、潜在目標予測を通じて転送可能な表現を学習する連続脳波遅延予測(CELP)エンコーダを導入している。
これらの表現に基づいて、Multi-Query Semantic Decomposition (MQSD)モジュールはタスク関連情報を抽出し、連続的なEEG表現と共有潜在空間内のテキスト意味論をそれらの意味的関係に応じて整合させる。
複数のベンチマークによる実験は、多種多様なタスクにまたがる一貫した一般化性能を示し、EEG言語基盤モデルの効果的なパラダイムとして連続潜時意味予測を確立する。
関連論文リスト
- Self-Evolving Spatial Reasoning in Vision Language Models via Geometric Logic Consistency [53.28076739140119]
本稿では,視覚・言語モデル(VLM)における論理的一貫性を幾何学的・言語的双対性演算によって実現する枠組みを提案する。
SAGEは、従来のGRPO法に比べてモデルに依存しず、データ効率が良く、既存のVLMに軽量な後学習段階として適用することができる。
ビデオおよび空間推論ベンチマークの実験では、強いベースラインよりも一貫した改善が示されている。
論文 参考訳(メタデータ) (2026-05-18T10:05:21Z) - Continuous Latent Diffusion Language Model [48.974403879186916]
大規模言語モデルは自己回帰パラダイムの下で顕著な成功を収めた。
既存の代替手段は、生成効率、スケーラブルな表現学習、効果的なグローバルセマンティックモデリングを共同で達成するのに依然として苦労している。
階層型情報分解によりテキスト生成をフレーム化する階層型潜在拡散言語モデルCola DLMを提案する。
論文 参考訳(メタデータ) (2026-05-07T16:44:56Z) - THD-BAR: Topology Hierarchical Derived Brain Autoregressive Modeling for EEG Generic Representations [3.253716156877394]
脳波ジェネリック表現のための新しいトポロジー階層型脳自己回帰モデリング(THD-BAR)を提案する。
THD-BARの核となる革新は、脳位相階層(BTH)の導入である。
BTHに基づいて、マルチスケールトークン化のためのトポロジ階層ベクトル量子化可変オートエンコーダ(THVQ-VAE)を設計し、予測のための特別なマスキング戦略を備えた拡張脳自動回帰(BAR)モジュールを開発する。
論文 参考訳(メタデータ) (2025-11-05T13:20:14Z) - WaveMind: Towards a Conversational EEG Foundation Model Aligned to Textual and Visual Modalities [55.00677513249723]
脳波信号は認知過程と固有の神経状態の両方を同時に符号化する。
我々は、EEG信号とその対応するモダリティを統一意味空間にマッピングし、一般化された解釈を実現する。
結果として得られたモデルは、柔軟でオープンな会話をサポートしながら、堅牢な分類精度を示す。
論文 参考訳(メタデータ) (2025-09-26T06:21:51Z) - Zero-Shot EEG-to-Gait Decoding via Phase-Aware Representation Learning [9.49131859415923]
ドメイン一般化型脳波-モーションデコーディングフレームワークであるNeuroDyGaitを提案する。
構造化されたコントラスト表現学習とリレーショナルドメインモデリングを使用して、脳波とモーション埋め込みのセマンティックアライメントを実現する。
ベンチマークデータセットのクロスオブジェクト歩行復号における適応や優れた性能を必要とせずに、見えない個人に対するゼロショットモーション予測を実現する。
論文 参考訳(メタデータ) (2025-06-24T06:03:49Z) - Geometry of Semantics in Next-Token Prediction: How Optimization Implicitly Organizes Linguistic Representations [34.88156871518115]
Next-token Prediction (NTP) 最適化により、言語モデルがテキストから意味構造を抽出し、整理する。
我々は、より大きな特異値に対応する概念が訓練中に学習され、自然な意味階層が生成されることを示した。
この洞察は、解釈可能なセマンティックカテゴリを識別するための概念記号を組み合わせる方法である、オーサントベースのクラスタリングを動機付けている。
論文 参考訳(メタデータ) (2025-05-13T08:46:04Z) - Unified Generative and Discriminative Training for Multi-modal Large Language Models [88.84491005030316]
生成的トレーニングにより、視覚言語モデル(VLM)は様々な複雑なタスクに取り組むことができる。
CLIPのようなモデルで実証された差別的トレーニングは、ゼロショットイメージテキストの分類と検索に優れています。
本稿では,両パラダイムの強みを統合する統一的アプローチを提案する。
論文 参考訳(メタデータ) (2024-11-01T01:51:31Z) - Unleashing the Potential of the Diffusion Model in Few-shot Semantic Segmentation [56.87049651707208]
セマンティックはインコンテクストタスクへと発展し、一般化的セグメンテーションモデルを評価する上で重要な要素となった。
我々の最初の焦点は、クエリイメージとサポートイメージの相互作用を容易にする方法を理解することであり、その結果、自己注意フレームワーク内のKV融合法が提案される。
そこで我々はDiffewSというシンプルで効果的なフレームワークを構築し,従来の潜在拡散モデルの生成フレームワークを最大限に保持する。
論文 参考訳(メタデータ) (2024-10-03T10:33:49Z) - Reconsidering Degeneration of Token Embeddings with Definitions for Encoder-based Pre-trained Language Models [20.107727903240065]
本研究では,エンコーダに基づく言語モデルのための等方的および意味論的トークン埋め込みを再構築するために,DefindEMBを提案する。
本実験は,Wiktionaryの定義を応用し,そのような埋め込みを再構築する効果を実証する。
論文 参考訳(メタデータ) (2024-08-02T15:00:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。