論文の概要: Large Cognition Model: Towards Pretrained EEG Foundation Model

• arxiv url: http://arxiv.org/abs/2502.17464v1
• Date: Tue, 11 Feb 2025 04:28:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-02 03:22:44.034724
• Title: Large Cognition Model: Towards Pretrained EEG Foundation Model
• Title（参考訳）: 大規模認知モデル:事前学習型脳波基礎モデルに向けて
• Authors: Chi-Sheng Chen, Ying-Jung Chen, Aidan Hung-Wen Tsai,
• Abstract要約: 多様な脳波データセットと下流タスクをまたいだ一般化を目的としたトランスフォーマーベース基盤モデルを提案する。 本研究は, 神経科学, パーソナライズドメディカル, およびBCI技術の進歩を促進するための, 事前学習型脳波基盤モデルの可能性を明らかにするものである。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Electroencephalography provides a non-invasive window into brain activity, offering valuable insights for neurological research, brain-computer interfaces, and clinical diagnostics. However, the development of robust machine learning models for EEG analysis is hindered by the scarcity of large-scale, well-annotated datasets and the inherent variability of EEG signals across subjects and recording conditions. Inspired by the success of foundation models in natural language processing and computer vision, we propose the Large Cognition Model-a transformer-based foundation model designed to generalize across diverse EEG datasets and downstream tasks. Unlike traditional approaches, our proposed transformer-based architecture demonstrates strong generalization capabilities across datasets and tasks, even without pretraining, surpassing some existing EEG universal models on specific downstream applications. LCM leverages large-scale self-supervised learning techniques to capture universal EEG representations, enabling efficient fine-tuning for applications such as cognitive state decoding, disease classification, and neurofeedback systems. We introduce a novel architecture that integrates temporal and spectral attention mechanisms, optimizing the model's ability to extract meaningful features from raw EEG signals. Extensive evaluations demonstrate that LCM outperforms state-of-the-art approaches across multiple EEG benchmarks, exhibiting strong cross-subject and cross-task generalization. Our findings highlight the potential of pretrained EEG foundation models to accelerate advancements in neuroscience, personalized medicine, and BCI technology.
• Abstract（参考訳）: 脳波検査は非侵襲的な脳活動の窓を提供し、神経研究、脳-コンピュータインターフェース、臨床診断に有用な洞察を提供する。 しかし、脳波解析のための堅牢な機械学習モデルの開発は、大規模で注意深いデータセットの不足と、被検体や記録条件における脳波信号の固有の変動によって妨げられている。 自然言語処理とコンピュータビジョンにおける基礎モデルの成功に触発されて,多種多様なEEGデータセットと下流タスクを対象とする変換モデルであるLarge Cognition Modelを提案する。 従来のアプローチとは異なり、提案したトランスフォーマーベースのアーキテクチャは、特定の下流アプリケーションで既存のEEGユニバーサルモデルを超えることなく、データセットやタスクをまたいだ強力な一般化能力を示す。 LCMは、認知状態復号、疾患分類、神経フィードバックシステムなどの応用のための効率的な微調整を可能にするために、大規模な自己教師付き学習技術を活用している。 本稿では,時間的およびスペクトル的注意機構を統合し,生の脳波信号から有意な特徴を抽出する能力を最適化する新しいアーキテクチャを提案する。 大規模な評価では、LCMは複数のEEGベンチマークで最先端のアプローチよりも優れており、強いクロスオブジェクトとクロスタスクの一般化を示している。 本研究は, 神経科学, パーソナライズドメディカル, およびBCI技術の進歩を促進するための, 事前学習型脳波基盤モデルの可能性を明らかにするものである。

関連論文リスト

• CEReBrO: Compact Encoder for Representations of Brain Oscillations Using Efficient Alternating Attention [53.539020807256904]
  交互注意(CEReBrO)を用いた脳振動の表現のための圧縮法について紹介する。 トークン化方式は、チャネルごとのパッチで脳波信号を表現します。 本研究では,チャネル内時間的ダイナミックスとチャネル間空間的相関を共同でモデル化し,通常の自己アテンションに比べて6倍少ないメモリで2倍の速度向上を実現するための注意機構を提案する。
  論文  参考訳（メタデータ） (2025-01-18T21:44:38Z)
• Comprehensive Review of EEG-to-Output Research: Decoding Neural Signals into Images, Videos, and Audio [0.0]
  機械学習と生成モデリングの最近の進歩は、知覚経験の再構築における脳波の応用を触媒している。 本稿では,脳波から出力までの研究を体系的にレビューし,最先端のジェネレーティブ手法,評価指標,データ課題に焦点をあてる。
  論文  参考訳（メタデータ） (2024-12-28T03:50:56Z)
• CognitionCapturer: Decoding Visual Stimuli From Human EEG Signal With Multimodal Information [61.1904164368732]
  脳波信号の表現にマルチモーダルデータを完全に活用する統合フレームワークであるCognitionCapturerを提案する。 具体的には、CognitionCapturerは、各モダリティに対してモダリティエキスパートを訓練し、EEGモダリティからモダリティ情報を抽出する。 このフレームワークは生成モデルの微調整を一切必要とせず、より多くのモダリティを組み込むように拡張することができる。
  論文  参考訳（メタデータ） (2024-12-13T16:27:54Z)
• GEFM: Graph-Enhanced EEG Foundation Model [16.335330142000657]
  ファンデーションモデルは、事前トレーニングを通じて大規模なラベルなしデータを活用することで、有望なソリューションを提供する。 本稿では,時間情報とチャネル間情報を統合した新しい脳波基盤モデルであるグラフ拡張脳波基礎モデル(GEFM)を提案する。 我々のアーキテクチャはグラフニューラルネットワーク(GNN)とマスク付きオートエンコーダを組み合わせることで,効率的な事前学習を実現する。
  論文  参考訳（メタデータ） (2024-11-29T06:57:50Z)
• EEGPT: Unleashing the Potential of EEG Generalist Foundation Model by Autoregressive Pre-training [9.57946371147345]
  EEGPTはこれらの課題に対処するために設計された最初の一般のEEG基盤モデルである。 まず,各電極を基本単位として扱う電極ワイド・モデリング手法を提案する。 第2に、最初の自己回帰型脳波事前学習モデルを開発する。 第3に,学習可能な電極グラフネットワークを用いたマルチタスク転送学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-10-14T12:17:54Z)
• Enhancing EEG Signal Generation through a Hybrid Approach Integrating Reinforcement Learning and Diffusion Models [6.102274021710727]
  本研究では、拡散モデルと強化学習を統合することにより、脳波(EEG)信号の合成に革新的なアプローチを導入する。 提案手法は, 時間的・スペクトル的特徴の詳細な脳波信号の生成を促進させ, 合成データセットの信頼性と多様性を向上する。
  論文  参考訳（メタデータ） (2024-09-14T07:22:31Z)
• Automated Fusion of Multimodal Electronic Health Records for Better Medical Predictions [48.0590120095748]
  本稿では,多様な入力モダリティと融合戦略を符号化する最適なモデルアーキテクチャを自動検索する,AutoFMという新しいニューラルネットワーク探索フレームワークを提案する。 我々は実世界のマルチモーダルEHRデータと予測タスクについて徹底的な実験を行い、その結果、我々のフレームワークが既存の最先端手法よりも大幅な性能向上を実現していることを示す。
  論文  参考訳（メタデータ） (2024-01-20T15:14:14Z)
• EEGFormer: Towards Transferable and Interpretable Large-Scale EEG Foundation Model [39.363511340878624]
  大規模複合脳波データに基づいて事前学習した脳波基礎モデル,すなわちEEGFormerを提案する。 本モデルの有効性を検証するため,様々な下流タスクにおいて広範囲に評価し,異なる転送条件下での性能を評価する。
  論文  参考訳（メタデータ） (2024-01-11T17:36:24Z)
• A Knowledge-Driven Cross-view Contrastive Learning for EEG Representation [48.85731427874065]
  本稿では,限られたラベルを持つ脳波から効果的な表現を抽出する知識駆動型クロスビューコントラスト学習フレームワーク(KDC2)を提案する。 KDC2法は脳波信号の頭皮と神経のビューを生成し、脳活動の内部および外部の表現をシミュレートする。 ニューラル情報整合性理論に基づく事前のニューラル知識をモデル化することにより、提案手法は不変かつ相補的なニューラル知識を抽出し、複合表現を生成する。
  論文  参考訳（メタデータ） (2023-09-21T08:53:51Z)
• fMRI from EEG is only Deep Learning away: the use of interpretable DL to unravel EEG-fMRI relationships [68.8204255655161]
  多チャンネル脳波データからいくつかの皮質下領域の活性を回復するための解釈可能な領域基底解を提案する。 我々は,皮質下核の血行動態信号の頭皮脳波予測の空間的・時間的パターンを復元する。
  論文  参考訳（メタデータ） (2022-10-23T15:11:37Z)
• Data augmentation for learning predictive models on EEG: a systematic comparison [79.84079335042456]
  脳波(EEG)分類タスクの深層学習は、ここ数年急速に増加している。 EEG分類タスクのディープラーニングは、比較的小さなEEGデータセットによって制限されている。 データ拡張は、コンピュータビジョンや音声などのアプリケーションにまたがる最先端のパフォーマンスを得るために重要な要素となっている。
  論文  参考訳（メタデータ） (2022-06-29T09:18:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。