論文の概要: Advancing Brainwave Modeling with a Codebook-Based Foundation Model

• arxiv url: http://arxiv.org/abs/2505.16724v1
• Date: Thu, 22 May 2025 14:32:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-23 17:12:48.359371
• Title: Advancing Brainwave Modeling with a Codebook-Based Foundation Model
• Title（参考訳）: コードブックに基づく基礎モデルによる脳波モデリングの促進
• Authors: Konstantinos Barmpas, Na Lee, Yannis Panagakis, Dimitrios A. Adamos, Nikolaos Laskaris, Stefanos Zafeiriou,
• Abstract要約: 信号処理基盤に根ざした原理的改善を取り入れた拡張大型脳波ファンデーションモデル(LBM)であるLaBraM++を紹介する。 LaBraM++は、さまざまなタスクで大幅に向上し、元々のアーキテクチャを一貫して上回り、他のオープンソースBMと比較して競争力のある結果を得た。
• 参考スコア（独自算出の注目度）: 41.525984326072596
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in large-scale pre-trained Electroencephalogram (EEG) models have shown great promise, driving progress in Brain-Computer Interfaces (BCIs) and healthcare applications. However, despite their success, many existing pre-trained models have struggled to fully capture the rich information content of neural oscillations, a limitation that fundamentally constrains their performance and generalizability across diverse BCI tasks. This limitation is frequently rooted in suboptimal architectural design choices which constrain their representational capacity. In this work, we introduce LaBraM++, an enhanced Large Brainwave Foundation Model (LBM) that incorporates principled improvements grounded in robust signal processing foundations. LaBraM++ demonstrates substantial gains across a variety of tasks, consistently outperforming its originally-based architecture and achieving competitive results when compared to other open-source LBMs. Its superior performance and training efficiency highlight its potential as a strong foundation for future advancements in LBMs.
• Abstract（参考訳）: 近年,脳-コンピュータ・インタフェース(BCI)と医療応用の進歩が加速し,脳波(EEG)モデルが注目されている。 しかしながら、その成功にもかかわらず、既存の事前訓練されたモデルの多くは、さまざまなBCIタスクにおけるパフォーマンスと一般化性を根本的に制限する制限である、神経振動の豊富な情報内容を完全に捉えるのに苦労している。 この制限はしばしば、その表現能力を制限する最適でない設計選択に根ざしている。 本研究では,LBM(Large Brainwave Foundation Model)を改良したLaBraM++を紹介する。 LaBraM++は、さまざまなタスクで大幅に向上し、元々のアーキテクチャを一貫して上回り、他のオープンソースBMと比較して競争力のある結果を得た。 優れた性能と訓練効率は、LBMの今後の進歩のための強力な基盤としての可能性を強調している。

関連論文リスト

• Scaling Laws for Native Multimodal Models [53.490942903659565]
  我々は、ネイティブマルチモーダルモデルのアーキテクチャ設計を再考し、広範なスケーリング法の研究を行う。 我々の調査では、早期核融合アーキテクチャよりも後期核融合アーキテクチャに固有の利点は示されていない。 また,Mixture of Experts(MoEs)を組み込むことで,モダリティ固有の重みを学習し,性能を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2025-04-10T17:57:28Z)
• OpenVLThinker: An Early Exploration to Complex Vision-Language Reasoning via Iterative Self-Improvement [91.88062410741833]
  本研究では,類似の推論機能を大規模視覚言語モデル(LVLM)にうまく組み込むことができるか検討する。 本稿では,教師付き微調整(SFT)と強化学習(RL)を反復的に活用し,モデル一般化をさらに改善する手法を検討する。 OpenVLThinkerは、MathVista、MathVerse、MathVisionといった挑戦的なベンチマークで一貫して改善された推論性能を示すLVLMである。
  論文  参考訳（メタデータ） (2025-03-21T17:52:43Z)
• Will Pre-Training Ever End? A First Step Toward Next-Generation Foundation MLLMs via Self-Improving Systematic Cognition [86.21199607040147]
  自己改善認知(Self-Improving cognition、SIcog)は、次世代基礎言語モデルを構築するための自己学習フレームワークである。 ステップバイステップの視覚的理解手法であるChain-of-Descriptionを導入し、構造化連鎖推論(CoT)を統合し、深いマルチモーダル推論をサポートする。 広範囲にわたる実験により、SIcogはマルチモーダル認知を著しく改善した次世代基盤MLLMを生産することが示された。
  論文  参考訳（メタデータ） (2025-03-16T00:25:13Z)
• HM-DF SNN: Transcending Conventional Online Learning with Advanced Training and Deployment [39.6783548791379]
  スパイキングニューラルネットワーク(SNN)は、人工知能の将来の発展において大きな可能性を秘めていると考えられている。 現在のオンライン学習フレームワークは、時間依存勾配の不分離問題に対処できない。 本稿では,それぞれ異なるスパイキング計算方式を採用する高度なモデル群であるHM-DF(Hybrid Mechanism-Driven Firing)モデルを提案する。
  論文  参考訳（メタデータ） (2024-10-10T02:39:22Z)
• On the Modeling Capabilities of Large Language Models for Sequential Decision Making [52.128546842746246]
  大規模な事前訓練されたモデルでは、推論や計画タスクのパフォーマンスがますます向上している。 我々は、直接的または間接的に、意思決定ポリシーを作成する能力を評価する。 未知の力学を持つ環境において、合成データを用いた微調整LDMが報酬モデリング能力を大幅に向上させる方法について検討する。
  論文  参考訳（メタデータ） (2024-10-08T03:12:57Z)
• Dyna-bAbI: unlocking bAbI's potential with dynamic synthetic benchmarking [16.109330335379962]
  Dyna-bAbIは動的フレームワークであり、bAbIのタスク生成を細かく制御する。 構成一般化を必要とする3つの新しいタスクを構築することで、私たちのアイデアを実証する。
  論文  参考訳（メタデータ） (2021-11-30T20:36:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。