論文の概要: Laya: A LeJEPA Approach to EEG via Latent Prediction over Reconstruction

• arxiv url: http://arxiv.org/abs/2603.16281v1
• Date: Tue, 17 Mar 2026 09:13:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-18 17:42:07.190978
• Title: Laya: A LeJEPA Approach to EEG via Latent Prediction over Reconstruction
• Title（参考訳）: ラヤ:レJEPAによる脳波予測
• Authors: Saarang Panchavati, Uddhav Panchavati, Corey Arnold, William Speier,
• Abstract要約: 大規模未ラベルコーパスで訓練された最近の脳波基礎モデルは、伝達可能な表現を学習することを目的としている。 小さなタスク固有のモデルに対するレポートの改善は、しばしば控えめで、下流適応や微調整戦略に敏感である。 私たちは、JEPA(Joint Embedding Predictive Architectures)に基づいた最初のEEG基盤モデルであるLayaを紹介します。
• 参考スコア（独自算出の注目度）: 2.9872817200303565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Electroencephalography (EEG) is a widely used tool for studying brain function, with applications in clinical neuroscience, diagnosis, and brain-computer interfaces (BCIs). Recent EEG foundation models trained on large unlabeled corpora aim to learn transferable representations, but their effectiveness remains unclear; reported improvements over smaller task-specific models are often modest, sensitive to downstream adaptation and fine-tuning strategies, and limited under linear probing. We hypothesize that one contributing factor is the reliance on signal reconstruction as the primary self-supervised learning (SSL) objective, which biases representations toward high-variance artifacts rather than task-relevant neural structure. To address this limitation, we explore an SSL paradigm based on Joint Embedding Predictive Architectures (JEPA), which learn by predicting latent representations instead of reconstructing raw signals. While earlier JEPA-style methods often rely on additional heuristics to ensure training stability, recent advances such as LeJEPA provide a more principled and stable formulation. We introduce Laya, the first EEG foundation model based on LeJEPA. Across a range of EEG benchmarks, Laya demonstrates improved performance under linear probing compared to reconstruction-based baselines, suggesting that latent predictive objectives offer a promising direction for learning transferable, high-level EEG representations.
• Abstract（参考訳）: 脳波検査(Electroencephalography、EEG)は、脳機能の研究に広く用いられ、臨床神経科学、診断、脳-コンピュータインターフェース(BCI)に応用されている。 大規模な未ラベルコーパスでトレーニングされた最近の脳波基礎モデルは、伝達可能な表現を学習することを目的としているが、その有効性は不明確であり、より小さなタスク固有のモデルに対する改善は、しばしば控えめであり、下流適応や微調整戦略に敏感であり、線形探索では制限されている。 一つの要因は、タスク関連ニューラルネットワーク構造ではなく、高分散成果物に対する表現をバイアスする、自己教師型学習(SSL)の主目的としての信号再構成への依存である、という仮説を立てる。 この制限に対処するため、我々は、生信号の再構成ではなく潜在表現を予測することで学習するJEPA(Joint Embedding Predictive Architectures)に基づくSSLパラダイムを探求する。 初期のJEPAスタイルの手法はトレーニングの安定性を確保するために追加のヒューリスティックに頼っていることが多いが、LeJEPAのような最近の進歩はより原理的で安定した定式化を提供する。 私たちはLeJEPAをベースとした最初のEEG基盤モデルであるLayaを紹介します。 さまざまなEEGベンチマークにおいて、Layaはリコンストラクションベースのベースラインと比較して線形探索によるパフォーマンス向上を実証し、潜在予測目標が伝達可能な高レベルのEEG表現を学習するための有望な方向を提供することを示唆している。

関連論文リスト

• Investigating the Impact of Histopathological Foundation Models on Regressive Prediction of Homologous Recombination Deficiency [52.50039435394964]
  回帰に基づくタスクの基礎モデルを体系的に評価する。 我々は5つの最先端基礎モデルを用いて、スライド画像全体(WSI)からパッチレベルの特徴を抽出する。 乳房、子宮内膜、肺がんコホートにまたがるこれらの抽出された特徴に基づいて、連続したRDDスコアを予測するモデルが訓練されている。
  論文  参考訳（メタデータ） (2026-01-29T14:06:50Z)
• EEG Foundation Models: Progresses, Benchmarking, and Open Problems [10.447009984769819]
  我々は、50の代表的なEEG基盤モデルをレビューし、その設計選択を統合された分類学的枠組みにまとめる。 9つのBCIパラダイムにまたがる13のEEGデータセットに対して、12のオープンソースファンデーションモデルと、競合するスペシャリストベースラインを評価します。
  論文  参考訳（メタデータ） (2026-01-25T15:28:50Z)
• Learning the relative composition of EEG signals using pairwise relative shift pretraining [4.9639655603300215]
  自己教師付き学習(SSL)は、ラベルのないデータから脳波(EEG)表現を学習するための有望なアプローチを提供する。 PAirwise Relative Shift または PARS pretraining は、ランダムにサンプリングされたEEGウィンドウペア間の相対時間シフトを予測する新しいプリテキストタスクである。 PARS-pretrained transformer はラベル効率および転送学習設定において既存の事前学習戦略を一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2025-11-14T23:30:37Z)
• Benchmarking of EEG Analysis Techniques for Parkinson's Disease Diagnosis: A Comparison between Traditional ML Methods and Foundation DL Methods [4.405656184346215]
  パーキンソン病(英: Parkinson's Disease PD)は、運動機能と認知機能に影響を与える進行性神経変性疾患である。 従来の機械学習MLとディープラーニングDLモデルの体系的なベンチマークを行い、PDを分類する。 統合された7ステップ前処理パイプラインを実装し、一貫した主観的クロスバリデーションと評価基準を適用した。
  論文  参考訳（メタデータ） (2025-07-18T07:59:17Z)
• From Video to EEG: Adapting Joint Embedding Predictive Architecture to Uncover Visual Concepts in Brain Signal Analysis [7.218572835925958]
  脳波信号は、高時間分解能と低空間分解能で脳活動を捉え、神経学的診断、認知モニタリング、脳-コンピュータインターフェースなどの応用をサポートする。 本稿では,脳波分類のためのビデオ共同埋め込み予測アーキテクチャ(VJEPA)の新たな適応であるEEG-VJEPAを提案する。 脳波をビデオライクなシーケンスとして扱うことで、EEG-VJEPAは共同埋め込みと適応マスキングを用いて意味的に意味のある表現を学ぶ。
  論文  参考訳（メタデータ） (2025-07-04T15:01:34Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)
• Joint Embedding Predictive Architectures Focus on Slow Features [56.393060086442006]
  JEPA(Joint Embedding Predictive Architectures)は、再構築不要の代替手段を提供する。 我々は、VICRegとSimCLRで訓練されたJEPAのパフォーマンスを、報酬にアクセスできることなく完全にオフラインで分析する。 JEPAメソッドはステップ毎にノイズが変わるが、ノイズが修正されるとフェールする。
  論文  参考訳（メタデータ） (2022-11-20T00:50:11Z)
• Towards Interpretable Deep Learning Models for Knowledge Tracing [62.75876617721375]
  本稿では,深層学習に基づく知識追跡(DLKT)モデルの解釈可能性問題に対処するポストホック手法を提案する。 具体的には、RNNに基づくDLKTモデルを解釈するために、レイヤワイズ関連伝搬法(LRP)を適用することに焦点をあてる。 実験結果から,DLKTモデルの予測をLRP法で解釈できることを示す。
  論文  参考訳（メタデータ） (2020-05-13T04:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。