論文の概要: Brain-JEPA: Brain Dynamics Foundation Model with Gradient Positioning and Spatiotemporal Masking
- arxiv url: http://arxiv.org/abs/2409.19407v1
- Date: Sat, 28 Sep 2024 17:06:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-05 23:29:10.325756
- Title: Brain-JEPA: Brain Dynamics Foundation Model with Gradient Positioning and Spatiotemporal Masking
- Title（参考訳）: 脳-JEPA: ゆるやかな位置決めと時空間マスキングを用いた脳ダイナミクス基礎モデル
- Authors: Zijian Dong, Ruilin Li, Yilei Wu, Thuan Tinh Nguyen, Joanna Su Xian Chong, Fang Ji, Nathanael Ren Jie Tong, Christopher Li Hsian Chen, Juan Helen Zhou,
- Abstract要約: Brain-JEPAは、JEPA(Joint-Embedding Predictive Architecture)を用いた脳動力学基礎モデルである
Brain-JEPAは2つの革新的な技術、Brain Gradient PositioningとSpatiotemporal Maskingを取り入れている。
- 参考スコア（独自算出の注目度）: 5.528773909620209
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We introduce Brain-JEPA, a brain dynamics foundation model with the Joint-Embedding Predictive Architecture (JEPA). This pioneering model achieves state-of-the-art performance in demographic prediction, disease diagnosis/prognosis, and trait prediction through fine-tuning. Furthermore, it excels in off-the-shelf evaluations (e.g., linear probing) and demonstrates superior generalizability across different ethnic groups, surpassing the previous large model for brain activity significantly. Brain-JEPA incorporates two innovative techniques: Brain Gradient Positioning and Spatiotemporal Masking. Brain Gradient Positioning introduces a functional coordinate system for brain functional parcellation, enhancing the positional encoding of different Regions of Interest (ROIs). Spatiotemporal Masking, tailored to the unique characteristics of fMRI data, addresses the challenge of heterogeneous time-series patches. These methodologies enhance model performance and advance our understanding of the neural circuits underlying cognition. Overall, Brain-JEPA is paving the way to address pivotal questions of building brain functional coordinate system and masking brain activity at the AI-neuroscience interface, and setting a potentially new paradigm in brain activity analysis through downstream adaptation.
- Abstract（参考訳）: 本稿では、JEPA(Joint-Embedding Predictive Architecture)を用いた脳動力学基礎モデルであるBrain-JEPAを紹介する。
この先駆的なモデルは、人口統計学予測、疾患診断/予後、および微調整による特性予測における最先端のパフォーマンスを達成する。
さらに、オフ・ザ・シェルフの評価(例えば線形探索)に優れており、以前の大きな脳活動モデルを上回るように、異なる民族群間で優れた一般化性を示す。
Brain-JEPAは2つの革新的な技術、Brain Gradient PositioningとSpatiotemporal Maskingを取り入れている。
Brain Gradient Positioningは、脳機能解析のための機能座標系を導入し、異なる関心領域(ROI)の位置エンコーディングを強化する。
fMRIデータの特徴に合わせた時空間マスキングは、異種時系列パッチの課題に対処する。
これらの手法はモデル性能を高め、認知の基盤となる神経回路の理解を深める。
全体として、Brain-JEPAは、脳機能座標系の構築や、AI-神経科学インターフェースでの脳活動のマスキングといった重要な問題に対処し、下流適応による脳活動分析における新たなパラダイムを設定しようとしている。
関連論文リスト
- Brain-like Functional Organization within Large Language Models [58.93629121400745]
人間の脳は長い間人工知能(AI)の追求にインスピレーションを与えてきた
最近のニューロイメージング研究は、人工ニューラルネットワーク(ANN)の計算的表現と、人間の脳の刺激に対する神経反応との整合性の説得力のある証拠を提供する。
本研究では、人工ニューロンのサブグループと機能的脳ネットワーク(FBN)を直接結合することで、このギャップを埋める。
このフレームワークはANサブグループをFBNにリンクし、大きな言語モデル(LLM)内で脳に似た機能的組織を記述できる。
論文 参考訳（メタデータ） (2024-10-25T13:15:17Z) - Brain-Aware Readout Layers in GNNs: Advancing Alzheimer's early Detection and Neuroimaging [1.074960192271861]
本研究では,グラフニューラルネットワーク(GNN)のための新しい脳認識読み出し層(BA読み出し層)を提案する。
機能的接続とノード埋め込みに基づく脳領域のクラスタリングによって、このレイヤは、複雑な脳ネットワーク特性をキャプチャするGNNの機能を改善する。
以上の結果から,BA読み出し層を有するGNNは,プレクリニカルアルツハイマー認知複合度(PACC)の予測において,従来のモデルよりも有意に優れていた。
論文 参考訳（メタデータ） (2024-10-03T05:04:45Z) - BrainMAE: A Region-aware Self-supervised Learning Framework for Brain Signals [11.030708270737964]
本稿では,fMRI時系列データから直接表現を学習するBrain Masked Auto-Encoder(BrainMAE)を提案する。
BrainMAEは、4つの異なる下流タスクにおいて、確立されたベースラインメソッドをかなりのマージンで一貫して上回っている。
論文 参考訳（メタデータ） (2024-06-24T19:16:24Z) - Interpretable Spatio-Temporal Embedding for Brain Structural-Effective Network with Ordinary Differential Equation [56.34634121544929]
本研究では,まず動的因果モデルを用いて脳効果ネットワークを構築する。
次に、STE-ODE(Spatio-Temporal Embedding ODE)と呼ばれる解釈可能なグラフ学習フレームワークを導入する。
このフレームワークは、構造的および効果的なネットワーク間の動的相互作用を捉えることを目的とした、特異的に設計されたノード埋め込み層を含んでいる。
論文 参考訳（メタデータ） (2024-05-21T20:37:07Z) - MindBridge: A Cross-Subject Brain Decoding Framework [60.58552697067837]
脳の復号化は、獲得した脳信号から刺激を再構築することを目的としている。
現在、脳の復号化はモデルごとのオブジェクトごとのパラダイムに限られている。
我々は,1つのモデルのみを用いることで,オブジェクト間脳デコーディングを実現するMindBridgeを提案する。
論文 参考訳（メタデータ） (2024-04-11T15:46:42Z) - Explainable fMRI-based Brain Decoding via Spatial Temporal-pyramid Graph
Convolutional Network [0.8399688944263843]
既存のfMRIベースの脳デコードのための機械学習手法は、分類性能が低いか、説明性が悪いかのいずれかに悩まされている。
本稿では,機能的脳活動の時空間グラフ表現を捉えるために,生物学的にインスパイアされたアーキテクチャである時空間ピラミドグラフ畳み込みネットワーク(STpGCN)を提案する。
我々は,Human Connectome Project (HCP) S1200から23の認知タスク下でのfMRIデータに関する広範な実験を行った。
論文 参考訳（メタデータ） (2022-10-08T12:14:33Z) - CogNGen: Constructing the Kernel of a Hyperdimensional Predictive
Processing Cognitive Architecture [79.07468367923619]
神経生物学的に妥当な2つの計算モデルを組み合わせた新しい認知アーキテクチャを提案する。
我々は、現代の機械学習技術の力を持つ認知アーキテクチャを開発することを目指している。
論文 参考訳（メタデータ） (2022-03-31T04:44:28Z) - Ranking of Communities in Multiplex Spatiotemporal Models of Brain
Dynamics [0.0]
隠れマルコフグラフモデル(HMs)と呼ぶ多重脳状態グラフモデルとして、ニューラルHMMの解釈を提案する。
この解釈により、ネットワーク分析技術の完全なレパートリーを使用して、動的脳活動を分析することができる。
ランダムウォークに基づく手法を用いて,脳領域の重要なコミュニティを決定するための新しいツールを開発した。
論文 参考訳（メタデータ） (2022-03-17T12:14:09Z) - Towards a Neural Model for Serial Order in Frontal Cortex: a Brain
Theory from Memory Development to Higher-Level Cognition [53.816853325427424]
そこで本研究では,未熟な前頭前野 (PFC) が側頭葉信号の階層的パターンを検出する主要な機能を利用していることを提案する。
我々の仮説では、PFCは順序パターンの形で時間的配列の階層構造を検出し、それらを脳の異なる部分で階層的に情報をインデックスするために利用する。
これにより、抽象的な知識を操作し、時間的に順序付けられた情報を計画するための言語対応の脳にツールを提供する。
論文 参考訳（メタデータ） (2020-05-22T14:29:51Z) - A Graph Gaussian Embedding Method for Predicting Alzheimer's Disease
Progression with MEG Brain Networks [59.15734147867412]
アルツハイマー病(AD)に関連する機能的脳ネットワークの微妙な変化を特徴付けることは、疾患進行の早期診断と予測に重要である。
我々は、多重グラフガウス埋め込みモデル(MG2G)と呼ばれる新しいディープラーニング手法を開発した。
我々はMG2Gを用いて、MEG脳ネットワークの内在性潜在性次元を検出し、軽度認知障害(MCI)患者のADへの進行を予測し、MCIに関連するネットワーク変化を伴う脳領域を同定した。
論文 参考訳（メタデータ） (2020-05-08T02:29:24Z) - Towards a predictive spatio-temporal representation of brain data [0.2580765958706854]
fMRIデータセットは複雑でヘテロジニアスな時系列で構成されていることを示す。
深層学習と幾何学的深層学習の様々なモデリング手法を比較し,今後の研究の道を開く。
私たちは、私たちの方法論の進歩が最終的に、健康と病気の脳のダイナミクスをより微妙に理解することで、臨床的および計算学的に関連があることを期待しています。
論文 参考訳（メタデータ） (2020-02-29T18:49:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。