論文の概要: Flattening the Connectome Spectrum: A Spectral Filter for FC Induces a Pretraining Target for fMRI Encoders
- arxiv url: http://arxiv.org/abs/2609.37642v1
- Date: Tue, 29 Sep 2026 14:12:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.604359
- Title: Flattening the Connectome Spectrum: A Spectral Filter for FC Induces a Pretraining Target for fMRI Encoders
- Title(参考訳): コネクトームスペクトルのフラット化:fMRIエンコーダの事前学習目標を誘導するFC用スペクトルフィルタ
- Abstract要約: 言語と視覚における自己指導型事前学習予測と脳基盤モデル(BFM)はその約束を継承した。
ファンクショナル・コネクショナル・コネクショナル・コネクティビティ(FC)の行列に適合するカーネル・リッジの回帰は、テストしたどのBFMよりも正確に個々の表現型を予測できることを示す。
我々は,各被験者のFC行列の固有値を再検討するために,効率的なスペクトルフィルタを適用し,より個人間ばらつきを生かしたモデルを提案する。
- 参考スコア(独自算出の注目度): 3.3548757628577612
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised pretraining reshaped prediction in language and vision, and brain foundation models (BFMs) inherited its promise. Representations learned from large unlabelled corpora should capture individual functional dynamics and generalise across cohorts. However, kernel ridge regression (KRR) fitted on functional connectivity (FC) matrices still predicts individual phenotypes more accurately than any BFM we tested. In this paper, we show that KRR is weighted by the eigenvalues of the FC which are miscalibrated for phenotype prediction. We apply an efficient spectral filter to recalibrate the eigenvalues of each subject's FC matrix, enabling the model to exploit more inter-individual variance. Across the 5 datasets, 11 parcellations and 6 prediction targets we tested, we match or exceed the KRR baseline. Based on this finding, we then pretrain a small encoder model on about 4,000 hours of fMRI from 162 open datasets, whereby we align the pairwise similarities between the embeddings of recording snippets with those between the recalibrated connectomes. Our model performs on par with the best of the 6 published BFMs we tested while having an order of magnitude fewer parameters. Our encoder performs better than FC on short scans and in smaller cohorts, especially in fingerprinting. We release the pretrained model weights, the code and the pretraining data, preprocessed and parcellated.
- Abstract(参考訳): 言語と視覚における自己指導型事前学習予測と脳基盤モデル(BFM)はその約束を継承した。
大きめの未ラベルコーパスから学んだ表現は、個々の機能的ダイナミクスを捉え、コホートをまたいで一般化するべきである。
しかしながら、機能接続(FC)行列に適合したカーネルリッジ回帰(KRR)は、テストしたどのBFMよりも正確に個々の表現型を予測する。
本稿では,KRRが表現型予測のために誤校正されたFCの固有値によって重み付けされていることを示す。
我々は,各被験者のFC行列の固有値を再検討するために,効率的なスペクトルフィルタを適用し,より個人間ばらつきを生かしたモデルを提案する。
テストした5つのデータセット、11のパーセレーション、6つの予測ターゲットにわたって、私たちはKRRベースラインにマッチするか、超えています。
この結果に基づき、162個のオープンデータセットから約4000時間のfMRIで小さなエンコーダモデルを事前訓練し、記録スニペットの埋め込みと再校正したコネクトーム間の相互類似性を整列する。
我々のモデルは、我々がテストした6つの公表されたBFMのうち、桁違いに少ないパラメータを持つのと同等に動作します。
我々のエンコーダは、短いスキャンや小さなコホート、特に指紋認証において、FCよりも優れています。
トレーニング済みのモデルウェイト、コード、トレーニング済みのデータ、事前処理とパーセレーションをリリースします。
関連論文リスト
- FreqCondNorm: Towards Cross-domain Predictive Maintenance through a Frequency-Conditioned Transformer Foundation Model [0.0]
深い予測的メンテナンスモデルは、マシン間の転送可能性の低下と運用条件に悩まされる。
本稿では,FreqCondNormを提案する。FreqCondNormは,FILM方式の周波数正規化層を導入するトランスフォーマーアーキテクチャである。
アーキテクチャは5つのパブリックな予測メンテナンスデータセットで事前トレーニングされている。
論文 参考訳(メタデータ) (2026-09-17T15:07:43Z) - Generative Augmentation for EEG Motor Imagery Classification: A Class-Conditional VAE with Cycle-Consistent Decoder Refinement [2.3270574907955286]
生成モデルが有用な人工運動画像(MI)の脳波検査(EEG)に有効かどうかを検討する。
本研究は,Zhouモータ画像データセットに潜在型分類器を組み込んだクラス条件変分オートエンコーダ(CVAE)を訓練する。
結果は、独立した拡張ドロー、ランダムな種(ユーザ内)、あるいはout-one-subject-out フォルダに集約される。
論文 参考訳(メタデータ) (2026-07-22T12:16:16Z) - The Variance Brain Foundation Models Forgot: Third-Order Statistics Predict Cognition Where Billion-Parameter Models Fail [1.64820293573702]
脳基礎モデル(BFM)は、fMRIデータに基づいて事前訓練された自己教師型トランスフォーマーである。
3つの最先端のBFMと我々がテストするすべての読み出しは、関数接続行列(FC)の$sim$80Kパラメータからの線形回帰よりも認識を悪く予測する。
我々は、fMRI信号をそのコキューネスを最もよく保存する部分空間に投影する線形パイプラインを設計し、そこでFCを計算する。
論文 参考訳(メタデータ) (2026-05-29T23:57:21Z) - Diffusion Language Models are Super Data Learners [61.721441061210896]
ユニークなデータが限られている場合、拡散言語モデル(DLM)は、よりエポックなトレーニングによって、常に自己回帰モデル(AR)を上回ります。
本研究の目的は,(1) 任意の次数モデリング,(2) 反復的双方向 denoising からの超高次計算,(3) モンテカルロ増分という3つの複合的要因に起因する。
論文 参考訳(メタデータ) (2025-11-05T08:17:42Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Advancing Tabular Stroke Modelling Through a Novel Hybrid Architecture and Feature-Selection Synergy [0.9999629695552196]
本研究は、ストロークを予測するように設計されたデータ駆動型、解釈可能な機械学習フレームワークを開発し、検証する。
定期的に収集された人口統計、生活習慣、臨床変数は4,981件の公的なコホートから得られた。
提案したモデルでは精度97.2%、F1スコア97.15%が達成され、先行する個人モデルと比較して大幅に向上した。
論文 参考訳(メタデータ) (2025-05-18T21:46:45Z) - No "Zero-Shot" Without Exponential Data: Pretraining Concept Frequency Determines Multimodal Model Performance [68.18779562801762]
マルチモーダルモデルは、下流の"ゼロショット"のパフォーマンスを線形改善するために、指数関数的に多くのデータを必要とする。
本研究は,大規模な訓練パラダイムの下での「ゼロショット」一般化能力の鍵となる訓練データに対する指数関数的要求を明らかにする。
論文 参考訳(メタデータ) (2024-04-04T17:58:02Z) - MELEP: A Novel Predictive Measure of Transferability in Multi-Label ECG Diagnosis [1.3654846342364306]
本稿では,事前学習したモデルから下流のECG診断タスクへの知識伝達の有効性を推定する手段であるMELEPを紹介する。
実験により、MELEPは、小・不均衡のECGデータに基づいて、事前学習した畳み込みと繰り返しの深部ニューラルネットワークの性能を予測できることを示した。
論文 参考訳(メタデータ) (2023-10-27T14:57:10Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。