Fugu-MT 論文翻訳(概要): Self-Supervised Pre-training Tasks for an fMRI Time-series Transformer in Autism Detection

論文の概要: Self-Supervised Pre-training Tasks for an fMRI Time-series Transformer in Autism Detection

arxiv url: http://arxiv.org/abs/2409.12304v1
Date: Wed, 18 Sep 2024 20:29:23 GMT
ステータス: 処理完了
システム内更新日: 2024-11-07 15:26:10.205365
Title: Self-Supervised Pre-training Tasks for an fMRI Time-series Transformer in Autism Detection
Title（参考訳）: 自閉症検出におけるfMRI時系列変換器の自己改善事前訓練課題
Authors: Yinchi Zhou, Peiyu Duan, Yuexi Du, Nicha C. Dvornek,
Abstract要約: 自閉症スペクトラム障害(Autism Spectrum disorder、ASD)は、様々な症状や障害の程度を包含する神経発達障害である。我々は,関数接続を計算せずに時系列fMRIデータを直接解析するトランスフォーマーベースの自己教師型フレームワークを開発した。ランダムにROIをマスキングすると、トレーニング前のステップでランダムにマスキングする時間ポイントよりも、モデル性能が向上することを示す。
参考スコア（独自算出の注目度）: 3.665816629105171
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Autism Spectrum Disorder (ASD) is a neurodevelopmental condition that encompasses a wide variety of symptoms and degrees of impairment, which makes the diagnosis and treatment challenging. Functional magnetic resonance imaging (fMRI) has been extensively used to study brain activity in ASD, and machine learning methods have been applied to analyze resting state fMRI (rs-fMRI) data. However, fewer studies have explored the recent transformer-based models on rs-fMRI data. Given the superiority of transformer models in capturing long-range dependencies in sequence data, we have developed a transformer-based self-supervised framework that directly analyzes time-series fMRI data without computing functional connectivity. To address over-fitting in small datasets and enhance the model performance, we propose self-supervised pre-training tasks to reconstruct the randomly masked fMRI time-series data, investigating the effects of various masking strategies. We then finetune the model for the ASD classification task and evaluate it using two public datasets and five-fold cross-validation with different amounts of training data. The experiments show that randomly masking entire ROIs gives better model performance than randomly masking time points in the pre-training step, resulting in an average improvement of 10.8% for AUC and 9.3% for subject accuracy compared with the transformer model trained from scratch across different levels of training data availability. Our code is available on GitHub.
Abstract（参考訳）: 自閉症スペクトラム障害(Autism Spectrum disorder、ASD)は、様々な症状や障害度を包含する神経発達障害であり、診断と治療を困難にしている。機能的磁気共鳴画像(fMRI)は、ASDにおける脳活動の研究に広く使われ、機械学習法は、静止状態fMRI(rs-fMRI)データを解析するために応用されている。しかし、最近のRS-fMRIデータに基づくトランスフォーマーモデルの研究は少ない。シーケンスデータの長距離依存性をキャプチャする上で,トランスフォーマーモデルが優れていることを考慮し,関数接続を計算せずに時系列fMRIデータを直接解析するトランスフォーマーベースの自己組織化フレームワークを開発した。小データセットにおける過度な適合に対処し、モデル性能を向上させるために、ランダムにマスキングされたfMRI時系列データを再構成するための自己教師付き事前学習タスクを提案し、様々なマスキング戦略の効果について検討する。次に、ASD分類タスクのモデルを微調整し、2つの公開データセットと、異なる量のトレーニングデータによる5倍のクロスバリデーションを用いて評価する。実験の結果、ROI全体をランダムにマスキングすると、トレーニング前の段階でランダムにマスキングする時間よりもモデル性能が向上し、AUCが10.8%、被験者の精度が9.3%向上した。私たちのコードはGitHubで入手可能です。

関連論文リスト

The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文参考訳（メタデータ） (2023-09-13T10:40:41Z)
Learning Sequential Information in Task-based fMRI for Synthetic Data Augmentation [10.629487323161323]
本稿では、下流学習における強化トレーニングデータセットの作成に使用できる合成fMRIシーケンスの生成手法を提案する。合成画像は、可視化や自閉症スペクトラム障害(ASD)分類タスクを含む複数の視点から評価される。
論文参考訳（メタデータ） (2023-08-29T18:36:21Z)
Source-Free Collaborative Domain Adaptation via Multi-Perspective Feature Enrichment for Functional MRI Analysis [55.03872260158717]
安静時MRI機能(rs-fMRI)は、神経疾患の分析を助けるために多地点で研究されている。ソース領域とターゲット領域の間のfMRIの不均一性を低減するための多くの手法が提案されている。しかし、マルチサイト研究における懸念やデータストレージの負担のため、ソースデータの取得は困難である。我々は、fMRI解析のためのソースフリー協調ドメイン適応フレームワークを設計し、事前訓練されたソースモデルとラベルなしターゲットデータのみにアクセスできるようにする。
論文参考訳（メタデータ） (2023-08-24T01:30:18Z)
Robust Fiber ODF Estimation Using Deep Constrained Spherical Deconvolution for Diffusion MRI [7.9283612449524155]
測定したDW-MRI信号をモデル化するための一般的なプラクティスは、繊維配向分布関数(fODF)である。 DW-MRIの取得において、測定変数(サイト内およびサイト内変動、ハードウェア性能、シーケンス設計など)は避けられない。既存のモデルベース手法(例えば、制約付き球面デコンボリューション(CSD))や学習ベース手法(例えば、ディープラーニング(DL))は、fODFモデリングにおいてそのような変動を明示的に考慮していない。本稿では,データ駆動型深部制約付き球面デコンボリューション法を提案する。
論文参考訳（メタデータ） (2023-06-05T14:06:40Z)
Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。 CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文参考訳（メタデータ） (2023-05-30T08:24:01Z)
Sequential Transfer Learning to Decode Heard and Imagined Timbre from fMRI Data [0.0]
機能的磁気共鳴イメージング(fMRI)データを用いたトランスフォーマーのシーケンシャルトランスフォーメーション学習フレームワークを提案する。第1フェーズでは、Next Thought Prediction上でスタック化されたエンコーダ変換アーキテクチャを事前訓練する。第2フェーズでは、同じ音色を聴きながら、fMRIデータの2つのシーケンスが記録されたかどうかを予測する教師付きタスクにおいて、モデルを微調整し、新たなモデルを訓練する。
論文参考訳（メタデータ） (2023-05-22T16:58:26Z)
Self-Supervised Pretraining on Paired Sequences of fMRI Data for Transfer Learning to Brain Decoding Tasks [0.0]
機能的磁気共鳴イメージング(fMRI)データにおけるトランスフォーマーのための自己教師付き事前学習フレームワークを提案する。まず,音楽聴取時の人間の聴覚野の時間的・空間的ダイナミクスの一般的な理解をモデルに教える。第二に、訓練済みのモデルを微調整し、教師付きfMRI分類タスクで新たなモデルを訓練する。
論文参考訳（メタデータ） (2023-05-15T22:53:12Z)
Efficiently Training Vision Transformers on Structural MRI Scans for Alzheimer's Disease Detection [2.359557447960552]
ビジョントランスフォーマー(ViT)は近年、コンピュータビジョンアプリケーションのためのCNNの代替として登場した。難易度に基づいて,脳神経画像の下流タスクに対するViTアーキテクチャの変種を検証した。合成および実MRIスキャンで事前訓練した微調整型視覚変換器モデルを用いて、5%と9-10%の性能向上を実現した。
論文参考訳（メタデータ） (2023-03-14T20:18:12Z)
Pre-training and Fine-tuning Transformers for fMRI Prediction Tasks [69.85819388753579]
TFFはトランスフォーマーベースのアーキテクチャと2フェーズのトレーニングアプローチを採用している。自己教師付きトレーニングは、fMRIスキャンのコレクションに適用され、モデルが3Dボリュームデータの再構成のために訓練される。その結果、年齢や性別の予測、統合失調症認知など、さまざまなfMRIタスクにおける最先端のパフォーマンスが示された。
論文参考訳（メタデータ） (2021-12-10T18:04:26Z)
Fader Networks for domain adaptation on fMRI: ABIDE-II study [68.5481471934606]
我々は3次元畳み込みオートエンコーダを用いて、無関係な空間画像表現を実現するとともに、ABIDEデータ上で既存のアプローチより優れていることを示す。
論文参考訳（メタデータ） (2020-10-14T16:50:50Z)
Improved Slice-wise Tumour Detection in Brain MRIs by Computing Dissimilarities between Latent Representations [68.8204255655161]
磁気共鳴画像(MRI)の異常検出は教師なし手法で行うことができる。本研究では,変分オートエンコーダの潜伏空間における相似関数の計算に基づいて,腫瘍検出のためのスライスワイズ半教師法を提案する。本研究では,高解像度画像上でのモデルをトレーニングし,再現の質を向上させることにより,異なるベースラインに匹敵する結果が得られることを示す。
論文参考訳（メタデータ） (2020-07-24T14:02:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。