論文の概要: BolT: Fused Window Transformers for fMRI Time Series Analysis
- arxiv url: http://arxiv.org/abs/2205.11578v1
- Date: Mon, 23 May 2022 19:17:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-25 15:23:50.346031
- Title: BolT: Fused Window Transformers for fMRI Time Series Analysis
- Title（参考訳）: BolT:fMRI時系列解析のためのウィンドウ変換器
- Authors: Hasan Atakan Bedel, Irmak \c{S}{\i}vg{\i}n, Onat Dalmaz, Salman Ul
Hassan Dar, Tolga \c{C}ukur
- Abstract要約: 血液酸素レベル依存型トランスフォーマであるBolTをfMRI時系列解析のために提案する。
ウィンドウをまたいだ情報を統合するために、隣接する時間ウィンドウのベーストークンとフランジトークンの間で、クロスウィンドウアテンションが計算される。
公開fMRIデータセットの実験は、最先端の手法に対するBolTの優れた性能を明らかに示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Functional magnetic resonance imaging (fMRI) enables examination of
inter-regional interactions in the brain via functional connectivity (FC)
analyses that measure the synchrony between the temporal activations of
separate regions. Given their exceptional sensitivity, deep-learning methods
have received growing interest for FC analyses of high-dimensional fMRI data.
In this domain, models that operate directly on raw time series as opposed to
pre-computed FC features have the potential benefit of leveraging the full
scale of information present in fMRI data. However, previous models are based
on architectures suboptimal for temporal integration of representations across
multiple time scales. Here, we present BolT, blood-oxygen-level-dependent
transformer, for analyzing multi-variate fMRI time series. BolT leverages a
cascade of transformer encoders equipped with a novel fused window attention
mechanism. Transformer encoding is performed on temporally-overlapped time
windows within the fMRI time series to capture short time-scale
representations. To integrate information across windows, cross-window
attention is computed between base tokens in each time window and fringe tokens
from neighboring time windows. To transition from local to global
representations, the extent of window overlap and thereby number of fringe
tokens is progressively increased across the cascade. Finally, a novel
cross-window regularization is enforced to align the high-level representations
of global $CLS$ features across time windows. Comprehensive experiments on
public fMRI datasets clearly illustrate the superior performance of BolT
against state-of-the-art methods. Posthoc explanatory analyses to identify
landmark time points and regions that contribute most significantly to model
decisions corroborate prominent neuroscientific findings from recent fMRI
studies.
- Abstract（参考訳）: 機能的磁気共鳴イメージング(fMRI)は、別々の領域の時間的アクティベーション間の同期を測定する機能的接続(FC)分析を通じて、脳内の領域間相互作用の検査を可能にする。
優れた感度を持つ深層学習法は,高次元fMRIデータのFC解析への関心が高まっている。
この領域では、事前計算されたFC特徴とは対照的に、生の時系列で直接動作するモデルは、fMRIデータに存在する情報の完全なスケールを利用する利点がある。
しかし、以前のモデルは複数の時間スケールにわたる表現の時間的統合に最適化されたアーキテクチャに基づいている。
本稿では多変量fmri時系列解析のためのbolt-oxygen-level-dependent transformerを提案する。
BolTは、新しい融合ウィンドウアテンション機構を備えたトランスフォーマーエンコーダのカスケードを利用する。
fmri時系列内の時間オーバーラップされた時間窓上でトランスフォーマーエンコーディングを行い、短時間の時間スケール表現をキャプチャする。
ウィンドウをまたいだ情報を統合するために、隣接する時間ウィンドウのベーストークンとフランジトークンの間で、クロスウィンドウアテンションが計算される。
局所的な表現からグローバルな表現への移行には、ウィンドウの重複度とフランセントトークンの数がカスケード全体で徐々に増加する。
最後に、グローバル$cls$の高レベルな表現をタイムウィンドウに合わせるために、新しいクロスウィンドウ正規化が施行される。
公開fMRIデータセットに関する総合的な実験は、最先端の手法に対するBolTの優れた性能を明らかに示している。
モデル決定に最も寄与するランドマーク点と領域を特定するためのポストホック説明分析は、最近のfMRI研究から顕著な神経科学的な発見を裏付けるものである。
関連論文リスト
- MMR-Mamba: Multi-Modal MRI Reconstruction with Mamba and Spatial-Frequency Information Fusion [17.084083262801737]
MMR-MambaはMRI再建のためのマルチモーダル機能を完全にかつ効率的に統合する新しいフレームワークである。
具体的には,空間領域におけるTCM(Target modality-guided Cross Mamba)モジュールの設計を行う。
次に、フーリエ領域におけるグローバル情報を効率的に統合するための選択周波数融合(SFF)モジュールを提案する。
論文 参考訳（メタデータ） (2024-06-27T07:30:54Z) - Score-CDM: Score-Weighted Convolutional Diffusion Model for Multivariate Time Series Imputation [0.035984704795350306]
MTS(Multivariant Time Series)データは通常、実際のシナリオでは不完全である。
本稿では,Score-weighted Convolutional Diffusion Model (Score-CDM)を提案する。背骨はScore-weighted Convolution Module (SCM)とAdaptive Reception Module (ARM)から構成される。
我々は,異なる領域の3つの実MCSデータセットに対して広範囲に評価を行い,提案したScore-CDMの有効性を検証する。
論文 参考訳（メタデータ） (2024-05-21T02:00:55Z) - Fully-Connected Spatial-Temporal Graph for Multivariate Time-Series Data [50.84488941336865]
完全時空間グラフニューラルネットワーク(FC-STGNN)という新しい手法を提案する。
グラフ構築のために、時間的距離に基づいて、すべてのタイムスタンプにセンサーを接続する減衰グラフを設計する。
グラフ畳み込みのために,移動プールGNN層を用いたFCグラフ畳み込みを考案し,ST依存性を効果的に把握し,効率的な表現を学習する。
論文 参考訳（メタデータ） (2023-09-11T08:44:07Z) - Coupled Attention Networks for Multivariate Time Series Anomaly
Detection [10.620044922371177]
多変量時系列データにおける異常検出のためのアテンションベースニューラルネットワークフレームワーク(CAN)を提案する。
センサ間の関係と時間的依存関係をキャプチャするために、グローバルローカルグラフに基づく畳み込みニューラルネットワークを時間的自己認識モジュールに統合する。
論文 参考訳（メタデータ） (2023-06-12T13:42:56Z) - Diagnostic Spatio-temporal Transformer with Faithful Encoding [54.02712048973161]
本稿では,データ生成プロセスが複合時間(ST)依存性を持つ場合の異常診断の課題について述べる。
我々は、ST依存を時系列分類の副産物として学習する、教師付き依存発見として問題を定式化する。
既存のST変圧器で使用される時間的位置符号化は、高周波数(短時間スケール)の周波数をキャプチャする重大な制限を有することを示す。
また、空間的および時間的方向の両方で容易に消費可能な診断情報を提供する新しいST依存性発見フレームワークを提案する。
論文 参考訳（メタデータ） (2023-05-26T05:31:23Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳（メタデータ） (2022-11-26T01:56:05Z) - HyperTime: Implicit Neural Representation for Time Series [131.57172578210256]
暗黙の神経表現(INR)は、データの正確で解像度に依存しないエンコーディングを提供する強力なツールとして最近登場した。
本稿では、INRを用いて時系列の表現を分析し、再構成精度とトレーニング収束速度の点で異なるアクティベーション関数を比較した。
本稿では,INRを利用して時系列データセット全体の圧縮潜在表現を学習するハイパーネットワークアーキテクチャを提案する。
論文 参考訳（メタデータ） (2022-08-11T14:05:51Z) - Contrastive predictive coding for Anomaly Detection in Multi-variate
Time Series Data [6.463941665276371]
本稿では,MVTSデータにおける異常検出に向けて,TRL-CPC(Contrastive Predictive Coding)を用いた時系列表現学習を提案する。
まず,エンコーダ,自動回帰器,非線形変換関数を共同で最適化し,MVTSデータセットの表現を効果的に学習する。
論文 参考訳（メタデータ） (2022-02-08T04:25:29Z) - Temporal Memory Relation Network for Workflow Recognition from Surgical
Video [53.20825496640025]
本研究では, 長期および多スケールの時間パターンを関連づける, エンドツーエンドの時間メモリ関係ネットワーク (TMNet) を提案する。
我々はこのアプローチを2つのベンチマーク手術ビデオデータセットで広範囲に検証した。
論文 参考訳（メタデータ） (2021-03-30T13:20:26Z) - Spectral Temporal Graph Neural Network for Multivariate Time-series
Forecasting [19.50001395081601]
StemGNNはシリーズ間の相関と時間的依存関係をキャプチャする。
畳み込みと逐次学習モジュールによって効果的に予測できる。
StemGNNの有効性を示すために、10の実世界のデータセットに関する広範な実験を実施します。
論文 参考訳（メタデータ） (2021-03-13T13:44:20Z) - Multi-Temporal Convolutions for Human Action Recognition in Videos [83.43682368129072]
複数の解像度で抽出できる新しい時間・時間的畳み込みブロックを提案する。
提案するブロックは軽量で,任意の3D-CNNアーキテクチャに統合可能である。
論文 参考訳（メタデータ） (2020-11-08T10:40:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。