論文の概要: Domain Aware Multi-Task Pretraining of 3D Swin Transformer for T1-weighted Brain MRI

• arxiv url: http://arxiv.org/abs/2410.00410v1
• Date: Tue, 1 Oct 2024 05:21:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-05 05:46:46.175655
• Title: Domain Aware Multi-Task Pretraining of 3D Swin Transformer for T1-weighted Brain MRI
• Title（参考訳）: T1強調脳MRIにおける3次元スウィントランスのマルチタスク前処理
• Authors: Jonghun Kim, Mansu Kim, Hyunjin Park,
• Abstract要約: 脳磁気共鳴画像(MRI)のための3次元スイム変換器の事前訓練のためのドメイン認識型マルチタスク学習タスクを提案する。 脳の解剖学と形態学を取り入れた脳MRIの領域知識と、対照的な学習環境での3Dイメージングに適応した標準的な前提課題を考察した。 本手法は,アルツハイマー病の分類,パーキンソン病の分類,年齢予測の3つの下流課題において,既存の指導的・自己監督的手法よりも優れていた。
• 参考スコア（独自算出の注目度）: 4.453300553789746
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The scarcity of annotated medical images is a major bottleneck in developing learning models for medical image analysis. Hence, recent studies have focused on pretrained models with fewer annotation requirements that can be fine-tuned for various downstream tasks. However, existing approaches are mainly 3D adaptions of 2D approaches ill-suited for 3D medical imaging data. Motivated by this gap, we propose novel domain-aware multi-task learning tasks to pretrain a 3D Swin Transformer for brain magnetic resonance imaging (MRI). Our method considers the domain knowledge in brain MRI by incorporating brain anatomy and morphology as well as standard pretext tasks adapted for 3D imaging in a contrastive learning setting. We pretrain our model using large-scale brain MRI data of 13,687 samples spanning several large-scale databases. Our method outperforms existing supervised and self-supervised methods in three downstream tasks of Alzheimer's disease classification, Parkinson's disease classification, and age prediction tasks. The ablation study of the proposed pretext tasks shows the effectiveness of our pretext tasks.
• Abstract（参考訳）: 注釈付医用画像の不足は、医用画像解析のための学習モデルを開発する上で、大きなボトルネックとなっている。 したがって、近年の研究は、様々な下流タスクに対して微調整できるアノテーションの要求が少ない事前訓練されたモデルに焦点を当てている。 しかし、既存のアプローチは、主に3次元医用画像データに不適な2次元アプローチの3次元適応である。 脳磁気共鳴画像(MRI)のための3Dスウィントランスフォーマーを事前訓練するためのドメイン認識型マルチタスク学習タスクを提案する。 脳の解剖学と形態学を取り入れた脳MRIの領域知識と、対照的な学習環境での3Dイメージングに適応した標準的な前提課題を考察した。 複数の大規模データベースにまたがる13,687サンプルの大規模な脳MRIデータを用いて,我々のモデルを事前訓練する。 本手法は,アルツハイマー病の分類,パーキンソン病の分類,年齢予測の3つの下流課題において,既存の指導的・自己監督的手法よりも優れていた。 提案したプレテキストタスクのアブレーション研究は,我々のプレテキストタスクの有効性を示す。

関連論文リスト

• Brain3D: Generating 3D Objects from fMRI [76.41771117405973]
  被験者のfMRIデータを入力として利用する新しい3Dオブジェクト表現学習手法であるBrain3Dを設計する。 我々は,人間の視覚系の各領域の異なる機能的特徴を,我々のモデルが捉えていることを示す。 予備評価は、Brain3Dがシミュレーションシナリオで障害した脳領域を正常に識別できることを示唆している。
  論文  参考訳（メタデータ） (2024-05-24T06:06:11Z)
• MiM: Mask in Mask Self-Supervised Pre-Training for 3D Medical Image Analysis [9.227314308722047]
  Mask AutoEncoder (MAE) for feature pre-trainingは、様々な医療ビジョンタスクにViTの可能性を解き放つことができる。 本研究では,3次元医用画像の事前学習フレームワークであるMask in Mask(MiM)を提案する。
  論文  参考訳（メタデータ） (2024-04-24T01:14:33Z)
• Generative Enhancement for 3D Medical Images [74.17066529847546]
  本稿では,3次元医用画像合成の新しい生成手法であるGEM-3Dを提案する。 本手法は2次元スライスから始まり,3次元スライスマスクを用いて患者に提供するための情報スライスとして機能し,生成過程を伝搬する。 3D医療画像をマスクと患者の事前情報に分解することで、GEM-3Dは多目的な3D画像を生成する柔軟な、かつ効果的なソリューションを提供する。
  論文  参考訳（メタデータ） (2024-03-19T15:57:04Z)
• Video and Synthetic MRI Pre-training of 3D Vision Architectures for Neuroimage Analysis [3.208731414009847]
  トランスファーラーニングは、特定のタスクに適応するために、大規模なデータコーパスでディープラーニングモデルを事前訓練することを含む。 視覚変換器 (ViTs) と畳み込みニューラルネットワーク (CNNs) のベンチマークを行った。 得られた事前訓練されたモデルは、ターゲットタスクのトレーニングデータが制限されている場合でも、さまざまな下流タスクに適応することができる。
  論文  参考訳（メタデータ） (2023-09-09T00:33:23Z)
• Disruptive Autoencoders: Leveraging Low-level features for 3D Medical Image Pre-training [51.16994853817024]
  本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。 ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。 提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-07-31T17:59:42Z)
• LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical Imaging via Second-order Graph Matching [59.01894976615714]
  LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。 55の公開データセットから約13万の医療画像を収集しました。 LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
  論文  参考訳（メタデータ） (2023-06-20T22:21:34Z)
• 3-Dimensional Deep Learning with Spatial Erasing for Unsupervised Anomaly Segmentation in Brain MRI [55.97060983868787]
  我々は,MRIボリュームと空間消去を組み合わせた空間文脈の増大が,教師なしの異常セグメンテーション性能の向上に繋がるかどうかを検討する。 本稿では,2次元変分オートエンコーダ(VAE)と3次元の相違点を比較し,3次元入力消去を提案し,データセットサイズが性能に与える影響を体系的に検討する。 入力消去による最高の3D VAEは、平均DICEスコアが31.40%となり、2D VAEは25.76%となった。
  論文  参考訳（メタデータ） (2021-09-14T09:17:27Z)
• Medical Transformer: Universal Brain Encoder for 3D MRI Analysis [1.6287500717172143]
  既存の3Dベースの手法は、トレーニング済みのモデルを下流のタスクに転送している。 彼らは3D医療イメージングのためのモデルを訓練するために大量のパラメータを要求します。 本稿では,2次元画像スライス形式で3次元容積画像を効果的にモデル化する,メディカルトランスフォーマーと呼ばれる新しい伝達学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-28T08:34:21Z)
• 3D Convolutional Neural Networks for Stalled Brain Capillary Detection [72.21315180830733]
  脳毛細血管の血流停止などの脳血管障害は、アルツハイマー病の認知機能低下と病態形成と関連している。 本稿では,3次元畳み込みニューラルネットワークを用いた脳画像中の毛細血管の自動検出のための深層学習に基づくアプローチについて述べる。 本手法は,他の手法よりも優れ,0.85マシューズ相関係数,85%感度,99.3%特異性を達成した。
  論文  参考訳（メタデータ） (2021-04-04T20:30:14Z)
• Leveraging 3D Information in Unsupervised Brain MRI Segmentation [1.6148039130053087]
  Unsupervised Anomaly Detection (UAD) 法を提案し,Variational Autoencoder (VAE) を用いて学習した健常モデルの異常を検出する。 本稿では,UADを3D方式で実行し,2Dと3DのVAEを比較することを提案する。 サイドコントリビューションとして、堅牢なトレーニングを保証する新しい損失機能を紹介します。 学習は、健康な脳MRIの多心性データセットを使用して行われ、白マター高輝度および腫瘍病変のセグメント化性能が推定される。
  論文  参考訳（メタデータ） (2021-01-26T10:04:57Z)
• 3D Self-Supervised Methods for Medical Imaging [7.65168530693281]
  本稿では,プロキシタスクの形式で,5種類の自己教師型手法の3次元バージョンを提案する。 提案手法は,未ラベルの3次元画像からニューラルネットワークの特徴学習を容易にし,専門家のアノテーションに必要なコストを削減することを目的としている。 開発したアルゴリズムは、3D Contrastive Predictive Coding, 3D Rotation Prediction, 3D Jigsaw puzzles, Relative 3D patch location, 3D Exemplar Networkである。
  論文  参考訳（メタデータ） (2020-06-06T09:56:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。