論文の概要: Medical Transformer: Universal Brain Encoder for 3D MRI Analysis
- arxiv url: http://arxiv.org/abs/2104.13633v1
- Date: Wed, 28 Apr 2021 08:34:21 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-29 12:59:51.952842
- Title: Medical Transformer: Universal Brain Encoder for 3D MRI Analysis
- Title(参考訳): 医療用トランス:3次元MRI解析のためのユニバーサル脳エンコーダ
- Authors: Eunji Jun, Seungwoo Jeong, Da-Woon Heo, Heung-Il Suk
- Abstract要約: 既存の3Dベースの手法は、トレーニング済みのモデルを下流のタスクに転送している。
彼らは3D医療イメージングのためのモデルを訓練するために大量のパラメータを要求します。
本稿では,2次元画像スライス形式で3次元容積画像を効果的にモデル化する,メディカルトランスフォーマーと呼ばれる新しい伝達学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 1.6287500717172143
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transfer learning has gained attention in medical image analysis due to
limited annotated 3D medical datasets for training data-driven deep learning
models in the real world. Existing 3D-based methods have transferred the
pre-trained models to downstream tasks, which achieved promising results with
only a small number of training samples. However, they demand a massive amount
of parameters to train the model for 3D medical imaging. In this work, we
propose a novel transfer learning framework, called Medical Transformer, that
effectively models 3D volumetric images in the form of a sequence of 2D image
slices. To make a high-level representation in 3D-form empowering spatial
relations better, we take a multi-view approach that leverages plenty of
information from the three planes of 3D volume, while providing
parameter-efficient training. For building a source model generally applicable
to various tasks, we pre-train the model in a self-supervised learning manner
for masked encoding vector prediction as a proxy task, using a large-scale
normal, healthy brain magnetic resonance imaging (MRI) dataset. Our pre-trained
model is evaluated on three downstream tasks: (i) brain disease diagnosis, (ii)
brain age prediction, and (iii) brain tumor segmentation, which are actively
studied in brain MRI research. The experimental results show that our Medical
Transformer outperforms the state-of-the-art transfer learning methods,
efficiently reducing the number of parameters up to about 92% for
classification and
- Abstract(参考訳): トランスファーラーニングは、現実世界でデータ駆動ディープラーニングモデルをトレーニングするためのアノテーション付き3d医療データセットが限られているため、医用画像解析で注目を集めている。
既存の3Dベースの手法では、トレーニング済みのモデルを下流のタスクに移行し、少数のトレーニングサンプルで有望な結果を得た。
しかし、彼らは3D医療画像のモデルを訓練するために大量のパラメータを要求する。
そこで本研究では, 2次元画像スライスのシーケンスとして, 3次元ボリュームイメージを効果的にモデル化する, medical transformer と呼ばれる新しいトランスファー学習フレームワークを提案する。
空間関係を向上する3次元形状の高レベル表現を実現するために,パラメータ効率のトレーニングを提供しながら,3次元体積の3次元平面から多くの情報を活用するマルチビュー手法を提案する。
様々なタスクに適用可能なソースモデルを構築するために,大規模で正常で健康な脳磁気共鳴画像(MRI)データセットを用いて,マスク付き符号化ベクトル予測をプロキシタスクとして自己教師付き学習方式で構築する。
脳疾患の診断(i)脳年齢予測(ii)脳腫瘍のセグメンテーション(iii)脳MRI研究で積極的に研究されている。
実験の結果,医用トランスフォーマーは最先端の伝達学習法より優れており,パラメータの数を92%まで効率的に削減できることがわかった。
関連論文リスト
- Domain Aware Multi-Task Pretraining of 3D Swin Transformer for T1-weighted Brain MRI [4.453300553789746]
脳磁気共鳴画像(MRI)のための3次元スイム変換器の事前訓練のためのドメイン認識型マルチタスク学習タスクを提案する。
脳の解剖学と形態学を取り入れた脳MRIの領域知識と、対照的な学習環境での3Dイメージングに適応した標準的な前提課題を考察した。
本手法は,アルツハイマー病の分類,パーキンソン病の分類,年齢予測の3つの下流課題において,既存の指導的・自己監督的手法よりも優れていた。
論文 参考訳(メタデータ) (2024-10-01T05:21:02Z) - 3D-CT-GPT: Generating 3D Radiology Reports through Integration of Large Vision-Language Models [51.855377054763345]
本稿では,VQAに基づく医用視覚言語モデルである3D-CT-GPTについて紹介する。
パブリックデータセットとプライベートデータセットの両方の実験により、3D-CT-GPTはレポートの正確さと品質という点で既存の手法を著しく上回っていることが示された。
論文 参考訳(メタデータ) (2024-09-28T12:31:07Z) - Brain3D: Generating 3D Objects from fMRI [76.41771117405973]
被験者のfMRIデータを入力として利用する新しい3Dオブジェクト表現学習手法であるBrain3Dを設計する。
我々は,人間の視覚系の各領域の異なる機能的特徴を,我々のモデルが捉えていることを示す。
予備評価は、Brain3Dがシミュレーションシナリオで障害した脳領域を正常に識別できることを示唆している。
論文 参考訳(メタデータ) (2024-05-24T06:06:11Z) - Generative Enhancement for 3D Medical Images [74.17066529847546]
本稿では,3次元医用画像合成の新しい生成手法であるGEM-3Dを提案する。
本手法は2次元スライスから始まり,3次元スライスマスクを用いて患者に提供するための情報スライスとして機能し,生成過程を伝搬する。
3D医療画像をマスクと患者の事前情報に分解することで、GEM-3Dは多目的な3D画像を生成する柔軟な、かつ効果的なソリューションを提供する。
論文 参考訳(メタデータ) (2024-03-19T15:57:04Z) - LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical
Imaging via Second-order Graph Matching [59.01894976615714]
LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。
55の公開データセットから約13万の医療画像を収集しました。
LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
論文 参考訳(メタデータ) (2023-06-20T22:21:34Z) - Adapting Pre-trained Vision Transformers from 2D to 3D through Weight
Inflation Improves Medical Image Segmentation [19.693778706169752]
我々は2Dから3Dに事前訓練されたトランスフォーマーを適応させるために重量インフレーション戦略を使用し、トランスファーラーニングと深度情報の両方の利点を維持している。
提案手法は,幅広い3次元医用画像データセットを対象とした最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-02-08T19:38:13Z) - Attentive Symmetric Autoencoder for Brain MRI Segmentation [56.02577247523737]
視覚変換器(ViT)をベースとした3次元脳MRIセグメンテーションタスクのための新しいアテンテーティブシンメトリオートエンコーダを提案する。
事前学習の段階では、提案するオートエンコーダがより注意を払って、勾配測定値に従って情報パッチを再構築する。
実験の結果,提案手法は最先端の自己教師付き学習法や医用画像分割モデルよりも優れていた。
論文 参考訳(メタデータ) (2022-09-19T09:43:19Z) - Self-Supervised Learning for 3D Medical Image Analysis using 3D SimCLR
and Monte Carlo Dropout [4.190672342471606]
コントラスト型(SimCLR)法に基づく3次元自己監督手法を提案する。
推論フェーズにおいてベイズニューラルネットワークを用いることで、下流タスクの結果をさらに高めることができることを示す。
論文 参考訳(メタデータ) (2021-09-29T09:15:41Z) - Planar 3D Transfer Learning for End to End Unimodal MRI Unbalanced Data
Segmentation [0.0]
本稿では,事前学習した2次元畳み込みニューラルネットワーク重みを平面3次元カーネルにマッピングする手法を提案する。
提案手法は2次元VGG-16から転送されるエンコーダを備えた平面3Dres-u-netネットワークにより検証される。
論文 参考訳(メタデータ) (2020-11-23T17:11:50Z) - Modelling the Distribution of 3D Brain MRI using a 2D Slice VAE [66.63629641650572]
本研究では,2次元スライスVAEとガウスモデルを組み合わせた3次元MR脳の体積分布をモデル化する手法を提案する。
また,本研究では,脳解剖学に適合するセグメンテーションの精度を定量的に評価する新たなボリューム評価手法を提案する。
論文 参考訳(メタデータ) (2020-07-09T13:23:15Z) - 3D Self-Supervised Methods for Medical Imaging [7.65168530693281]
本稿では,プロキシタスクの形式で,5種類の自己教師型手法の3次元バージョンを提案する。
提案手法は,未ラベルの3次元画像からニューラルネットワークの特徴学習を容易にし,専門家のアノテーションに必要なコストを削減することを目的としている。
開発したアルゴリズムは、3D Contrastive Predictive Coding, 3D Rotation Prediction, 3D Jigsaw puzzles, Relative 3D patch location, 3D Exemplar Networkである。
論文 参考訳(メタデータ) (2020-06-06T09:56:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。