論文の概要: KD-MRI: A knowledge distillation framework for image reconstruction and
image restoration in MRI workflow
- arxiv url: http://arxiv.org/abs/2004.05319v1
- Date: Sat, 11 Apr 2020 06:21:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-14 12:41:52.295195
- Title: KD-MRI: A knowledge distillation framework for image reconstruction and
image restoration in MRI workflow
- Title(参考訳): KD-MRI:MRIワークフローにおける画像再構成と画像復元のための知識蒸留フレームワーク
- Authors: Balamurali Murugesan, Sricharan Vijayarangan, Kaushik Sarveswaran,
Keerthi Ram and Mohanasankar Sivaprakasam
- Abstract要約: 本稿では,MRIワークフローにおける画像問題に対する知識蒸留(KD)フレームワークを提案する。
Cardiac,Brain,KneeのMRIデータセットを4倍,5倍,8倍の加速度で実験する。
Kneeデータセットでは、学生ネットワークは65%のパラメータ削減、2倍のCPU実行時間、1.5倍のGPU実行時間を達成する。
- 参考スコア(独自算出の注目度): 1.2599533416395765
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning networks are being developed in every stage of the MRI workflow
and have provided state-of-the-art results. However, this has come at the cost
of increased computation requirement and storage. Hence, replacing the networks
with compact models at various stages in the MRI workflow can significantly
reduce the required storage space and provide considerable speedup. In computer
vision, knowledge distillation is a commonly used method for model compression.
In our work, we propose a knowledge distillation (KD) framework for the image
to image problems in the MRI workflow in order to develop compact,
low-parameter models without a significant drop in performance. We propose a
combination of the attention-based feature distillation method and imitation
loss and demonstrate its effectiveness on the popular MRI reconstruction
architecture, DC-CNN. We conduct extensive experiments using Cardiac, Brain,
and Knee MRI datasets for 4x, 5x and 8x accelerations. We observed that the
student network trained with the assistance of the teacher using our proposed
KD framework provided significant improvement over the student network trained
without assistance across all the datasets and acceleration factors.
Specifically, for the Knee dataset, the student network achieves $65\%$
parameter reduction, 2x faster CPU running time, and 1.5x faster GPU running
time compared to the teacher. Furthermore, we compare our attention-based
feature distillation method with other feature distillation methods. We also
conduct an ablative study to understand the significance of attention-based
distillation and imitation loss. We also extend our KD framework for MRI
super-resolution and show encouraging results.
- Abstract(参考訳): ディープラーニングネットワークはMRIワークフローのあらゆる段階で開発されており、最先端の結果を提供している。
しかし、これは計算要求とストレージの増加のコストがかかっている。
したがって、MRIワークフローの様々な段階でネットワークをコンパクトなモデルに置き換えることで、必要なストレージスペースを大幅に削減し、かなりのスピードアップを実現することができる。
コンピュータビジョンでは、知識蒸留はモデル圧縮の一般的な方法である。
本研究では,MRIワークフローにおける画像の問題点を画像化するための知識蒸留(KD)フレームワークを提案する。
注意に基づく特徴蒸留法と模倣損失の組み合わせを提案し,その効果を一般的なMRI再構成アーキテクチャであるDC-CNNで実証する。
Cardiac,Brain,KneeのMRIデータセットを4倍,5倍,8倍の加速度で実験した。
提案するkdフレームワークを用いて教師の助けを借りてトレーニングした学生ネットワークは,すべてのデータセットと加速度因子を介さずにトレーニングされた学生ネットワークを大きく改善した。
具体的には、膝のデータセットの場合、生徒ネットワークは、教師に比べてパラメータの削減が65\%、cpuの実行時間が2倍速く、gpuの実行時間が1.5倍速くなる。
さらに,注意に基づく特徴蒸留法と他の特徴蒸留法との比較を行った。
また,注意に基づく蒸留と模倣損失の意義を理解するために,アブレーション研究を行った。
また、MRIの超高分解能化のためのKDフレームワークを拡張し、励振効果を示す。
関連論文リスト
- Attention Incorporated Network for Sharing Low-rank, Image and K-space Information during MR Image Reconstruction to Achieve Single Breath-hold Cardiac Cine Imaging [9.531827741901662]
我々は,MRI再構成のための新しい深層学習ネットワークに,低ランク,画像,k空間を含む複数の領域からの情報を埋め込むことを提案する。
A-LIKNetは並列ブランチ構造を採用し、k空間と画像領域で独立した学習を可能にする。
論文 参考訳(メタデータ) (2024-07-03T11:54:43Z) - NeuroPictor: Refining fMRI-to-Image Reconstruction via Multi-individual Pretraining and Multi-level Modulation [55.51412454263856]
本稿では,fMRI信号を用いた拡散モデル生成過程を直接変調することを提案する。
様々な個人から約67,000 fMRI-imageペアのトレーニングを行うことで,fMRI-to-imageデコーディング能力に優れたモデルが得られた。
論文 参考訳(メタデータ) (2024-03-27T02:42:52Z) - fMRI-PTE: A Large-scale fMRI Pretrained Transformer Encoder for
Multi-Subject Brain Activity Decoding [54.17776744076334]
本稿では,fMRI事前学習のための革新的オートエンコーダであるfMRI-PTEを提案する。
我々のアプローチでは、fMRI信号を統合された2次元表現に変換し、次元の整合性を確保し、脳の活動パターンを保存する。
コントリビューションには、fMRI-PTEの導入、革新的なデータ変換、効率的なトレーニング、新しい学習戦略、そして我々のアプローチの普遍的な適用性が含まれる。
論文 参考訳(メタデータ) (2023-11-01T07:24:22Z) - CMRxRecon: An open cardiac MRI dataset for the competition of
accelerated image reconstruction [62.61209705638161]
ディープラーニングベースのCMRイメージングアルゴリズムへの関心が高まっている。
ディープラーニング手法は大規模なトレーニングデータセットを必要とする。
このデータセットには300人の被験者のマルチコントラスト、マルチビュー、マルチスライス、マルチコイルCMRイメージングデータが含まれている。
論文 参考訳(メタデータ) (2023-09-19T15:14:42Z) - Attention Hybrid Variational Net for Accelerated MRI Reconstruction [7.046523233290946]
磁気共鳴画像(MRI)の高速化のための圧縮センシング(CS)対応データ再構成の適用は依然として難しい問題である。
これは、加速マスクからk空間で失った情報が、完全にサンプリングされた画像の質に似た画像の再構成を困難にしているためである。
我々は,k空間と画像領域の両方で学習を行う,深層学習に基づく注目ハイブリッド変分ネットワークを提案する。
論文 参考訳(メタデータ) (2023-06-21T16:19:07Z) - Iterative Data Refinement for Self-Supervised MR Image Reconstruction [18.02961646651716]
自己教師型MR画像再構成のためのデータ改質フレームワークを提案する。
まず,自己教師付き手法と教師付き手法のパフォーマンスギャップの原因を解析する。
そして、このデータバイアスを低減するために、効果的な自己教師付きトレーニングデータ精錬法を設計する。
論文 参考訳(メタデータ) (2022-11-24T06:57:16Z) - Attentive Symmetric Autoencoder for Brain MRI Segmentation [56.02577247523737]
視覚変換器(ViT)をベースとした3次元脳MRIセグメンテーションタスクのための新しいアテンテーティブシンメトリオートエンコーダを提案する。
事前学習の段階では、提案するオートエンコーダがより注意を払って、勾配測定値に従って情報パッチを再構築する。
実験の結果,提案手法は最先端の自己教師付き学習法や医用画像分割モデルよりも優れていた。
論文 参考訳(メタデータ) (2022-09-19T09:43:19Z) - Edge-Enhanced Dual Discriminator Generative Adversarial Network for Fast
MRI with Parallel Imaging Using Multi-view Information [10.616409735438756]
高速なマルチチャンネルMRI再構成のための並列画像結合型二重判別器生成対向ネットワーク(PIDD-GAN)を提案する。
1つの判別器は全体像再構成に使用され、もう1つはエッジ情報の強化に責任がある。
以上の結果から,PIDD-GANは良質なMR画像と良好な保存エッジ情報を提供することがわかった。
論文 参考訳(メタデータ) (2021-12-10T10:49:26Z) - Adaptive Gradient Balancing for UndersampledMRI Reconstruction and
Image-to-Image Translation [60.663499381212425]
本研究では,新しい適応勾配バランス手法を併用したwasserstein生成逆ネットワークを用いて,画質の向上を図る。
MRIでは、他の技術よりも鮮明な画像を生成する高品質の再構築を維持しながら、アーティファクトを最小限に抑えます。
論文 参考訳(メタデータ) (2021-04-05T13:05:22Z) - Multifold Acceleration of Diffusion MRI via Slice-Interleaved Diffusion
Encoding (SIDE) [50.65891535040752]
本稿では,Slice-Interleaved Diffusionと呼ばれる拡散符号化方式を提案する。
SIDEは、拡散重み付き(DW)画像ボリュームを異なる拡散勾配で符号化したスライスでインターリーブする。
また,高いスライスアンサンプデータからDW画像を効果的に再構成するためのディープラーニングに基づく手法を提案する。
論文 参考訳(メタデータ) (2020-02-25T14:48:17Z) - Deep Residual Dense U-Net for Resolution Enhancement in Accelerated MRI
Acquisition [19.422926534305837]
本稿では,MRIの高速化による高画質画像の再構成を目的としたディープラーニング手法を提案する。
具体的には、畳み込みニューラルネットワーク(CNN)を用いて、エイリアス画像と元の画像の違いを学習する。
ダウンサンプリングされたk空間データの特異性を考慮すると、与えられたk空間データを効果的に活用する学習における損失関数に新しい用語を導入する。
論文 参考訳(メタデータ) (2020-01-13T19:01:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。