論文の概要: Critical Assessment of Transfer Learning for Medical Image Segmentation
with Fully Convolutional Neural Networks
- arxiv url: http://arxiv.org/abs/2006.00356v2
- Date: Sun, 3 Apr 2022 16:45:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 17:50:26.350612
- Title: Critical Assessment of Transfer Learning for Medical Image Segmentation
with Fully Convolutional Neural Networks
- Title(参考訳): 完全畳み込みニューラルネットワークを用いた医用画像分割のための転送学習の批判的評価
- Authors: Davood Karimi, Simon K. Warfield, Ali Gholipour
- Abstract要約: 医用画像分割のための完全畳み込みネットワーク(FCN)の訓練におけるトランスファーラーニングの役割について検討した。
転送学習は目標タスクのトレーニング時間を短縮するが,セグメンテーション精度の向上はタスク/データ依存度が高い。
- 参考スコア(独自算出の注目度): 8.526949616891283
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transfer learning is widely used for training machine learning models. Here,
we study the role of transfer learning for training fully convolutional
networks (FCNs) for medical image segmentation. Our experiments show that
although transfer learning reduces the training time on the target task, the
improvement in segmentation accuracy is highly task/data-dependent. Larger
improvements in accuracy are observed when the segmentation task is more
challenging and the target training data is smaller. We observe that
convolutional filters of an FCN change little during training for medical image
segmentation, and still look random at convergence. We further show that quite
accurate FCNs can be built by freezing the encoder section of the network at
random values and only training the decoder section. At least for medical image
segmentation, this finding challenges the common belief that the encoder
section needs to learn data/task-specific representations. We examine the
evolution of FCN representations to gain a better insight into the effects of
transfer learning on the training dynamics. Our analysis shows that although
FCNs trained via transfer learning learn different representations than FCNs
trained with random initialization, the variability among FCNs trained via
transfer learning can be as high as that among FCNs trained with random
initialization. Moreover, feature reuse is not restricted to the early encoder
layers; rather, it can be more significant in deeper layers. These findings
offer new insights and suggest alternative ways of training FCNs for medical
image segmentation.
- Abstract(参考訳): 転送学習は機械学習モデルのトレーニングに広く使われている。
本稿では,医用画像分割のための完全畳み込みネットワーク(FCN)の訓練における伝達学習の役割について検討する。
実験の結果,移動学習は目標タスクのトレーニング時間を短縮するが,セグメンテーション精度の向上はタスク/データ依存度が高いことがわかった。
セグメンテーションタスクがより困難であり、目標トレーニングデータがより小さい場合には、精度の大幅な改善が観察される。
医用画像分割訓練において, FCNの畳み込みフィルタがほとんど変化せず, 収束時にもランダムに見えることが観察された。
さらに,ネットワークのエンコーダ部をランダムな値で凍結し,デコーダ部のみをトレーニングすることにより,極めて正確なFCNを構築することができることを示す。
少なくとも医療画像のセグメンテーションでは、この発見はエンコーダセクションがデータ/タスク固有の表現を学ぶ必要があるという共通の信念に挑戦する。
我々は,fcn表現の進化を考察し,転校学習がトレーニングダイナミクスに及ぼす影響についてより深い知見を得る。
解析の結果, 転置学習によるfcnsはランダム初期化を施したfcnsと異なる表現を学習するが, 転置学習によるfcnsの変動はランダム初期化を施したfcnsと同等であることがわかった。
さらに、機能の再利用は初期のエンコーダ層に限定されない。
これらの知見は新たな洞察を与え、医用画像分割のためのFCNの訓練方法を提案する。
関連論文リスト
- Enhancing pretraining efficiency for medical image segmentation via transferability metrics [0.0]
医用画像のセグメンテーションタスクでは、ラベル付きトレーニングデータの不足が大きな課題となっている。
本稿では,事前学習したモデルが対象データをいかに頑健に表現できるかを計測する,対照的な学習に基づく新しい伝達可能性指標を提案する。
論文 参考訳(メタデータ) (2024-10-24T12:11:52Z) - Transfer learning from a sparsely annotated dataset of 3D medical images [4.477071833136902]
本研究では,医療画像における臓器分割のための深部畳み込みニューラルネットワークの性能向上のための伝達学習の活用について検討する。
ベースセグメンテーションモデルは、大小の注釈付きデータセットに基づいてトレーニングされ、その重みは4つの新しい下流セグメンテーションタスクのトランスファー学習に使用された。
その結果,小規模なデータセットが利用可能になった場合には,ベースモデルからの移動学習が有用であることが示唆された。
論文 参考訳(メタデータ) (2023-11-08T21:31:02Z) - Disruptive Autoencoders: Leveraging Low-level features for 3D Medical
Image Pre-training [51.16994853817024]
本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。
ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。
提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-07-31T17:59:42Z) - Interaction of a priori Anatomic Knowledge with Self-Supervised
Contrastive Learning in Cardiac Magnetic Resonance Imaging [0.7387261884863349]
自己教師付きコントラスト学習は、いくつかの医療画像タスクのパフォーマンスを高めることが示されている。
本研究では,解剖学の事前知識をSSCL訓練パラダイムに組み込むための最適手法を評価する。
解剖学の事前知識を用いることで,下流診断性能を大幅に向上できることがわかった。
論文 参考訳(メタデータ) (2022-05-25T01:33:37Z) - When Accuracy Meets Privacy: Two-Stage Federated Transfer Learning
Framework in Classification of Medical Images on Limited Data: A COVID-19
Case Study [77.34726150561087]
新型コロナウイルスのパンデミックが急速に広がり、世界の医療資源が不足している。
CNNは医療画像の解析に広く利用され、検証されている。
論文 参考訳(メタデータ) (2022-03-24T02:09:41Z) - Learning Invariant Representations across Domains and Tasks [81.30046935430791]
本稿では,この教師なしタスク転送問題を解決するための新しいタスク適応ネットワーク(tan)を提案する。
ドメイン・アドバーサル・トレーニングによる伝達可能な機能を学習することに加えて、学習から学習への戦略を用いてタスクの意味を適応させる新しいタスク・セマンティクス・アダプタを提案する。
TANは最近の強いベースラインに比べてリコールとF1スコアを5.0%と7.8%大きく向上させた。
論文 参考訳(メタデータ) (2021-03-03T11:18:43Z) - Self-Supervised Learning for Segmentation [3.8026993716513933]
腎臓の解剖学的非対称性は、自己教師付き学習による腎臓分画の効果的なプロキシタスクを定義するために利用される。
siamese convolutional neural network (cnn)は、与えられた1対の腎臓切片をctボリュームから同一または異なる側面の腎臓に分類するために使用される。
論文 参考訳(メタデータ) (2021-01-14T04:28:47Z) - A Multi-Stage Attentive Transfer Learning Framework for Improving
COVID-19 Diagnosis [49.3704402041314]
新型コロナの診断を改善するための多段階集中移動学習フレームワークを提案する。
提案するフレームワークは、複数のソースタスクと異なるドメインのデータから知識を学習し、正確な診断モデルを訓練する3つの段階からなる。
本稿では,肺CT画像のマルチスケール表現を学習するための自己教師付き学習手法を提案する。
論文 参考訳(メタデータ) (2021-01-14T01:39:19Z) - 3D medical image segmentation with labeled and unlabeled data using
autoencoders at the example of liver segmentation in CT images [58.720142291102135]
本研究では、畳み込みニューラルネットワークによるセグメンテーションを改善するために、オートエンコーダ抽出機能の可能性を検討する。
コンボリューション・オートエンコーダを用いてラベルのないデータから特徴を抽出し,CT画像における3次元肝セグメンテーションの目標タスクを実行するために,マルチスケールの完全畳み込みCNNを用いた。
論文 参考訳(メタデータ) (2020-03-17T20:20:43Z) - Curriculum By Smoothing [52.08553521577014]
畳み込みニューラルネットワーク(CNN)は、画像分類、検出、セグメンテーションなどのコンピュータビジョンタスクにおいて顕著な性能を示している。
アンチエイリアスフィルタやローパスフィルタを用いてCNNの機能埋め込みを円滑化するエレガントなカリキュラムベースのスキームを提案する。
トレーニング中に特徴マップ内の情報量が増加するにつれて、ネットワークはデータのより優れた表現を徐々に学習することができる。
論文 参考訳(メタデータ) (2020-03-03T07:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。