論文の概要: MAE-Based Self-Supervised Pretraining for Data-Efficient Medical Image Segmentation Using nnFormer

• arxiv url: http://arxiv.org/abs/2604.22854v1
• Date: Wed, 22 Apr 2026 11:29:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:06.996474
• Title: MAE-Based Self-Supervised Pretraining for Data-Efficient Medical Image Segmentation Using nnFormer
• Title（参考訳）: nnFormerを用いたデータ効率の良い医用画像セグメンテーションのためのMAEに基づく自己監督型事前トレーニング
• Authors: R. M. Krishna Sureddi, T. Satyanarayana Murthy, Nomula Varsha Reddy, Adi Kanishka, Nalla Manvika Reddy,
• Abstract要約: nnFormerを含むトランスフォーマーアーキテクチャは、ボリューム医療画像セグメンテーションにおいて有望な結果を示してきた。 これらのモデルは大量のラベル付きトレーニングデータを必要とし、過度に適合し、トレーニングが不安定になる可能性がある。 これは、時間を要しただけでなく、専門家が注記した医用画像の入手にも費用がかかるため、深刻な実務上の問題である。 我々は、自己教師付き事前学習フレームワークを用いて、nnFormerの効率を向上することで、これらの欠点を解決した。
• 参考スコア（独自算出の注目度）: 0.5437050212139087
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer architectures, including nnFormer,have demonstrated promising results in volumetric medical image segmentation by being able to capture long-range spatial interactions. Although they have high performance, these models need large quantities of labeled training data and are also likely to overfit and become training unstable. This is a serious practical problem because it is not only time-consuming but also expensive to obtain medical images that are annotated by experts. Moreover, fully supervised traditional training pipelines do not take advantage of the available large amounts of unlabeled medical imaging data that can be easily obtained in the clinics. We have solved these drawbacks by advancing the efficiency of the nnFormer with a self-supervised pretraining framework, which is based on the Masked Autoencoders (MAE). In this method, the model is pretrained on unlabeled volumetric medical images to reconstruct randomly masked parts of the input. This allows the encoder to learn meaningful anatomical and structural representations . The encoder is then further fine-tuned on a labeled dataset on the downstream segmentation task. Conducted Experiment shows that the offered method leads to a higher segmentation performance on the count of Dice score, a quicker convergence rate on the course of the fine-tuning procedure, and a superior generalization on the basis of limited labeled data . These findings validate that self-supervised learning combined with transformer-based segmentation models is an appropriate approach to the problem of data shortage in medical image analysis.
• Abstract（参考訳）: nnFormerを含むトランスフォーマーアーキテクチャは、長距離空間の相互作用を捉えることで、ボリューム医療画像のセグメンテーションにおいて有望な結果を示してきた。 性能は高いが、これらのモデルは大量のラベル付きトレーニングデータを必要とし、過度に適合し、トレーニングが不安定になる可能性がある。 これは、時間を要しただけでなく、専門家が注記した医用画像の入手にも費用がかかるため、深刻な実務上の問題である。 さらに、完全に教師された伝統的な訓練パイプラインは、クリニックで容易に入手できる大量の未ラベルの医療画像データを利用することができない。 我々は,Masked Autoencoders (MAE)をベースとした自己教師付き事前学習フレームワークにより,nnFormerの効率を向上することで,これらの欠点を解消した。 この方法では、入力のランダムにマスキングされた部分を再構成するために、ラベルなしのボリューム医療画像に事前トレーニングを行う。 これにより、エンコーダは意味のある解剖学的および構造的表現を学ぶことができる。 エンコーダはさらに、下流セグメンテーションタスクのラベル付きデータセットに微調整される。 導電実験により,提案手法は,Dice のスコア数に対して高いセグメンテーション性能,微調整手順におけるより高速な収束率,限定ラベル付きデータに基づく優れた一般化をもたらすことが示された。 これらの結果から,トランスフォーマーベースセグメンテーションモデルと組み合わせた自己教師型学習が,医用画像解析におけるデータ不足問題に対する適切なアプローチであることが示唆された。

関連論文リスト

• Enhancing pretraining efficiency for medical image segmentation via transferability metrics [0.0]
  医用画像のセグメンテーションタスクでは、ラベル付きトレーニングデータの不足が大きな課題となっている。 本稿では,事前学習したモデルが対象データをいかに頑健に表現できるかを計測する,対照的な学習に基づく新しい伝達可能性指標を提案する。
  論文  参考訳（メタデータ） (2024-10-24T12:11:52Z)
• Few-Shot Airway-Tree Modeling using Data-Driven Sparse Priors [0.0]
  限られたアノテートデータのみを使用して事前訓練されたモデルを転送するには、少ないショットの学習アプローチが費用対効果がある。 我々は,肺CTスキャンにおいて,気道の効率を高めるために,データ駆動型スペーシフィケーションモジュールを訓練する。 次に、これらのスパース表現を標準教師付きセグメンテーションパイプラインに組み込み、DLモデルの性能を高めるための事前学習ステップとする。
  論文  参考訳（メタデータ） (2024-07-05T13:46:11Z)
• Enhancing Weakly Supervised 3D Medical Image Segmentation through Probabilistic-aware Learning [47.700298779672366]
  3次元医用画像のセグメンテーションは、疾患の診断と治療計画に重要な意味を持つ課題である。 近年の深層学習の進歩は、完全に教師付き医療画像のセグメンテーションを著しく強化している。 本稿では,3次元医用画像に特化して設計された,確率的適応型弱教師付き学習パイプラインを提案する。
  論文  参考訳（メタデータ） (2024-03-05T00:46:53Z)
• Disruptive Autoencoders: Leveraging Low-level features for 3D Medical Image Pre-training [51.16994853817024]
  本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。 ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。 提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-07-31T17:59:42Z)
• LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical Imaging via Second-order Graph Matching [59.01894976615714]
  LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。 55の公開データセットから約13万の医療画像を収集しました。 LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
  論文  参考訳（メタデータ） (2023-06-20T22:21:34Z)
• Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
  本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。 我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。 多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2023-06-15T17:55:05Z)
• Self-Supervised Pretraining for 2D Medical Image Segmentation [0.0]
  自己教師付き学習は、不正なデータに対して特定のドメインのモデルを事前訓練することで、手動でアノテートされたデータの必要性を下げる手段を提供する。 自然画像と対象領域固有の画像による自己教師付き事前学習は、最も速く、最も安定した下流収束をもたらす。 低データシナリオでは、教師付きImageNet事前トレーニングが最も正確であり、最小限のエラーに近づくためには100以上の注釈付きサンプルが必要である。
  論文  参考訳（メタデータ） (2022-09-01T09:25:22Z)
• Self-Supervised-RCNN for Medical Image Segmentation with Limited Data Annotation [0.16490701092527607]
  ラベルなしMRIスキャンによる自己教師付き事前学習に基づく新たなディープラーニング学習戦略を提案する。 我々の事前学習アプローチはまず、ラベルのない画像のランダム領域に異なる歪みをランダムに適用し、次に歪みの種類と情報の損失を予測する。 異なる事前学習シナリオと微調整シナリオにおけるセグメンテーション課題に対する提案手法の有効性を評価する。
  論文  参考訳（メタデータ） (2022-07-17T13:28:52Z)
• Self-Supervised Learning as a Means To Reduce the Need for Labeled Data in Medical Image Analysis [64.4093648042484]
  胸部X線画像のデータセットとバウンディングボックスラベルを用いて,13種類の異常の分類を行った。 ラベル付きデータの平均精度と精度を60%に抑えることで,完全教師付きモデルと同等の性能が得られることを示す。
  論文  参考訳（メタデータ） (2022-06-01T09:20:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。