論文の概要: Multi-level Asymmetric Contrastive Learning for Medical Image Segmentation Pre-training

• arxiv url: http://arxiv.org/abs/2309.11876v1
• Date: Thu, 21 Sep 2023 08:22:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-22 16:22:28.399508
• Title: Multi-level Asymmetric Contrastive Learning for Medical Image Segmentation Pre-training
• Title（参考訳）: 医用画像分割事前学習のための多レベル非対称コントラスト学習
• Authors: Shuang Zeng, Lei Zhu, Xinliang Zhang, Zifeng Tian, Qian Chen, Lujia Jin, Jiayi Wang, Yanye Lu
• Abstract要約: 自己教師付き事前学習による医用画像分割のための新しい非対称コントラスト学習フレームワーク JCL を提案する。 1段階でエンコーダとデコーダの両方を同時にトレーニングするために、新しい非対称コントラスト学習戦略を提案する。 複数の医用画像データセットの実験は、我々のJCLフレームワークが既存のSOTAコントラスト学習戦略より優れていることを示している。
• 参考スコア（独自算出の注目度）: 20.853266199332563
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Contrastive learning, which is a powerful technique for learning image-level representations from unlabeled data, leads a promising direction to dealing with the dilemma between large-scale pre-training and limited labeled data. However, most existing contrastive learning strategies are designed mainly for downstream tasks of natural images, therefore they are sub-optimal and even worse than learning from scratch when directly applied to medical images whose downstream tasks are usually segmentation. In this work, we propose a novel asymmetric contrastive learning framework named JCL for medical image segmentation with self-supervised pre-training. Specifically, (1) A novel asymmetric contrastive learning strategy is proposed to pre-train both encoder and decoder simultaneously in one-stage to provide better initialization for segmentation models. (2) A multi-level contrastive loss is designed to take the correspondence among feature-level, image-level and pixel-level projections, respectively into account to make sure multi-level representations can be learned by the encoder and decoder during pre-training. (3) Experiments on multiple medical image datasets indicate our JCL framework outperforms existing SOTA contrastive learning strategies.
• Abstract（参考訳）: 非ラベルデータから画像レベルの表現を学習する強力なテクニックであるコントラスト学習は、大規模事前トレーニングと限定ラベルデータとのジレンマに対処するための有望な方向性をもたらす。 しかし、既存のコントラスト学習戦略のほとんどは、主に自然画像の下流タスクのために設計されており、下流課題が通常セグメンテーションである医療画像に直接適用される場合、それらはスクラッチから学習するよりも最適であり、さらに悪い。 本研究では,医用画像分割と自己教師付き事前学習のための新しい非対称コントラスト学習フレームワークJCLを提案する。 具体的には、(1)エンコーダとデコーダの両方を同時に1段階に事前学習し、セグメンテーションモデルの初期化を改善するための新しい非対称なコントラスト学習戦略を提案する。 2)マルチレベルのコントラスト損失は,特徴レベル,画像レベル,画素レベルのプロジェクションの対応を考慮し,事前学習中にエンコーダとデコーダでマルチレベルの表現を学べるように設計されている。 3)複数の医用画像データセットに対する実験は,既存のSOTAのコントラスト学習戦略よりも優れたJCLフレームワークを示している。

関連論文リスト

• Large Language Models for Multimodal Deformable Image Registration [50.91473745610945]
  そこで本研究では,様々な医用画像からの深い特徴の整合を図るために,新しい粗いMDIRフレームワークLLM-Morphを提案する。 具体的には、まずCNNエンコーダを用いて、クロスモーダル画像ペアから深い視覚的特徴を抽出し、次に、最初のアダプタを使ってこれらのトークンを調整する。 第3に、トークンのアライメントのために、他の4つのアダプタを使用して、LLM符号化トークンをマルチスケールの視覚特徴に変換し、マルチスケールの変形場を生成し、粗いMDIRタスクを容易にする。
  論文  参考訳（メタデータ） (2024-08-20T09:58:30Z)
• MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training [103.72844619581811]
  MLLM(Performant Multimodal Large Language Models)を構築する。 特に,さまざまなアーキテクチャコンポーネントとデータ選択の重要性について検討する。 本稿では,画像キャプチャ,インターリーブ画像テキスト,テキストのみのデータを組み合わせた大規模マルチモーダル事前学習について述べる。
  論文  参考訳（メタデータ） (2024-03-14T17:51:32Z)
• Semi-Mamba-UNet: Pixel-Level Contrastive and Pixel-Level Cross-Supervised Visual Mamba-based UNet for Semi-Supervised Medical Image Segmentation [11.637738540262797]
  本研究では,従来のCNNベースのUNetと純粋に視覚的なMambaベースのエンコーダデコーダアーキテクチャを組み込んだセミマンバUNetを,半教師付き学習フレームワークに統合する。 この革新的なSSLアプローチは、両方のネットワークを利用して擬似ラベルを生成し、ピクセルレベルで相互に相互に監督する。 本稿では,2対のプロジェクタを用いた自己教師型画素レベルのコントラスト学習戦略を導入し,特徴学習機能をさらに強化する。
  論文  参考訳（メタデータ） (2024-02-11T17:09:21Z)
• Dual-scale Enhanced and Cross-generative Consistency Learning for Semi-supervised Medical Image Segmentation [49.57907601086494]
  医用画像のセグメンテーションはコンピュータ支援診断において重要な役割を担っている。 半教師型医用画像(DEC-Seg)のための新しいDual-scale Enhanced and Cross-generative consistency learning frameworkを提案する。
  論文  参考訳（メタデータ） (2023-12-26T12:56:31Z)
• Disruptive Autoencoders: Leveraging Low-level features for 3D Medical Image Pre-training [51.16994853817024]
  本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。 ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。 提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-07-31T17:59:42Z)
• M$^{2}$SNet: Multi-scale in Multi-scale Subtraction Network for Medical Image Segmentation [73.10707675345253]
  医用画像から多様なセグメンテーションを仕上げるマルチスケールサブトラクションネットワーク(M$2$SNet)を提案する。 本手法は,4つの異なる医用画像セグメンテーションタスクの11つのデータセットに対して,異なる評価基準の下で,ほとんどの最先端手法に対して好意的に機能する。
  論文  参考訳（メタデータ） (2023-03-20T06:26:49Z)
• Multi-scale Transformer Network with Edge-aware Pre-training for Cross-Modality MR Image Synthesis [52.41439725865149]
  クロスモダリティ磁気共鳴(MR)画像合成は、与えられたモダリティから欠落するモダリティを生成するために用いられる。 既存の(教師付き学習)手法は、効果的な合成モデルを訓練するために、多くのペア化されたマルチモーダルデータを必要とすることが多い。 マルチスケールトランスフォーマーネットワーク(MT-Net)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T11:40:40Z)
• IDEAL: Improved DEnse locAL Contrastive Learning for Semi-Supervised Medical Image Segmentation [3.6748639131154315]
  我々は,メートル法学習の概念をセグメンテーションタスクに拡張する。 本稿では,高密度画素レベルの特徴量を得るための単純な畳み込みプロジェクションヘッドを提案する。 下流タスクに対して,2ストリーム正規化トレーニングを含む双方向正規化機構を考案した。
  論文  参考訳（メタデータ） (2022-10-26T23:11:02Z)
• Self-Ensembling Contrastive Learning for Semi-Supervised Medical Image Segmentation [6.889911520730388]
  限られたラベルを持つ医用画像セグメンテーションにおける半教師あり学習の性能向上を目指す。 我々は、ラベルのない画像に対照的な損失を与えることによって、特徴レベルで潜在表現を直接学習する。 我々はMRIとCTのセグメンテーションデータセットの実験を行い、提案手法が最先端の性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-05-27T03:27:58Z)
• Modeling the Probabilistic Distribution of Unlabeled Data forOne-shot Medical Image Segmentation [40.41161371507547]
  我々は1ショットの脳磁気共鳴画像(MRI)画像分割のためのデータ拡張法を開発した。 提案手法は,MRI画像1枚(atlas)とラベルなし画像数枚のみを利用する。 本手法は最先端のワンショット医療セグメンテーション法より優れている。
  論文  参考訳（メタデータ） (2021-02-03T12:28:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。