論文の概要: SPCXR: Self-supervised Pretraining using Chest X-rays Towards a Domain Specific Foundation Model

• arxiv url: http://arxiv.org/abs/2211.12944v2
• Date: Thu, 18 May 2023 08:59:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-19 20:42:51.247574
• Title: SPCXR: Self-supervised Pretraining using Chest X-rays Towards a Domain Specific Foundation Model
• Title（参考訳）: SPCXR: ドメイン固有基礎モデルに向けた胸部X線を用いた自己教師型プレトレーニング
• Authors: Syed Muhammad Anwar, Abhijeet Parida, Sara Atito, Muhammad Awais, Gustavo Nino, Josef Kitler, Marius George Linguraru
• Abstract要約: 胸部X線(CXR)は肺疾患の診断と予後のための画像モダリティとして広く用いられている。 そこで我々は,グループメイドの自己教師型フレームワークを用いて,CXRからの一般的な表現を学習する,新たな自己教師型パラダイムを提案する。 事前訓練されたモデルは、コビッド19、肺炎の検出、一般的な健康スクリーニングといったドメイン固有のタスクのために微調整される。
• 参考スコア（独自算出の注目度）: 4.397622801930704
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chest X-rays (CXRs) are a widely used imaging modality for the diagnosis and prognosis of lung disease. The image analysis tasks vary. Examples include pathology detection and lung segmentation. There is a large body of work where machine learning algorithms are developed for specific tasks. A significant recent example is Coronavirus disease (covid-19) detection using CXR data. However, the traditional diagnostic tool design methods based on supervised learning are burdened by the need to provide training data annotation, which should be of good quality for better clinical outcomes. Here, we propose an alternative solution, a new self-supervised paradigm, where a general representation from CXRs is learned using a group-masked self-supervised framework. The pre-trained model is then fine-tuned for domain-specific tasks such as covid-19, pneumonia detection, and general health screening. We show that the same pre-training can be used for the lung segmentation task. Our proposed paradigm shows robust performance in multiple downstream tasks which demonstrates the success of the pre-training. Moreover, the performance of the pre-trained models on data with significant drift during test time proves the learning of a better generic representation. The methods are further validated by covid-19 detection in a unique small-scale pediatric data set. The performance gain in accuracy (~25%) is significant when compared to a supervised transformer-based method. This adds credence to the strength and reliability of our proposed framework and pre-training strategy.
• Abstract（参考訳）: 胸部X線(CXR)は肺疾患の診断と予後のための画像モダリティとして広く用いられている。 画像解析のタスクは様々です。 例えば、病理診断や肺分画がある。 機械学習アルゴリズムが特定のタスクのために開発される大規模な作業がある。 最近の顕著な例は、CXRデータを用いたコロナウイルス(covid-19)の検出である。 しかしながら、教師付き学習に基づく従来の診断ツール設計手法は、より良い臨床結果を得るために良質なトレーニングデータアノテーションの必要性によって負担されている。 本稿では,cxrsの汎用表現をグループマスク型自己教師付きフレームワークを用いて学習する,新しい自己教師付きパラダイムを提案する。 事前訓練されたモデルは、コビッド19、肺炎の検出、一般的な健康スクリーニングといったドメイン固有のタスクのために微調整される。 肺の分節作業には,同じ事前訓練が有効であることを示す。 提案手法は,複数のダウンストリームタスクにおいて,事前学習の成功を示すロバストな性能を示す。 さらに、テスト期間中に大きなドリフトを持つデータ上での事前学習モデルの性能は、より汎用的な表現を学ぶことを証明している。 これらの方法は、ユニークな小規模の小児用データセットにおいて、covid-19検出によってさらに検証される。 教師付き変圧器方式と比較した場合, 精度(約25%)は有意であった。 これは、提案するフレームワークの強度と信頼性と事前学習戦略に信頼性を与えます。

関連論文リスト

• Position-Guided Prompt Learning for Anomaly Detection in Chest X-Rays [46.78926066405227]
  胸部X線異常検出は重要な課題である。 近年,多数の医用画像に基づいて事前トレーニングされたCLIPベースの手法は,ゼロ/フェーショットダウンストリームタスクにおいて顕著な性能を示した。 凍結したCLIPモデルにタスクデータを適応させる位置誘導型プロンプト学習法を提案する。
  論文  参考訳（メタデータ） (2024-05-20T12:11:41Z)
• MLVICX: Multi-Level Variance-Covariance Exploration for Chest X-ray Self-Supervised Representation Learning [6.4136876268620115]
  MLVICXは、胸部X線画像からの埋め込みの形でリッチな表現をキャプチャするアプローチである。 自己教師付き胸部X線表現学習におけるMLVICXの性能を示す。
  論文  参考訳（メタデータ） (2024-03-18T06:19:37Z)
• MUSCLE: Multi-task Self-supervised Continual Learning to Pre-train Deep Models for X-ray Images of Multiple Body Parts [63.30352394004674]
  MUSCLE(Multi-task Self-super-vised Continual Learning)は、医用画像処理タスクのための、新しい自己教師付き事前学習パイプラインである。 MUSCLEは、複数の身体部分から収集したX線を集約して表現学習を行い、よく設計された連続学習手順を採用する。 肺炎分類,骨格異常分類,肺セグメンテーション,結核(TB)検出など,9つの実世界のX線データセットを用いてMUSCLEを評価する。
  論文  参考訳（メタデータ） (2023-10-03T12:19:19Z)
• Vision Transformer-based Model for Severity Quantification of Lung Pneumonia Using Chest X-ray Images [11.12596879975844]
  我々は、新型コロナウイルスや他の肺疾患の重症度を定量化するために、少数のトレーニング可能なパラメータに依存するビジョントランスフォーマーベースのニューラルネットワークモデルを提案する。 本モデルでは,比較的低い計算コストで高一般化性で重大度を定量化する上で,ピーク性能を提供することができる。
  論文  参考訳（メタデータ） (2023-03-18T12:38:23Z)
• Improving Classification Model Performance on Chest X-Rays through Lung Segmentation [63.45024974079371]
  本稿では, セグメンテーションによる異常胸部X線(CXR)識別性能を向上させるための深層学習手法を提案する。 提案手法は,CXR画像中の肺領域を局所化するための深層ニューラルネットワーク(XLSor)と,大規模CXRデータセットで事前学習した自己教師あり運動量コントラスト(MoCo)モデルのバックボーンを用いたCXR分類モデルである。
  論文  参考訳（メタデータ） (2022-02-22T15:24:06Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Learning Invariant Feature Representation to Improve Generalization across Chest X-ray Datasets [55.06983249986729]
  我々は、トレーニングデータと同じデータセットでテストすると、ディープラーニングモデルが、異なるソースからデータセットでテストされると、パフォーマンスが低下し始めることを示す。 対戦型トレーニング戦略を用いることで、ネットワークはソース不変表現を学習せざるを得ないことを示す。
  論文  参考訳（メタデータ） (2020-08-04T07:41:15Z)
• BS-Net: learning COVID-19 pneumonia severity on a large Chest X-Ray dataset [6.5800499500032705]
  我々は、Chest X-rays画像(CXR)に基づいて、新型コロナウイルス患者の肺妥協の度合いを判定するエンド・ツー・エンドのディープラーニングアーキテクチャを設計する。 当院で収集した約5,000個のCXR注釈画像の臨床的データセットを利用して検討した。 私たちのソリューションは、評価精度と一貫性において、一人のアノテータよりも優れています。
  論文  参考訳（メタデータ） (2020-06-08T13:55:58Z)
• Self-Training with Improved Regularization for Sample-Efficient Chest X-Ray Classification [80.00316465793702]
  挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。 その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
  論文  参考訳（メタデータ） (2020-05-03T02:36:00Z)
• Attention U-Net Based Adversarial Architectures for Chest X-ray Lung Segmentation [0.0]
  本稿では,診断パイプラインにおける基礎的,しかし困難な課題である肺分節に対する新しい深層学習手法を提案する。 本手法では, 逆批判モデルとともに, 最先端の完全畳み込みニューラルネットワークを用いる。 これは、患者プロファイルの異なる未確認データセットのCXRイメージによく当てはまり、JSRTデータセットの最終的なDSCRは97.5%に達した。
  論文  参考訳（メタデータ） (2020-03-23T14:45:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。