論文の概要: Significantly improving zero-shot X-ray pathology classification via fine-tuning pre-trained image-text encoders

• arxiv url: http://arxiv.org/abs/2212.07050v3
• Date: Fri, 11 Oct 2024 08:19:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-14 13:28:57.090017
• Title: Significantly improving zero-shot X-ray pathology classification via fine-tuning pre-trained image-text encoders
• Title（参考訳）: 微調整事前学習画像テキストエンコーダによるゼロショットX線病理分類の改善
• Authors: Jongseong Jang, Daeun Kyung, Seung Hwan Kim, Honglak Lee, Kyunghoon Bae, Edward Choi,
• Abstract要約: 本稿では,正対損失緩和とランダムな文サンプリングを含む新たな微調整手法を提案する。 提案手法は,胸部X線データセットと3つの事前訓練モデル間のゼロショット病理分類を一貫して改善する。
• 参考スコア（独自算出の注目度）: 50.689585476660554
• License:
• Abstract: Deep neural networks are increasingly used in medical imaging for tasks such as pathological classification, but they face challenges due to the scarcity of high-quality, expert-labeled training data. Recent efforts have utilized pre-trained contrastive image-text models like CLIP, adapting them for medical use by fine-tuning the model with chest X-ray images and corresponding reports for zero-shot pathology classification, thus eliminating the need for pathology-specific annotations. However, most studies continue to use the same contrastive learning objectives as in the general domain, overlooking the multi-labeled nature of medical image-report pairs. In this paper, we propose a new fine-tuning strategy that includes positive-pair loss relaxation and random sentence sampling. We aim to improve the performance of zero-shot pathology classification without relying on external knowledge. Our method can be applied to any pre-trained contrastive image-text encoder and easily transferred to out-of-domain datasets without further training, as it does not use external data. Our approach consistently improves overall zero-shot pathology classification across four chest X-ray datasets and three pre-trained models, with an average macro AUROC increase of 4.3%. Additionally, our method outperforms the state-of-the-art and marginally surpasses board-certified radiologists in zero-shot classification for the five competition pathologies in the CheXpert dataset.
• Abstract（参考訳）: ディープ・ニューラル・ネットワークは、病理分類などのタスクのために医療画像にますます使われているが、高品質のエキスパートラベル付きトレーニングデータが不足しているため、課題に直面している。 近年の取り組みでは、CLIPのような訓練済みのコントラスト画像テキストモデルを利用して、胸部X線画像とそれに対応するゼロショットの病理分類のためのレポートを微調整することで、医療用途に適応している。 しかし、ほとんどの研究は一般的な領域と同様の対照的な学習目標を使い続けており、医用画像-レポートペアのマルチラベルの性質を見越している。 本稿では,正対損失緩和とランダムな文サンプリングを含む新たな微調整手法を提案する。 外部知識に頼らずにゼロショット病理分類の性能を向上させることを目的としている。 提案手法は、事前訓練されたコントラスト画像テキストエンコーダに適用可能であり、外部データを使用しないため、さらなるトレーニングをすることなく、ドメイン外のデータセットに容易に転送できる。 提案手法は,胸部X線データセットと3つの事前訓練モデル間のゼロショット病理分類を継続的に改善し,平均マクロAUROCは4.3%増加した。 さらに,本手法は,CheXpertデータセットの5つの競合病因のゼロショット分類において,最先端の放射線学者よりも優れ,基板認証された放射線学者をわずかに上回っている。

関連論文リスト

• Vision-Language Modelling For Radiological Imaging and Reports In The Low Data Regime [70.04389979779195]
  本稿では,視覚および言語入力を共通空間に埋め込んだ医用視覚言語モデル(VLM)について検討する。 本稿では,新しい画像領域やテキスト領域への汎用事前学習モデルの適用など,低データ性能向上のためのいくつかの候補手法について検討する。 テキスト・ツー・イメージ検索をベンチマークとして,2つの胸部X線および放射線学的報告を用いた可変サイズのトレーニングデータセットを用いて,これらの手法の性能評価を行った。
  論文  参考訳（メタデータ） (2023-03-30T18:20:00Z)
• RadTex: Learning Efficient Radiograph Representations from Text Reports [7.090896766922791]
  我々は,放射線学報告を利用して,限られたラベル付きデータを用いた医用画像分類性能を向上させるための,データ効率のよい学習フレームワークを構築した。 本モデルは,ラベル付きトレーニングデータに制限がある場合,ImageNetによる事前学習よりも高い分類性能を実現する。
  論文  参考訳（メタデータ） (2022-08-05T15:06:26Z)
• Application of Transfer Learning and Ensemble Learning in Image-level Classification for Breast Histopathology [9.037868656840736]
  CAD(Computer-Aided Diagnosis)では、従来の分類モデルでは、主に1つのネットワークを使って特徴を抽出する。 本稿では良性病変と悪性病変のバイナリ分類のための画像レベルラベルに基づく深層アンサンブルモデルを提案する。 結果: アンサンブルネットワークモデルにおいて、画像レベルのバイナリ分類は9,8.90%の精度を達成する。
  論文  参考訳（メタデータ） (2022-04-18T13:31:53Z)
• A Deep Learning Technique using a Sequence of Follow Up X-Rays for Disease classification [3.3345134768053635]
  深層学習技術を用いて肺と心臓の疾患を予測する能力は多くの研究者の中心である。 最新の胸部X線像3例の追跡歴を含む患者のX線像は, 疾患分類において良好な成績を示すと推定された。
  論文  参考訳（メタデータ） (2022-03-28T19:58:47Z)
• Incremental Cross-Domain Adaptation for Robust Retinopathy Screening via Bayesian Deep Learning [7.535751594024775]
  網膜症は、タイムリーに治療されないと、深刻な視覚障害や失明を引き起こす網膜疾患のグループである。 本稿では, 深い分類モデルを用いて, 異常網膜病理を段階的に学習することのできる, 漸進的なクロスドメイン適応手法を提案する。 提案したフレームワークは、6つの公開データセットで評価され、全体的な精度とF1スコアをそれぞれ0.9826と0.9846で達成することで、最先端の競合他社を上回っている。
  論文  参考訳（メタデータ） (2021-10-18T13:45:21Z)
• Malignancy Prediction and Lesion Identification from Clinical Dermatological Images [65.1629311281062]
  臨床皮膚画像から機械学習に基づく悪性度予測と病変の同定を検討する。 まず, サブタイプや悪性度に関わらず画像に存在するすべての病変を同定し, その悪性度を推定し, 凝集により, 画像レベルの悪性度も生成する。
  論文  参考訳（メタデータ） (2021-04-02T20:52:05Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• Multi-label Thoracic Disease Image Classification with Cross-Attention Networks [65.37531731899837]
  胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。 また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
  論文  参考訳（メタデータ） (2020-07-21T14:37:00Z)
• Semi-supervised Medical Image Classification with Relation-driven Self-ensembling Model [71.80319052891817]
  医用画像分類のための関係駆動型半教師付きフレームワークを提案する。 これは、摂動下で与えられた入力の予測一貫性を促進することでラベルのないデータを利用する。 本手法は,シングルラベルおよびマルチラベル画像分類のシナリオにおいて,最先端の半教師付き学習手法よりも優れる。
  論文  参考訳（メタデータ） (2020-05-15T06:57:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。