論文の概要: A BERT-Style Self-Supervised Learning CNN for Disease Identification from Retinal Images

• arxiv url: http://arxiv.org/abs/2504.18049v1
• Date: Fri, 25 Apr 2025 03:38:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:53.632329
• Title: A BERT-Style Self-Supervised Learning CNN for Disease Identification from Retinal Images
• Title（参考訳）: 網膜画像からの疾患識別のためのBERT-Style Self-Supervised Learning CNN
• Authors: Xin Li, Wenhui Zhu, Peijie Qiu, Oana M. Dumitrascu, Amal Youssef, Yalin Wang,
• Abstract要約: 医用画像研究において、高品質なラベルの取得は高価かつ困難である。 本研究では,BERTスタイルの自己教師型学習手法を実装するために,軽量CNNフレームワークであるnn-MobileNetを用いる。 アルツハイマー病 (AD) , パーキンソン病 (PD) , および各種網膜疾患の鑑別について, 事前訓練を行った。
• 参考スコア（独自算出の注目度）: 5.0086124858415335
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the field of medical imaging, the advent of deep learning, especially the application of convolutional neural networks (CNNs) has revolutionized the analysis and interpretation of medical images. Nevertheless, deep learning methods usually rely on large amounts of labeled data. In medical imaging research, the acquisition of high-quality labels is both expensive and difficult. The introduction of Vision Transformers (ViT) and self-supervised learning provides a pre-training strategy that utilizes abundant unlabeled data, effectively alleviating the label acquisition challenge while broadening the breadth of data utilization. However, ViT's high computational density and substantial demand for computing power, coupled with the lack of localization characteristics of its operations on image patches, limit its efficiency and applicability in many application scenarios. In this study, we employ nn-MobileNet, a lightweight CNN framework, to implement a BERT-style self-supervised learning approach. We pre-train the network on the unlabeled retinal fundus images from the UK Biobank to improve downstream application performance. We validate the results of the pre-trained model on Alzheimer's disease (AD), Parkinson's disease (PD), and various retinal diseases identification. The results show that our approach can significantly improve performance in the downstream tasks. In summary, this study combines the benefits of CNNs with the capabilities of advanced self-supervised learning in handling large-scale unlabeled data, demonstrating the potential of CNNs in the presence of label scarcity.
• Abstract（参考訳）: 医用画像の分野では、深層学習の出現、特に畳み込みニューラルネットワーク(CNN)の適用は、医療画像の分析と解釈に革命をもたらした。 それでも、ディープラーニングの手法は、通常大量のラベル付きデータに依存している。 医用画像研究において、高品質なラベルの取得は高価かつ困難である。 ビジョントランスフォーマー(ViT)の導入と自己教師型学習は、豊富なラベル付きデータを活用する事前学習戦略を提供し、データ利用の幅を広げつつ、ラベル取得の課題を効果的に軽減する。 しかし、ViTの高計算密度と計算能力に対するかなりの需要は、画像パッチ上の操作のローカライズ特性の欠如と相まって、多くのアプリケーションシナリオにおいてその効率性と適用性を制限する。 本研究では,BERTスタイルの自己教師型学習手法を実装するために,軽量CNNフレームワークであるnn-MobileNetを用いる。 我々は,英国バイオバンクの未ラベル網膜基底画像のネットワークを事前トレーニングし,ダウンストリームアプリケーションの性能を向上させる。 アルツハイマー病 (AD) , パーキンソン病 (PD) , および各種網膜疾患の鑑別について, 事前訓練を行った。 その結果,本手法は下流タスクの性能を著しく向上させることができることがわかった。 要約すると、CNNの利点と、大規模ラベルなしデータの扱いにおける高度な自己教師付き学習の能力を組み合わせることで、ラベル不足の存在下でのCNNの可能性を示す。

関連論文リスト

• Data-Efficient Vision Transformers for Multi-Label Disease Classification on Chest Radiographs [55.78588835407174]
  視覚変換器(ViT)は一般的な画像の分類性能が高いにもかかわらず、このタスクには適用されていない。 ViTは、畳み込みではなくパッチベースの自己アテンションに依存しており、CNNとは対照的に、ローカル接続に関する事前の知識は存在しない。 以上の結果から,ViTとCNNのパフォーマンスはViTの利点に匹敵するものの,DeiTsはトレーニング用に適度に大規模なデータセットが利用可能であれば,前者よりも優れることがわかった。
  論文  参考訳（メタデータ） (2022-08-17T09:07:45Z)
• Intelligent Masking: Deep Q-Learning for Context Encoding in Medical Image Analysis [48.02011627390706]
  我々は,対象地域を排除し,事前訓練の手順を改善する,新たな自己指導型アプローチを開発した。 予測モデルに対してエージェントを訓練することで、下流の分類タスクで抽出した意味的特徴を大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2022-03-25T19:05:06Z)
• When Accuracy Meets Privacy: Two-Stage Federated Transfer Learning Framework in Classification of Medical Images on Limited Data: A COVID-19 Case Study [77.34726150561087]
  新型コロナウイルスのパンデミックが急速に広がり、世界の医療資源が不足している。 CNNは医療画像の解析に広く利用され、検証されている。
  論文  参考訳（メタデータ） (2022-03-24T02:09:41Z)
• Stain Normalized Breast Histopathology Image Recognition using Convolutional Neural Networks for Cancer Detection [9.826027427965354]
  近年の進歩により、畳み込みニューラルネットワーク(CNN)アーキテクチャは乳がん検出のためのコンピュータ支援診断(CAD)システムの設計に利用できることが示されている。 乳腺病理像の2値分類のためのCNNモデルについて検討した。 我々は,200倍,400倍に拡大した病理像に対して,トレーニング済みのCNNネットワークを利用可能なBreaKHisデータセットで検証した。
  論文  参考訳（メタデータ） (2022-01-04T03:09:40Z)
• One-Vote Veto: Semi-Supervised Learning for Low-Shot Glaucoma Diagnosis [3.4069019052564506]
  畳み込みニューラルネットワーク(CNN)は,眼底画像から緑内障を自動診断するための有望な手法である。 CNNは通常、多くのバイオメディカル画像分類アプリケーションでは利用できない、十分なラベル付きデータをトレーニングに必要とします。 本稿では,(1)従来のシームズネットワークを拡張し,ラベル付きデータが限定的かつ不均衡な場合のローショット学習のトレーニング手法を導入し,(2)ラベル付きトレーニングデータを用いた新たな半教師付き学習戦略を導入し,精度の向上を図る。
  論文  参考訳（メタデータ） (2020-12-09T03:20:06Z)
• Self supervised contrastive learning for digital histopathology [0.0]
  我々はSimCLRと呼ばれる対照的な自己教師型学習手法を用いて、自然シーン画像の最先端結果を得た。 異なる種類の染色特性と分解特性とを組み合わせることで,学習した特徴の質が向上することがわかった。 学習した機能に基づいてトレーニングされた線形分類器は、デジタル病理学データセットで事前トレーニングされたネットワークが、ImageNet事前トレーニングされたネットワークよりも優れたパフォーマンスを示すことを示している。
  論文  参考訳（メタデータ） (2020-11-27T19:18:45Z)
• Uncovering the structure of clinical EEG signals with self-supervised learning [64.4754948595556]
  教師付き学習パラダイムは、しばしば利用可能なラベル付きデータの量によって制限される。 この現象は脳波(EEG)などの臨床関連データに特に問題となる。 ラベルのないデータから情報を抽出することで、ディープニューラルネットワークとの競合性能に到達することができるかもしれない。
  論文  参考訳（メタデータ） (2020-07-31T14:34:47Z)
• Multi-label Thoracic Disease Image Classification with Cross-Attention Networks [65.37531731899837]
  胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。 また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
  論文  参考訳（メタデータ） (2020-07-21T14:37:00Z)
• Self-Loop Uncertainty: A Novel Pseudo-Label for Semi-Supervised Medical Image Segmentation [30.644905857223474]
  本稿では,医療画像セグメンテーションのためのラベル付きデータと大量のラベル付き画像を用いて,ニューラルネットワークを訓練するための半教師付きアプローチを提案する。 未ラベル画像に対する新たな擬似ラベル(いわゆる自己ループ不確実性)を基盤として、トレーニングセットを増強し、セグメンテーション精度を高める。
  論文  参考訳（メタデータ） (2020-07-20T02:52:07Z)
• 3D medical image segmentation with labeled and unlabeled data using autoencoders at the example of liver segmentation in CT images [58.720142291102135]
  本研究では、畳み込みニューラルネットワークによるセグメンテーションを改善するために、オートエンコーダ抽出機能の可能性を検討する。 コンボリューション・オートエンコーダを用いてラベルのないデータから特徴を抽出し,CT画像における3次元肝セグメンテーションの目標タスクを実行するために,マルチスケールの完全畳み込みCNNを用いた。
  論文  参考訳（メタデータ） (2020-03-17T20:20:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。