論文の概要: Federated Learning with LoRA Optimized DeiT and Multiscale Patch Embedding for Secure Eye Disease Recognition
- arxiv url: http://arxiv.org/abs/2505.06982v1
- Date: Sun, 11 May 2025 13:51:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:49.144622
- Title: Federated Learning with LoRA Optimized DeiT and Multiscale Patch Embedding for Secure Eye Disease Recognition
- Title(参考訳): LoRA最適化DeiTによるフェデレーション学習と安全な眼疾患認識のためのマルチスケールパッチ埋め込み
- Authors: Md. Naimur Asif Borno, Md Sakib Hossain Shovon, MD Hanif Sikder, Iffat Firozy Rimi, Tahani Jaser Alahmadi, Mohammad Ali Moni,
- Abstract要約: 本研究では,AIを用いた医用イメージングと疾患検出を先進的に進めるために,データ効率画像変換器(DeIT)を用いたアプローチを提案する。
AUC、F1スコア、精度、最小損失、トップ5の精度で最先端のパフォーマンスを実現している。
Grad-CAM++視覚化は、重要な病理領域を強調し、モデルの臨床的関連性を高めることにより、解釈可能性を向上させる。
- 参考スコア(独自算出の注目度): 2.1358421658740214
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent progress in image-based medical disease detection encounters challenges such as limited annotated data sets, inadequate spatial feature analysis, data security issues, and inefficient training frameworks. This study introduces a data-efficient image transformer (DeIT)-based approach that overcomes these challenges by utilizing multiscale patch embedding for better feature extraction and stratified weighted random sampling to address class imbalance. The model also incorporates a LoRA-enhanced transformer encoder, a distillation framework, and federated learning for decentralized training, improving both efficiency and data security. Consequently, it achieves state-of-the-art performance, with the highest AUC, F1 score, precision, minimal loss, and Top-5 accuracy. Additionally, Grad-CAM++ visualizations improve interpretability by highlighting critical pathological regions, enhancing the model's clinical relevance. These results highlight the potential of this approach to advance AI-powered medical imaging and disease detection.
- Abstract(参考訳): 画像ベースの医療疾患検出の最近の進歩は、限られた注釈付きデータセット、不適切な空間特徴分析、データセキュリティ問題、非効率的なトレーニングフレームワークといった課題に直面している。
本研究は,マルチスケールパッチ埋め込みによる特徴抽出の改善と,クラス不均衡に対処するための重み付きランダムサンプリングにより,これらの課題を克服するデータ効率画像トランスフォーマ(DeIT)ベースのアプローチを提案する。
このモデルには、LoRA強化トランスフォーマーエンコーダ、蒸留フレームワーク、分散トレーニングのためのフェデレーション学習が含まれており、効率とデータセキュリティの両方を改善している。
その結果、AUC、F1スコア、精度、最小損失、トップ5の精度で最先端のパフォーマンスを達成する。
さらに、Grad-CAM++視覚化は、重要な病理領域を強調し、モデルの臨床的関連性を高めることにより、解釈可能性を向上させる。
これらの結果は、AIを利用した医療画像と疾患検出の進歩に対するこのアプローチの可能性を浮き彫りにしている。
関連論文リスト
- Enhancing DR Classification with Swin Transformer and Shifted Window Attention [9.99302279736049]
糖尿病網膜症 (DR) は, 早期発見の重要性を浮き彫りにしている。
画像トリミング、コントラスト制限適応ヒストグラム等化(CLAHE)、およびモデル一般化とレジリエンスを改善するためのターゲットデータ拡張を組み込んだ頑健な前処理パイプラインを提案する。
我々は,多クラスDR分類のためのAptosデータセットとIDRiDデータセットを用いて,精度89.65%,精度97.40%を実現した。
論文 参考訳(メタデータ) (2025-04-20T13:23:20Z) - Revisiting Medical Image Retrieval via Knowledge Consolidation [46.6989555659494]
本稿では,階層的特徴と機能に関する知識を集約する新しい手法を提案する。
本稿では,Depth-aware Representation Fusion (DaRF)とStructure-aware Contrastive Hashing (SCH)を紹介する。
解剖学的放射線学データセットの平均精度は5.6~38.9%向上した。
論文 参考訳(メタデータ) (2025-03-12T13:16:42Z) - Advancing UWF-SLO Vessel Segmentation with Source-Free Active Domain Adaptation and a Novel Multi-Center Dataset [11.494899967255142]
UWF-SLO画像における正確な血管セグメンテーションは網膜疾患の診断に不可欠である。
高い解像度のUWF-SLO画像を手動でラベル付けすることは、非常に難しく、時間がかかり、高価な作業である。
本研究では、パッチベースのアクティブドメイン適応アプローチを活用する先駆的なフレームワークを紹介する。
論文 参考訳(メタデータ) (2024-06-19T15:49:06Z) - Distributed Federated Learning-Based Deep Learning Model for Privacy MRI Brain Tumor Detection [11.980634373191542]
分散トレーニングは、大規模な医用画像データセットの処理を容易にし、疾患診断の精度と効率を向上させる。
本稿では,データプライバシと効率的な疾患診断という2つの課題に対処するために,Federated Learning(FL)を活用した医用画像分類の革新的なアプローチを提案する。
論文 参考訳(メタデータ) (2024-04-15T09:07:19Z) - Enhancing and Adapting in the Clinic: Source-free Unsupervised Domain
Adaptation for Medical Image Enhancement [34.11633495477596]
ソースレス非教師なし領域適応医療画像強調法(SAME)を提案する。
構造化学習データからロバストなソースモデルを学習するために,まず構造保存強化ネットワークを構築した。
強化タスクの知識蒸留を促進するために擬似ラベルピッカーを開発した。
論文 参考訳(メタデータ) (2023-12-03T10:01:59Z) - Leveraging Semi-Supervised Graph Learning for Enhanced Diabetic
Retinopathy Detection [0.0]
糖尿病網膜症(DR: Diabetic Retinopathy)は、早期発見と治療の急激な必要性を浮き彫りにしている。
機械学習(ML)技術の最近の進歩は、DR検出における将来性を示しているが、ラベル付きデータの可用性は、しばしばパフォーマンスを制限している。
本研究では,DR検出に適したSemi-Supervised Graph Learning SSGLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-02T04:42:08Z) - Automatic diagnosis of knee osteoarthritis severity using Swin
transformer [55.01037422579516]
変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。
我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
論文 参考訳(メタデータ) (2023-07-10T09:49:30Z) - USIM-DAL: Uncertainty-aware Statistical Image Modeling-based Dense
Active Learning for Super-resolution [47.38982697349244]
デンス回帰(Dense regression)は、画像の超解像、エンハンスメント、深さ推定などのタスクのためのコンピュータビジョンで広く使われているアプローチである。
この問題に対処するために,能動学習を高密度回帰モデルに組み込むことを提案する。
アクティブな学習により、モデルはラベル付けのための最も有益なサンプルを選択し、全体的なアノテーションコストを削減し、パフォーマンスを向上させることができる。
論文 参考訳(メタデータ) (2023-05-27T16:33:43Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z) - Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for
Thoracic Disease Identification [83.6017225363714]
ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。
胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。
本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
論文 参考訳(メタデータ) (2021-02-26T02:29:30Z) - Multi-label Thoracic Disease Image Classification with Cross-Attention
Networks [65.37531731899837]
胸部X線画像から胸部疾患を自動分類するためのCAN(Cross-Attention Networks)を提案する。
また,クロスエントロピー損失を超える新たな損失関数を設計し,クラス間の不均衡を克服する。
論文 参考訳(メタデータ) (2020-07-21T14:37:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。