論文の概要: Representation Transfer of Foundation Models for Ultra-Widefield Retinal Imaging

• arxiv url: http://arxiv.org/abs/2608.00586v1
• Date: Sat, 01 Aug 2026 10:53:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:24.788007
• Title: Representation Transfer of Foundation Models for Ultra-Widefield Retinal Imaging
• Title（参考訳）: 超広視野網膜イメージングのための基礎モデルの表現伝達
• Abstract要約: 我々は,異なる事前学習方略が学習表現の伝達性にどのように影響するかを評価する。 我々は、教師付き、マスケッドオートエンコーダ(MAE)、自己蒸留目標で事前訓練されたビジョントランスフォーマーエンコーダを比較した。 より大規模で事前訓練された同時代のDINOv3は、全体的な性能を最強に達成した。
• 参考スコア（独自算出の注目度）: 4.175300836877834
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the widespread adoption of foundation models as feature extractors for medical imaging, relatively little is understood about how different pretraining strategies influence the transferability of learned representations to weakly supervised ophthalmic imaging tasks. We investigate this question in ultra-widefield (UWF) retinal imaging by evaluating foundation model representations within a patch-based multiple instance learning (MIL) framework for disease classification on UWF images. We compare Vision Transformer encoders pretrained with supervised, Masked Autoencoder (MAE), and self-distillation objectives, while keeping the downstream aggregation architecture unchanged. Within a controlled comparison of ViT-B encoders pretrained on ImageNet-1k, the choice of pretraining objective substantially influenced frozen representation transfer, with supervised and self-distillation-based models outperforming MAE. A contemporary DINOv3 model pretrained at a larger scale achieved the strongest overall performance, with a quadratic weighted kappa of 0.863 for five-class diabetic retinopathy grading, comparable with DINOv1. Attention analysis further revealed distinct patch-aggregation behaviours associated with the different pretrained representations, while partial fine-tuning substantially reduced the performance gap for MAE. These findings suggest that pretraining strategy influences both representation transferability and the subsequent aggregation of patch-level evidence within MIL, resulting in differences in downstream classification performance.
• Abstract（参考訳）: 医用撮像のための特徴抽出器として基礎モデルが広く採用されているが、学習された表現を弱教師付き眼科画像タスクに伝達しやすさにどのように影響するかは、比較的理解されていない。 UWF画像上の疾患分類のためのパッチベースマルチインスタンス学習(MIL)フレームワークにおける基礎モデル表現を評価することにより、超広視野網膜イメージング(UWF)におけるこの問題を考察する。 下流アグリゲーションアーキテクチャをそのまま維持しつつ, 教師付き, Masked Autoencoder (MAE) で事前訓練したビジョントランスフォーマーエンコーダと自己蒸留目標を比較した。 ImageNet-1kで事前学習したViT-Bエンコーダの制御された比較において、事前学習対象の選択は凍結表現伝達に大きく影響し、教師付きおよび自己蒸留モデルの方がMAEより優れていた。 同時代のDINOv3モデルでは,DINOv1に匹敵する5クラス糖尿病網膜症に対する2次重み付きカッパが0.863であった。 注意分析により、異なる事前訓練された表現に関連するパッチ集約動作が明らかになり、部分的な微調整によりMAEのパフォーマンスギャップが大幅に減少した。 これらの結果から, 事前学習戦略は, MIL内における表現伝達可能性とパッチレベルの証拠の集積に影響を及ぼし, 下流分類性能の違いが示唆された。

関連論文リスト

• Entropy-Guided Self-Supervised Learning for Medical Image Classification [0.0]
  本稿では,自己教師型学習と伝達学習の強みを活かし,医用画像分類の強化を目的とした相乗的深層学習フレームワークを提案する。 提案手法では,2つの異なるConvNeXt-Tinyモデルを用いている。1つは大規模自然画像データセット(ImageNet)で事前トレーニングされたもので,もう1つはターゲットの医療データセットでエントロピー誘導型Masked Autoencoder(MAE)を用いて事前トレーニングされたものだ。 4つの多様な医用画像データセットに対する厳密な実験的検証は、我々のアンサンブルアプローチの優れた性能と堅牢性を示している。
  論文  参考訳（メタデータ） (2026-05-21T04:01:06Z)
• UniSegDiff: Boosting Unified Lesion Segmentation via a Staged Diffusion Model [53.34835793648352]
  病変分割のための新しい拡散モデルフレームワークUniSegDiffを提案する。 UniSegDiffは、複数のモダリティと臓器にまたがる統一された方法で病変のセグメンテーションに対処する。 総合的な実験結果から、UniSegDiffは従来のSOTA(State-of-the-art)アプローチよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2025-07-24T12:33:10Z)
• Self-supervised learning improves robustness of deep learning lung tumor segmentation to CT imaging differences [7.332652485849634]
  自己教師付き学習(SSL)は、ラベルのないデータから有用な特徴表現を抽出する手法である。 我々は,Wild vs self-pretrained transformer (ViT) と階層型シフトウインドウ (Swin) モデルのロバストさとCT画像の違いを比較した。 肺腫瘍の分画におけるCT像像の違いは, 自己前置法よりも, 野生前置型ネットワークの方が, より堅牢であった。
  論文  参考訳（メタデータ） (2024-05-14T14:35:21Z)
• Adapting Visual-Language Models for Generalizable Anomaly Detection in Medical Images [68.42215385041114]
  本稿では,CLIPモデルを用いた医用異常検出のための軽量な多レベル適応と比較フレームワークを提案する。 提案手法では,複数の残像アダプタを事前学習した視覚エンコーダに統合し,視覚的特徴の段階的向上を実現する。 医学的異常検出ベンチマーク実験により,本手法が現在の最先端モデルを大幅に上回っていることが示された。
  論文  参考訳（メタデータ） (2024-03-19T09:28:19Z)
• LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical Imaging via Second-order Graph Matching [59.01894976615714]
  LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。 55の公開データセットから約13万の医療画像を収集しました。 LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
  論文  参考訳（メタデータ） (2023-06-20T22:21:34Z)
• DiffMIC: Dual-Guidance Diffusion Network for Medical Image Classification [32.67098520984195]
  一般医用画像分類のための拡散モデル(DiffMIC)を提案する。 実験の結果,DiffMICは最先端の手法よりも有意に優れていた。
  論文  参考訳（メタデータ） (2023-03-19T09:15:45Z)
• Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective [51.70661197256033]
  医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。 まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。 5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
  論文  参考訳（メタデータ） (2023-02-03T13:50:25Z)
• GraVIS: Grouping Augmented Views from Independent Sources for Dermatology Analysis [52.04899592688968]
  皮膚科画像から自己教師付き特徴を学習するために特に最適化されたGraVISを提案する。 GraVISは、病変のセグメンテーションと疾患分類のタスクにおいて、転送学習と自己教師型学習を著しく上回っている。
  論文  参考訳（メタデータ） (2023-01-11T11:38:37Z)
• A Closer Look at Self-Supervised Lightweight Vision Transformers [44.44888945683147]
  大規模視覚変換器(ViT)の自己教師型学習を事前学習法として実現した。 画像分類タスクと下流密度予測タスクに関する自己教師付き事前学習手法のベンチマークを行った。 バニラ・ライトウェイトなViTでさえ、デリケートなアーキテクチャ設計を持つ以前のSOTAネットワークに匹敵する性能を示している。
  論文  参考訳（メタデータ） (2022-05-28T14:14:57Z)
• How Transferable Are Self-supervised Features in Medical Image Classification Tasks? [0.7734726150561086]
  トランスファーラーニングは、医学分類タスクにおけるラベル付きデータの欠如を軽減するための標準的プラクティスとなっている。 自己教師付き事前訓練モデルでは、教師付きモデルよりもリッチな埋め込みが得られる。 Dynamic Visual Meta-Embedding (DVME)は、複数のモデルから事前学習された埋め込みを融合するエンドツーエンドのトランスファー学習アプローチである。
  論文  参考訳（メタデータ） (2021-08-23T10:39:31Z)
• On the Robustness of Pretraining and Self-Supervision for a Deep Learning-based Analysis of Diabetic Retinopathy [70.71457102672545]
  糖尿病網膜症における訓練方法の違いによる影響を比較検討した。 本稿では,定量的性能,学習した特徴表現の統計,解釈可能性,画像歪みに対する頑健性など,さまざまな側面について検討する。 以上の結果から,ImageNet事前学習モデルでは,画像歪みに対する性能,一般化,堅牢性が著しく向上していることが示唆された。
  論文  参考訳（メタデータ） (2021-06-25T08:32:45Z)
• About Explicit Variance Minimization: Training Neural Networks for Medical Imaging With Limited Data Annotations [2.3204178451683264]
  VAT(Variance Aware Training)法は、モデル損失関数に分散誤差を導入することにより、この特性を利用する。 多様な領域から得られた3つの医用画像データセットと様々な学習目標に対するVATの有効性を検証した。
  論文  参考訳（メタデータ） (2021-05-28T21:34:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。