論文の概要: Convergent Performance, Divergent Mechanisms in LoRA-Adapted Vision Foundation Models for Brain MRI
- arxiv url: http://arxiv.org/abs/2610.28255v1
- Date: Tue, 20 Oct 2026 14:12:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.841207
- Title: Convergent Performance, Divergent Mechanisms in LoRA-Adapted Vision Foundation Models for Brain MRI
- Title(参考訳): 脳MRIのためのLoRA適応視覚基礎モデルにおける収束性能と発散機構
- Abstract要約: 目的の異なる4つのVT-B/16バックボーン,DINOv3,SigLIP2,MerMED-FM,BiomedCLIPの解析を行った。
脳腫瘍の分節化に適応し,6つのデータセットを用いて,セグメント化とアルツハイマー病の分類について検討した。
- 参考スコア(独自算出の注目度): 44.14794504955313
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Adapting Vision Foundation Models (VFMs) to medical imaging via LoRA has become standard practice, yet model selection is guided almost entirely by downstream task metrics, treating backbones with similar performance as interchangeable. We investigate whether equal performance implies equal internal representational shift. We analyse four ViT-B/16 backbones, DINOv3, SigLIP2, MerMED-FM, and BiomedCLIP, pre-trained with different objectives (self-distillation vs. contrastive vision-language) and on different data domains (natural vs. medical images). We adapt each to brain tumour segmentation and evaluate on six datasets covering both segmentation and Alzheimer's disease classification. Using attention divergence, weight-change analysis, and activation patching, we find that the four models converge to similar segmentation performance (mean Dice 78-81%) through markedly different internal dynamics, yet diverge in cross-task transfer: segmentation adaptation improves Alzheimer's disease classification for DINOv3 but degrades it for the other three backbones. We reveal a dissociation between modification magnitude and causal importance: the most heavily modified layers are not the causally relevant ones, with early-to-mid layers identified as sufficient for segmentation recovery. Restricting LoRA to these layers matches or approaches full-layer segmentation while reducing classification degradation in the three affected backbones, providing a mechanistically grounded strategy that is more parameter-efficient and more robust than standard full-layer adaptation.
- Abstract(参考訳): ビジョンファウンデーションモデル(VFM)をLoRAを介して医療画像に適応させることは、標準的な慣例となっているが、モデル選択は、ほぼ完全に下流のタスクメトリクスによってガイドされ、同様のパフォーマンスでバックボーンを交換可能である。
等価性能が同じ内部表現シフトを意味するかどうかを考察する。
本研究は,VT-B/16の4つのバックボーン,DINOv3,SigLIP2,MerMED-FM,BiomedCLIPを,異なる目的(自己蒸留と対照的な視覚言語)と異なるデータドメイン(自然対医療画像)で事前訓練した。
脳腫瘍の分節化に適応し,6つのデータセットを用いて,セグメント化とアルツハイマー病の分類について検討した。
注意分散, 体重変化解析, アクティベーションパッチを用いて, 4つのモデルが類似のセグメンテーション性能(Dice 78-81%)に収束し, 内部動態が著しく異なるが, クロスタスク変換にばらつき, セグメンテーション適応はDINOv3のアルツハイマー病分類を改善するが, 他の3つのバックボーンに分解する。
最も大きく修正された層は因果関係のない層であり、早期から中期の層はセグメンテーション回復に十分と認識されている。
これらの層へのLoRAの制限は、影響を受ける3つのバックボーンの分類劣化を低減しつつ、全層セグメンテーションにマッチするか、あるいはアプローチし、標準的な全層適応よりもパラメータ効率が高く、より堅牢なメカニカルな戦略を提供する。
関連論文リスト
- CIPHER: Causal Intervention Pathways for Healthcare Equity and Robustness [12.8473199678431]
構造因果モデルを用いて医用画像形成過程を定式化する。
CIPHERは4つの因果経路すべてに介入するように設計されたフレームワークである。
マルチパス介入戦略を用いて,最悪のグループ格差を平均35.8%削減した。
論文 参考訳(メタデータ) (2026-07-01T09:36:53Z) - D3Seg: Dependency-Aware Diffusion for Brain Tumor Segmentation with Missing Modalities [54.87947751720332]
欠落モード設定下での安定した性能を維持するために,新しいセグメンテーションモデルD3Segを提案する。
提案モデルでは, 腫瘍造影法 (ET) で約1.5~2.0%, 腫瘍コア法 (TC) で約1.0%, 複数の欠損モードで約1.0%を達成している。
論文 参考訳(メタデータ) (2026-05-21T09:55:42Z) - VRXU-net: A Deep Learning Approach for Brain Ischemic Stroke Lesion Detection and Segmentation in T1W MRI [0.0]
本研究では,3次元MRI画像における虚血性脳梗塞の検出と分画を行うために,視覚的特徴,残差接続,U字型ネットワークから派生した新しいVRU-Netアーキテクチャを提案する。
性能と処理速度の両方を改善するために、シーケンシャルフレームワークにおけるセグメンテーションモデルの前に高性能な分類器を適用する。
提案モデルは、ストローク後の解剖学的トレースに基づいて訓練され、精度とDice係数の点で最先端のモデルより優れている。
論文 参考訳(メタデータ) (2026-05-20T18:44:08Z) - Specializing Foundation Models via Mixture of Low-Rank Experts for Comprehensive Head CT Analysis [6.04562866374803]
複数の特殊な低ランクアダプタと教師なしソフトルーティングでLoRAを拡張したMixture of Low-Rank Experts (MoLRE) フレームワークを提案する。
2次元および3次元のアーキテクチャ、一般ドメイン、医療ドメイン、頭部CT固有の事前訓練、および7Mから431Mのモデルサイズにまたがる6つの最先端医療画像基盤モデルのMoLREのベンチマークを提示する。
論文 参考訳(メタデータ) (2026-02-28T14:32:38Z) - Dual-Encoder Transformer-Based Multimodal Learning for Ischemic Stroke Lesion Segmentation Using Diffusion MRI [5.332404648315838]
ISLES 2022データセットからのマルチモーダル拡散MRIを用いて虚血性脳梗塞の分節について検討した。
U-Net、Swin-UNet、TransUNetなど、最先端の畳み込みとトランスフォーマーベースのアーキテクチャがベンチマークされている。
その結果、トランスフォーマーベースのモデルは畳み込みベースラインよりも優れており、提案したデュアルエンコーダのTransUNetは、テストセットで85.4%のDiceスコアに達した。
論文 参考訳(メタデータ) (2025-12-23T15:24:31Z) - MM-UNet: Morph Mamba U-shaped Convolutional Networks for Retinal Vessel Segmentation [21.90972169495466]
MM-UNetは、効率的な網膜血管分割に適した新しいアーキテクチャである。
Morph Mamba Convolution 層が組み込まれており、分岐したトポロジカルな知覚を高めるためにポイントワイズ・コンボリューションを置き換える。
DRIVEで1.64%、STAREで1.25%のF1スコアゲインを達成し、その効果と進歩を示す。
論文 参考訳(メタデータ) (2025-11-04T02:18:25Z) - MedSeqFT: Sequential Fine-tuning Foundation Models for 3D Medical Image Segmentation [55.37355146924576]
MedSeqFTは、医用画像解析のためのシーケンシャルな微調整フレームワークである。
事前訓練されたモデルを新しいタスクに適応させ、表現能力を改善する。
最先端の微調整戦略を一貫して上回ります。
論文 参考訳(メタデータ) (2025-09-07T15:22:53Z) - The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease
detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。
我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。
このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文 参考訳(メタデータ) (2023-09-13T10:40:41Z) - Rethinking Semi-Supervised Medical Image Segmentation: A
Variance-Reduction Perspective [51.70661197256033]
医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。
まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。
5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
論文 参考訳(メタデータ) (2023-02-03T13:50:25Z) - Cross-Site Severity Assessment of COVID-19 from CT Images via Domain
Adaptation [64.59521853145368]
CT画像によるコロナウイルス病2019(COVID-19)の早期かつ正確な重症度評価は,集中治療単位のイベント推定に有効である。
ラベル付きデータを拡張し、分類モデルの一般化能力を向上させるためには、複数のサイトからデータを集約する必要がある。
この課題は、軽度の感染症と重度の感染症の集団不均衡、部位間のドメイン分布の相違、不均一な特徴の存在など、いくつかの課題に直面する。
論文 参考訳(メタデータ) (2021-09-08T07:56:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。