論文の概要: Few-Shot Continual Learning for 3D Brain MRI with Frozen Foundation Models
- arxiv url: http://arxiv.org/abs/2602.23533v1
- Date: Thu, 26 Feb 2026 22:31:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-02 19:48:24.15321
- Title: Few-Shot Continual Learning for 3D Brain MRI with Frozen Foundation Models
- Title(参考訳): 凍結基礎モデルを用いた3次元脳MRIのFew-Shot連続学習
- Authors: Chi-Sheng Chen, Xinyu Zhang, Guan-Ying Chen, Qiuzhe Xie, Fan Zhang, En-Jui Kuo,
- Abstract要約: 大規模な3D医療画像データに基づいて事前訓練された基礎モデルは、継続的な学習の下で複数の下流タスクに適応する際の課題に直面している。
凍結したトレーニング済みのバックボーンとタスク固有のLow-Rank Adaptationモジュールを組み合わせることで、3次元脳MRIのための数ショット連続学習を実現する。
- 参考スコア(独自算出の注目度): 14.238447299292822
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models pretrained on large-scale 3D medical imaging data face challenges when adapted to multiple downstream tasks under continual learning with limited labeled data. We address few-shot continual learning for 3D brain MRI by combining a frozen pretrained backbone with task-specific Low-Rank Adaptation (LoRA) modules. Tasks arrive sequentially -- tumor segmentation (BraTS) and brain age estimation (IXI) -- with no replay of previous task data. Each task receives a dedicated LoRA adapter; only the adapter and task-specific head are trained while the backbone remains frozen, thereby eliminating catastrophic forgetting by design (BWT=0). In continual learning, sequential full fine-tuning suffers severe forgetting (T1 Dice drops from 0.80 to 0.16 after T2), while sequential linear probing achieves strong T1 (Dice 0.79) but fails on T2 (MAE 1.45). Our LoRA approach achieves the best balanced performance across both tasks: T1 Dice 0.62$\pm$0.07, T2 MAE 0.16$\pm$0.05, with zero forgetting and $<$0.1\% trainable parameters per task, though with noted systematic age underestimation in T2 (Wilcoxon $p<0.001$). Frozen foundation models with task-specific LoRA adapters thus offer a practical solution when both tasks must be maintained under few-shot continual learning.
- Abstract(参考訳): 大規模3D医療画像データに基づいて事前訓練された基礎モデルは、ラベル付きデータで連続学習中の複数の下流タスクに適応する場合、課題に直面します。
凍結トレーニングしたバックボーンとタスク固有Low-Rank Adaptation (LoRA)モジュールを組み合わせた3次元脳MRIの連続学習について検討した。
タスクは連続して到着する -- 腫瘍セグメンテーション(BraTS)と脳年齢推定(IXI) -- で、以前のタスクデータのリプレイはない。
各タスクは専用のLoRAアダプタを受け取り、アダプタとタスク固有のヘッドのみがトレーニングされ、バックボーンは凍結されているため、設計による破滅的な忘れがなくなる(BWT=0)。
連続学習では、シーケンシャルフルチューニングは深刻な忘れ込み(T1 DiceはT2の後0.80から0.16に低下する)、シーケンシャルリニアプローブは強いT1(Dice 0.79)を得るが、T2(MAE 1.45)では失敗する。
T1 Dice 0.62$\pm$0.07, T2 MAE 0.16$\pm$0.05, ゼロフォールディングと1タスクあたりのトレーニング可能なパラメータは$<$0.1\%である。
したがって、タスク固有のLoRAアダプタを用いた凍結基礎モデルは、両方のタスクを数ショット連続学習の下で維持する必要がある場合に、実用的なソリューションを提供する。
関連論文リスト
- Diffusion Language Models are Super Data Learners [61.721441061210896]
ユニークなデータが限られている場合、拡散言語モデル(DLM)は、よりエポックなトレーニングによって、常に自己回帰モデル(AR)を上回ります。
本研究の目的は,(1) 任意の次数モデリング,(2) 反復的双方向 denoising からの超高次計算,(3) モンテカルロ増分という3つの複合的要因に起因する。
論文 参考訳(メタデータ) (2025-11-05T08:17:42Z) - Towards Reliable Pediatric Brain Tumor Segmentation: Task-Specific nnU-Net Enhancements [13.880771870415616]
治療前の高次グリオーマのデータセットとして最大であるBraTS 2025 Task-6 (PED) に特化した nnU-Net フレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-01T08:33:21Z) - LLMs Can Get "Brain Rot"! [68.08198331505695]
ジャンクウェブテキストへの連続曝露は、大規模言語モデル(LLM)の持続的認知低下を誘導する
実Twitter/Xコーパスで制御された実験を行い、ジャンクと逆制御されたデータセットを構築します。
その結果、データ品質がLLM能力の崩壊の原因であることを示す重要な多視点的証拠が得られた。
論文 参考訳(メタデータ) (2025-10-15T13:28:49Z) - On-the-Fly Data Augmentation for Brain Tumor Segmentation [1.2226213907761816]
トレーニング中にGliGAN(Pretrained Generative Adversarial Network)を用いて合成腫瘍を動的に挿入するオンザフライ拡張戦略を提案する。
3つのモデルのアンサンブルは、オンラインBraTS 2025プラットフォーム上のDiceスコアが 0.79 (ET), 0.749 (NETC), 0.872 (RC), 0.825 (SN), 0.79 (TC), 0.88 (WT) となる。
論文 参考訳(メタデータ) (2025-09-29T16:02:36Z) - TDRM: Smooth Reward Models with Temporal Difference for LLM RL and Inference [45.96968721472664]
我々は、よりスムーズで信頼性の高い報酬モデルを学ぶ方法であるTDRMを紹介する。
実験の結果、TD訓練プロセス報酬モデル(PRM)はBest-of-N(最大6.6%)とツリーサーチ(最大23.7%)でのパフォーマンスを向上させることが示された。
論文 参考訳(メタデータ) (2025-09-18T16:14:34Z) - MedSeqFT: Sequential Fine-tuning Foundation Models for 3D Medical Image Segmentation [55.37355146924576]
MedSeqFTは、医用画像解析のためのシーケンシャルな微調整フレームワークである。
事前訓練されたモデルを新しいタスクに適応させ、表現能力を改善する。
最先端の微調整戦略を一貫して上回ります。
論文 参考訳(メタデータ) (2025-09-07T15:22:53Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳(メタデータ) (2025-04-06T18:39:45Z) - Improving the U-Net Configuration for Automated Delineation of Head and Neck Cancer on MRI [0.0]
MRIにおける腫瘍体積のセグメンテーションは困難で時間を要するプロセスである。
本研究は,頭部および頸部腫瘍のMRI画像における自動デライン化へのアプローチを示す。
本研究の目的は,医学的セグメンテーションタスクで一般的に使用される構成の改善を提案することである。
論文 参考訳(メタデータ) (2025-01-09T10:22:35Z) - Weakly Unsupervised Domain Adaptation for Vestibular Schwannoma
Segmentation [0.0]
前庭神経腫 (VS) は耳の横にある非癌性腫瘍であり、難聴を引き起こすことがある。
hrT2イメージが不足しているため、VSや他の脳構造をセグメントする堅牢な機械学習モデルをトレーニングする可能性は低い。
我々は、ceT1スキャンのみから学習し、hrT2スキャンから2つの構造を分割する弱い教師付き機械学習アプローチを提案する。
論文 参考訳(メタデータ) (2023-03-13T13:23:57Z) - GLEAM: Greedy Learning for Large-Scale Accelerated MRI Reconstruction [50.248694764703714]
アンロールされたニューラルネットワークは、最近最先端の加速MRI再構成を達成した。
これらのネットワークは、物理ベースの一貫性とニューラルネットワークベースの正規化を交互に組み合わせることで、反復最適化アルゴリズムをアンロールする。
我々は,高次元画像設定のための効率的なトレーニング戦略である加速度MRI再構成のためのグレディ・ラーニングを提案する。
論文 参考訳(メタデータ) (2022-07-18T06:01:29Z) - Self-Training Based Unsupervised Cross-Modality Domain Adaptation for
Vestibular Schwannoma and Cochlea Segmentation [0.2609784101826761]
自己学習に基づく教師なし学習フレームワークを提案する。このフレームワークは,高分解能T2スキャンにおいて,前庭神経ショーノマ(VS)とコクランの自動セグメンテーションを行う。
提案手法は,1) 造影T1スキャンから高分解能T2スキャンへのVS保存コントラスト変換,2) T1スキャンにアノテーションを付加したT2スキャンにおけるトレーニングセグメンテーション,3) 非注釈実T2スキャンにおける擬似ラベルの推測の4段階からなる。
平均Diceスコアと平均Symmetric Surface Distance (ASSD) は0.8570 (0.0705) であった。
論文 参考訳(メタデータ) (2021-09-22T12:04:41Z) - Brain tumor segmentation with self-ensembled, deeply-supervised 3D U-net
neural networks: a BraTS 2020 challenge solution [56.17099252139182]
U-netのようなニューラルネットワークを用いた脳腫瘍セグメント化作業の自動化と標準化を行う。
2つの独立したモデルのアンサンブルが訓練され、それぞれが脳腫瘍のセグメンテーションマップを作成した。
我々の解は、最終試験データセットにおいて、Diceの0.79、0.89、0.84、およびHausdorffの95%の20.4、6.7、19.5mmを達成した。
論文 参考訳(メタデータ) (2020-10-30T14:36:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。