論文の概要: Med-RADIO: Reducing All Medical Domains Into One via Multi-Teacher Distillation
- arxiv url: http://arxiv.org/abs/2609.37682v1
- Date: Tue, 29 Sep 2026 14:30:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.628925
- Title: Med-RADIO: Reducing All Medical Domains Into One via Multi-Teacher Distillation
- Title(参考訳): Med-RADIO:マルチティーラー蒸留による全医療ドメインを1つに減らす
- Abstract要約: Med-RADIO は,全ドメインを 1 に還元する医療用多教師蒸留フレームワークである。
本手法は,一般教師と専門教員の双方をキュレートし,モダリティに整合した蒸留ストリームを割り当て,一般教師の事前学習データを再編成する。
5つのモダリティにまたがる内部および外部の分類ベンチマークでは、Med-RADIOは線形探索の下で強力な医学一般よりも改善されている。
- 参考スコア(独自算出の注目度): 10.91560994857324
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rapid expansion of large-scale medical datasets and computational resources has driven significant progress in medical foundation models. Given the inherent heterogeneity of medical imaging modalities, current research mainly follows two paths: specialized models optimized for specific modalities, and generalist models designed to handle multiple modalities. However, medical generalist models suffer from both insufficient training data scale relative to natural image generalists and inadequate domain-specific depth relative to medical specialists. Empirically, generalist models establish a cross-modality performance baseline, while specialists define the performance ceiling within their respective domains. To elevate this baseline toward these ceilings, we propose Med-RADIO, a medical multi-teacher distillation framework that Reduces All Domains Into One by compressing complementary expertise from multiple domain-specific teachers into a unified medical vision foundation model. Our method curates both generalist and specialist teachers, allocates modality-aligned distillation streams to reorganize generalist pretraining data so it matches specialist domains, and uses a balanced loss to prevent any single teacher from dominating the distillation process. On internal and external classification benchmarks spanning five modalities, Med-RADIO improves over strong medical generalists under linear probing and remains competitive with representative specialists on most evaluated modalities. Code is available at https://github.com/CAIR-HKISI/Med-RADIO.
- Abstract(参考訳): 大規模医療データセットと計算資源の急速な拡大は、医療基盤モデルに大きな進歩をもたらした。
医用画像モダリティの固有の異質性を考えると、現在の研究は主に、特定のモダリティに最適化された特殊なモデルと、複数のモダリティを扱うように設計されたジェネラリストモデルである。
しかし、医用ジェネラリストモデルは、自然画像ジェネラリストに対して不十分なトレーニングデータスケールと、医療専門家に対して不十分なドメイン固有深さの両方に悩まされている。
経験的に、ジェネラリストモデルはクロスモダリティのパフォーマンスベースラインを確立し、スペシャリストはそれぞれのドメイン内でパフォーマンス天井を定義します。
この基準線をこれらの天井に向けて高めるために、複数のドメイン特化教員の補完的専門知識を統一的な医療ビジョン基盤モデルに圧縮することにより、全てのドメインを1に還元する医療多教師蒸留フレームワークであるMed-RADIOを提案する。
本手法は, 一般教師と専門教員の双方をカリキュラム化し, 一般教師の事前学習データを再編成し, 専門ドメインと一致させると共に, 一人の教師が蒸留プロセスを支配するのを防ぐために, バランスの取れた損失を利用する。
5つのモダリティにまたがる内部および外部の分類ベンチマークでは、Med-RADIOは線形探索の下で強力な医療ジェネリストよりも改善し、最も評価されたモダリティに関する代表専門家と競争し続ける。
コードはhttps://github.com/CAIR-HKISI/Med-RADIOで入手できる。
関連論文リスト
- MedRoute: RL-Based Dynamic Specialist Routing in Multi-Agent Medical Diagnosis [49.78267008828593]
臨床実践では、複数の専門医が診断を行い、それぞれが専門分野に特化している。
この新興分野の現在のアプローチは、通常、様々な専門家の静的または事前定義された選択に依存しており、現実的なシナリオの変化に適応できない。
LMMエージェントの協調システムからなる柔軟で動的なマルチエージェントフレームワークであるMedRouteを提案する。
論文 参考訳(メタデータ) (2026-02-05T19:50:04Z) - MMedExpert-R1: Strengthening Multimodal Medical Reasoning via Domain-Specific Adaptation and Clinical Guideline Reinforcement [63.82954136824963]
医療ビジョンランゲージモデルでは、現実世界のシナリオで必要とされる複雑な臨床推論を伴う知覚タスクが優れている。
本稿ではドメイン固有の適応とガイドライン強化を通じてこれらの課題に対処する新しい推論MedVLMを提案する。
論文 参考訳(メタデータ) (2026-01-16T02:32:07Z) - MedXAI: A Retrieval-Augmented and Self-Verifying Framework for Knowledge-Guided Medical Image Analysis [0.5581472054346949]
MedXAIは、深層視覚モデルと臨床から派生した専門知識を統合して、一般化を改善し、希少な偏見を減らし、人間の理解に足る説明を提供する。
我々は,MedXAIを多種多様性で評価し, (i) 静置型fMRIによる静注オンセットゾーンの局在と, (ii) 糖尿病網膜症をグレードする2つの課題について検討した。
論文 参考訳(メタデータ) (2025-12-10T21:40:04Z) - RAD: Towards Trustworthy Retrieval-Augmented Multi-modal Clinical Diagnosis [56.373297358647655]
Retrieval-Augmented Diagnosis (RAD)は、下流タスクで直接マルチモーダルモデルに外部知識を注入する新しいフレームワークである。
RADは、複数の医療ソースからの疾患中心の知識の検索と改善、ガイドライン強化コントラスト損失トランスフォーマー、デュアルデコーダの3つの主要なメカニズムで機能する。
論文 参考訳(メタデータ) (2025-09-24T10:36:14Z) - MMedAgent-RL: Optimizing Multi-Agent Collaboration for Multimodal Medical Reasoning [63.63542462400175]
医療エージェント間の動的に最適化された協調を可能にする強化学習に基づくマルチエージェントフレームワークMMedAgent-RLを提案する。
具体的には、Qwen2.5-VLに基づく2つのGPエージェントをRLを介して訓練する: トリアージ医師は患者を適切な専門分野に割り当てることを学ぶ一方、主治医はマルチスペシャリストの判断を統合する。
5つのVQAベンチマークの実験では、MMedAgent-RLはオープンソースおよびプロプライエタリなMed-LVLMよりも優れており、人間のような推論パターンも示している。
論文 参考訳(メタデータ) (2025-05-31T13:22:55Z) - LoRKD: Low-Rank Knowledge Decomposition for Medical Foundation Models [59.961172635689664]
知識分解」は、特定の医療課題のパフォーマンス向上を目的としている。
我々はLow-Rank Knowledge Decomposition(LoRKD)という新しいフレームワークを提案する。
LoRKDは、低ランクのエキスパートモジュールと効率的な知識分離畳み込みを組み込むことで、グラデーションを異なるタスクから明確に分離する。
論文 参考訳(メタデータ) (2024-09-29T03:56:21Z) - Mixture of Multicenter Experts in Multimodal AI for Debiased Radiotherapy Target Delineation [40.85439754751206]
本稿では,医療分野におけるAIバイアスに対処するために,機関間のデータ共有を必要とせず,マルチセンターエキスパートの混在(Mixture of Multicenter Experts, MoME)フレームワークを提案する。
MoMEは、様々な臨床戦略から専門的な専門知識を統合し、医療センター全体のモデル一般化可能性と適応性を高める。
論文 参考訳(メタデータ) (2024-09-27T19:28:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。