論文の概要: MedForge: Building Medical Foundation Models Like Open Source Software Development
- arxiv url: http://arxiv.org/abs/2502.16055v1
- Date: Sat, 22 Feb 2025 03:19:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-25 15:56:49.523745
- Title: MedForge: Building Medical Foundation Models Like Open Source Software Development
- Title(参考訳): MedForge: オープンソースソフトウェア開発のような医療ファウンデーションモデルの構築
- Authors: Zheling Tan, Kexin Ding, Jin Gao, Mu Zhou, Dimitris Metaxas, Shaoting Zhang, Dequan Wang,
- Abstract要約: 我々は,コミュニティ主導の医療基盤モデル開発を可能にするために,医療財団モデル統合(MedForge)を提案する。
MedForgeは、タスク固有のLow-Rank Adaptation (LoRA)モジュールを柔軟にマージすることで、ボトムアップモデルの構築メカニズムを提供する。
本研究の主目的は,多施設共同研究を効果的かつ効果的に進める上での協調基盤モデルの重要性である。
- 参考スコア(独自算出の注目度): 24.40523591421525
- License:
- Abstract: Foundational models (FMs) have made significant strides in the healthcare domain. Yet the data silo challenge and privacy concern remain in healthcare systems, hindering safe medical data sharing and collaborative model development among institutions. The collection and curation of scalable clinical datasets increasingly become the bottleneck for training strong FMs. In this study, we propose Medical Foundation Models Merging (MedForge), a cooperative framework enabling a community-driven medical foundation model development, meanwhile preventing the information leakage of raw patient data and mitigating synchronization model development issues across clinical institutions. MedForge offers a bottom-up model construction mechanism by flexibly merging task-specific Low-Rank Adaptation (LoRA) modules, which can adapt to downstream tasks while retaining original model parameters. Through an asynchronous LoRA module integration scheme, the resulting composite model can progressively enhance its comprehensive performance on various clinical tasks. MedForge shows strong performance on multiple clinical datasets (e.g., breast cancer, lung cancer, and colon cancer) collected from different institutions. Our major findings highlight the value of collaborative foundation models in advancing multi-center clinical collaboration effectively and cohesively. Our code is publicly available at https://github.com/TanZheling/MedForge.
- Abstract(参考訳): 基礎モデル(FM)は医療分野で大きな進歩を遂げている。
しかし、データサイロの課題とプライバシの懸念は医療システムに残り、安全な医療データ共有と機関間の協調モデル開発を妨げる。
スケーラブルな臨床データセットの収集とキュレーションは、強力なFMのトレーニングのボトルネックとなっている。
本研究では,地域主導型医療基盤モデル構築のための協調的枠組みである医療財団モデル統合(MedForge)を提案する。
MedForgeは、タスク固有のLow-Rank Adaptation (LoRA)モジュールを柔軟にマージしてボトムアップモデル構築メカニズムを提供する。
非同期なLoRAモジュール統合スキームにより、結果として得られる複合モデルは、様々な臨床タスクにおける包括的パフォーマンスを徐々に向上させることができる。
MedForgeは、さまざまな機関から収集された複数の臨床データセット(例:乳がん、肺癌、大腸癌)に強いパフォーマンスを示す。
本研究の主目的は,多施設共同研究を効果的かつ効果的に進める上での協調基盤モデルの重要性である。
私たちのコードはhttps://github.com/TanZheling/MedForgeで公開されています。
関連論文リスト
- Continually Evolved Multimodal Foundation Models for Cancer Prognosis [50.43145292874533]
がん予後は、患者の予後と生存率を予測する重要なタスクである。
これまでの研究では、臨床ノート、医療画像、ゲノムデータなどの多様なデータモダリティを統合し、補完的な情報を活用している。
既存のアプローチには2つの大きな制限がある。まず、各病院の患者記録など、各種のトレーニングに新しく到着したデータを組み込むことに苦慮する。
第二に、ほとんどのマルチモーダル統合手法は単純化された結合やタスク固有のパイプラインに依存しており、モダリティ間の複雑な相互依存を捉えることができない。
論文 参考訳(メタデータ) (2025-01-30T06:49:57Z) - MedCoDi-M: A Multi-Prompt Foundation Model for Multimodal Medical Data Generation [22.908801443059758]
マルチモーダル医療データ生成モデルであるMedCoDi-Mを提案する。
MIMIC-CXRデータセット上の5つの競合と比較した。
MedCoDi-Mの医療分野における課題に対する有効性について検討した。
論文 参考訳(メタデータ) (2025-01-08T16:53:56Z) - FedMetaMed: Federated Meta-Learning for Personalized Medication in Distributed Healthcare Systems [7.32609591220333]
パーソナライズドメディケーションのためのフェデレーションメタラーニング(FedMetaMed)について紹介する。
FedMetaMedは、フェデレーションラーニングとメタラーニングを組み合わせて、医療システム全体にわたる多様な患者データに適応するモデルを作成する。
我々は、FedMetaMedが最先端のFL法より優れ、最先端のコホートでも優れた一般化を示すことを示す。
論文 参考訳(メタデータ) (2024-12-05T03:36:55Z) - Towards Foundation Models for Critical Care Time Series [38.09906416210531]
本稿では,コア処理変数を含む最初の大規模コレクションとして,シーケンスモデリングと転送学習研究のための調和データセットを提案する。
将来的には、このデータセットを拡張して、トランスファーラーニングのさらなる進歩と、重要な医療アプリケーションのためのスケーラブルで汎用的なモデルの開発をサポートする予定だ。
論文 参考訳(メタデータ) (2024-11-25T12:49:55Z) - FEDKIM: Adaptive Federated Knowledge Injection into Medical Foundation Models [54.09244105445476]
本研究は,フェデレート・ラーニング・フレームワーク内で医療基盤モデルを拡張するための新しい知識注入手法であるFedKIMを紹介する。
FedKIMは軽量なローカルモデルを活用して、プライベートデータから医療知識を抽出し、この知識を集中基盤モデルに統合する。
7つのモードで12タスクを対象に実験を行い,FedKIMの有効性について検討した。
論文 参考訳(メタデータ) (2024-08-17T15:42:29Z) - FEDMEKI: A Benchmark for Scaling Medical Foundation Models via Federated Knowledge Injection [83.54960238236548]
FEDMEKIはデータのプライバシーを守るだけでなく、医療基盤モデルの能力を高める。
FEDMEKIは、医療ファンデーションモデルに対して、直接データを公開することなく、幅広い医療知識から学ぶことを可能にする。
論文 参考訳(メタデータ) (2024-08-17T15:18:56Z) - OpenMEDLab: An Open-source Platform for Multi-modality Foundation Models
in Medicine [55.29668193415034]
マルチモダリティ基盤モデルのためのオープンソースプラットフォームであるOpenMEDLabについて紹介する。
これは、最前線臨床および生体情報学応用のための大規模言語とビジョンモデルを刺激し、微調整する先駆的な試みの解決策をカプセル化する。
様々な医用画像のモダリティ、臨床テキスト、タンパク質工学など、事前訓練された基礎モデル群へのアクセスが可能である。
論文 参考訳(メタデータ) (2024-02-28T03:51:02Z) - Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。
我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。
多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2023-06-15T17:55:05Z) - The Shaky Foundations of Clinical Foundation Models: A Survey of Large
Language Models and Foundation Models for EMRs [5.7482228499062975]
非イメージングEMRデータに基づいて訓練された80以上の基礎モデルをレビューする。
ほとんどのモデルが、小さく、狭められた臨床データセットでトレーニングされていることが分かりました。
臨床基礎モデルの利点を評価するための評価フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-22T23:54:14Z) - Modeling Shared Responses in Neuroimaging Studies through MultiView ICA [94.31804763196116]
被験者の大規模なコホートを含むグループ研究は、脳機能組織に関する一般的な結論を引き出す上で重要である。
グループ研究のための新しい多視点独立成分分析モデルを提案し、各被験者のデータを共有独立音源と雑音の線形結合としてモデル化する。
まず、fMRIデータを用いて、被験者間の共通音源の同定における感度の向上を示す。
論文 参考訳(メタデータ) (2020-06-11T17:29:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。