論文の概要: A Comprehensive Survey of Foundation Models in Medicine
- arxiv url: http://arxiv.org/abs/2406.10729v1
- Date: Sat, 15 Jun 2024 20:04:06 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-18 21:01:13.457767
- Title: A Comprehensive Survey of Foundation Models in Medicine
- Title(参考訳): 医学の基礎モデルに関する総合的研究
- Authors: Wasif Khan, Seowung Leem, Kyle B. See, Joshua K. Wong, Shaoting Zhang, Ruogu Fang,
- Abstract要約: ファンデーションモデル(FM)は、自己教師技術を用いて広範囲のデータセットでトレーニングされた大規模なディープラーニングモデルである。
私たちは、医療におけるFMの歴史、学習戦略、旗艦モデル、アプリケーション、課題に焦点を当てています。
- 参考スコア(独自算出の注目度): 8.879092631568263
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models (FMs) are large-scale deep-learning models trained on extensive datasets using self-supervised techniques. These models serve as a base for various downstream tasks, including healthcare. FMs have been adopted with great success across various domains within healthcare, including natural language processing (NLP), computer vision, graph learning, biology, and omics. Existing healthcare-based surveys have not yet included all of these domains. Therefore, this survey provides a comprehensive overview of FMs in healthcare. We focus on the history, learning strategies, flagship models, applications, and challenges of FMs. We explore how FMs such as the BERT and GPT families are reshaping various healthcare domains, including clinical large language models, medical image analysis, and omics data. Furthermore, we provide a detailed taxonomy of healthcare applications facilitated by FMs, such as clinical NLP, medical computer vision, graph learning, and other biology-related tasks. Despite the promising opportunities FMs provide, they also have several associated challenges, which are explained in detail. We also outline potential future directions to provide researchers and practitioners with insights into the potential and limitations of FMs in healthcare to advance their deployment and mitigate associated risks.
- Abstract(参考訳): ファンデーションモデル(FM)は、自己教師技術を用いて広範囲のデータセットでトレーニングされた大規模なディープラーニングモデルである。
これらのモデルは、医療を含むさまざまな下流業務の基盤として機能する。
FMは、自然言語処理(NLP)、コンピュータビジョン、グラフ学習、生物学、オミクスなど、医療分野において大きな成功を収めている。
既存の医療ベースの調査では、これらのドメインがすべて含まれていない。
そこで本調査では,医療におけるFMの概要について概観する。
私たちは、FMの歴史、学習戦略、フラッグシップモデル、アプリケーション、課題に重点を置いています。
我々は,臨床大言語モデル,医用画像解析,オミクスデータなどの医療領域を,BERT や GPT などのFMがどのように再構築しているかを考察する。
さらに,臨床用NLP,医療用コンピュータビジョン,グラフ学習,その他の生物学関連タスクなど,FMによる医療応用の詳細な分類について述べる。
FMがもたらす有望な機会にもかかわらず、それらにもいくつかの課題があり、詳細は説明されている。
我々はまた、医療におけるFMの可能性と限界に関する洞察を研究者や実践者が提供し、その展開を前進させ、関連するリスクを軽減するための将来的な方向性を概説する。
関連論文リスト
- A Survey of Medical Vision-and-Language Applications and Their Techniques [48.268198631277315]
医療ビジョン・アンド・ランゲージモデル(MVLM)は、複雑な医療データを解釈するための自然言語インタフェースを提供する能力から、大きな関心を集めている。
本稿では,MVLMの概要と適用した各種医療課題について概観する。
また、これらのタスクに使用するデータセットについても検討し、標準化された評価指標に基づいて異なるモデルの性能を比較した。
論文 参考訳(メタデータ) (2024-11-19T03:27:05Z) - Open Challenges and Opportunities in Federated Foundation Models Towards Biomedical Healthcare [14.399086205317358]
ファンデーションモデル(FM)は、教師なし事前訓練、自己教師付き学習、微調整の指導、人間のフィードバックからの強化学習など、膨大なデータセットで訓練される。
これらのモデルは、臨床報告、診断画像、マルチモーダル患者間相互作用などの多様なデータフォームの処理を必要とする生体医学的応用に不可欠である。
FLをこれらの洗練されたモデルに組み込むことは、機密性の高い医療データのプライバシーを守りながら、分析能力を活用するという有望な戦略を示す。
論文 参考訳(メタデータ) (2024-05-10T19:22:24Z) - Foundation Model for Advancing Healthcare: Challenges, Opportunities, and Future Directions [11.973160653486433]
幅広いデータに基づいて事前訓練され、幅広いタスクに適応できるファンデーションモデルは、医療を進歩させています。
より広範な医療シナリオは、医療基盤モデル(HFM)の開発から恩恵を受けるだろう。
HFMの展開が間近に迫っているにもかかわらず、現在、医療分野での働き方について明確な理解が得られていない。
論文 参考訳(メタデータ) (2024-04-04T07:39:55Z) - Progress and Opportunities of Foundation Models in Bioinformatics [77.74411726471439]
基礎モデル(FM)は、特に深層学習の領域において、計算生物学の新しい時代に定着した。
我々の焦点は、特定の生物学的問題にFMを応用することであり、研究ニーズに適切なFMを選択するために研究コミュニティを指導することを目的としています。
データノイズ、モデル説明可能性、潜在的なバイアスなど、生物学においてFMが直面する課題と限界を分析します。
論文 参考訳(メタデータ) (2024-02-06T02:29:17Z) - Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。
LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。
本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
論文 参考訳(メタデータ) (2023-10-12T10:20:36Z) - Towards Generalist Foundation Model for Radiology by Leveraging
Web-scale 2D&3D Medical Data [66.9359934608229]
この研究はRadFMと呼ばれるRadlogy Foundation Modelの開発を開始することを目的としている。
われわれの知る限りでは、これは2Dスキャンと3Dスキャンによる、最初の大規模で高品質な医療用ビジュアル言語データセットである。
本稿では,モダリティ認識,疾患診断,視覚的質問応答,レポート生成,合理的診断の5つのタスクからなる新しい評価ベンチマークRadBenchを提案する。
論文 参考訳(メタデータ) (2023-08-04T17:00:38Z) - XrayGPT: Chest Radiographs Summarization using Medical Vision-Language
Models [60.437091462613544]
我々は,会話型医療ビジョン言語モデルであるXrayGPTを紹介する。
胸部X線写真に関するオープンエンドの質問を分析し、答えることができる。
自由テキストラジオグラフィーレポートから217kの対話的かつ高品質な要約を生成する。
論文 参考訳(メタデータ) (2023-06-13T17:59:59Z) - Artificial General Intelligence for Medical Imaging Analysis [92.3940918983821]
大規模人工知能(AGI)モデルは、様々な汎用ドメインタスクにおいて前例のない成功を収めた。
これらのモデルは、医学分野固有の複雑さとユニークな特徴から生じる顕著な課題に直面している。
このレビューは、医療画像、医療などにおけるAGIの将来的な意味についての洞察を提供することを目的としている。
論文 参考訳(メタデータ) (2023-06-08T18:04:13Z) - A Survey on Incorporating Domain Knowledge into Deep Learning for
Medical Image Analysis [38.90186125141749]
医療データセットの小型化は、ディープラーニングにおいて依然として大きなボトルネックとなっている。
従来のアプローチでは、移動学習を通じて自然画像からの情報を活用していた。
近年の研究では、医師の知識を活用して、医師の訓練方法に似たネットワークを構築している。
論文 参考訳(メタデータ) (2020-04-25T14:27:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。