論文の概要: A Contrastive Pretrain Model with Prompt Tuning for Multi-center Medication Recommendation

• arxiv url: http://arxiv.org/abs/2412.20040v1
• Date: Sat, 28 Dec 2024 06:12:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:03:45.582244
• Title: A Contrastive Pretrain Model with Prompt Tuning for Multi-center Medication Recommendation
• Title（参考訳）: マルチセンター・メディケーション・レコメンデーションのためのプロンプトチューニングを用いたコントラストプレトレインモデル
• Authors: Qidong Liu, Zhaopeng Qiu, Xiangyu Zhao, Xian Wu, Zijian Zhang, Tong Xu, Feng Tian,
• Abstract要約: マルチセンター医薬品推奨のためのTEMPT(Prompt Tuning)を用いた新しいconTrastive prEtrain Modelを提案する。 そこで我々は,一般的なファインタニングを採用するのではなく,各病院の特定情報をキャプチャするための新しいプロンプトチューニング手法を考案した。 提案モデルを検証するため,公立のeICU多施設医療データセットについて広範な実験を行った。
• 参考スコア（独自算出の注目度）: 50.43785306804359
• License:
• Abstract: Medication recommendation is one of the most critical health-related applications, which has attracted extensive research interest recently. Most existing works focus on a single hospital with abundant medical data. However, many small hospitals only have a few records, which hinders applying existing medication recommendation works to the real world. Thus, we seek to explore a more practical setting, i.e., multi-center medication recommendation. In this setting, most hospitals have few records, but the total number of records is large. Though small hospitals may benefit from total affluent records, it is also faced with the challenge that the data distributions between various hospitals are much different. In this work, we introduce a novel conTrastive prEtrain Model with Prompt Tuning (TEMPT) for multi-center medication recommendation, which includes two stages of pretraining and finetuning. We first design two self-supervised tasks for the pretraining stage to learn general medical knowledge. They are mask prediction and contrastive tasks, which extract the intra- and inter-relationships of input diagnosis and procedures. Furthermore, we devise a novel prompt tuning method to capture the specific information of each hospital rather than adopting the common finetuning. On the one hand, the proposed prompt tuning can better learn the heterogeneity of each hospital to fit various distributions. On the other hand, it can also relieve the catastrophic forgetting problem of finetuning. To validate the proposed model, we conduct extensive experiments on the public eICU, a multi-center medical dataset. The experimental results illustrate the effectiveness of our model. The implementation code is available to ease the reproducibility https://github.com/Applied-Machine-Learning-Lab/TEMPT.
• Abstract（参考訳）: メディケーション・レコメンデーションは、健康に関する最も重要な応用の1つであり、近年は広範な研究の関心を集めている。 現存する研究のほとんどは、豊富な医療データを持つ単一の病院に焦点を当てている。 しかし、多くの小さな病院にはいくつかの記録しか残っていないため、既存の医薬品推奨業務が現実世界に適用されるのを妨げている。 このようにして、我々はより実践的な、すなわちマルチセンターの医薬品勧告を探究する。 この環境では、ほとんどの病院は記録がほとんどないが、記録の総数は多い。 小病院は、全富裕層記録の恩恵を受ける可能性があるが、様々な病院間でのデータ配信が全く異なるという課題に直面している。 本稿では, マルチセンター医薬品推奨のための, プロンプト・タニング(TEMPT)を用いた新しいconTrastive pretrain Modelを紹介し, 事前訓練と微調整の2段階を含む。 まず,予備訓練段階のための2つの自己指導型タスクを設計し,一般的な医学的知識を学習する。 それらはマスク予測とコントラストタスクであり、入力診断と手順の内的および相互関係を抽出する。 さらに,一般的なファインタニングを採用するのではなく,各病院の特定情報をキャプチャするための新しいプロンプトチューニング手法を考案した。 一方,提案したプロンプトチューニングにより,各病院の異質性を学習し,多様な分布に適合させることができる。 一方、微調整の悲惨な忘れ問題も解消できる。 提案モデルを検証するため,多施設医療データセットであるeICUについて広範な実験を行った。 実験結果から,本モデルの有効性が示唆された。 実装コードは再現性 https://github.com/Applied-Machine-Learning-Lab/TEMPT を簡単にするために利用できる。

関連論文リスト

• Continually Evolved Multimodal Foundation Models for Cancer Prognosis [50.43145292874533]
  がん予後は、患者の予後と生存率を予測する重要なタスクである。 これまでの研究では、臨床ノート、医療画像、ゲノムデータなどの多様なデータモダリティを統合し、補完的な情報を活用している。 既存のアプローチには2つの大きな制限がある。まず、各病院の患者記録など、各種のトレーニングに新しく到着したデータを組み込むことに苦慮する。 第二に、ほとんどのマルチモーダル統合手法は単純化された結合やタスク固有のパイプラインに依存しており、モダリティ間の複雑な相互依存を捉えることができない。
  論文  参考訳（メタデータ） (2025-01-30T06:49:57Z)
• Comparing Federated Stochastic Gradient Descent and Federated Averaging for Predicting Hospital Length of Stay [0.0]
  入院期間(LOS)を確実に予測することは,病院における資源配分の効率化に不可欠である。 従来の予測モデリングツールは、医療機関がプライバシー規則を定めているため、十分なデータと多様なデータを取得するのが難しいことが多い。 このモデリング手法は、病院外の機密データを抽出することなく、異なる病院からの分散データソースをモデル化することで協調的なモデルトレーニングを促進する。
  論文  参考訳（メタデータ） (2024-07-17T17:00:20Z)
• NOTE: Notable generation Of patient Text summaries through Efficient approach based on direct preference optimization [0.0]
  NOTE」は「直接選好最適化に基づく効率的なアプローチによる患者テキスト要約の不適切な生成」の意。 患者イベントは順次組み合わせられ、各入院の退院の概要を生成するために使用される。 ノートは、サマリーを放出するだけでなく、患者の旅行を通して様々なサマリーを生成するために利用することができる。
  論文  参考訳（メタデータ） (2024-02-19T06:43:25Z)
• SHAPE: A Sample-adaptive Hierarchical Prediction Network for Medication Recommendation [22.899946140205962]
  本稿では,SHAPE(Sample-adaptive Hierarchical medicAtion Prediction nEtwork)を提案する。 具体的には、訪問レベルの表現を得るために、医療イベントにおける関係を符号化する、コンパクトなビジット・セット・エンコーダを設計する。 モデルに可変訪問長をモデル化する能力を与えるため,各標本の難易度を訪問長によって自動的に割り当てるソフトカリキュラム学習手法を提案する。
  論文  参考訳（メタデータ） (2023-09-09T08:28:04Z)
• Med-Flamingo: a Multimodal Medical Few-shot Learner [58.85676013818811]
  医療領域に適応したマルチモーダル・数ショット学習者であるMed-Flamingoを提案する。 OpenFlamingo-9Bに基づいて、出版物や教科書からの医療画像テキストデータのペア化とインターリーブ化を継続する。 本研究は,医療用VQA(ジェネレーティブ医療用VQA)の最初の人間評価である。
  論文  参考訳（メタデータ） (2023-07-27T20:36:02Z)
• Towards Medical Artificial General Intelligence via Knowledge-Enhanced Multimodal Pretraining [121.89793208683625]
  医療人工知能(MAGI)は、1つの基礎モデルで異なる医療課題を解くことができる。 我々は、Micical-knedge-enhanced mulTimOdal pretRaining (motoR)と呼ばれる新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-04-26T01:26:19Z)
• Practical Challenges in Differentially-Private Federated Survival Analysis of Medical Data [57.19441629270029]
  本稿では,ニューラルネットワークの本質的特性を活用し,生存分析モデルの訓練過程を関連づける。 小さな医療データセットと少数のデータセンターの現実的な設定では、このノイズはモデルを収束させるのが難しくなります。 DPFed-post は,私的フェデレート学習方式に後処理の段階を追加する。
  論文  参考訳（メタデータ） (2022-02-08T10:03:24Z)
• Semi-Supervised Variational Reasoning for Medical Dialogue Generation [70.838542865384]
  医療対話生成には,患者の状態と医師の行動の2つの重要な特徴がある。 医療対話生成のためのエンドツーエンドの変分推論手法を提案する。 行動分類器と2つの推論検出器から構成される医師政策ネットワークは、拡張推論能力のために提案される。
  論文  参考訳（メタデータ） (2021-05-13T04:14:35Z)
• Improving Clinical Outcome Predictions Using Convolution over Medical Entities with Multimodal Learning [0.522145960878624]
  患者の死亡と滞在期間(LOS)の早期予測は、患者の命を救い、病院資源の管理に不可欠である。 本研究は,臨床ノートから医療エンティティを抽出し,時系列機能以外の追加機能として利用することにより,予測を改善することを目的とする。 本稿では、医療機関と患者の時系列ICU信号を効果的に組み合わせて学習するだけでなく、畳み込みに基づくマルチモーダルアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-11-24T20:08:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。