論文の概要: Patient Outcome and Zero-shot Diagnosis Prediction with
Hypernetwork-guided Multitask Learning
- arxiv url: http://arxiv.org/abs/2109.03062v1
- Date: Tue, 7 Sep 2021 12:52:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-08 19:29:29.383096
- Title: Patient Outcome and Zero-shot Diagnosis Prediction with
Hypernetwork-guided Multitask Learning
- Title(参考訳): Hypernetwork-Guided Multitask Learning による患者予後とゼロショット診断
- Authors: Shaoxiong Ji and Pekka Marttinen
- Abstract要約: マルチタスク深層学習は、テキストからの患者結果予測に応用されている。
複数のタスクにおける診断予測は、稀な疾患や未診断の診断による一般化可能性の問題である。
本稿では,タスク条件付きパラメータとマルチタスク予測ヘッドの係数を生成するハイパーネットワークベースの手法を提案する。
- 参考スコア(独自算出の注目度): 3.392432412743858
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multitask deep learning has been applied to patient outcome prediction from
text, taking clinical notes as input and training deep neural networks with a
joint loss function of multiple tasks. However, the joint training scheme of
multitask learning suffers from inter-task interference, and diagnosis
prediction among the multiple tasks has the generalizability issue due to rare
diseases or unseen diagnoses. To solve these challenges, we propose a
hypernetwork-based approach that generates task-conditioned parameters and
coefficients of multitask prediction heads to learn task-specific prediction
and balance the multitask learning. We also incorporate semantic task
information to improves the generalizability of our task-conditioned multitask
model. Experiments on early and discharge notes extracted from the real-world
MIMIC database show our method can achieve better performance on multitask
patient outcome prediction than strong baselines in most cases. Besides, our
method can effectively handle the scenario with limited information and improve
zero-shot prediction on unseen diagnosis categories.
- Abstract(参考訳): マルチタスク深層学習は、テキストからの患者結果予測に応用され、臨床ノートを入力とし、複数のタスクの関節損失関数を持つディープニューラルネットワークを訓練している。
しかし、マルチタスク学習の合同学習はタスク間干渉に苦しめられ、複数のタスク間の診断予測では、まれな疾患や見当たらない診断による一般化可能性が問題となる。
これらの課題を解決するために,マルチタスク予測ヘッドのタスク条件パラメータと係数を生成し,タスク固有の予測を学習し,マルチタスク学習のバランスをとるハイパーネットワークベースの手法を提案する。
また,タスク条件付きマルチタスクモデルの一般化性を向上させるために,意味的タスク情報も組み込んだ。
実世界のMIMICデータベースから抽出した早期および退院ノートを用いた実験では,ほとんどの症例において強い基準値よりもマルチタスク患者の予後予測に優れた性能が得られた。
さらに,本手法は限られた情報でシナリオを効果的に処理し,未知の診断カテゴリのゼロショット予測を改善する。
関連論文リスト
- FlexCare: Leveraging Cross-Task Synergy for Flexible Multimodal Healthcare Prediction [34.732561455987145]
我々は、不完全なマルチモーダル入力に柔軟に対応するために、textbfFlexCareという統合医療予測モデルを提案する。
タスクに依存しないマルチモーダル情報抽出モジュールを提示し、多様なモダリティ内およびモダリティ間パターンの非相関表現をキャプチャする。
MIMIC-IV/MIMIC-CXR/MIMIC-NOTEデータセットによる複数のタスクの実験結果から,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-06-17T12:03:10Z) - Data-CUBE: Data Curriculum for Instruction-based Sentence Representation
Learning [85.66907881270785]
本稿では,学習用マルチタスクデータの順序を列挙するデータカリキュラム,すなわちData-CUBEを提案する。
タスクレベルでは、タスク間の干渉リスクを最小化するために最適なタスクオーダーを見つけることを目的としている。
インスタンスレベルでは、タスク毎のすべてのインスタンスの難易度を測定し、トレーニングのためにそれらを簡単に微分できるミニバッチに分割します。
論文 参考訳(メタデータ) (2024-01-07T18:12:20Z) - Contrastive Multi-Task Dense Prediction [11.227696986100447]
設計における中核的な目的は、異なるタスクに対する包括的な改善を達成するために、クロスタスクインタラクションを効果的にモデル化する方法である。
マルチタスク密接な予測のためのクロスタスク相互作用のモデル化に特徴的コントラスト整合を導入する。
本稿では,各サブタスクの表現学習を効果的に促進するために,一貫性に基づく新しいマルチタスクコントラスト正規化手法を提案する。
論文 参考訳(メタデータ) (2023-07-16T03:54:01Z) - Task Compass: Scaling Multi-task Pre-training with Task Prefix [122.49242976184617]
既存の研究では、大規模教師付きタスクによるマルチタスク学習がタスク間の負の効果に悩まされていることが示されている。
タスク間の関係を探索するために,タスクプレフィックスガイド付きマルチタスク事前学習フレームワークを提案する。
我々のモデルは、幅広いタスクの強力な基盤バックボーンとして機能するだけでなく、タスク関係を分析するための探索ツールとしても実現可能である。
論文 参考訳(メタデータ) (2022-10-12T15:02:04Z) - MRI-based Multi-task Decoupling Learning for Alzheimer's Disease
Detection and MMSE Score Prediction: A Multi-site Validation [9.427540028148963]
MRIによる高齢者健診におけるアルツハイマー病(AD)の正確な検出とMMSEスコアの予測は重要な課題である
これら2つのタスクに関する従来の手法のほとんどは、シングルタスク学習に基づいており、それらの相関を考慮することは滅多にない。
本稿では,AD検出とMMSEスコア予測のためのMRIに基づくマルチタスク分離学習手法を提案する。
論文 参考訳(メタデータ) (2022-04-02T09:19:18Z) - Multi-Task Neural Processes [105.22406384964144]
我々はマルチタスク学習のためのニューラル・プロセスの新たな変種であるマルチタスク・ニューラル・プロセスを開発する。
特に,各タスク改善のための帰納的バイアスを提供するために,関数空間内の関連するタスクから伝達可能な知識を探索することを提案する。
その結果、マルチタスク学習におけるタスク間の有用な知識の伝達におけるマルチタスクニューラルプロセスの有効性が示された。
論文 参考訳(メタデータ) (2021-11-10T17:27:46Z) - Variational Multi-Task Learning with Gumbel-Softmax Priors [105.22406384964144]
マルチタスク学習は、タスク関連性を探究し、個々のタスクを改善することを目的としている。
本稿では,複数のタスクを学習するための一般的な確率的推論フレームワークである変分マルチタスク学習(VMTL)を提案する。
論文 参考訳(メタデータ) (2021-11-09T18:49:45Z) - On the relationship between disentanglement and multi-task learning [62.997667081978825]
ハードパラメータ共有に基づくマルチタスク学習と絡み合いの関係について,より詳しく検討する。
マルチタスクニューラルネットワークトレーニングの過程において, 絡み合いが自然に現れることを示す。
論文 参考訳(メタデータ) (2021-10-07T14:35:34Z) - Clinical Risk Prediction with Temporal Probabilistic Asymmetric
Multi-Task Learning [80.66108902283388]
マルチタスク学習手法は、臨床リスク予測などの安全クリティカルな応用に注意を払って使用すべきである。
既存の非対称なマルチタスク学習手法は、低損失のタスクから高損失のタスクへの知識伝達を行うことにより、この負の伝達問題に対処する。
特徴レベルの不確実性に基づいて,特定のタスク/タイムステップから関連する不確実なタスクへの知識伝達を行う,新しい時間的非対称型マルチタスク学習モデルを提案する。
論文 参考訳(メタデータ) (2020-06-23T06:01:36Z) - Multi-task Learning via Adaptation to Similar Tasks for Mortality
Prediction of Diverse Rare Diseases [10.020413101958944]
電子健康記録(EHR)データを用いた多様な希少疾患の死亡予測は、知的医療にとって重要な課題である。
データ不足とまれな疾患の臨床的多様性により、個々の疾患データに基づいてディープラーニングモデルを直接訓練するのは困難である。
我々はAda-Sitを用いて長期記憶ネットワーク(LSTM)に基づく長手EHRデータに基づく予測モデルを訓練する。
論文 参考訳(メタデータ) (2020-04-11T06:15:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。