論文の概要: Clinical Risk Prediction with Temporal Probabilistic Asymmetric Multi-Task Learning

• arxiv url: http://arxiv.org/abs/2006.12777v4
• Date: Thu, 18 Feb 2021 15:11:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-17 21:59:34.661740
• Title: Clinical Risk Prediction with Temporal Probabilistic Asymmetric Multi-Task Learning
• Title（参考訳）: 時間的確率的非対称マルチタスク学習による臨床リスク予測
• Authors: A. Tuan Nguyen, Hyewon Jeong, Eunho Yang, Sung Ju Hwang
• Abstract要約: マルチタスク学習手法は、臨床リスク予測などの安全クリティカルな応用に注意を払って使用すべきである。 既存の非対称なマルチタスク学習手法は、低損失のタスクから高損失のタスクへの知識伝達を行うことにより、この負の伝達問題に対処する。 特徴レベルの不確実性に基づいて,特定のタスク/タイムステップから関連する不確実なタスクへの知識伝達を行う,新しい時間的非対称型マルチタスク学習モデルを提案する。
• 参考スコア（独自算出の注目度）: 80.66108902283388
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although recent multi-task learning methods have shown to be effective in improving the generalization of deep neural networks, they should be used with caution for safety-critical applications, such as clinical risk prediction. This is because even if they achieve improved task-average performance, they may still yield degraded performance on individual tasks, which may be critical (e.g., prediction of mortality risk). Existing asymmetric multi-task learning methods tackle this negative transfer problem by performing knowledge transfer from tasks with low loss to tasks with high loss. However, using loss as a measure of reliability is risky since it could be a result of overfitting. In the case of time-series prediction tasks, knowledge learned for one task (e.g., predicting the sepsis onset) at a specific timestep may be useful for learning another task (e.g., prediction of mortality) at a later timestep, but lack of loss at each timestep makes it difficult to measure the reliability at each timestep. To capture such dynamically changing asymmetric relationships between tasks in time-series data, we propose a novel temporal asymmetric multi-task learning model that performs knowledge transfer from certain tasks/timesteps to relevant uncertain tasks, based on feature-level uncertainty. We validate our model on multiple clinical risk prediction tasks against various deep learning models for time-series prediction, which our model significantly outperforms, without any sign of negative transfer. Further qualitative analysis of learned knowledge graphs by clinicians shows that they are helpful in analyzing the predictions of the model. Our final code is available at https://github.com/anhtuan5696/TPAMTL.
• Abstract（参考訳）: 近年のマルチタスク学習手法は,ディープニューラルネットワークの一般化に有効であることが示されているが,臨床リスク予測などの安全性クリティカルな応用には注意が必要である。 これは、たとえタスク平均性能が向上したとしても、個々のタスクで性能が低下する可能性があるためである(例えば、死亡リスクの予測)。 既存の非対称なマルチタスク学習手法は、低損失タスクから高損失タスクへの知識伝達を行うことにより、この負の伝達問題に対処する。 しかし、信頼性の尺度として損失を使用することは、過度な適合の結果である可能性があるため、リスクが高い。 時系列予測タスクの場合、特定の時点におけるあるタスク(例えば、セプシスの開始を予測する)で学んだ知識は、後の段階における別のタスク(例えば、死亡の予測)の学習に有用であるが、各時点における損失の欠如は、各時点における信頼性の測定を困難にする。 時系列データにおけるタスク間の非対称関係の動的変化を捉えるために,特定のタスク/タイムステップから関連する不確実なタスクへの知識伝達を行う新しい時間的非対称学習モデルを提案する。 我々は,複数の臨床リスク予測タスクにおいて,時系列予測のための様々な深層学習モデルの有効性を検証した。 臨床医による学習知識グラフのさらなる質的分析は,モデルの予測分析に有用であることを示す。 最終コードはhttps://github.com/anhtuan5696/TPAMTLで利用可能です。

関連論文リスト

• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• Time Associated Meta Learning for Clinical Prediction [78.99422473394029]
  本稿では,時間関連メタラーニング(TAML)手法を提案する。 タスク分割後のスパーシリティ問題に対処するため、TAMLは時間情報共有戦略を採用し、正のサンプル数を増やす。 複数の臨床データセットに対するTAMLの有効性を示す。
  論文  参考訳（メタデータ） (2023-03-05T03:54:54Z)
• An Evolutionary Approach to Dynamic Introduction of Tasks in Large-scale Multitask Learning Systems [4.675744559395732]
  マルチタスク学習は、複数のタスクから学習できるモデルが知識伝達によってより良い品質と効率を達成すると仮定する。 最先端のMLモデルは、タスクごとに高いカスタマイズに依存し、タスクの数をスケールするのではなく、サイズとデータスケールを活用する。 本稿では,大規模マルチタスクモデルを生成でき,新しいタスクの動的かつ連続的な追加を支援する進化的手法を提案する。
  論文  参考訳（メタデータ） (2022-05-25T13:10:47Z)
• Masked prediction tasks: a parameter identifiability view [49.533046139235466]
  マスク付きトークンの予測に広く用いられている自己教師型学習手法に着目する。 いくつかの予測タスクは識別可能性をもたらすが、他のタスクはそうではない。
  論文  参考訳（メタデータ） (2022-02-18T17:09:32Z)
• Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
  特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。 一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。 我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
  論文  参考訳（メタデータ） (2022-02-08T16:09:12Z)
• Learning Curves for Sequential Training of Neural Networks: Self-Knowledge Transfer and Forgetting [9.734033555407406]
  我々は,タスクからタスクまでの目標関数を継続的に学習するニューラルネットワークをニューラルネットワークとして検討する。 モデルが複数のタスクで同じターゲット関数を学習する連続学習の変種について検討する。 同じターゲットであっても、トレーニングされたモデルは、各タスクのサンプルサイズに応じて、何らかの転送と忘れを見せる。
  論文  参考訳（メタデータ） (2021-12-03T00:25:01Z)
• Patient Outcome and Zero-shot Diagnosis Prediction with Hypernetwork-guided Multitask Learning [3.392432412743858]
  マルチタスク深層学習は、テキストからの患者結果予測に応用されている。 複数のタスクにおける診断予測は、稀な疾患や未診断の診断による一般化可能性の問題である。 本稿では,タスク条件付きパラメータとマルチタスク予測ヘッドの係数を生成するハイパーネットワークベースの手法を提案する。
  論文  参考訳（メタデータ） (2021-09-07T12:52:26Z)
• Data-driven method for real-time prediction and uncertainty quantification of fatigue failure under stochastic loading using artificial neural networks and Gaussian process regression [0.0]
  早期故障予測の方法は、工学、軍事、および市民の用途に不可欠です。 不確実性(UQ)は、リアルタイム意思決定の目的において重要である。
  論文  参考訳（メタデータ） (2021-03-11T13:57:08Z)
• Ambiguity in Sequential Data: Predicting Uncertain Futures with Recurrent Models [110.82452096672182]
  逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。 また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
  論文  参考訳（メタデータ） (2020-03-10T09:15:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。