論文の概要: Bayesian Meta-Learning for Improving Generalizability of Health Prediction Models With Similar Causal Mechanisms

• arxiv url: http://arxiv.org/abs/2310.12595v3
• Date: Mon, 30 Dec 2024 10:33:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:03:08.531482
• Title: Bayesian Meta-Learning for Improving Generalizability of Health Prediction Models With Similar Causal Mechanisms
• Title（参考訳）: 類似因果メカニズムによる健康予測モデルの一般化性向上のためのベイズメタラーニング
• Authors: Sophie Wharrie, Lisa Eick, Lotta Mäkinen, Andrea Ganna, Samuel Kaski, FinnGen,
• Abstract要約: 共有学習におけるネガティブトランスファーの課題と,新規患者への一般化性の低下に対処することを目的とした,新しいベイズメタラーニング手法を提案する。 本研究の主な貢献は,(1) 学習中の負の伝達を軽減し,(2) 汎用性を期待するタスクから情報をプールする微調整など,タスクの因果的機構の類似性をモデル化することである。
• 参考スコア（独自算出の注目度）: 14.4598538769316
• License:
• Abstract: Machine learning strategies like multi-task learning, meta-learning, and transfer learning enable efficient adaptation of machine learning models to specific applications in healthcare, such as prediction of various diseases, by leveraging generalizable knowledge across large datasets and multiple domains. In particular, Bayesian meta-learning methods pool data across related prediction tasks to learn prior distributions for model parameters, which are then used to derive models for specific tasks. However, inter- and intra-task variability due to disease heterogeneity and other patient-level differences pose challenges of negative transfer during shared learning and poor generalizability to new patients. We introduce a novel Bayesian meta-learning approach that aims to address this in two key settings: (1) predictions for new patients (same population as the training set) and (2) adapting to new patient populations. Our main contribution is in modeling similarity between causal mechanisms of the tasks, for (1) mitigating negative transfer during training and (2) fine-tuning that pools information from tasks that are expected to aid generalizability. We propose an algorithm for implementing this approach for Bayesian deep learning, and apply it to a case study for stroke prediction tasks using electronic health record data. Experiments for the UK Biobank dataset as the training population demonstrated significant generalizability improvements compared to standard meta-learning, non-causal task similarity measures, and local baselines (separate models for each task). This was assessed for a variety of tasks that considered both new patients from the training population (UK Biobank) and a new population (FinnGen).
• Abstract（参考訳）: マルチタスク学習、メタラーニング、トランスファーラーニングといった機械学習戦略は、大規模なデータセットと複数のドメインにわたる一般化可能な知識を活用することで、さまざまな疾患の予測など、医療分野の特定のアプリケーションに機械学習モデルの効率的な適応を可能にする。 特にベイジアンメタラーニング手法は、関連する予測タスクをまたいでデータをプールし、モデルパラメータの事前分布を学習し、特定のタスクのモデルを導出する。 しかし、疾患の多様性やその他の患者レベルの差異によるタスク間およびタスク内変動は、共有学習における負の伝達と新規患者への一般化性の低下を招いた。 ベイズにおけるメタラーニング手法は,(1)新しい患者に対する予測(トレーニングセットとしての個体数)と(2)新しい患者への適応の2つの重要な設定で,この問題に対処することを目的としている。 本研究の主な貢献は,(1) 学習中の負の伝達を軽減し,(2) 汎用性を期待するタスクから情報をプールする微調整など,タスクの因果的機構の類似性をモデル化することである。 本稿では,この手法をベイズ深層学習に適用するためのアルゴリズムを提案し,電子健康記録データを用いた脳卒中予測タスクのケーススタディに適用する。 英国バイオバンクデータセットのトレーニング人口に対する実験は、標準的なメタラーニング、非因果的タスク類似度測定、および局所的ベースライン(各タスクの別々のモデル)と比較して、大きな一般化可能性の向上を示した。 これは、トレーニング人口(UK Biobank)からの新しい患者と、新しい人口(FinnGen)の両方を考慮した様々なタスクについて評価された。

関連論文リスト

• A Meta-Learning Approach to Population-Based Modelling of Structures [0.0]
  構造力学における機械学習アプローチの大きな問題は、構造データの頻繁な欠如である。 この研究は、人口ベースの構造的健康モニタリングの分野に着想を得て、人口内で知識を伝達できるモデルを作成しようとしている。 メタラーニングアプローチを用いて訓練されたモデルは、人口構造に関する推論に関する従来の機械学習手法より優れている。
  論文  参考訳（メタデータ） (2023-02-15T23:01:59Z)
• GenHPF: General Healthcare Predictive Framework with Multi-task Multi-source Learning [9.406539794019581]
  General Healthcare Predictive Framework (GenHPF) は、複数の予測タスクに対して最小限の事前処理を持つ任意の EHR に適用可能である。 我々のフレームワークは、マルチソース学習においてドメイン知識を利用するベースラインモデルよりも大幅に優れています。
  論文  参考訳（メタデータ） (2022-07-20T12:46:26Z)
• Continual Learning with Bayesian Model based on a Fixed Pre-trained Feature Extractor [55.9023096444383]
  現在のディープラーニングモデルは、新しいクラスを学ぶ際に古い知識を破滅的に忘れることによって特徴づけられる。 人間の脳における新しい知識の学習プロセスに着想を得て,連続学習のためのベイズ生成モデルを提案する。
  論文  参考訳（メタデータ） (2022-04-28T08:41:51Z)
• BERT WEAVER: Using WEight AVERaging to enable lifelong learning for transformer-based models in biomedical semantic search engines [49.75878234192369]
  We present WEAVER, a simple, yet efficient post-processing method that infuse old knowledge into the new model。 WEAVERを逐次的に適用すると、同じ単語の埋め込み分布が、一度にすべてのデータに対する総合的なトレーニングとして得られることを示す。
  論文  参考訳（メタデータ） (2022-02-21T10:34:41Z)
• MIMO: Mutual Integration of Patient Journey and Medical Ontology for Healthcare Representation Learning [49.57261599776167]
  本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
  論文  参考訳（メタデータ） (2021-07-20T07:04:52Z)
• Pre-training transformer-based framework on large-scale pediatric claims data for downstream population-specific tasks [3.1580072841682734]
  本研究は、小児科のクレームデータセット全体をトレーニングする一般的な事前学習モデルであるClaim Pre-Training(Claim-PT)フレームワークを提案する。 効果的な知識伝達はタスク対応微調整段階を通じて完了する。 我々は100万人以上の患者記録を持つ実世界のクレームデータセットの実験を行った。
  論文  参考訳（メタデータ） (2021-06-24T15:25:41Z)
• Adversarial Sample Enhanced Domain Adaptation: A Case Study on Predictive Modeling with Electronic Health Records [57.75125067744978]
  ドメイン適応を容易にするデータ拡張手法を提案する。 逆生成したサンプルはドメイン適応時に使用される。 その結果,本手法の有効性とタスクの一般性が確認された。
  論文  参考訳（メタデータ） (2021-01-13T03:20:20Z)
• Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction [55.94378672172967]
  本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。 新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。 我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
  論文  参考訳（メタデータ） (2020-09-02T02:50:30Z)
• Ensemble Transfer Learning for the Prediction of Anti-Cancer Drug Response [49.86828302591469]
  本稿では,抗がん剤感受性の予測にトランスファーラーニングを適用した。 我々は、ソースデータセット上で予測モデルをトレーニングし、ターゲットデータセット上でそれを洗練する古典的な転送学習フレームワークを適用した。 アンサンブル転送学習パイプラインは、LightGBMと異なるアーキテクチャを持つ2つのディープニューラルネットワーク(DNN)モデルを使用して実装されている。
  論文  参考訳（メタデータ） (2020-05-13T20:29:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。