論文の概要: Causal Similarity-Based Hierarchical Bayesian Models
- arxiv url: http://arxiv.org/abs/2310.12595v1
- Date: Thu, 19 Oct 2023 09:03:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-20 15:53:45.291910
- Title: Causal Similarity-Based Hierarchical Bayesian Models
- Title(参考訳): 因果類似性に基づく階層ベイズモデル
- Authors: Sophie Wharrie, Samuel Kaski
- Abstract要約: 本研究では、因果メカニズムが異なる可能性のある関連タスクからなるデータセットの一般化について研究する。
因果類似性に基づく階層ベイズモデルを提案する。
- 参考スコア(独自算出の注目度): 23.842687721181107
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The key challenge underlying machine learning is generalisation to new data.
This work studies generalisation for datasets consisting of related tasks that
may differ in causal mechanisms. For example, observational medical data for
complex diseases suffers from heterogeneity in causal mechanisms of disease
across patients, creating challenges for machine learning algorithms that need
to generalise to new patients outside of the training dataset. Common
approaches for learning supervised models with heterogeneous datasets include
learning a global model for the entire dataset, learning local models for each
tasks' data, or utilising hierarchical, meta-learning and multi-task learning
approaches to learn how to generalise from data pooled across multiple tasks.
In this paper we propose causal similarity-based hierarchical Bayesian models
to improve generalisation to new tasks by learning how to pool data from
training tasks with similar causal mechanisms. We apply this general modelling
principle to Bayesian neural networks and compare a variety of methods for
estimating causal task similarity (for both known and unknown causal models).
We demonstrate the benefits of our approach and applicability to real world
problems through a range of experiments on simulated and real data.
- Abstract(参考訳): 機械学習の基礎となる重要な課題は、新しいデータへの一般化である。
本研究は、因果メカニズムが異なる可能性のある関連するタスクからなるデータセットの一般化について研究する。
例えば、複雑な疾患の観察医療データは、患者間の疾患の因果メカニズムの不均一性に悩まされ、トレーニングデータセット以外の新しい患者に一般化する必要がある機械学習アルゴリズムの課題を生み出している。
不均一なデータセットで教師付きモデルを学習するための一般的なアプローチとしては、データセット全体に対するグローバルモデル学習、各タスクのデータに対するローカルモデル学習、階層的、メタラーニング、マルチタスクラーニングアプローチを利用した複数のタスクにまたがるデータから一般化する方法の学習などがある。
本稿では、因果類似性に基づく階層型ベイズモデルを提案し、類似因果機構を持つトレーニングタスクからデータをプールする方法を学ぶことにより、新しいタスクへの一般化を改善する。
この一般的なモデリング原理をベイズニューラルネットワークに適用し、因果的タスク類似性(未知因果モデルと未知因果モデルの両方)を推定するための様々な手法を比較する。
シミュレーションおよび実データに関する様々な実験を通じて,本手法の利点と実世界の問題への適用性を実証する。
関連論文リスト
- A Meta-Learning Approach to Population-Based Modelling of Structures [0.0]
構造力学における機械学習アプローチの大きな問題は、構造データの頻繁な欠如である。
この研究は、人口ベースの構造的健康モニタリングの分野に着想を得て、人口内で知識を伝達できるモデルを作成しようとしている。
メタラーニングアプローチを用いて訓練されたモデルは、人口構造に関する推論に関する従来の機械学習手法より優れている。
論文 参考訳(メタデータ) (2023-02-15T23:01:59Z) - GenHPF: General Healthcare Predictive Framework with Multi-task
Multi-source Learning [9.406539794019581]
General Healthcare Predictive Framework (GenHPF) は、複数の予測タスクに対して最小限の事前処理を持つ任意の EHR に適用可能である。
我々のフレームワークは、マルチソース学習においてドメイン知識を利用するベースラインモデルよりも大幅に優れています。
論文 参考訳(メタデータ) (2022-07-20T12:46:26Z) - Continual Learning with Bayesian Model based on a Fixed Pre-trained
Feature Extractor [55.9023096444383]
現在のディープラーニングモデルは、新しいクラスを学ぶ際に古い知識を破滅的に忘れることによって特徴づけられる。
人間の脳における新しい知識の学習プロセスに着想を得て,連続学習のためのベイズ生成モデルを提案する。
論文 参考訳(メタデータ) (2022-04-28T08:41:51Z) - BERT WEAVER: Using WEight AVERaging to enable lifelong learning for
transformer-based models in biomedical semantic search engines [49.75878234192369]
We present WEAVER, a simple, yet efficient post-processing method that infuse old knowledge into the new model。
WEAVERを逐次的に適用すると、同じ単語の埋め込み分布が、一度にすべてのデータに対する総合的なトレーニングとして得られることを示す。
論文 参考訳(メタデータ) (2022-02-21T10:34:41Z) - MIMO: Mutual Integration of Patient Journey and Medical Ontology for
Healthcare Representation Learning [49.57261599776167]
本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
論文 参考訳(メタデータ) (2021-07-20T07:04:52Z) - Pre-training transformer-based framework on large-scale pediatric claims
data for downstream population-specific tasks [3.1580072841682734]
本研究は、小児科のクレームデータセット全体をトレーニングする一般的な事前学習モデルであるClaim Pre-Training(Claim-PT)フレームワークを提案する。
効果的な知識伝達はタスク対応微調整段階を通じて完了する。
我々は100万人以上の患者記録を持つ実世界のクレームデータセットの実験を行った。
論文 参考訳(メタデータ) (2021-06-24T15:25:41Z) - Adversarial Sample Enhanced Domain Adaptation: A Case Study on
Predictive Modeling with Electronic Health Records [57.75125067744978]
ドメイン適応を容易にするデータ拡張手法を提案する。
逆生成したサンプルはドメイン適応時に使用される。
その結果,本手法の有効性とタスクの一般性が確認された。
論文 参考訳(メタデータ) (2021-01-13T03:20:20Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳(メタデータ) (2020-09-02T02:50:30Z) - Ensemble Transfer Learning for the Prediction of Anti-Cancer Drug
Response [49.86828302591469]
本稿では,抗がん剤感受性の予測にトランスファーラーニングを適用した。
我々は、ソースデータセット上で予測モデルをトレーニングし、ターゲットデータセット上でそれを洗練する古典的な転送学習フレームワークを適用した。
アンサンブル転送学習パイプラインは、LightGBMと異なるアーキテクチャを持つ2つのディープニューラルネットワーク(DNN)モデルを使用して実装されている。
論文 参考訳(メタデータ) (2020-05-13T20:29:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。