論文の概要: A Masked language model for multi-source EHR trajectories contextual
representation learning
- arxiv url: http://arxiv.org/abs/2402.06675v1
- Date: Wed, 7 Feb 2024 15:38:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-18 13:39:21.343182
- Title: A Masked language model for multi-source EHR trajectories contextual
representation learning
- Title(参考訳): マルチソースEHRトラジェクトリにおける文脈表現学習のためのマスケッド言語モデル
- Authors: Ali Amirahmadi (1), Mattias Ohlsson (1,2), Kobra Etminani (1), Olle
Melander (3), and Jonas Bj\"ork (4) ((1) Center for Applied Intelligent
Systems Research, Halmstad University, (2) Centre for Environmental and
Climate Science, Lund University, (3) Department of Clinical Sciences, Lund
University, (4) Division of Occupational and Environmental Medicine, Lund
University)
- Abstract要約: 双方向トランスフォーマーは、最初の課題に効果的に対処してきた。
ここでは、あるソース(例えばICD10コード)をマスキングし、他のソースで予測するようにトランスフォーマーをトレーニングすることで、後者の課題に取り組みました。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Using electronic health records data and machine learning to guide future
decisions needs to address challenges, including 1) long/short-term
dependencies and 2) interactions between diseases and interventions.
Bidirectional transformers have effectively addressed the first challenge. Here
we tackled the latter challenge by masking one source (e.g., ICD10 codes) and
training the transformer to predict it using other sources (e.g., ATC codes).
- Abstract(参考訳): 電子健康記録データと機械学習を使って将来の意思決定を導くには、課題に対処する必要がある。
1)長期・短期の依存関係
2) 疾患と介入の相互作用
双方向トランスフォーマーは、最初の課題に効果的に対応している。
ここでは、あるソース(icd10コードなど)をマスキングし、他のソース(例えばatcコード)で予測するためにトランスフォーマーをトレーニングすることで、後者の課題に取り組んだ。
関連論文リスト
- MMA-DFER: MultiModal Adaptation of unimodal models for Dynamic Facial Expression Recognition in-the-wild [81.32127423981426]
実世界のアプリケーションでは,音声およびビデオデータに基づくマルチモーダル感情認識が重要である。
近年の手法は、強力なマルチモーダルエンコーダの事前学習に自己教師付き学習(SSL)の進歩を活用することに重点を置いている。
SSL-pre-trained disimodal encoders を用いて,この問題に対する異なる視点とマルチモーダル DFER の性能向上について検討する。
論文 参考訳(メタデータ) (2024-04-13T13:39:26Z) - Masked Vision and Language Pre-training with Unimodal and Multimodal
Contrastive Losses for Medical Visual Question Answering [7.669872220702526]
本稿では,入力画像とテキストの非モーダル・マルチモーダル特徴表現を学習する,新しい自己教師型アプローチを提案する。
提案手法は,3つの医用VQAデータセット上での最先端(SOTA)性能を実現する。
論文 参考訳(メタデータ) (2023-07-11T15:00:11Z) - Customizing General-Purpose Foundation Models for Medical Report
Generation [64.31265734687182]
ラベル付き医用画像-レポートペアの不足は、ディープニューラルネットワークや大規模ニューラルネットワークの開発において大きな課題となっている。
本稿では,コンピュータビジョンと自然言語処理の基盤モデル (FM) として,市販の汎用大規模事前学習モデルのカスタマイズを提案する。
論文 参考訳(メタデータ) (2023-06-09T03:02:36Z) - Dialogue-Contextualized Re-ranking for Medical History-Taking [5.039849340960835]
本稿では,第1段階の質問候補を再ランク付けすることで,トレーニングと推論のギャップを埋める2段階の再ランク付け手法を提案する。
専門家システムと比較して,提案するトランスフォーマーバックボーンを用いたグローバルリランカにより,最高の性能が得られることがわかった。
論文 参考訳(メタデータ) (2023-04-04T17:31:32Z) - Graph Decision Transformer [83.76329715043205]
グラフ決定変換器(GDT)は、新しいオフライン強化学習手法である。
GDTは入力シーケンスを因果グラフにモデル化し、基本的な異なる概念間の潜在的な依存関係をキャプチャする。
実験の結果,GDT は画像ベース Atari と OpenAI の Gym 上で,最先端のオフライン RL 手法の性能と一致しているか,上回っていることがわかった。
論文 参考訳(メタデータ) (2023-03-07T09:10:34Z) - A Transformer Framework for Data Fusion and Multi-Task Learning in Smart
Cities [99.56635097352628]
本稿では,新興スマートシティを対象としたトランスフォーマーベースのAIシステムを提案する。
ほぼ全ての入力データと出力タスクタイプをサポートし、現在のS&CCをサポートする。
S&CC環境を代表する多様なタスクセットを学習して実演する。
論文 参考訳(メタデータ) (2022-11-18T20:43:09Z) - Transfer Learning as an Essential Tool for Digital Twins in Renewable
Energy Systems [0.0]
デジタル双生児や他のインテリジェントシステムは、以前得られた知識を利用し、より自立的な方法で新しいタスクを解決するためにTLを利用する必要がある。
本稿では,再生可能エネルギーシステムにおける電力予測と異常検出における重要な課題について述べる。
これらの課題に対処する潜在的なTLフレームワークが提案されている。
論文 参考訳(メタデータ) (2022-03-09T19:59:56Z) - 2021 BEETL Competition: Advancing Transfer Learning for Subject
Independence & Heterogenous EEG Data Sets [89.84774119537087]
我々は、診断とBCI(Brain-Computer-Interface)に関する2つの伝達学習課題を設計する。
第1タスクは、患者全体にわたる自動睡眠ステージアノテーションに対処する医療診断に重点を置いている。
タスク2はBrain-Computer Interface (BCI)に集中しており、被験者とデータセットの両方にわたる運動画像のデコードに対処する。
論文 参考訳(メタデータ) (2022-02-14T12:12:20Z) - GenNI: Human-AI Collaboration for Data-Backed Text Generation [102.08127062293111]
Table2Textシステムは、機械学習を利用した構造化データに基づいてテキスト出力を生成する。
GenNI (Generation Negotiation Interface) は、対話型ビジュアルシステムである。
論文 参考訳(メタデータ) (2021-10-19T18:07:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。