論文の概要: RealDiffFusionNet: Neural Controlled Differential Equation Informed Multi-Head Attention Fusion Networks for Disease Progression Modeling Using Real-World Data

• arxiv url: http://arxiv.org/abs/2501.02025v1
• Date: Thu, 02 Jan 2025 22:50:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-07 17:08:00.134349
• Title: RealDiffFusionNet: Neural Controlled Differential Equation Informed Multi-Head Attention Fusion Networks for Disease Progression Modeling Using Real-World Data
• Title（参考訳）: RealDiffFusionNet:実世界データを用いた疾患進行モデリングのためのニューラル制御微分方程式インフォームドマルチヘッド注意融合ネットワーク
• Authors: Aashish Cheruvu, Nathaniel Rigoni,
• Abstract要約: 本稿では,RealDiffFusionNetという新しい深層学習手法を提案する。 ニューラル制御された微分方程式(Neural Controlled Differential Equations, ニューラルCDE)と、関連するマルチモーダルコンテキストを整合させるマルチヘッドアテンションを備えている。 CDEとマルチモーダルデータを利用して、病気の進行を正確に予測することは約束されている。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This paper presents a novel deep learning-based approach named RealDiffFusionNet incorporating Neural Controlled Differential Equations (Neural CDE) - time series models that are robust in handling irregularly sampled data - and multi-head attention to align relevant multimodal context (image data, time invariant data, etc.) at each time point. Long short-term memory (LSTM) models were also used as a baseline. Two different datasets were used: a data from the Open-Source Imaging Consortium (OSIC) containing structured time series data of demographics and lung function with a baseline CT scan of the lungs and the second from the Alzheimer's Disease Neuroimaging Initiative (ADNI) containing a series of MRI scans along with demographics, physical examinations, and cognitive assessment data. An ablation study was performed to understand the role of CDEs, multimodal data, attention fusion, and interpolation strategies on model performance. When the baseline models were evaluated, the use of multimodal data resulted in an improvement in Neural CDE performance, with a lower test RMSE. Additionally, the performance of multimodal Neural CDE was also superior to multimodal LSTM. In the attention-based architectures, fusion through concatenation and rectilinear interpolation were found to improve model performance. The performance of the proposed RealDiffFusionNet was found to be superior (0.2570) to all models. For the ADNI dataset, between the Neural-CDE and LSTM models trained only on the structured data, the test RMSE were comparable (0.471 for LSTM vs. 0.4581 Neural-CDE). Furthermore, the addition of image features from patients' MRI series resulted in an improvement in performance, with a lower test RMSE (0.4372 with multimodal vs 0.4581 with structured data). RealDiffFusionNet has shown promise in utilizing CDEs and multimodal data to accurately predict disease progression.
• Abstract（参考訳）: 本稿では,ニューラルネットワーク型微分方程式(Neural Controlled Differential Equations (Neural CDE))を組み込んだRealDiffFusionNetという新しいディープラーニングベースのアプローチを提案する。 長い短期記憶(LSTM)モデルもベースラインとして使用された。 オープンソースのイメージングコンソーシアム(OSIC)のデータには、肺のベースラインCTスキャンによる人口統計と肺機能の構造化時系列データが含まれており、2番目はアルツハイマー病神経画像イニシアチブ(ADNI)のもので、人口統計、身体検査、認知評価データとともに一連のMRIスキャンが含まれている。 CDE, マルチモーダルデータ, 注意融合, 補間戦略がモデル性能に与える影響を理解するために, アブレーション実験を行った。 ベースラインモデルを評価すると、マルチモーダルデータの使用により、より低い試験RMSEでニューラルCDE性能が改善された。 さらに,マルチモーダル型ニューラルCDEの性能はマルチモーダルLSTMよりも優れていた。 注意に基づくアーキテクチャでは、結合と直交補間による融合がモデル性能を向上させることが判明した。 提案されたRealDiffFusionNetの性能は、全てのモデルより優れている(0.2570)。 ADNIデータセットでは、構造化データのみに基づいてトレーニングされたNeural-CDEとLSTMモデルの間で、RMSEは(LSTMが0.471、Neural-CDEが0.4581)同等であった。 さらに,MRIによる画像特徴の付加により, RMSE (0.4372, multimodal vs 0.4581, 構造化データ) が低値となった。 RealDiffFusionNetは、病気の進行を正確に予測するためにCDEとマルチモーダルデータを活用することを約束している。

関連論文リスト

• Multi-modal Gaussian Process Variational Autoencoders for Neural and Behavioral Data [0.9622208190558754]
  そこで本研究では,時間的に進化する共振子と独立潜光子を個別に同時記録した実験モードのために抽出する非教師付き潜光子変数モデルを提案する。 我々は,ポアソンスパイク数と時間とともにスムーズかつスムーズに回転するMNIST画像からなるシミュレーションマルチモーダルデータに対して,本モデルの有効性を検証した。 マルチモーダルGP-VAEは、モダリティ間の共有および独立の潜伏構造を正確に識別できるだけでなく、保留試験において画像とニューラルレートの両方を適切に再構成できることを示す。
  論文  参考訳（メタデータ） (2023-10-04T19:04:55Z)
• The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease detection [51.697248252191265]
  この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。 我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。 このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
  論文  参考訳（メタデータ） (2023-09-13T10:40:41Z)
• Continuous time recurrent neural networks: overview and application to forecasting blood glucose in the intensive care unit [56.801856519460465]
  連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。 重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
  論文  参考訳（メタデータ） (2023-04-14T09:39:06Z)
• Batch-Ensemble Stochastic Neural Networks for Out-of-Distribution Detection [55.028065567756066]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイすることの重要性から、マシンラーニングコミュニティから注目を集めている。 本稿では,特徴量の分布をモデル化した不確実な定量化手法を提案する。 バッチアンサンブルニューラルネットワーク(BE-SNN)の構築と機能崩壊問題の克服を目的として,効率的なアンサンブル機構,すなわちバッチアンサンブルを組み込んだ。 We show that BE-SNNs yield superior performance on the Two-Moons dataset, the FashionMNIST vs MNIST dataset, FashionM。
  論文  参考訳（メタデータ） (2022-06-26T16:00:22Z)
• CNN-LSTM Based Multimodal MRI and Clinical Data Fusion for Predicting Functional Outcome in Stroke Patients [1.5250925845050138]
  脳卒中患者の管理において臨床結果予測は重要な役割を担っている。 機械学習の観点から見ると、大きな課題のひとつは異種データを扱うことだ。 本稿では,長い短期記憶(CNN-LSTM)に基づくアンサンブルモデルを提案する。
  論文  参考訳（メタデータ） (2022-05-11T14:46:01Z)
• Mixed Effects Neural ODE: A Variational Approximation for Analyzing the Dynamics of Panel Data [50.23363975709122]
  パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。 我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。 次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-02-18T22:41:51Z)
• Hybridization of Capsule and LSTM Networks for unsupervised anomaly detection on multivariate data [0.0]
  本稿では,Long-Short-Term-Memory(LSTM)とCapsule Networksを1つのネットワークに結合した新しいNNアーキテクチャを提案する。 提案手法は教師なし学習手法を用いて大量のラベル付きトレーニングデータを見つける際の問題を克服する。
  論文  参考訳（メタデータ） (2022-02-11T10:33:53Z)
• A Comparative Study of Detecting Anomalies in Time Series Data Using LSTM and TCN Models [2.007262412327553]
  本稿では,2つの著名なディープラーニングモデリング手法を比較した。 Recurrent Neural Network (RNN)-based Long Short-Term Memory (LSTM) と Convolutional Neural Network (CNN)-based Temporal Convolutional Networks (TCN) を比較した。
  論文  参考訳（メタデータ） (2021-12-17T02:46:55Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• CARRNN: A Continuous Autoregressive Recurrent Neural Network for Deep Representation Learning from Sporadic Temporal Data [1.8352113484137622]
  本稿では,散発データにおける複数の時間的特徴をモデル化するための新しい深層学習モデルを提案する。 提案モデルはCARRNNと呼ばれ、時間ラグによって変調されたニューラルネットワークを用いてエンドツーエンドにトレーニング可能な一般化された離散時間自己回帰モデルを使用する。 アルツハイマー病進行モデルおよび集中治療単位(ICU)死亡率予測のためのデータを用いて,多変量時系列回帰タスクに適用した。
  論文  参考訳（メタデータ） (2021-04-08T12:43:44Z)
• Brain Image Synthesis with Unsupervised Multivariate Canonical CSC$\ell_4$Net [122.8907826672382]
  我々は,新しいCSC$ell_4$Netを用いて,イントレとイントラモーダルの両方にまたがる専用特徴を学習することを提案する。
  論文  参考訳（メタデータ） (2021-03-22T05:19:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。