論文の概要: METHOD: Modular Efficient Transformer for Health Outcome Discovery

• arxiv url: http://arxiv.org/abs/2505.17054v1
• Date: Fri, 16 May 2025 15:52:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-26 18:08:33.504581
• Title: METHOD: Modular Efficient Transformer for Health Outcome Discovery
• Title（参考訳）: 方法:ヘルスアウトカム発見のためのモジュール効率のよい変圧器
• Abstract要約: 本稿では,電子カルテにおける臨床シーケンスモデリングの課題に対処するために,新しいトランスフォーマーアーキテクチャである Method を紹介する。 1)効率的なバッチ処理を可能にしながら情報漏洩を防止する患者対応アテンション機構,(2)マルチスケールの時間的依存関係をキャプチャする適応型スライディングウィンドウアテンションスキーム,(3)動的スキップ接続を備えたU-Netインスピレーションアーキテクチャ。 MIMIC-IVデータベースにおける評価は、手法が最先端のETHOSモデルより一貫して優れていることを示した。
• 参考スコア（独自算出の注目度）: 0.25112747242081457
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent advances in transformer architectures have revolutionised natural language processing, but their application to healthcare domains presents unique challenges. Patient timelines are characterised by irregular sampling, variable temporal dependencies, and complex contextual relationships that differ substantially from traditional language tasks. This paper introduces \METHOD~(Modular Efficient Transformer for Health Outcome Discovery), a novel transformer architecture specifically designed to address the challenges of clinical sequence modelling in electronic health records. \METHOD~integrates three key innovations: (1) a patient-aware attention mechanism that prevents information leakage whilst enabling efficient batch processing; (2) an adaptive sliding window attention scheme that captures multi-scale temporal dependencies; and (3) a U-Net inspired architecture with dynamic skip connections for effective long sequence processing. Evaluations on the MIMIC-IV database demonstrate that \METHOD~consistently outperforms the state-of-the-art \ETHOS~model, particularly in predicting high-severity cases that require urgent clinical intervention. \METHOD~exhibits stable performance across varying inference lengths, a crucial feature for clinical deployment where patient histories vary significantly in length. Analysis of learned embeddings reveals that \METHOD~better preserves clinical hierarchies and relationships between medical concepts. These results suggest that \METHOD~represents a significant advancement in transformer architectures optimised for healthcare applications, providing more accurate and clinically relevant predictions whilst maintaining computational efficiency.
• Abstract（参考訳）: トランスフォーマーアーキテクチャの最近の進歩は自然言語処理に革命をもたらしたが、医療分野への応用には固有の課題がある。 患者タイムラインは、不規則なサンプリング、変動時間的依存関係、および従来の言語タスクと大きく異なる複雑なコンテキスト関係によって特徴づけられる。 本稿では,電子カルテにおける臨床シーケンスモデリングの課題に対処すべく,新しいトランスフォーマーアーキテクチャである<METHOD~(Modular Efficient Transformer for Health Outcome Discovery)を紹介する。 1)効率的なバッチ処理を可能にしながら情報漏洩を防止する患者対応アテンション機構,(2)マルチスケールの時間的依存関係をキャプチャする適応型スライディングウィンドウアテンションスキーム,(3)動的スキップ接続を備えたU-Netインスピレーションアーキテクチャ。 MIMIC-IVデータベースによる評価では,特に緊急臨床介入を要する高重度症例の予測において,「METHOD〜Consistent」は最先端の「ETHOS〜モデル」よりも優れていた。 患者履歴が有意に異なる臨床展開における重要な特徴である,様々な推論長の安定なパフォーマンスを阻害する。 学習した埋め込みの分析から, 臨床階層と医療概念の関係性は<METHOD~better>で保たれることが明らかとなった。 これらの結果から, 医療応用に最適化されたトランスフォーマーアーキテクチャの大幅な進歩が示唆され, 計算効率を維持しつつ, より正確かつ臨床的に関連性のある予測が可能となった。

関連論文リスト

• Is Self-Pretraining really useful to improve diagnosis in medical Time Series? [15.692598361763055]
  SPT(Self-PreTraining)は、マスキング戦略、データセット、アーキテクチャに応じて、分類精度を0-6ポイント向上する。 SPTは、タスク固有のアーキテクチャ変更を必要とせずに、医療時系列タスクのトランスフォーマー性能を向上させる、シンプルで一般的な戦略である。
  論文  参考訳（メタデータ） (2026-08-06T14:53:23Z)
• Large Language Models as Unified Multimodal Learners for Clinical Prediction [5.035455671983185]
  我々は,すべての患者データをモダリティに関わらず,単一の自然言語シーケンスに変換し,事前訓練された言語モデルをエンドツーエンドに微調整する。 本手法は,MIMIC-IIIの院内死亡率,ドイツ移植センターの経時的データを用いた移植不全予測,救急医療記録からの緊急トリアージ分類の3つにまたがって評価した。
  論文  参考訳（メタデータ） (2026-07-16T18:28:23Z)
• MedPruner: Training-Free Hierarchical Token Pruning for Efficient 3D Medical Image Understanding in Vision-Language Models [59.180043227905294]
  MedPrunerは、3次元医用画像の効率的な理解のためのトレーニング不要でモデルに依存しない階層的トークンプレーニングフレームワークである。 我々は、MedPrunerによって、MedGemmaのようなモデルが元の性能を維持したり、超えたりすることが可能であり、ビジュアルトークンの5%以下を維持していることを示す。
  論文  参考訳（メタデータ） (2026-03-12T07:37:00Z)
• TRACE: Temporal Reasoning via Agentic Context Evolution for Streaming Electronic Health Records (EHRs) [7.2159153945746795]
  LLM(Large Language Models)は、広範囲にわたる医学的知識を符号化するが、縦断的患者の軌跡に確実に適用することは困難である。 凍結LDMによる時間的臨床推論を可能にするフレームワークであるTRACEを紹介する。 MIMIC-IVによる縦断的臨床イベントストリームの評価
  論文  参考訳（メタデータ） (2026-02-13T11:39:19Z)
• MedSeqFT: Sequential Fine-tuning Foundation Models for 3D Medical Image Segmentation [55.37355146924576]
  MedSeqFTは、医用画像解析のためのシーケンシャルな微調整フレームワークである。 事前訓練されたモデルを新しいタスクに適応させ、表現能力を改善する。 最先端の微調整戦略を一貫して上回ります。
  論文  参考訳（メタデータ） (2025-09-07T15:22:53Z)
• NEARL-CLIP: Interacted Query Adaptation with Orthogonal Regularization for Medical Vision-Language Understanding [51.63264715941068]
  textbfNEARL-CLIP (iunderlineNteracted quunderlineEry underlineAdaptation with ounderlineRthogonaunderlineL regularization)は、VLMベースの新しい相互モダリティ相互作用フレームワークである。
  論文  参考訳（メタデータ） (2025-08-06T05:44:01Z)
• Time-Aware Attention for Enhanced Electronic Health Records Modeling [8.4225455796455]
  TALE-EHR は Transformer ベースのフレームワークで,連続的な時間的ギャップを明示的にモデル化する,新たなタイムアウェアアテンション機構を備えている。 本手法は, 疾患進展予測などのタスクにおいて, 最先端のベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-07-20T07:32:41Z)
• Clinical NLP with Attention-Based Deep Learning for Multi-Disease Prediction [44.0876796031468]
  本稿では,電子健康記録テキストの非構造的性質と高次元意味論的複雑さがもたらす課題について論じる。 情報抽出と多ラベル病予測のための統合モデリングを実現するために,注意機構に基づく深層学習手法を提案する。
  論文  参考訳（メタデータ） (2025-07-02T07:45:22Z)
• ChronoFormer: Time-Aware Transformer Architectures for Structured Clinical Event Modeling [3.663763802269743]
  本稿では, 経時的依存関係を符号化し, 利用するための革新的なトランスフォーマーアーキテクチャであるChronoFormerを提案する。 3つのベンチマークタスク予測、読み出し予測、長期的協調性オンセットで実施された広範囲な実験は、最先端の手法よりも大幅に改善されている。
  論文  参考訳（メタデータ） (2025-04-10T01:25:41Z)
• CTPD: Cross-Modal Temporal Pattern Discovery for Enhanced Multimodal Electronic Health Records Analysis [50.56875995511431]
  マルチモーダルEHRデータから有意な時間的パターンを効率的に抽出するために,CTPD(Cross-Modal Temporal Pattern Discovery)フレームワークを導入する。 提案手法では,時間的セマンティックな埋め込みを生成するためにスロットアテンションを用いて改良された時間的パターン表現を提案する。
  論文  参考訳（メタデータ） (2024-11-01T15:54:07Z)
• How Deep is your Guess? A Fresh Perspective on Deep Learning for Medical Time-Series Imputation [6.547981908229007]
  アーキテクチャとフレームワークのバイアスがモデルのパフォーマンスにどのように影響するかを示します。 実験では、プリプロセッシングと実装の選択に基づいて、最大20%の性能変化を示す。 我々は,現在の深層計算法と医療要件の相違点を同定する。
  論文  参考訳（メタデータ） (2024-07-11T12:33:28Z)
• Temporal Cross-Attention for Dynamic Embedding and Tokenization of Multimodal Electronic Health Records [1.6609516435725236]
  マルチモーダルな臨床時系列を正確に表現するための動的埋め込み・トークン化フレームワークを提案する。 術後合併症9例の発症予測に基礎的アプローチを応用した。
  論文  参考訳（メタデータ） (2024-03-06T19:46:44Z)
• XAI for In-hospital Mortality Prediction via Multimodal ICU Data [57.73357047856416]
  マルチモーダルICUデータを用いて病院内死亡率を予測するための,効率的で説明可能なAIソリューションを提案する。 我々は,臨床データから異種入力を受信し,意思決定を行うマルチモーダル・ラーニングを我々のフレームワークに導入する。 我々の枠組みは、医療研究において重要な要素の発見を容易にする他の臨床課題に容易に移行することができる。
  論文  参考訳（メタデータ） (2023-12-29T14:28:04Z)
• Clairvoyance: A Pipeline Toolkit for Medical Time Series [95.22483029602921]
  時系列学習は、データ駆動の*クリニカルな意思決定支援のパンとバターである* Clairvoyanceは、ソフトウェアツールキットとして機能する、統合されたエンドツーエンドのオートMLフレンドリなパイプラインを提案する。 Clairvoyanceは、臨床時系列MLのための包括的で自動化可能なパイプラインの生存可能性を示す最初のものである。
  論文  参考訳（メタデータ） (2023-10-28T12:08:03Z)
• TREEMENT: Interpretable Patient-Trial Matching via Personalized Dynamic Tree-Based Memory Network [54.332862955411656]
  臨床試験は薬物開発に不可欠であるが、しばしば高価で非効率な患者募集に苦しむ。 近年,患者と臨床試験を自動マッチングすることで患者採用を高速化する機械学習モデルが提案されている。 本稿では,TREement という名前の動的ツリーベースメモリネットワークモデルを導入する。
  論文  参考訳（メタデータ） (2023-07-19T12:35:09Z)
• Disentangled Counterfactual Recurrent Networks for Treatment Effect Inference over Time [71.30985926640659]
  本稿では,DCRN(Disentangled Counterfactual Recurrent Network)を提案する。 時間とともに治療効果の因果構造に完全にインスパイアされたアーキテクチャでは、予測精度と疾患理解が向上する。 実データとシミュレーションデータの両方において,DCRNが処理応答予測の最先端手法より優れていることを示す。
  論文  参考訳（メタデータ） (2021-12-07T16:40:28Z)
• Real-time landmark detection for precise endoscopic submucosal dissection via shape-aware relation network [51.44506007844284]
  内視鏡下粘膜下郭清術における高精度かつリアルタイムなランドマーク検出のための形状認識型関係ネットワークを提案する。 まず,ランドマーク間の空間的関係に関する先行知識を直感的に表現する関係キーポイント・ヒートマップを自動生成するアルゴリズムを考案する。 次に、事前知識を学習プロセスに段階的に組み込むために、2つの補完的な正規化手法を開発する。
  論文  参考訳（メタデータ） (2021-11-08T07:57:30Z)
• MIMO: Mutual Integration of Patient Journey and Medical Ontology for Healthcare Representation Learning [49.57261599776167]
  本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
  論文  参考訳（メタデータ） (2021-07-20T07:04:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。