論文の概要: Hierarchical Label-wise Attention Transformer Model for Explainable ICD Coding

• arxiv url: http://arxiv.org/abs/2204.10716v1
• Date: Fri, 22 Apr 2022 14:12:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-25 13:00:47.838816
• Title: Hierarchical Label-wise Attention Transformer Model for Explainable ICD Coding
• Title（参考訳）: 説明可能なicd符号化のための階層的ラベル・アテンショントランスフォーマモデル
• Authors: Leibo Liu, Oscar Perez-Concha, Anthony Nguyen, Vicki Bennett, Louisa Jorm
• Abstract要約: 臨床文書からのICD符号の予測のための階層型ラベル対応アテンショントランスフォーマモデル (HiLAT) を提案する。 MIMIC-IIIデータベースから,病院の退院サマリーと対応するICD-9符号を用いたHiLATの評価を行った。 注意重みの可視化は、ICDコード予測の顔の妥当性を確認するための潜在的な説明可能性ツールを示す。
• 参考スコア（独自算出の注目度）: 10.387366211090734
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: International Classification of Diseases (ICD) coding plays an important role in systematically classifying morbidity and mortality data. In this study, we propose a hierarchical label-wise attention Transformer model (HiLAT) for the explainable prediction of ICD codes from clinical documents. HiLAT firstly fine-tunes a pretrained Transformer model to represent the tokens of clinical documents. We subsequently employ a two-level hierarchical label-wise attention mechanism that creates label-specific document representations. These representations are in turn used by a feed-forward neural network to predict whether a specific ICD code is assigned to the input clinical document of interest. We evaluate HiLAT using hospital discharge summaries and their corresponding ICD-9 codes from the MIMIC-III database. To investigate the performance of different types of Transformer models, we develop ClinicalplusXLNet, which conducts continual pretraining from XLNet-Base using all the MIMIC-III clinical notes. The experiment results show that the F1 scores of the HiLAT+ClinicalplusXLNet outperform the previous state-of-the-art models for the top-50 most frequent ICD-9 codes from MIMIC-III. Visualisations of attention weights present a potential explainability tool for checking the face validity of ICD code predictions.
• Abstract（参考訳）: 国際疾患分類(ICD)コーディングは、致死率と死亡率データを体系的に分類する上で重要な役割を果たしている。 本研究では,臨床文書からのICD符号の予測のための階層型ラベル・アテンション・トランスフォーマモデル (HiLAT) を提案する。 HiLATは、まず、臨床文書のトークンを表す事前訓練されたトランスフォーマーモデルを微調整する。 次にラベル固有の文書表現を作成する2段階の階層的ラベル毎の注意機構を採用する。 これらの表現は、入力された臨床文書に特定のICDコードが割り当てられているかどうかを予測するためにフィードフォワードニューラルネットワークによって使用される。 MIMIC-IIIデータベースから病院退院サマリーと対応するICD-9符号を用いたHiLATの評価を行った。 各種トランスフォーマーモデルの性能を調べるため,MIMIC-III 臨床ノートを用いてXLNet-Base から継続事前トレーニングを行うクリニカルプラスXLNet を開発した。 実験の結果,HILAT+ClinicalplusXLNetのF1スコアはMIMIC-IIIの最も頻繁なICD-9符号トップ50の最先端モデルよりも優れていた。 注意重みの可視化は、ICDコード予測の顔の妥当性を確認するための潜在的な説明可能性ツールを示す。

関連論文リスト

• Improving ICD coding using Chapter based Named Entities and Attentional Models [0.0]
  我々は、章ベースの名前付きエンティティと注意モデルを用いて、F1スコアを改善するICD符号化の強化アプローチを導入する。 本手法は, 放電サマリーをICD-9章に分類し, 章別データを用いた注意モデルを開発する。 分類には第IV章を使用し、ニューラルネットワークを使わずに重要な要素や重みをデバイアスし、影響を及ぼす。
  論文  参考訳（メタデータ） (2024-07-24T12:34:23Z)
• Automated Medical Coding on MIMIC-III and MIMIC-IV: A Critical Review and Replicability Study [60.56194508762205]
  我々は、最先端の医療自動化機械学習モデルを再現し、比較し、分析する。 その結果, 弱い構成, サンプル化の不十分さ, 評価の不十分さなどにより, いくつかのモデルの性能が低下していることが判明した。 再生モデルを用いたMIMIC-IVデータセットの総合評価を行った。
  論文  参考訳（メタデータ） (2023-04-21T11:54:44Z)
• Clinical Deterioration Prediction in Brazilian Hospitals Based on Artificial Neural Networks and Tree Decision Models [56.93322937189087]
  超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
  論文  参考訳（メタデータ） (2022-12-17T23:29:14Z)
• Multi-label Few-shot ICD Coding as Autoregressive Generation with Prompt [7.554528566861559]
  本研究では,このマルチラベル分類タスクを自己回帰生成タスクに変換する。 ICD符号の高次元空間を直接予測する代わりに、我々のモデルはテキスト記述の低次元を生成する。 MIMIC-III-few実験により,従来のMIMIC-III-full SOTAモデルよりも大幅に優れるマルコF130.2が得られた。
  論文  参考訳（メタデータ） (2022-11-24T22:10:50Z)
• Cross-modal Clinical Graph Transformer for Ophthalmic Report Generation [116.87918100031153]
  眼科報告生成(ORG)のためのクロスモーダルな臨床グラフ変換器(CGT)を提案する。 CGTは、デコード手順を駆動する事前知識として、臨床関係を視覚特徴に注入する。 大規模FFA-IRベンチマークの実験は、提案したCGTが従来のベンチマーク手法より優れていることを示した。
  論文  参考訳（メタデータ） (2022-06-04T13:16:30Z)
• ICDBigBird: A Contextual Embedding Model for ICD Code Classification [71.58299917476195]
  文脈単語埋め込みモデルは、複数のNLPタスクにおいて最先端の結果を得た。 ICDBigBirdは、Graph Convolutional Network(GCN)を統合するBigBirdベースのモデルである。 ICD分類作業におけるBigBirdモデルの有効性を実世界の臨床データセットで実証した。
  論文  参考訳（メタデータ） (2022-04-21T20:59:56Z)
• CoPHE: A Count-Preserving Hierarchical Evaluation Metric in Large-Scale Multi-Label Text Classification [70.554573538777]
  ニューラルLMTCモデルの予測の階層的評価について論じる。 先行技術における構造化ラベル空間の表現における構造的問題について述べる。 深度に基づく表現を用いた階層的評価のための指標セットを提案する。
  論文  参考訳（メタデータ） (2021-09-10T13:09:12Z)
• Medical Code Prediction from Discharge Summary: Document to Sequence BERT using Sequence Attention [0.0]
  ICD符号の自動割り当てにシーケンスアテンション法を用いた変換器(BERT)からの双方向エンコーダ表現に基づくモデルを提案する。 我々はMIMIC-IIIベンチマークデータセットのap-proachを評価した。
  論文  参考訳（メタデータ） (2021-06-15T07:35:50Z)
• TransICD: Transformer Based Code-wise Attention Model for Explainable ICD Coding [5.273190477622007]
  国際疾患分類法 (ICD) は, 医療分野の請求システムにおいて有効かつ重要であることが示されている。 現在、ICDコードは手動で臨床メモに割り当てられており、多くのエラーを引き起こす可能性がある。 本稿では,文書のトークン間の相互依存を捉えるためにトランスフォーマーベースのアーキテクチャを適用し,コードワイド・アテンション・メカニズムを用いて文書全体のコード固有表現を学習する。
  論文  参考訳（メタデータ） (2021-03-28T05:34:32Z)
• G-MIND: An End-to-End Multimodal Imaging-Genetics Framework for Biomarker Identification and Disease Classification [49.53651166356737]
  診断によって誘導される画像データと遺伝データを統合し、解釈可能なバイオマーカーを提供する新しいディープニューラルネットワークアーキテクチャを提案する。 2つの機能的MRI(fMRI)パラダイムとSingle Nucleotide Polymorphism (SNP)データを含む統合失調症の集団研究で本モデルを評価した。
  論文  参考訳（メタデータ） (2021-01-27T19:28:04Z)
• An Explainable CNN Approach for Medical Codes Prediction from Clinical Text [1.7746314978241657]
  我々は集中治療室(ICU)における臨床テキストに基づくCNNベースの自動ICD符号化法を開発した。 私たちは、私たちのモデルが各ラベルの局所的および低レベルの機能を学ぶことを可能にするShallow and Wide Attention Convolutional Mechanism(SWAM)を思いつきました。
  論文  参考訳（メタデータ） (2021-01-14T02:05:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。