論文の概要: Making the Most Out of the Limited Context Length: Predictive Power Varies with Clinical Note Type and Note Section

• arxiv url: http://arxiv.org/abs/2307.07051v1
• Date: Thu, 13 Jul 2023 20:04:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-17 15:29:47.130649
• Title: Making the Most Out of the Limited Context Length: Predictive Power Varies with Clinical Note Type and Note Section
• Title（参考訳）: 限られた文脈長を最大限に活用する:臨床ノートタイプとノートセクションによる予測的パワーバリア
• Authors: Hongyi Zheng, Yixin Zhu, Lavender Yao Jiang, Kyunghyun Cho, Eric Karl Oermann
• Abstract要約: 本研究では,高い予測力で区間を解析する枠組みを提案する。 MIMIC-IIIを用いて,(1)看護用音符と退院用音符とでは予測電力分布が異なること,(2)文脈長が大きい場合の音符の組み合わせにより性能が向上することが示唆された。
• 参考スコア（独自算出の注目度）: 70.37720062263176
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Recent advances in large language models have led to renewed interest in natural language processing in healthcare using the free text of clinical notes. One distinguishing characteristic of clinical notes is their long time span over multiple long documents. The unique structure of clinical notes creates a new design choice: when the context length for a language model predictor is limited, which part of clinical notes should we choose as the input? Existing studies either choose the inputs with domain knowledge or simply truncate them. We propose a framework to analyze the sections with high predictive power. Using MIMIC-III, we show that: 1) predictive power distribution is different between nursing notes and discharge notes and 2) combining different types of notes could improve performance when the context length is large. Our findings suggest that a carefully selected sampling function could enable more efficient information extraction from clinical notes.
• Abstract（参考訳）: 最近の大規模言語モデルの進歩は、臨床ノートのフリーテキストを使用して、医療における自然言語処理への関心を再び高めている。 臨床ノートの特徴の1つは、複数の長い文書にまたがる長い期間である。 言語モデル予測器の文脈長が制限されている場合、臨床ノートのどの部分が入力として選択されるべきか? 既存の研究では、入力をドメイン知識で選択するか、単に切り捨てる。 予測力の高い区間を解析するための枠組みを提案する。 MIMIC-III を用いて、次のように示す。 1)看護ノートと退院ノートとでは予測電力分布が異なる。 2)異なるタイプのノートを組み合わせることで,コンテキスト長が大きい場合のパフォーマンスが向上する。 本研究は,慎重に選択したサンプリング機能により,臨床ノートからより効率的な情報抽出が可能であることが示唆された。

関連論文リスト

• Improving Clinical Note Generation from Complex Doctor-Patient Conversation [20.2157016701399]
  大言語モデル(LLM)を用いた臨床ノート作成分野への3つの重要な貢献について述べる。 まず、CliniKnoteを紹介します。CliniKnoteは、1200の複雑な医師と患者との会話と、その全臨床ノートを組み合わせたデータセットです。 第2に,従来のSOAPcitepodder20soap(Subjective, Objective, Assessment, Plan)のメモを上位にキーワードセクションを追加することで,必須情報の迅速な識別を可能にするK-SOAPを提案する。 第3に、医師と患者との会話からK-SOAPノートを生成する自動パイプラインを開発し、様々な近代LCMをベンチマークする。
  論文  参考訳（メタデータ） (2024-08-26T18:39:31Z)
• Preserving the knowledge of long clinical texts using aggregated ensembles of large language models [0.0]
  臨床テキストには、様々な臨床結果予測タスクに使用できる、豊富で価値のある情報が含まれている。 BERTベースのモデルのような大きな言語モデルを臨床テキストに適用することは、2つの大きな課題をもたらす。 本稿では,大規模言語モデルの集合アンサンブルを用いて,長期臨床テキストの知識を保存するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-02T19:50:02Z)
• Self-Verification Improves Few-Shot Clinical Information Extraction [73.6905567014859]
  大規模言語モデル (LLMs) は、数発のテキスト内学習を通じて臨床キュレーションを加速する可能性を示している。 正確性や解釈可能性に関する問題、特に健康のようなミッションクリティカルな領域ではまだ苦戦している。 本稿では,自己検証を用いた汎用的な緩和フレームワークについて検討する。このフレームワークはLLMを利用して,自己抽出のための証明を提供し,その出力をチェックする。
  論文  参考訳（メタデータ） (2023-05-30T22:05:11Z)
• A Meta-Evaluation of Faithfulness Metrics for Long-Form Hospital-Course Summarization [2.8575516056239576]
  病院入院の長期的臨床要約は、臨床医と患者の両方に役立つ可能性から、現実的な重要性を持っている。 本研究は,患者の短期病院講座のモデル作成要約に対して,人体アノテーションの微粒化に対する忠実度指標をベンチマークした。
  論文  参考訳（メタデータ） (2023-03-07T14:57:06Z)
• A Comparative Study of Pretrained Language Models for Long Clinical Text [4.196346055173027]
  大規模臨床コーパスで事前訓練した2つのドメイン富化言語モデル, クリニカル・ロングフォーマーとクリニカル・ビッグバードを紹介した。 名前付きエンティティ認識、質問応答、自然言語推論、文書分類タスクを含む10のベースラインタスクを用いて、両方の言語モデルを評価する。
  論文  参考訳（メタデータ） (2023-01-27T16:50:29Z)
• Cross-Lingual Knowledge Transfer for Clinical Phenotyping [55.92262310716537]
  本稿では,英語を使わないクリニックに対して,このタスクを実行するための言語間知識伝達戦略について検討する。 ギリシャ語とスペイン語のクリニックに対して,異なる臨床領域のクリニカルノートを活用して,これらの戦略を評価する。 以上の結果から,多言語データを用いることで,臨床表現型モデルが改善され,データの疎度を補うことが可能であることが示唆された。
  論文  参考訳（メタデータ） (2022-08-03T08:33:21Z)
• Assessing mortality prediction through different representation models based on concepts extracted from clinical notes [2.707154152696381]
  埋め込みの学習は、音符をそれに匹敵する形式に変換する方法である。 トランスフォーマーベースの表現モデルは、最近大きな飛躍を遂げた。 病院死亡予測の課題において,学習した埋め込みベクターの有用性を評価する実験を行った。
  論文  参考訳（メタデータ） (2022-07-22T04:34:33Z)
• Towards more patient friendly clinical notes through language models and ontologies [57.51898902864543]
  本稿では,単語の単純化と言語モデリングに基づく医療用テキストの自動作成手法を提案する。 我々は,公開医療文のデータセットペアと,臨床医による簡易化版を用いている。 本手法は,医学フォーラムデータに基づく言語モデルを用いて,文法と本来の意味の両方を保存しながら,より単純な文を生成する。
  論文  参考訳（メタデータ） (2021-12-23T16:11:19Z)
• Self-supervised Answer Retrieval on Clinical Notes [68.87777592015402]
  本稿では,ドメイン固有パスマッチングのためのトランスフォーマー言語モデルをトレーニングするためのルールベースのセルフスーパービジョンであるCAPRを紹介する。 目的をトランスフォーマーベースの4つのアーキテクチャ、コンテキスト文書ベクトル、ビ-、ポリエンコーダ、クロスエンコーダに適用する。 本稿では,ドメイン固有パスの検索において,CAPRが強いベースラインを上回り,ルールベースおよび人間ラベル付きパスを効果的に一般化することを示す。
  論文  参考訳（メタデータ） (2021-08-02T10:42:52Z)
• An Interpretable End-to-end Fine-tuning Approach for Long Clinical Text [72.62848911347466]
  EHRにおける非構造化臨床テキストには、意思決定支援、トライアルマッチング、振り返り研究を含むアプリケーションにとって重要な情報が含まれている。 最近の研究は、これらのモデルが他のNLPドメインにおける最先端の性能を考慮し、BERTベースのモデルを臨床情報抽出およびテキスト分類に応用している。 本稿では,SnipBERTという新しい微調整手法を提案する。SnipBERTは全音符を使用する代わりに,重要なスニペットを識別し,階層的に切り刻まれたBERTベースのモデルに供給する。
  論文  参考訳（メタデータ） (2020-11-12T17:14:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。