論文の概要: Extracting and Encoding: Leveraging Large Language Models and Medical Knowledge to Enhance Radiological Text Representation
- arxiv url: http://arxiv.org/abs/2407.01948v1
- Date: Tue, 2 Jul 2024 04:39:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-03 16:43:59.605613
- Title: Extracting and Encoding: Leveraging Large Language Models and Medical Knowledge to Enhance Radiological Text Representation
- Title（参考訳）: 抽出と符号化:大規模言語モデルと医学的知識の活用による放射線学的テキスト表現の促進
- Authors: Pablo Messina, René Vidal, Denis Parra, Álvaro Soto, Vladimir Araujo,
- Abstract要約: 自由テキストラジオグラフィーレポートから高品質な事実文を抽出するための新しい2段階フレームワークを提案する。
我々のフレームワークには胸部X線テキスト生成システムを評価するための新しい埋め込みベースのメトリクス(CXRFE)も含まれている。
- 参考スコア（独自算出の注目度）: 31.370503681645804
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Advancing representation learning in specialized fields like medicine remains challenging due to the scarcity of expert annotations for text and images. To tackle this issue, we present a novel two-stage framework designed to extract high-quality factual statements from free-text radiology reports in order to improve the representations of text encoders and, consequently, their performance on various downstream tasks. In the first stage, we propose a \textit{Fact Extractor} that leverages large language models (LLMs) to identify factual statements from well-curated domain-specific datasets. In the second stage, we introduce a \textit{Fact Encoder} (CXRFE) based on a BERT model fine-tuned with objective functions designed to improve its representations using the extracted factual data. Our framework also includes a new embedding-based metric (CXRFEScore) for evaluating chest X-ray text generation systems, leveraging both stages of our approach. Extensive evaluations show that our fact extractor and encoder outperform current state-of-the-art methods in tasks such as sentence ranking, natural language inference, and label extraction from radiology reports. Additionally, our metric proves to be more robust and effective than existing metrics commonly used in the radiology report generation literature. The code of this project is available at \url{https://github.com/PabloMessina/CXR-Fact-Encoder}.
- Abstract（参考訳）: 医学などの専門分野における表現学習の促進は、テキストや画像に対する専門家の注釈が不足しているため、いまだに困難である。
そこで本稿では,テキストエンコーダの表現を改善するために,自由テキストラジオグラフィーレポートから高品質な事実文を抽出する2段階フレームワークを提案する。
最初の段階では,大規模言語モデル(LLM)を利用して,よく計算されたドメイン固有データセットから事実文を識別する「textit{Fact Extractor}」を提案する。
第2段階では、抽出した実データを用いて表現を改善するように設計されたBERTモデルに基づく \textit{Fact Encoder} (CXRFE) を導入する。
我々のフレームワークには、胸部X線テキスト生成システムを評価するための新しい埋め込みベースのメトリクス(CXRFEScore)が含まれており、アプローチのどちらの段階も活用している。
総合評価の結果,我々の事実抽出器とエンコーダは,文章のランク付けや自然言語推論,ラジオロジーレポートからのラベル抽出といったタスクにおいて,最先端の手法よりも優れていた。
さらに, 放射能レポート生成文献でよく用いられる既存の指標よりも, より堅牢で有効であることが証明された。
プロジェクトのコードは \url{https://github.com/PabloMessina/CXR-Fact-Encoder} で公開されている。
関連論文リスト
- Detecting Document-level Paraphrased Machine Generated Content: Mimicking Human Writing Style and Involving Discourse Features [57.34477506004105]
機械生成コンテンツは、学術プラジャリズムや誤報の拡散といった課題を提起する。
これらの課題を克服するために、新しい方法論とデータセットを導入します。
人間の筆記スタイルをエミュレートするエンコーダデコーダモデルであるMhBARTを提案する。
また,PDTB前処理による談話解析を統合し,構造的特徴を符号化するモデルであるDTransformerを提案する。
論文 参考訳（メタデータ） (2024-12-17T08:47:41Z) - Factual Serialization Enhancement: A Key Innovation for Chest X-ray Report Generation [15.82363717056198]
放射線学報告は、明瞭さと組織を確実にするプレゼンテーションスタイルの語彙を含む。
この過程における重要なステップは、ラジオグラフを対応するレポートと整列させることである。
この問題に対処するために、FSE(Factual Serialization Enhancement Method)を提案する。
論文 参考訳（メタデータ） (2024-05-15T07:56:38Z) - Cheap Ways of Extracting Clinical Markers from Texts [0.0]
本稿では,CLPsychの2024 Shared TaskにおけるUniBuc考古学チームの作業について述べる。
これには、割り当てられた自殺リスクレベルを支持するテキスト内の証拠の発見が含まれていた。
証拠にはハイライトと要約の2種類が必要だった。
論文 参考訳（メタデータ） (2024-03-17T14:21:42Z) - Bidirectional Trained Tree-Structured Decoder for Handwritten
Mathematical Expression Recognition [51.66383337087724]
Handwriting Mathematical Expression Recognition (HMER) タスクは、OCRの分野における重要な分岐である。
近年の研究では、双方向コンテキスト情報の導入により、HMERモデルの性能が大幅に向上することが示されている。
本稿では,MF-SLT と双方向非同期トレーニング (BAT) 構造を提案する。
論文 参考訳（メタデータ） (2023-12-31T09:24:21Z) - Optimizing Factual Accuracy in Text Generation through Dynamic Knowledge
Selection [71.20871905457174]
言語モデル(LM)は、私たちが情報と対話する方法に革命をもたらしたが、しばしば非現実的なテキストを生成する。
従来の手法では、外部知識をテキスト生成の参照として使用して事実性を高めるが、無関係な参照の知識の混在に苦慮することが多い。
本稿では,テキスト生成プロセスを反復処理に分割するDKGenを提案する。
論文 参考訳（メタデータ） (2023-08-30T02:22:40Z) - TextFormer: A Query-based End-to-End Text Spotter with Mixed Supervision [61.186488081379]
Transformerアーキテクチャを用いた問合せベースのエンドツーエンドテキストスポッターであるTextFormerを提案する。
TextFormerは、画像エンコーダとテキストデコーダの上に構築され、マルチタスクモデリングのための共同セマンティック理解を学ぶ。
分類、セグメンテーション、認識のブランチの相互訓練と最適化を可能にし、より深い特徴共有をもたらす。
論文 参考訳（メタデータ） (2023-06-06T03:37:41Z) - An Iterative Optimizing Framework for Radiology Report Summarization with ChatGPT [80.33783969507458]
放射線医学報告の「印象」セクションは、放射線医と他の医師とのコミュニケーションにとって重要な基盤である。
近年の研究では、大規模医療用テキストデータを用いた印象自動生成の有望な成果が得られている。
これらのモデルは、しばしば大量の医療用テキストデータを必要とし、一般化性能が劣る。
論文 参考訳（メタデータ） (2023-04-17T17:13:42Z) - Radiology Text Analysis System (RadText): Architecture and Evaluation [21.051601364891418]
RadText(ラッドテキスト)は、Pythonが開発したオープンソースの放射線学テキスト分析システムである。
識別の解除、セクション分割、文分割、単語のトークン化など、使いやすいテキスト分析パイプラインを提供する。
生のテキスト処理とローカル処理をサポートし、ユーザビリティの向上とデータプライバシの向上を実現している。
論文 参考訳（メタデータ） (2022-03-19T17:16:12Z) - A Benchmark Corpus for the Detection of Automatically Generated Text in
Academic Publications [0.02578242050187029]
本稿では,人工的な研究内容からなる2つのデータセットについて述べる。
第1のケースでは、コンテンツはオリジナルの論文から短いプロンプトを抽出した後、GPT-2モデルで完全に生成される。
部分的あるいはハイブリッドなデータセットは、いくつかの抽象文をArxiv-NLPモデルによって生成される文に置き換えることで生成される。
BLEU や ROUGE などの流速指標を用いて,生成したテキストと整列した原文とを比較し,データセットの品質を評価する。
論文 参考訳（メタデータ） (2022-02-04T08:16:56Z) - Lexically Aware Semi-Supervised Learning for OCR Post-Correction [90.54336622024299]
世界中の多くの言語における既存の言語データの多くは、非デジタル化された書籍や文書に閉じ込められている。
従来の研究は、あまり良くない言語を認識するためのニューラル・ポスト・コレクション法の有用性を実証してきた。
そこで本研究では,生画像を利用した半教師付き学習手法を提案する。
論文 参考訳（メタデータ） (2021-11-04T04:39:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。