論文の概要: Meta Learning for Few-Shot Medical Text Classification
- arxiv url: http://arxiv.org/abs/2212.01552v1
- Date: Sat, 3 Dec 2022 06:46:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-06 16:31:18.963478
- Title: Meta Learning for Few-Shot Medical Text Classification
- Title(参考訳): 数発医療テキスト分類のためのメタラーニング
- Authors: Pankaj Sharma, Imran Qureshi, and Minh Tran
- Abstract要約: ベンチマークテキストと医療データの幅広いコーパスにおけるメタラーニングとロバストネス技術の利用について検討する。
テキストによるメタラーニングはテキストベースのデータに適したフレームワークであり、より優れたデータ効率と、少数ショット言語モデルに匹敵するパフォーマンスを提供する。
- 参考スコア(独自算出の注目度): 1.2617078020344619
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Medical professionals frequently work in a data constrained setting to
provide insights across a unique demographic. A few medical observations, for
instance, informs the diagnosis and treatment of a patient. This suggests a
unique setting for meta-learning, a method to learn models quickly on new
tasks, to provide insights unattainable by other methods. We investigate the
use of meta-learning and robustness techniques on a broad corpus of benchmark
text and medical data. To do this, we developed new data pipelines, combined
language models with meta-learning approaches, and extended existing
meta-learning algorithms to minimize worst case loss. We find that
meta-learning on text is a suitable framework for text-based data, providing
better data efficiency and comparable performance to few-shot language models
and can be successfully applied to medical note data. Furthermore,
meta-learning models coupled with DRO can improve worst case loss across
disease codes.
- Abstract(参考訳): 医療専門家は、しばしばデータ制約のある環境で働き、ユニークな人口統計に関する洞察を提供する。
例えば、いくつかの医学的観察は患者の診断と治療を知らせる。
これは、新しいタスクでモデルを簡単に学習し、他の方法では到達できない洞察を提供するメタラーニングのユニークな設定を示唆する。
ベンチマークテキストと医療データの幅広いコーパスにおけるメタラーニングとロバストネス技術の利用について検討する。
そこで我々は,新たなデータパイプラインを開発し,言語モデルとメタラーニングアプローチを組み合わせて,最悪のケース損失を最小限に抑えるために,既存のメタラーニングアルゴリズムを拡張した。
テキスト上でのメタラーニングはテキストベースのデータに適したフレームワークであり、データ効率が向上し、数発の言語モデルに匹敵するパフォーマンスが得られ、医療ノートデータにうまく適用できる。
さらに、DROと組み合わせたメタラーニングモデルは、疾患コード間の最悪のケース損失を改善することができる。
関連論文リスト
- LoGra-Med: Long Context Multi-Graph Alignment for Medical Vision-Language Model [55.80651780294357]
最新の医療用マルチモーダル大規模言語モデル(med-MLLM)は、事前訓練において命令追従データを活用する。
LoGra-Medは新しいマルチグラフアライメントアルゴリズムで、画像のモダリティ、会話ベースの記述、拡張キャプション間でのトリプルト相関を強制する。
以上の結果から,LoGra-Medは医療用VQAの600K画像テキスト対に対してLAVA-Medと一致し,その10%でトレーニングした場合に有意に優れていた。
論文 参考訳(メタデータ) (2024-10-03T15:52:03Z) - PneumoLLM: Harnessing the Power of Large Language Model for Pneumoconiosis Diagnosis [16.90918546157292]
大規模言語モデル(LLM)は対話において複数のタスクを実行する際、前例のない能力を示す。
学習可能なパラメータの少ない診断において,LSMを効果的に活用する手法を提案する。
本稿では,コンテキスト型マルチトークンエンジンと情報エミッタモジュールを紹介する。
論文 参考訳(メタデータ) (2023-12-06T13:31:52Z) - Interpretable Medical Diagnostics with Structured Data Extraction by
Large Language Models [59.89454513692417]
タブラルデータはしばしばテキストに隠され、特に医学的診断報告に使用される。
本稿では,TEMED-LLM と呼ばれるテキスト医療報告から構造化表状データを抽出する手法を提案する。
本手法は,医学診断における最先端のテキスト分類モデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-08T09:12:28Z) - An Iterative Optimizing Framework for Radiology Report Summarization with ChatGPT [80.33783969507458]
放射線医学報告の「印象」セクションは、放射線医と他の医師とのコミュニケーションにとって重要な基盤である。
近年の研究では、大規模医療用テキストデータを用いた印象自動生成の有望な成果が得られている。
これらのモデルは、しばしば大量の医療用テキストデータを必要とし、一般化性能が劣る。
論文 参考訳(メタデータ) (2023-04-17T17:13:42Z) - Vision-Language Modelling For Radiological Imaging and Reports In The
Low Data Regime [70.04389979779195]
本稿では,視覚および言語入力を共通空間に埋め込んだ医用視覚言語モデル(VLM)について検討する。
本稿では,新しい画像領域やテキスト領域への汎用事前学習モデルの適用など,低データ性能向上のためのいくつかの候補手法について検討する。
テキスト・ツー・イメージ検索をベンチマークとして,2つの胸部X線および放射線学的報告を用いた可変サイズのトレーニングデータセットを用いて,これらの手法の性能評価を行った。
論文 参考訳(メタデータ) (2023-03-30T18:20:00Z) - BERT WEAVER: Using WEight AVERaging to enable lifelong learning for
transformer-based models in biomedical semantic search engines [49.75878234192369]
We present WEAVER, a simple, yet efficient post-processing method that infuse old knowledge into the new model。
WEAVERを逐次的に適用すると、同じ単語の埋め込み分布が、一度にすべてのデータに対する総合的なトレーニングとして得られることを示す。
論文 参考訳(メタデータ) (2022-02-21T10:34:41Z) - MMLN: Leveraging Domain Knowledge for Multimodal Diagnosis [10.133715767542386]
肺疾患診断のための知識駆動型およびデータ駆動型フレームワークを提案する。
本研究は, 臨床医学ガイドラインに従って診断規則を定式化し, テキストデータから規則の重みを学習する。
テキストと画像データからなるマルチモーダル融合は、肺疾患の限界確率を推定するために設計されている。
論文 参考訳(メタデータ) (2022-02-09T04:12:30Z) - Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype
Prediction [55.94378672172967]
本研究は, 類似患者のサブグループを同定し, 数発の疾患のサブタイプ予測問題に焦点を当てた。
新しいモデルを開発するためにメタラーニング技術を導入し、関連する臨床課題から共通の経験や知識を抽出する。
我々の新しいモデルは、単純だが効果的なメタ学習マシンであるPrototypeal Networkと呼ばれる、慎重に設計されたメタラーナーに基づいて構築されている。
論文 参考訳(メタデータ) (2020-09-02T02:50:30Z) - Predicting Scores of Medical Imaging Segmentation Methods with
Meta-Learning [0.30458514384586394]
異なる臓器とモダリティの10つのデータセットにまたがるセグメンテーションのメタラーニングについて検討した。
我々は,メタ機能と先行モデルの性能の関係を学習するために,ベクトル回帰とディープニューラルネットワークをサポートする。
これらの結果は,医療画像におけるメタラーニングの可能性を示している。
論文 参考訳(メタデータ) (2020-05-08T07:47:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。