論文の概要: Matching-based Term Semantics Pre-training for Spoken Patient Query Understanding

• arxiv url: http://arxiv.org/abs/2303.01341v1
• Date: Thu, 2 Mar 2023 15:17:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-03 13:53:53.942469
• Title: Matching-based Term Semantics Pre-training for Spoken Patient Query Understanding
• Title（参考訳）: マッチングに基づく患者問合せ理解のための事前学習
• Authors: Zefa Hu, Xiuyi Chen, Haoran Wu, Minglun Han, Ziyi Ni, Jing Shi, Shuang Xu, Bo Xu
• Abstract要約: Medical Slot Filling (MSF) タスクは、医療クエリを構造化情報に変換することを目的としている。 十分な用語意味学習の欠如は、既存のアプローチを意味論的に同一だが口語的な表現を捉えるのを困難にしている。 本稿では,意味的相互作用をモデル化するために,単語とクエリの両方を入力として利用する用語意味論事前学習ネットワーク(TSPMN)を提案する。
• 参考スコア（独自算出の注目度）: 21.45749277350364
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Medical Slot Filling (MSF) task aims to convert medical queries into structured information, playing an essential role in diagnosis dialogue systems. However, the lack of sufficient term semantics learning makes existing approaches hard to capture semantically identical but colloquial expressions of terms in medical conversations. In this work, we formalize MSF into a matching problem and propose a Term Semantics Pre-trained Matching Network (TSPMN) that takes both terms and queries as input to model their semantic interaction. To learn term semantics better, we further design two self-supervised objectives, including Contrastive Term Discrimination (CTD) and Matching-based Mask Term Modeling (MMTM). CTD determines whether it is the masked term in the dialogue for each given term, while MMTM directly predicts the masked ones. Experimental results on two Chinese benchmarks show that TSPMN outperforms strong baselines, especially in few-shot settings.
• Abstract（参考訳）: 医療スロットフィリング(MSF)タスクは、医療クエリを構造化情報に変換することを目的としており、診断対話システムにおいて重要な役割を果たす。 しかし、十分な用語意味学習の欠如は、既存のアプローチが医学的会話における用語の意味的に同一だが口語的な表現を捉えるのを困難にしている。 本研究では,msfをマッチング問題に形式化し,用語と問合せを入力とし,それらの意味的相互作用をモデル化する用語セマンティクス事前学習型マッチングネットワーク(tspmn)を提案する。 用語意味論をより良く学ぶために、コントラスト項識別(ctd)とマッチングに基づくマスク項モデリング(mmtm)の2つの自己教師付き目的を更に設計する。 CTDは、それが各項の対話におけるマスク項であるか否かを判断し、MMTMはマスク項を直接予測する。 2つの中国のベンチマーク実験の結果、TSPMNは特にショット数で強いベースラインを上回ります。

関連論文リスト

• Tomato, Tomahto, Tomate: Measuring the Role of Shared Semantics among Subwords in Multilingual Language Models [88.07940818022468]
  エンコーダのみの多言語言語モデル(mLM)におけるサブワード間の共有セマンティクスの役割を測る第一歩を踏み出した。 意味的に類似したサブワードとその埋め込みをマージして「意味トークン」を形成する。 グループ化されたサブワードの検査では 様々な意味的類似性を示します
  論文  参考訳（メタデータ） (2024-11-07T08:38:32Z)
• LIMIS: Towards Language-based Interactive Medical Image Segmentation [58.553786162527686]
  LIMISは、最初の純粋言語に基づく対話型医療画像分割モデルである。 我々は、Grounded SAMを医療領域に適応させ、言語に基づくモデルインタラクション戦略を設計する。 LIMISを3つの公開医療データセット上で,パフォーマンスとユーザビリティの観点から評価した。
  論文  参考訳（メタデータ） (2024-10-22T12:13:47Z)
• Improving Pre-trained Language Model Sensitivity via Mask Specific losses: A case study on Biomedical NER [21.560012335091287]
  マスク特化言語モデリング(英語: Mask Specific Language Modeling、MSLM)は、ターゲットドメインの知識を効率的に取得する手法である。 MSLMはDS-termsとジェネリックワードを共同でマスクし、マスク固有の損失を学習する。 分析の結果,MSLMはDS項の感度と検出を改善した。
  論文  参考訳（メタデータ） (2024-03-26T18:23:16Z)
• A General and Flexible Multi-concept Parsing Framework for Multilingual Semantic Matching [60.51839859852572]
  我々は,テキストを多言語セマンティックマッチングのためのマルチコンセプトに分解し,NERモデルに依存するモデルからモデルを解放することを提案する。 英語データセットのQQPとMRPC、中国語データセットのMedical-SMについて包括的な実験を行った。
  論文  参考訳（メタデータ） (2024-03-05T13:55:16Z)
• Agentivit\`a e telicit\`a in GilBERTo: implicazioni cognitive [77.71680953280436]
  本研究の目的は,トランスフォーマーに基づくニューラルネットワークモデルが語彙意味論を推論するかどうかを検討することである。 考慮される意味的性質は、テリシティ(定性とも組み合わされる)と作用性である。
  論文  参考訳（メタデータ） (2023-07-06T10:52:22Z)
• Guiding the PLMs with Semantic Anchors as Intermediate Supervision: Towards Interpretable Semantic Parsing [57.11806632758607]
  本稿では,既存の事前学習言語モデルを階層型デコーダネットワークに組み込むことを提案する。 第一原理構造をセマンティックアンカーとすることで、2つの新しい中間管理タスクを提案する。 いくつかのセマンティック解析ベンチマークで集中的な実験を行い、我々のアプローチがベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2022-10-04T07:27:29Z)
• Semantic-based Pre-training for Dialogue Understanding [29.12944601513491]
  本稿では,事前学習モデルにおける抽象表現(AMR)を明示的な意味知識として検討する。 本稿では,標準的な事前学習フレームワークを拡張した意味に基づく事前学習フレームワークを提案する。 我々の知る限りでは、対話事前学習に深層意味表現を利用するのは初めてである。
  論文  参考訳（メタデータ） (2022-09-19T16:06:57Z)
• Extend and Explain: Interpreting Very Long Language Models [0.0]
  本稿では,予測に寄与するテキストブロックを識別するための新しいMasked Smpling procedure (MSP)を提案する。 MSPは、以前の最先端よりも1.7倍の臨床的に有益なテキストブロックを特定し、100倍の速度で走り、重要なフレーズペアを生成することができる。
  論文  参考訳（メタデータ） (2022-09-02T17:15:43Z)
• MIMO: Mutual Integration of Patient Journey and Medical Ontology for Healthcare Representation Learning [49.57261599776167]
  本稿では、医療表現学習と予測分析のための、エンドツーエンドの堅牢なトランスフォーマーベースのソリューション、患者旅行の相互統合、医療オントロジー(MIMO)を提案する。
  論文  参考訳（メタデータ） (2021-07-20T07:04:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。