Fugu-MT 論文翻訳(概要): Explorers at #SMM4H 2023: Enhancing BERT for Health Applications through Knowledge and Model Fusion

論文の概要: Explorers at #SMM4H 2023: Enhancing BERT for Health Applications through Knowledge and Model Fusion

arxiv url: http://arxiv.org/abs/2312.10652v1
Date: Sun, 17 Dec 2023 08:52:05 GMT
ステータス: 処理完了
システム内更新日: 2023-12-19 15:21:28.923244
Title: Explorers at #SMM4H 2023: Enhancing BERT for Health Applications through Knowledge and Model Fusion
Title（参考訳）: SMM4H 2023のエクスプローラ:知識とモデル融合による健康アプリケーションのためのBERTの強化
Authors: Xutong Yue, Xilai Wang, Yuxin He, Zhenkun Zhou
Abstract要約: ソーシャルメディアは人間の健康を研究する上で貴重なデータ資源となっている。本稿では,#SMM4H 2023共有タスクへの参加方法について概説する。
参考スコア（独自算出の注目度）: 3.386401892906348
License: http://creativecommons.org/licenses/by/4.0/
Abstract: An increasing number of individuals are willing to post states and opinions in social media, which has become a valuable data resource for studying human health. Furthermore, social media has been a crucial research point for healthcare now. This paper outlines the methods in our participation in the #SMM4H 2023 Shared Tasks, including data preprocessing, continual pre-training and fine-tuned optimization strategies. Especially for the Named Entity Recognition (NER) task, we utilize the model architecture named W2NER that effectively enhances the model generalization ability. Our method achieved first place in the Task 3. This paper has been peer-reviewed and accepted for presentation at the #SMM4H 2023 Workshop.
Abstract（参考訳）: ソーシャルメディアに州や意見を投稿する人が増えており、これは人間の健康を研究する上で貴重なデータ資源となっている。さらに、ソーシャルメディアは医療にとって重要な研究ポイントとなっている。本稿では,#SMM4H 2023共有タスクへの参加方法について概説する。特に、名前付きエンティティ認識(NER)タスクでは、モデル一般化能力を効果的に強化するW2NERというモデルアーキテクチャを利用する。本手法はタスク3で1位となった。この論文はピアレビューされ、#smm4h 2023ワークショップでプレゼンテーションが行われた。

関連論文リスト

Enriched BERT Embeddings for Scholarly Publication Classification [0.13654846342364302]
NSLP 2024 FoRC Task Iは、競争として組織されたこの課題に対処する。目的は、ある論文に対する研究分野の分類法であるOpen Research Knowledge Graph (ORKG) から、123の事前定義されたクラスのうちの1つを予測することができる分類器を開発することである。
論文参考訳（メタデータ） (2024-05-07T09:05:20Z)
Data and models for stance and premise detection in COVID-19 tweets: insights from the Social Media Mining for Health (SMM4H) 2022 shared task [7.559611243635055]
ソーシャル・メディア・マイニング・フォー・ヘルス(SMM4H)2022 共有タスク2を編成する。このコンペティションでは、学校閉鎖、自宅待機命令、マスク着用の3つのトピックについて、手動でアノテートされた投稿を利用した。我々は,Twitterから新たに収集したワクチン接種データを用いて,異なるトピックのモデルの性能を評価する。
論文参考訳（メタデータ） (2023-11-14T10:30:49Z)
PULSAR at MEDIQA-Sum 2023: Large Language Models Augmented by Synthetic Dialogue Convert Patient Dialogues to Medical Records [23.25763256861649]
本稿では,患者と医師の対話を臨床記録に要約するImageClef 2023 MediQA-SumタスクのシステムであるPULSARについて述べる。提案するフレームワークは、タスク固有の自然データに基づいて訓練された特化言語モデルを生成するために、ドメイン固有の事前学習に依存している。ドメイン固有の事前学習とデータ拡張の有効性を示す限定的な証拠が得られ、一方、言語モデルのスケールアップは、最高のパフォーマンス向上をもたらす。
論文参考訳（メタデータ） (2023-07-05T03:31:12Z)
PULSAR: Pre-training with Extracted Healthcare Terms for Summarising Patients' Problems and Data Augmentation with Black-box Large Language Models [25.363775123262307]
問題リストの形で患者の問題を自動的に要約することで、ステークホルダーが患者の状態を理解し、作業負荷と認知バイアスを減らすのに役立つ。 BioNLP 2023 共有タスク1Aは、入院中の提供者の進捗状況から診断と問題のリストを作成することに焦点を当てている。 1つのコンポーネントは、データ拡張のために大きな言語モデル(LLM)を使用し、もう1つは、リストとして要約された患者の問題を生成するための、新しいトレーニング済みの目標を持つ抽象的な要約 LLM である。私たちのアプローチは、共有タスクへの全提出のうち、第2位でした。
論文参考訳（メタデータ） (2023-06-05T10:17:50Z)
TMR: Text-to-Motion Retrieval Using Contrastive 3D Human Motion Synthesis [59.465092047829835]
我々は、テキストから3次元の人間の動きを抽出する簡単な方法であるTMRを提案する。提案手法は,最先端のテキスト-モーション合成モデルTEMOSを拡張した。運動生成損失の維持は、対照的な訓練とともに、優れた性能を得るためには不可欠であることを示す。
論文参考訳（メタデータ） (2023-05-02T17:52:41Z)
Large-scale Multi-Modal Pre-trained Models: A Comprehensive Survey [66.18478838828231]
マルチモーダルな事前訓練型大型モデルは近年ますます注目を集めている。本稿では, 自然言語処理, コンピュータビジョン, 音声処理における従来の深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・深層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・高層・次に,マルチモーダル・プレトレーニング・モデル(MM-PTM)のタスク定義,課題,メリットを紹介し,データ,目的,ネットワーク,知識強化による事前トレーニングに着目して,MM-PTMについて議論する。
論文参考訳（メタデータ） (2023-02-20T15:34:03Z)
Multi-task Learning for Personal Health Mention Detection on Social Media [70.23889100356091]
本研究では、マルチタスク学習フレームワークを用いて、利用可能な注釈付きデータを活用し、メインタスクのパフォーマンスを向上させる。我々は、感情検出を補助タスクとして利用することで、感情情報を対象タスクに組み込むことに重点を置いている。
論文参考訳（メタデータ） (2022-12-09T23:49:00Z)
Incorporating Emotions into Health Mention Classification Task on Social Media [70.23889100356091]
情緒的特徴を取り入れた健康言及分類のための枠組みを提案する。我々は,ソーシャルメディアプラットフォームによる5つのHMC関連データセットに対するアプローチを評価した。以上の結果から,感情的な知識を取り入れたHMCモデルが有効な選択肢であることが示唆された。
論文参考訳（メタデータ） (2022-12-09T18:38:41Z)
Prompt-based Pre-trained Model for Personality and Interpersonal Reactivity Prediction [19.288384399961867]
本稿では、LingJingチームによる主観性・感性・ソーシャルメディア分析に関するワークショップ(WASSA)2022におけるパーソナリティ予測(PER)と反応性指標予測(IRI)の共有タスクについて述べる。
論文参考訳（メタデータ） (2022-03-23T15:22:34Z)
An Analysis of a BERT Deep Learning Strategy on a Technology Assisted Review Task [91.3755431537592]
文書検診はEvidenced Based Medicineにおける中心的な課題である。本稿では,BERT や PubMedBERT を組み込んだ DL 文書分類手法と DL 類似性検索経路を提案する。 2017年と2018年のCLEF eHealth コレクションにおいて,私の DL 戦略の検索の有効性を検証し,評価した。
論文参考訳（メタデータ） (2021-04-16T19:45:27Z)
MET: Multimodal Perception of Engagement for Telehealth [52.54282887530756]
ビデオから人間のエンゲージメントレベルを知覚する学習ベースアルゴリズムMETを提案する。我々はメンタルヘルス患者のエンゲージメント検出のための新しいデータセットMEDICAをリリースした。
論文参考訳（メタデータ） (2020-11-17T15:18:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。