論文の概要: Improving Disease Detection from Social Media Text via Self-Augmentation and Contrastive Learning

• arxiv url: http://arxiv.org/abs/2405.01597v1
• Date: Tue, 30 Apr 2024 15:24:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 16:58:34.522576
• Title: Improving Disease Detection from Social Media Text via Self-Augmentation and Contrastive Learning
• Title（参考訳）: 自己拡張とコントラスト学習によるソーシャルメディアテキストからの疾患検出の改善
• Authors: Pervaiz Iqbal Khan, Andreas Dengel, Sheraz Ahmed,
• Abstract要約: 本稿では,この課題に対処するために,コントラスト学習(CL)と言語モデリングを統合した新しい手法を提案する。 提案手法では,モデルに隠された表現を自己表現で拡張する自己拡張手法を提案する。 我々は2進・複数ラベル・複数クラス分類タスクを含む3つのNLPデータセットについて評価を行った。
• 参考スコア（独自算出の注目度）: 5.7329872368416535
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Detecting diseases from social media has diverse applications, such as public health monitoring and disease spread detection. While language models (LMs) have shown promising performance in this domain, there remains ongoing research aimed at refining their discriminating representations. In this paper, we propose a novel method that integrates Contrastive Learning (CL) with language modeling to address this challenge. Our approach introduces a self-augmentation method, wherein hidden representations of the model are augmented with their own representations. This method comprises two branches: the first branch, a traditional LM, learns features specific to the given data, while the second branch incorporates augmented representations from the first branch to encourage generalization. CL further refines these representations by pulling pairs of original and augmented versions closer while pushing other samples away. We evaluate our method on three NLP datasets encompassing binary, multi-label, and multi-class classification tasks involving social media posts related to various diseases. Our approach demonstrates notable improvements over traditional fine-tuning methods, achieving up to a 2.48% increase in F1-score compared to baseline approaches and a 2.1% enhancement over state-of-the-art methods.
• Abstract（参考訳）: ソーシャルメディアから病気を検出するには、公衆衛生モニタリングや疾病拡散検出など様々な応用がある。 言語モデル(LM)はこの領域で有望な性能を示したが、識別表現を洗練するための研究は現在も続いている。 本稿では,この課題に対処するために,コントラスト学習(CL)と言語モデリングを統合した新しい手法を提案する。 提案手法では,モデルに隠された表現を自己表現で拡張する自己拡張手法を提案する。 従来のLMである第1枝は与えられたデータに特有の特徴を学習し、第2枝は第1枝から拡張表現を取り入れて一般化を促進する。 CLはこれらの表現をさらに洗練し、オリジナルのバージョンと拡張バージョンのペアを近くに引き寄せ、他のサンプルを遠ざけている。 各種疾患に関連するソーシャルメディア投稿を含む2進・複数ラベル・複数クラス分類タスクを含む3つのNLPデータセットについて,本手法の評価を行った。 提案手法は従来の微調整法よりも顕著に改善され,F1スコアはベースライン手法に比べて2.48%向上し,最先端手法よりも2.1%向上した。

関連論文リスト

• Cross-Patient Pseudo Bags Generation and Curriculum Contrastive Learning for Imbalanced Multiclassification of Whole Slide Image [5.3961058952354275]
  本稿では,従来のWSIに類似した特徴分布を持つサブバッグを生成することによって,詳細な情報を学習することを提案する。 疑似バグ生成アルゴリズムを用いて、WSIの豊富な冗長な情報をさらに活用する。 従来のアプローチとは異なり,我々のフレームワークは,バッグレベルの表現の学習から,マルチインスタンスバッグの特徴分布の理解と活用へと移行している。
  論文  参考訳（メタデータ） (2024-11-18T03:35:34Z)
• Continual Learning with Pre-Trained Models: A Survey [61.97613090666247]
  継続的な学習は、新しい知識を学ぶ際に、かつての知識の破滅的な忘れを克服することを目的としている。 本稿では, PTM を用いた CL の最近の進歩を包括的に調査する。
  論文  参考訳（メタデータ） (2024-01-29T18:27:52Z)
• Context-aware attention layers coupled with optimal transport domain adaptation and multimodal fusion methods for recognizing dementia from spontaneous speech [0.0]
  アルツハイマー病(英語: Alzheimer's disease、AD)は、認知症の主要な原因である複雑な神経認知疾患である。 そこで本研究では,AD患者検出のための新しい手法を提案する。 ADReSSとADReSSo Challengeで実施した実験は、既存の研究イニシアチブに対して導入したアプローチの有効性を示している。
  論文  参考訳（メタデータ） (2023-05-25T18:18:09Z)
• Retinal Vessel Segmentation via a Multi-resolution Contextual Network and Adversarial Learning [4.776465250559035]
  本稿では,意味的に異なる特徴間のコンテキスト依存を学習するためのマルチレゾリューション・コンテクスト・ネットワーク(MRC-Net)を提案する。 本手法は,DRIVE,STARE,CHASEの3つのベンチマークデータセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2023-04-25T14:27:34Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Rethinking Semi-Supervised Medical Image Segmentation: A Variance-Reduction Perspective [51.70661197256033]
  医用画像セグメンテーションのための階層化グループ理論を用いた半教師付きコントラスト学習フレームワークARCOを提案する。 まず、分散還元推定の概念を用いてARCOを構築することを提案し、特定の分散還元技術が画素/ボクセルレベルのセグメンテーションタスクにおいて特に有用であることを示す。 5つの2D/3D医療データセットと3つのセマンティックセグメンテーションデータセットのラベル設定が異なる8つのベンチマークで、我々のアプローチを実験的に検証する。
  論文  参考訳（メタデータ） (2023-02-03T13:50:25Z)
• Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning [146.11600461034746]
  教師なしメタラーニングのメソッドであるCACTUsは、擬似ラベル付きクラスタリングベースのアプローチである。 このアプローチはモデルに依存しないため、教師付きアルゴリズムと組み合わせてラベルのないデータから学習することができる。 このことの核となる理由は、埋め込み空間においてクラスタリングに優しい性質が欠如していることである。
  論文  参考訳（メタデータ） (2022-09-27T19:04:36Z)
• Learning Discriminative Representation via Metric Learning for Imbalanced Medical Image Classification [52.94051907952536]
  本稿では,特徴抽出器がより識別的な特徴表現を抽出するのを助けるために,2段階フレームワークの第1段階にメトリック学習を組み込むことを提案する。 主に3つの医用画像データセットを用いて実験したところ、提案手法は既存の1段階と2段階のアプローチより一貫して優れていた。
  論文  参考訳（メタデータ） (2022-07-14T14:57:01Z)
• Dissecting Self-Supervised Learning Methods for Surgical Computer Vision [51.370873913181605]
  一般のコンピュータビジョンコミュニティでは,自己監視学習(SSL)手法が普及し始めている。 医学や手術など、より複雑で影響力のある領域におけるSSLメソッドの有効性は、限定的かつ未調査のままである。 外科的文脈理解,位相認識,ツール存在検出の2つの基本的なタスクに対して,これらの手法の性能をColec80データセット上で広範囲に解析する。
  論文  参考訳（メタデータ） (2022-07-01T14:17:11Z)
• Multiple Sclerosis Lesions Segmentation using Attention-Based CNNs in FLAIR Images [0.2578242050187029]
  多発性硬化症(Multiple Sclerosis、MS)は、中枢神経系の病変を引き起こす自己免疫性脱髄性疾患である。 今のところ、病変の分断には多要素自動バイオメディカルアプローチが多用されている。 著者らは1つのモダリティ(FLAIR画像)を用いてMS病変を正確に分類する方法を提案する。
  論文  参考訳（メタデータ） (2022-01-05T21:37:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。