論文の概要: Beyond Architectures: Evaluating the Role of Contextual Embeddings in Detecting Bipolar Disorder on Social Media
- arxiv url: http://arxiv.org/abs/2507.14231v1
- Date: Thu, 17 Jul 2025 05:14:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-22 20:51:31.787289
- Title: Beyond Architectures: Evaluating the Role of Contextual Embeddings in Detecting Bipolar Disorder on Social Media
- Title(参考訳): 建築を超えて:ソーシャルメディアにおける双極性障害の検出における文脈埋め込みの役割の評価
- Authors: Khalid Hasan, Jamil Saquer,
- Abstract要約: 双極性障害は、微妙な早期症状と社会的便秘によりしばしば診断される慢性精神疾患である。
本稿では,ユーザ生成ソーシャルメディアテキストに基づくバイポーラ障害の兆候を認識するための高度自然言語処理(NLP)モデルについて検討する。
- 参考スコア(独自算出の注目度): 0.18416014644193066
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bipolar disorder is a chronic mental illness frequently underdiagnosed due to subtle early symptoms and social stigma. This paper explores the advanced natural language processing (NLP) models for recognizing signs of bipolar disorder based on user-generated social media text. We conduct a comprehensive evaluation of transformer-based models (BERT, RoBERTa, ALBERT, ELECTRA, DistilBERT) and Long Short Term Memory (LSTM) models based on contextualized (BERT) and static (GloVe, Word2Vec) word embeddings. Experiments were performed on a large, annotated dataset of Reddit posts after confirming their validity through sentiment variance and judgmental analysis. Our results demonstrate that RoBERTa achieves the highest performance among transformer models with an F1 score of ~98% while LSTM models using BERT embeddings yield nearly identical results. In contrast, LSTMs trained on static embeddings fail to capture meaningful patterns, scoring near-zero F1. These findings underscore the critical role of contextual language modeling in detecting bipolar disorder. In addition, we report model training times and highlight that DistilBERT offers an optimal balance between efficiency and accuracy. In general, our study offers actionable insights for model selection in mental health NLP applications and validates the potential of contextualized language models to support early bipolar disorder screening.
- Abstract(参考訳): 双極性障害は、微妙な早期症状と社会的便秘からしばしば診断される慢性精神疾患である。
本稿では,ユーザ生成ソーシャルメディアテキストに基づくバイポーラ障害の兆候を認識するための高度自然言語処理(NLP)モデルについて検討する。
本研究では,変換器ベースモデル (BERT, RoBERTa, ALBERT, ELECTRA, DistilBERT) と文脈化 (BERT) と静的 (GloVe, Word2Vec) 単語埋め込みに基づくLong Short Term Memory (LSTM) モデルを包括的に評価する。
Reddit投稿の大規模な注釈付きデータセット上で、感情のばらつきと判断分析を通じてその妥当性を確認した後、実験を行った。
以上の結果から,RoBERTaはF1スコア~98%の変圧器モデルの中で最も高い性能を示し,BERT埋め込みを用いたLSTMモデルはほぼ同じ結果を得た。
対照的に、静的埋め込みでトレーニングされたLSTMは、意味のあるパターンをキャプチャできず、F1に近いスコアを付ける。
これらの知見は,両極性障害の検出における文脈言語モデリングの重要性を浮き彫りにした。
さらに、モデルのトレーニング時間を報告し、DistilBERTが効率と精度の最適なバランスを提供することを示した。
本研究は、精神保健分野におけるモデル選択のための実用的な知見を提供し、早期双極性障害スクリーニングを支援する文脈言語モデルの可能性を検証する。
関連論文リスト
- Advancing Mental Disorder Detection: A Comparative Evaluation of Transformer and LSTM Architectures on Social Media [0.16385815610837165]
本研究では,Long Short-Term Memory (LSTM) に基づくアプローチに対して,最先端のトランスフォーマーモデルの総合評価を行う。
Redditのメンタルヘルス障害分類のためのテキスト埋め込み技術を用いて,大規模な注釈付きデータセットを構築した。
実験により,従来のディープラーニングモデルよりもトランスフォーマーモデルの方が優れた性能を示した。
論文 参考訳(メタデータ) (2025-07-17T04:58:31Z) - LlaMADRS: Prompting Large Language Models for Interview-Based Depression Assessment [75.44934940580112]
LlaMADRSは、オープンソースのLarge Language Models(LLM)を利用して、うつ病の重症度評価を自動化する新しいフレームワークである。
本研究は,クリニカルインタヴューの解釈・スコアリングにおけるモデル指導のために,慎重に設計された手がかりを用いたゼロショットプロンプト戦略を用いている。
実世界における236件のインタビューを対象とし,臨床評価と強い相関性を示した。
論文 参考訳(メタデータ) (2025-01-07T08:49:04Z) - Generative causal testing to bridge data-driven models and scientific theories in language neuroscience [82.995061475971]
脳における言語選択性の簡潔な説明を生成するためのフレームワークである生成因果テスト(GCT)を提案する。
GCTは機能的選択性に類似した脳領域の細粒度の違いを識別できることを示す。
論文 参考訳(メタデータ) (2024-10-01T15:57:48Z) - WellDunn: On the Robustness and Explainability of Language Models and Large Language Models in Identifying Wellness Dimensions [46.60244609728416]
言語モデル (LMs) は, 予後不良のリスクが高まれば, 臨床実習におけるモデルの実用性に対するリトマステストにはならない可能性がある, メンタルヘルスの分野では, 言語モデル (LMs) が提案されている。
ウェルネス次元(WD)の同定におけるLMの堅牢性と説明性に着目した評価設計を提案する。
LM/LLMの4つの驚くべき結果が明らかになった。
論文 参考訳(メタデータ) (2024-06-17T19:50:40Z) - Question-Answering Model for Schizophrenia Symptoms and Their Impact on
Daily Life using Mental Health Forums Data [0.0]
メンタルヘルスのフォーラムは統合失調症と異なる精神疾患に苦しむ人々のためのフォーラムである。
データセットを前処理してQAデータセットに変換する方法が示されている。
BiBERT、DistilBERT、RoBERTa、BioBERTモデルはF1-Score、Exact Match、Precision、Recallを通じて微調整され評価された。
論文 参考訳(メタデータ) (2023-09-30T17:50:50Z) - TREEMENT: Interpretable Patient-Trial Matching via Personalized Dynamic
Tree-Based Memory Network [54.332862955411656]
臨床試験は薬物開発に不可欠であるが、しばしば高価で非効率な患者募集に苦しむ。
近年,患者と臨床試験を自動マッチングすることで患者採用を高速化する機械学習モデルが提案されている。
本稿では,TREement という名前の動的ツリーベースメモリネットワークモデルを導入する。
論文 参考訳(メタデータ) (2023-07-19T12:35:09Z) - Negation detection in Dutch clinical texts: an evaluation of rule-based
and machine learning methods [0.21079694661943607]
オランダ臨床ノートにおける否定検出の3つの方法の比較を行った。
その結果,biLSTMモデルとRoBERTaモデルはF1スコア,精度,リコールという点で,ルールベースモデルよりも一貫して優れていた。
論文 参考訳(メタデータ) (2022-09-01T14:00:13Z) - Prediction of Depression Severity Based on the Prosodic and Semantic
Features with Bidirectional LSTM and Time Distributed CNN [14.994852548758825]
抑うつ予測のための注意に基づくマルチモーダリティ音声とテキスト表現を提案する。
本モデルは,OzデータセットのDistress Analysis Interview Corpus-Wizardを用いて,参加者のうつ病重症度を推定するために訓練された。
実験では、過去の研究よりも統計的に有意な改善が見られた。
論文 参考訳(メタデータ) (2022-02-25T01:42:29Z) - Fine-Tuning Large Neural Language Models for Biomedical Natural Language
Processing [55.52858954615655]
バイオメディカルNLPの微調整安定性に関する系統的研究を行った。
我々は、特に低リソース領域において、微調整性能は事前トレーニング設定に敏感であることを示した。
これらの技術は低リソースバイオメディカルNLPアプリケーションの微調整性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2021-12-15T04:20:35Z) - Modelling Paralinguistic Properties in Conversational Speech to Detect
Bipolar Disorder and Borderline Personality Disorder [14.766941144375146]
視認性シグネチャー変換を用いた短期機能モデリングの新たなアプローチを提案する。
BDとBPDの特徴づけにおけるさまざまな機能セットの役割を示します。
論文 参考訳(メタデータ) (2021-02-18T20:47:03Z) - Predicting Clinical Diagnosis from Patients Electronic Health Records
Using BERT-based Neural Networks [62.9447303059342]
医療コミュニティにおけるこの問題の重要性を示す。
本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。
約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
論文 参考訳(メタデータ) (2020-07-15T09:22:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。