論文の概要: Su-RoBERTa: A Semi-supervised Approach to Predicting Suicide Risk through Social Media using Base Language Models

• arxiv url: http://arxiv.org/abs/2412.01353v2
• Date: Thu, 19 Dec 2024 09:10:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-20 13:26:58.534000
• Title: Su-RoBERTa: A Semi-supervised Approach to Predicting Suicide Risk through Social Media using Base Language Models
• Title（参考訳）: Su-RoBERTa:基礎言語モデルを用いたソーシャルメディアによる自殺リスク予測のための半教師付きアプローチ
• Authors: Chayan Tank, Shaina Mehta, Sarthak Pol, Vinayak Katoch, Avinash Anand, Raj Jaiswal, Rajiv Ratn Shah,
• Abstract要約: 本稿では,Redditデータを用いた自殺リスク評価について検討した。 我々は、より小さな言語モデル、すなわち5億未満のパラメータの使用も効果的であることを示した。 本研究では,自殺リスク予測タスクにおける細調整RoBERTaであるSu-RoBERTaを提案する。
• 参考スコア（独自算出の注目度）: 24.260983864615557
• License:
• Abstract: In recent times, more and more people are posting about their mental states across various social media platforms. Leveraging this data, AI-based systems can be developed that help in assessing the mental health of individuals, such as suicide risk. This paper is a study done on suicidal risk assessments using Reddit data leveraging Base language models to identify patterns from social media posts. We have demonstrated that using smaller language models, i.e., less than 500M parameters, can also be effective in contrast to LLMs with greater than 500M parameters. We propose Su-RoBERTa, a fine-tuned RoBERTa on suicide risk prediction task that utilized both the labeled and unlabeled Reddit data and tackled class imbalance by data augmentation using GPT-2 model. Our Su-RoBERTa model attained a 69.84% weighted F1 score during the Final evaluation. This paper demonstrates the effectiveness of Base language models for the analysis of the risk factors related to mental health with an efficient computation pipeline
• Abstract（参考訳）: 近年では、さまざまなソーシャルメディアプラットフォームでメンタルな状態について投稿する人が増えている。 このデータを活用することで、自殺リスクなどの個人のメンタルヘルスを評価するのに役立つAIベースのシステムを開発することができる。 本稿では,基本言語モデルを用いてソーシャルメディア投稿のパターンを識別するRedditデータを用いた自殺リスク評価について検討する。 我々は,5億以上のパラメータを持つLLMと対照的に,より小さな言語モデル,すなわち5億未満のパラメータを使用する方が有効であることを示した。 GPT-2モデルを用いて,ラベル付きRedditデータとラベルなしRedditデータの両方を利用した自殺リスク予測タスクを微調整したRoBERTaであるSu-RoBERTaを提案する。 我々のSu-RoBERTaモデルは最終評価中に69.84%の重み付きF1スコアを得た。 本稿では、効率的な計算パイプラインを用いたメンタルヘルスに関連するリスク要因の分析におけるベース言語モデルの有効性を示す。

関連論文リスト

• A Comparative Analysis of Transformer and LSTM Models for Detecting Suicidal Ideation on Reddit [0.18416014644193066]
  多くの人がRedditのようなソーシャルメディアプラットフォームで自殺的な考えを表明しています。 本稿では, 深層学習変換器モデルBERT, RoBERTa, DistilBERT, ALBERT, ELECTRAの有効性を検討した。 RoBERTaは93.22%、F1スコア93.14%の最も効果的なモデルとして登場した。
  論文  参考訳（メタデータ） (2024-11-23T01:17:43Z)
• Evaluating Transformer Models for Suicide Risk Detection on Social Media [0.5461938536945723]
  本稿では,ソーシャルメディア投稿における自殺リスクの同定に最先端の自然言語処理ソリューションを活用することを提案する。 これらのモデルと最小限のチューニングが組み合わさって,ソーシャルメディア上での自殺リスクの自動検出に有効な解決策となる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-10-10T21:15:25Z)
• Leveraging Large Language Models for Suicide Detection on Social Media with Limited Labels [3.1399304968349186]
  本稿では,テキストベースのソーシャルメディア投稿における自殺的内容を自動的に検出するLarge Language Models (LLMs) について検討する。 我々は,Qwen2-72B-インストラクションの促進とLlama3-8B,Llama3.1-8B,Gemma2-9Bなどの微調整モデルを用いたアンサンブルアプローチを開発した。 実験の結果,アンサンブルモデルでは個々のモデルと比較して5%の精度で検出精度が向上した。
  論文  参考訳（メタデータ） (2024-10-06T14:45:01Z)
• The Devil is in the Neurons: Interpreting and Mitigating Social Biases in Pre-trained Language Models [78.69526166193236]
  プレトレーニング言語モデル(PLM)は、社会的バイアスのような有害な情報を含むことが認識されている。 我々は,社会バイアスなどの望ましくない行動に起因する言語モデルにおいて,正確に単位(すなわちニューロン)を特定するために,sc Social Bias Neuronsを提案する。 StereoSetの以前の測定値からわかるように、我々のモデルは、低コストで言語モデリング能力を維持しながら、より高い公平性を達成する。
  論文  参考訳（メタデータ） (2024-06-14T15:41:06Z)
• SOS-1K: A Fine-grained Suicide Risk Classification Dataset for Chinese Social Media Analysis [22.709733830774788]
  本研究では,自殺リスクの詳細な分類を目的とした,中国のソーシャルメディアデータセットを提案する。 事前訓練した7つのモデルについて, 自殺リスクが高い, 自殺リスクが少ない, 自殺リスクの細かい分類が0～10の2つのタスクで評価された。 ディープラーニングモデルは高い自殺リスクと低い自殺リスクを区別する上で優れた性能を示し、最良のモデルはF1スコア88.39%である。
  論文  参考訳（メタデータ） (2024-04-19T06:58:51Z)
• Non-Invasive Suicide Risk Prediction Through Speech Analysis [74.8396086718266]
  自動自殺リスク評価のための非侵襲的音声ベースアプローチを提案する。 我々は、wav2vec、解釈可能な音声・音響特徴、深層学習に基づくスペクトル表現の3つの特徴セットを抽出する。 我々の最も効果的な音声モデルは、6.6.2,%$のバランスの取れた精度を達成する。
  論文  参考訳（メタデータ） (2024-04-18T12:33:57Z)
• Decoding the Silent Majority: Inducing Belief Augmented Social Graph with Large Language Model for Response Forecasting [74.68371461260946]
  SocialSenseは、既存のソーシャルネットワーク上に信念中心のグラフを誘導するフレームワークであり、グラフベースの伝播によって社会的ダイナミクスを捉える。 本手法は,ゼロショット設定と教師あり設定の両方に対する実験的な評価において,既存の最先端技術を超えている。
  論文  参考訳（メタデータ） (2023-10-20T06:17:02Z)
• Measuring the Effect of Influential Messages on Varying Personas [67.1149173905004]
  我々は、ニュースメッセージを見る際にペルソナが持つ可能性のある応答を推定するために、ニュースメディア向けのペルソナに対するレスポンス予測という新しいタスクを提示する。 提案課題は,モデルにパーソナライズを導入するだけでなく,各応答の感情極性と強度も予測する。 これにより、ペルソナの精神状態に関するより正確で包括的な推測が可能になる。
  論文  参考訳（メタデータ） (2023-05-25T21:01:00Z)
• LaMDA: Language Models for Dialog Applications [75.75051929981933]
  LaMDAは、ダイアログに特化したトランスフォーマーベースのニューラルネットワークモデルのファミリーである。 注釈付きデータで微調整し、モデルが外部の知識ソースを参照できるようにすると、大幅な改善がもたらされる。
  論文  参考訳（メタデータ） (2022-01-20T15:44:37Z)
• An ensemble deep learning technique for detecting suicidal ideation from posts in social media platforms [0.0]
  本稿ではLSTM-Attention-CNN複合モデルを提案する。 提案されたモデルは90.3%の精度、F1スコア92.6%の精度を示した。
  論文  参考訳（メタデータ） (2021-12-17T15:34:03Z)
• Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring Systems [64.4896118325552]
  モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。 AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
  論文  参考訳（メタデータ） (2020-07-14T03:49:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。