論文の概要: Hierarchical Dual-Head Model for Suicide Risk Assessment via MentalRoBERTa
- arxiv url: http://arxiv.org/abs/2510.20085v1
- Date: Thu, 23 Oct 2025 00:06:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:17.021332
- Title: Hierarchical Dual-Head Model for Suicide Risk Assessment via MentalRoBERTa
- Title（参考訳）: メンタルロバータを用いた自殺リスク評価のための階層的デュアルヘッドモデル
- Authors: Chang Yang, Ziyi Wang, Wangfeng Tan, Zhiting Tan, Changrui Ji, Zhiming Zhou,
- Abstract要約: ソーシャルメディアプラットフォームは自殺リスクを特定する重要な情報源となっているが、自動検出システムは課題に直面している。
本稿では、自殺リスク分類のためのMentalRoBERTaに基づく階層型デュアルヘッドニューラルネットワークを、指標、アイデア、行動、試行の4つのレベルに分類する。
- 参考スコア（独自算出の注目度）: 6.6312572648438435
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Social media platforms have become important sources for identifying suicide risk, but automated detection systems face multiple challenges including severe class imbalance, temporal complexity in posting patterns, and the dual nature of risk levels as both ordinal and categorical. This paper proposes a hierarchical dual-head neural network based on MentalRoBERTa for suicide risk classification into four levels: indicator, ideation, behavior, and attempt. The model employs two complementary prediction heads operating on a shared sequence representation: a CORAL (Consistent Rank Logits) head that preserves ordinal relationships between risk levels, and a standard classification head that enables flexible categorical distinctions. A 3-layer Transformer encoder with 8-head multi-head attention models temporal dependencies across post sequences, while explicit time interval embeddings capture posting behavior dynamics. The model is trained with a combined loss function (0.5 CORAL + 0.3 Cross-Entropy + 0.2 Focal Loss) that simultaneously addresses ordinal structure preservation, overconfidence reduction, and class imbalance. To improve computational efficiency, we freeze the first 6 layers (50%) of MentalRoBERTa and employ mixed-precision training. The model is evaluated using 5-fold stratified cross-validation with macro F1 score as the primary metric.
- Abstract（参考訳）: ソーシャルメディアプラットフォームは、自殺リスクを識別するための重要な情報源となっているが、自動検出システムは、深刻な階級不均衡、投稿パターンの時間的複雑さ、リスクレベルの双対性といった複数の課題に直面している。
本稿では、自殺リスク分類のためのMentalRoBERTaに基づく階層型デュアルヘッドニューラルネットワークを、指標、アイデア、行動、試行の4つのレベルに分類する。
このモデルでは、リスクレベル間の順序関係を保存するCoRAL(Consistent Rank Logits)ヘッドと、フレキシブルな分類的区別を可能にする標準分類ヘッドという、共有シーケンス表現で動作する2つの補完的予測ヘッドを採用している。
8ヘッドのマルチヘッドアテンションモデルを持つ3層トランスフォーマーエンコーダは、ポストシーケンス間の時間依存性を保ち、明示的な時間間隔埋め込みはポスト動作のダイナミクスをキャプチャする。
このモデルは, 順序構造保存, 過信低減, クラス不均衡を同時に扱う複合損失関数 (0.5 CORAL + 0.3 Cross-Entropy + 0.2 Focal Loss) を用いて訓練される。
計算効率を向上させるため、MentalRoBERTaの最初の6層(50%)を凍結し、混合精度トレーニングを採用する。
このモデルを,マクロF1スコアを主指標とした5次元層間クロスバリデーションを用いて評価した。
関連論文リスト
- Hierarchical Self-Supervised Representation Learning for Depression Detection from Speech [51.14752758616364]
音声による抑うつ検出 (SDD) は、従来の臨床評価に代わる有望で非侵襲的な代替手段である。
HAREN-CTCは,マルチタスク学習フレームワーク内でのクロスアテンションを用いて,多層SSL機能を統合した新しいアーキテクチャである。
このモデルはDAIC-WOZで0.81、MODMAで0.82の最先端マクロF1スコアを達成し、両方の評価シナリオで先行手法より優れている。
論文 参考訳（メタデータ） (2025-10-05T09:32:12Z) - Detection of Suicidal Risk on Social Media: A Hybrid Model [0.0]
Redditの投稿を利用した堅牢な機械学習モデルを開発し、それらを自動的に4つの異なる自殺リスク重大度に分類する。
我々はこれをマルチクラス分類タスクとみなし,RoBERTa-TF-IDF-PCAハイブリッドモデルを提案する。
実験の結果, ハイブリッドモデルでは性能が向上し, 最大重み付きF_1$スコア0.7512が得られることがわかった。
論文 参考訳（メタデータ） (2025-05-26T14:56:47Z) - RoCA: Robust Contrastive One-class Time Series Anomaly Detection with Contaminated Data [19.25420308920505]
正規性仮定に基づく手法は3つの制限に直面している。
彼らの基本的な前提は、トレーニングデータが汚染されていない(異常がない)ことである。
本稿では,上記の3つの課題に最初に対処した,新しい堅牢なアプローチであるRoCAを提案する。
論文 参考訳（メタデータ） (2025-03-24T06:52:28Z) - Stacking an autoencoder for feature selection of zero-day threats [0.0]
本研究では,人工ニューラルネットワークの一種である積み重ねオートエンコーダ(SAE)の特徴選択とゼロデイ脅威分類への応用について検討する。
オートエンコーダの学習重量とアクティベーションを分析し、ゼロデイ脅威と通常のシステム動作を識別する最も重要な特徴を同定する。
その結果,SAE-LSTMは高い精度,リコール,F1スコアを示すことにより,3つの攻撃カテゴリすべてで良好に機能することがわかった。
論文 参考訳（メタデータ） (2023-11-01T05:29:42Z) - Deep Imbalanced Regression via Hierarchical Classification Adjustment [50.19438850112964]
コンピュータビジョンにおける回帰タスクは、しばしば、対象空間をクラスに定量化することで分類される。
トレーニングサンプルの大多数は目標値の先頭にあるが、少数のサンプルは通常より広い尾幅に分布する。
不均衡回帰タスクを解くために階層型分類器を構築することを提案する。
不均衡回帰のための新しい階層型分類調整(HCA)は,3つのタスクにおいて優れた結果を示す。
論文 参考訳（メタデータ） (2023-10-26T04:54:39Z) - Predicting the Stability of Hierarchical Triple Systems with
Convolutional Neural Networks [68.8204255655161]
本稿では,階層型三重項の安定性を予測する畳み込みニューラルネットワークモデルを提案する。
すべてのトレーニングされたモデルは公開されており、純粋な$N$-bodyメソッドよりも200ドルの速さで階層的な3重システムの安定性を予測することができる。
論文 参考訳（メタデータ） (2022-06-24T17:58:13Z) - Regularization-wise double descent: Why it occurs and how to eliminate
it [30.61588337557343]
正規化強度の関数として, 明示的なL2正規化モデルのリスクが二重降下挙動を示すことを示す。
本研究では,2層ニューラルネットワークについて検討し,第1層と第2層の正則化強度を調整することにより,二重降下を除去できることを示す。
論文 参考訳（メタデータ） (2022-06-03T03:23:58Z) - X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。
両世界の力を生かすために,我々は新しいX-モデルを提案する。
X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
論文 参考訳（メタデータ） (2021-10-09T13:56:48Z) - Anomaly Detection in Cybersecurity: Unsupervised, Graph-Based and
Supervised Learning Methods in Adversarial Environments [63.942632088208505]
現在の運用環境に固有ののは、敵対的機械学習の実践である。
本研究では,教師なし学習とグラフに基づく異常検出の可能性を検討する。
我々は,教師付きモデルの訓練時に,現実的な対人訓練機構を組み込んで,対人環境における強力な分類性能を実現する。
論文 参考訳（メタデータ） (2021-05-14T10:05:10Z) - Fundamental Tradeoffs in Distributionally Adversarial Training [21.6024500220438]
対向訓練は、対向的摂動に対するモデルの堅牢性を改善する最も効果的な手法の1つである。
本稿では,標準リスクと敵対リスクのトレードオフについて検討する。
標準リスクと敵リスクのトレードオフが3つの設定すべてに現れていることを示す。
論文 参考訳（メタデータ） (2021-01-15T21:59:18Z) - Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。
種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。
共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
論文 参考訳（メタデータ） (2020-10-01T17:51:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。