論文の概要: LLUMI: Improving LLM Writing Assistance for Mental Health Support with Online Community Feedback

• arxiv url: http://arxiv.org/abs/2605.30273v1
• Date: Thu, 28 May 2026 17:30:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:56.628528
• Title: LLUMI: Improving LLM Writing Assistance for Mental Health Support with Online Community Feedback
• Title（参考訳）: LLUMI:オンラインコミュニティフィードバックによるメンタルヘルス支援のためのLCM作成支援の改善
• Authors: Jiwon Kim, Maya Ajit, Sherry Gong, Soorya Ram Shimgekar, Dong Whi Yoo, Eshwar Chandrasekharan, Koustuv Saha,
• Abstract要約: 大規模言語モデル(LLM)は、メンタルヘルスクエリに対するサポート的な応答を生成することを約束している。 しかし、それらの有用性、共感、安全性を改善するには、相当量の計算、専門家の入力、ラベル付きデータが必要であることが多い。 保護環境内にホスト可能なLLUMIセットアップを導入する。
• 参考スコア（独自算出の注目度）: 17.021867634600046
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) show promise in generating supportive responses for mental health queries, but improving their usefulness, empathy, and safety often requires substantial compute, expert input, and labeled data. At the same time, deploying proprietary, cloud-based models for mental health-related interactions raises important privacy and data-governance concerns, given the sensitivities. To address this challenge, we introduce LLUMI setup that can be hosted in-house within protected environments. LLUMI consists of two complementary components: a generation model (GM), which drafts supportive responses to mental health queries, and an improvement model (IM), which revises an initial human-crafted response. We leverage feedback signals from Reddit mental health communities, using community endorsement patterns such as upvotes and downvotes to construct chosen-rejected response pairs for Supervised Fine Tuning (SFT) and Direct Preference Optimization (DPO). We further align LLUMI using human evaluation across five dimensions: readability, empathy, connection, actionability, and safety. Our results show that, despite relying on smaller open-source models rather than proprietary cloud-based GPT models, LLUMI achieves comparable performance across linguistic analyses and human evaluations. These findings suggest that open-source models, when trained with community-derived preference signals, can support high-quality mental health support assistance while offering a more privacy-preserving alternative for sensitive support contexts.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、メンタルヘルスクエリに対するサポート的な応答を生成することを約束するが、その有用性、共感、安全性を改善するには、かなりの計算、専門家の入力、ラベル付きデータが必要であることが多い。 同時に、メンタルヘルス関連のインタラクションのためのプロプライエタリなクラウドベースのモデルをデプロイすることで、センシティビティを考慮すると、重要なプライバシとデータガバナンスの懸念が高まる。 この課題に対処するために,LLUMIセットアップを導入する。 LLUMIは、メンタルヘルスクエリに対する支援応答をドラフトするジェネレーションモデル(GM)と、人為的な最初の応答を更新する改善モデル(IM)の2つの補完的なコンポーネントから構成される。 Redditのメンタルヘルスコミュニティからのフィードバック信号を利用して、アップボイトやダウンボイトといったコミュニティの支持パターンを用いて、スーパーバイザード・ファイン・チューニング(SFT)とダイレクト・プライス・オプティマイゼーション(DPO)のための選択されたリジェクト・レスポンス・ペアを構築する。 LLUMIはさらに、可読性、共感性、接続性、行動可能性、安全性の5つの側面で人間の評価を用いて調整する。 この結果から,LLUMIは,プロプライエタリなクラウドベースGPTモデルではなく,より小規模なオープンソースモデルに依存しているにも関わらず,言語学的解析や人的評価に比較して高い性能を実現していることがわかった。 これらの結果は、コミュニティ由来の嗜好信号でトレーニングされたオープンソースモデルは、よりプライバシーを保護し、より機密性のあるサポートコンテキストの代替手段を提供するとともに、高品質なメンタルヘルス支援を支援することができることを示唆している。

関連論文リスト

• Assessing the Quality of Mental Health Support in LLM Responses through Multi-Attribute Human Evaluation [14.243791046586347]
  継続的な治療のギャップ、可用性、資格あるセラピストの不足を特徴とする世界的なメンタルヘルス危機のエスカレートは、スケーラブルなサポートのための有望な道として、Large Language Models (LLMs) を位置づけている。 本稿では,治療対話におけるLLM生成応答の評価を目的とした人為的評価手法を提案する。
  論文  参考訳（メタデータ） (2026-01-26T16:04:19Z)
• Enhancing the Medical Context-Awareness Ability of LLMs via Multifaceted Self-Refinement Learning [49.559151128219725]
  大規模言語モデル(LLM)は医療分野で大きな可能性を示しており、いくつかのベンチマークで高いパフォーマンスを実現している。 しかし、実際の医療シナリオではパフォーマンスが低下し続けており、コンテキスト認識の強化が要求されることが多い。 データ駆動型アプローチであるMultifaceted Self-Refinement (MuSeR)を提案する。
  論文  参考訳（メタデータ） (2025-11-13T08:13:23Z)
• Beyond Empathy: Integrating Diagnostic and Therapeutic Reasoning with Large Language Models for Mental Health Counseling [50.83055329849865]
  PsyLLMは、メンタルヘルスカウンセリングの診断と治療的推論を統合するために設計された大きな言語モデルである。 Redditから現実世界のメンタルヘルス投稿を処理し、マルチターン対話構造を生成する。 実験の結果,PsyLLMは最先端のベースラインモデルよりも優れていた。
  論文  参考訳（メタデータ） (2025-05-21T16:24:49Z)
• ProMind-LLM: Proactive Mental Health Care via Causal Reasoning with Sensor Data [5.961343130822046]
  メンタルヘルスのリスクは、世界の公衆衛生にとって重要な課題である。 大規模言語モデル(LLMs)の開発により、それらは説明可能な精神医療応用のための有望なツールであることが注目されている。 本稿では、主観的心的記録と相補的な情報として客観的行動データを統合する革新的なアプローチであるProMind-LLMを紹介する。
  論文  参考訳（メタデータ） (2025-05-20T07:36:28Z)
• FedMentalCare: Towards Privacy-Preserving Fine-Tuned LLMs to Analyze Mental Health Status Using Federated Learning Framework [0.0]
  FedCareは、メンタルヘルスケアアプリケーションに大規模言語モデル(LLM)をデプロイするための、プライバシ保護フレームワークである。 われわれのフレームワークは、現実のメンタルヘルスシナリオにLSMをデプロイするためのスケーラブルでプライバシに配慮したアプローチを実証している。
  論文  参考訳（メタデータ） (2025-02-27T07:04:19Z)
• LlaMADRS: Prompting Large Language Models for Interview-Based Depression Assessment [75.44934940580112]
  LlaMADRSは、オープンソースのLarge Language Models(LLM)を利用して、うつ病の重症度評価を自動化する新しいフレームワークである。 本研究は,クリニカルインタヴューの解釈・スコアリングにおけるモデル指導のために,慎重に設計された手がかりを用いたゼロショットプロンプト戦略を用いている。 実世界における236件のインタビューを対象とし,臨床評価と強い相関性を示した。
  論文  参考訳（メタデータ） (2025-01-07T08:49:04Z)
• Bi-Factorial Preference Optimization: Balancing Safety-Helpfulness in Language Models [94.39278422567955]
  人間の嗜好を微調整した大型言語モデル(LLM)は、その能力向上に成功している。 しかし、微調整中のLLMの安全性確保は依然として重要な懸念事項である。 本稿では,BFPO(Bi-Factorial Preference Optimization)と呼ばれる教師あり学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-27T17:31:21Z)
• Can AI Relate: Testing Large Language Model Response for Mental Health Support [23.97212082563385]
  大型言語モデル(LLM)はすでにニューヨーク・ラングーン、ダナ・ファーバー、NHSなどの病院システムで臨床使用のために試験されている。 精神医療の自動化に向けて, LLM 反応が有効かつ倫理的な道筋であるか否かを評価するための評価枠組みを開発する。
  論文  参考訳（メタデータ） (2024-05-20T13:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。