論文の概要: Mental Health Assessment for the Chatbots

• arxiv url: http://arxiv.org/abs/2201.05382v1
• Date: Fri, 14 Jan 2022 10:38:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-17 14:57:43.360032
• Title: Mental Health Assessment for the Chatbots
• Title（参考訳）: チャットボットのメンタルヘルスアセスメント
• Authors: Yong Shan, Jinchao Zhang, Zekang Li, Yang Feng, Jie Zhou
• Abstract要約: 否定的な心理的影響を避けるために、健康的な精神的な傾向を持つべきだと論じる。 チャットボットのメンタルヘルスアセスメントを複数確立し,質問紙によるメンタルヘルスアセスメント手法を導入する。
• 参考スコア（独自算出の注目度）: 39.081479891611664
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Previous researches on dialogue system assessment usually focus on the quality evaluation (e.g. fluency, relevance, etc) of responses generated by the chatbots, which are local and technical metrics. For a chatbot which responds to millions of online users including minors, we argue that it should have a healthy mental tendency in order to avoid the negative psychological impact on them. In this paper, we establish several mental health assessment dimensions for chatbots (depression, anxiety, alcohol addiction, empathy) and introduce the questionnaire-based mental health assessment methods. We conduct assessments on some well-known open-domain chatbots and find that there are severe mental health issues for all these chatbots. We consider that it is due to the neglect of the mental health risks during the dataset building and the model training procedures. We expect to attract researchers' attention to the serious mental health problems of chatbots and improve the chatbots' ability in positive emotional interaction.
• Abstract（参考訳）: 対話システム評価に関するこれまでの研究は、通常、局所的および技術的指標であるチャットボットが生成する応答の品質評価(例えば、流束、関連性など)に焦点を当てている。 未成年者を含む何百万ものオンラインユーザーに反応するチャットボットは、心理的な影響を避けるために健全な精神傾向を持つべきだと主張する。 本稿では,チャットボットのメンタルヘルスアセスメント次元(抑うつ,不安,アルコール依存症,共感)をいくつか確立し,質問紙ベースのメンタルヘルスアセスメント手法を提案する。 我々は、よく知られたオープンドメインチャットボットの評価を行い、これらのチャットボットに深刻なメンタルヘルス問題があることを発見した。 本研究は,データセット構築時のメンタルヘルスリスクとモデルトレーニング手順の無視によるものであると考えている。 我々は、チャットボットの深刻なメンタルヘルス問題に研究者の注意を惹きつけ、ポジティブな感情的相互作用におけるチャットボットの能力を向上させることを期待する。

関連論文リスト

• Prompt Engineering a Schizophrenia Chatbot: Utilizing a Multi-Agent Approach for Enhanced Compliance with Prompt Instructions [0.0699049312989311]
  統合失調症の患者は、しばしば認知障害を伴い、自分の状態について学ぶ能力を妨げることがある。 大規模言語モデル(LLM)は、トピックのメンタルヘルス情報をよりアクセシビリティとエンゲージメントを高める可能性を秘めているが、それらのブラックボックスの性質は倫理と安全に関する懸念を喚起する。
  論文  参考訳（メタデータ） (2024-10-10T09:49:24Z)
• The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support [35.61580610996628]
  重度の苦痛を経験する人々は、メンタルヘルス支援ツールとしてLarge Language Model (LLM)チャットボットをますます使います。 本研究は、世界規模で多様なバックグラウンドを持つ21人の個人に対するインタビューに基づいて、ユーザが独自のサポートロールを作成する方法を分析する。 我々は、治療的アライメントの概念を導入するか、精神的な健康状況に対する治療的価値とAIを連携させる。
  論文  参考訳（メタデータ） (2024-01-25T18:08:53Z)
• Development and Evaluation of Three Chatbots for Postpartum Mood and Anxiety Disorders [31.018188794627378]
  我々は,産後介護者にコンテキスト特異的な共感的サポートを提供する3つのチャットボットを開発した。 我々は,機械による測定と人間によるアンケートの両方を用いて,チャットボットの性能評価を行った。 我々は、精神的な健康上の課題を抱えた個人を支援するために、ルールベースのモデルと生成モデルの実践的メリットを議論することで結論付けた。
  論文  参考訳（メタデータ） (2023-08-14T18:52:03Z)
• Chatbots put to the test in math and logic problems: A preliminary comparison and assessment of ChatGPT-3.5, ChatGPT-4, and Google Bard [68.8204255655161]
  曖昧さがなく、プレーンテキストのみで完全に記述され、ユニークな、明確に定義された正しい回答を持つ、30の質問を使用します。 回答は記録され、議論され、その強みと弱点を強調します。 その結果,ChatGPT-4はChatGPT-3.5より優れていた。
  論文  参考訳（メタデータ） (2023-05-30T11:18:05Z)
• LLM-empowered Chatbots for Psychiatrist and Patient Simulation: Application and Evaluation [18.98839299694749]
  この研究は、精神科医と患者シミュレーションのためのチャットボットにおけるChatGPTの可能性を探究することに焦点を当てている。 我々は精神科医と協力して目的を特定し、現実世界のシナリオと密接に整合する対話システムを反復的に開発する。 評価実験では、実際の精神科医や患者を雇い、チャットボットと診断会話を行い、評価のための評価を収集する。
  論文  参考訳（メタデータ） (2023-05-23T02:25:01Z)
• Mental Illness Classification on Social Media Texts using Deep Learning and Transfer Learning [55.653944436488786]
  世界保健機関(WHO)によると、約4億5000万人が影響を受ける。 うつ病、不安症、双極性障害、ADHD、PTSDなどの精神疾患。 本研究では、Redditプラットフォーム上の非構造化ユーザデータを分析し、うつ病、不安、双極性障害、ADHD、PTSDの5つの一般的な精神疾患を分類する。
  論文  参考訳（メタデータ） (2022-07-03T11:33:52Z)
• EmpBot: A T5-based Empathetic Chatbot focusing on Sentiments [75.11753644302385]
  共感的会話エージェントは、議論されていることを理解しているだけでなく、会話相手の暗黙の感情も認識すべきである。 変圧器事前学習言語モデル(T5)に基づく手法を提案する。 本研究では,自動計測と人的評価の両方を用いて,情緒的ダイアログデータセットを用いたモデルの評価を行った。
  論文  参考訳（メタデータ） (2021-10-30T19:04:48Z)
• CheerBots: Chatbots toward Empathy and Emotionusing Reinforcement Learning [60.348822346249854]
  本研究では,複数の共感型チャットボットがユーザの暗黙の感情を理解し,複数の対話のターンに対して共感的に応答する枠組みを提案する。 チャットボットをCheerBotsと呼びます。CheerBotsは検索ベースまたは生成ベースで、深い強化学習によって微調整されます。 共感的態度で反応するため,CheerBotsの学習支援としてシミュレーションエージェントである概念人間モデルを開発し,今後のユーザの感情状態の変化を考慮し,共感を喚起する。
  論文  参考訳（メタデータ） (2021-10-08T07:44:47Z)
• Put Chatbot into Its Interlocutor's Shoes: New Framework to Learn Chatbot Responding with Intention [55.77218465471519]
  本稿では,チャットボットに人間のような意図を持つための革新的なフレームワークを提案する。 我々のフレームワークには、ガイドロボットと人間の役割を担うインターロケータモデルが含まれていた。 本フレームワークを3つの実験的なセットアップを用いて検討し,4つの異なる指標を用いた誘導ロボットの評価を行い,柔軟性と性能の利点を実証した。
  論文  参考訳（メタデータ） (2021-03-30T15:24:37Z)
• Spot The Bot: A Robust and Efficient Framework for the Evaluation of Conversational Dialogue Systems [21.36935947626793]
  emphSpot ボットは人間とボットの会話をボット間の会話に置き換える。 人間の判断は、それが人間であるかどうかに関わらず、会話において各実体に注釈を付けるだけである。 emphSurvival Analysisは、人間のような行動を最も長く維持できるボットを計測する。
  論文  参考訳（メタデータ） (2020-10-05T16:37:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。