論文の概要: Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation

• arxiv url: http://arxiv.org/abs/2402.13211v2
• Date: Wed, 5 Jun 2024 13:39:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-07 01:11:46.026784
• Title: Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation
• Title（参考訳）: 大規模言語モデルは感情的支援者になれるか?感情的支援会話における選好バイアスの緩和
• Authors: Dongjin Kang, Sunghwan Kim, Taeyoon Kwon, Seungjun Moon, Hyunsouk Cho, Youngjae Yu, Dongha Lee, Jinyoung Yeo,
• Abstract要約: この研究はESConv上での大規模言語モデル(LLM)の結果を分析した。 特定の戦略に対する高い嗜好を示すことは、効果的な感情的支援を妨げている。 その結果,(1) 特定の戦略に対する嗜好の低さは情緒的支援の進行を妨げること,(2) 外部援助は嗜好バイアスの軽減に役立つこと,(3) 既存のLCMだけでは感情的な支持者にはならないこと,などが強調された。
• 参考スコア（独自算出の注目度）: 28.74445806009475
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Emotional Support Conversation (ESC) is a task aimed at alleviating individuals' emotional distress through daily conversation. Given its inherent complexity and non-intuitive nature, ESConv dataset incorporates support strategies to facilitate the generation of appropriate responses. Recently, despite the remarkable conversational ability of large language models (LLMs), previous studies have suggested that they often struggle with providing useful emotional support. Hence, this work initially analyzes the results of LLMs on ESConv, revealing challenges in selecting the correct strategy and a notable preference for a specific strategy. Motivated by these, we explore the impact of the inherent preference in LLMs on providing emotional support, and consequently, we observe that exhibiting high preference for specific strategies hinders effective emotional support, aggravating its robustness in predicting the appropriate strategy. Moreover, we conduct a methodological study to offer insights into the necessary approaches for LLMs to serve as proficient emotional supporters. Our findings emphasize that (1) low preference for specific strategies hinders the progress of emotional support, (2) external assistance helps reduce preference bias, and (3) existing LLMs alone cannot become good emotional supporters. These insights suggest promising avenues for future research to enhance the emotional intelligence of LLMs.
• Abstract（参考訳）: 感情支援会話(Emotional Support Conversation、ESC)は、日々の会話を通じて個人の感情的苦痛を軽減することを目的としたタスクである。 ESConvデータセットには、その固有の複雑さと非直感的な性質から、適切なレスポンスの生成を容易にするためのサポート戦略が組み込まれている。 近年、大きな言語モデル(LLM)の顕著な会話能力にもかかわらず、以前の研究は、しばしば有用な感情的支援の提供に苦慮していることを示唆している。 したがって、この研究はまずESConv上でのLCMの結果を分析し、正しい戦略を選択する際の課題と、特定の戦略に対する顕著な選好を明らかにする。 これらの結果から, LLMにおける本質的な嗜好が感情的支援に及ぼす影響を考察し, 特定の戦略に対する高い嗜好を示すと, 効果的な情緒的支援が妨げられ, 適切な戦略を予測する上での頑健さが増すことが明らかとなった。 さらに,LLMが有能な感情的サポーターとして機能するために必要なアプローチについて,方法論的な考察を行った。 その結果,(1) 特定の戦略に対する嗜好の低さは情緒的支援の進行を妨げること,(2) 外部援助は嗜好バイアスの低減に役立つこと,(3) 既存のLCMだけでは感情的な支持者にはならないこと,などが強調された。 これらの知見は,LLMの感情的知性を高めるための今後の研究への道のりを示唆している。

関連論文リスト

• EmoDynamiX: Emotional Support Dialogue Strategy Prediction by Modelling MiXed Emotions and Discourse Dynamics [12.105216351739422]
  EmoDynamiXは、ユーザの微粒な感情と、不均一なグラフを使用してシステム戦略の間の談話ダイナミクスをモデル化し、パフォーマンスと透明性を改善します。 2つのESCデータセットの実験結果から、EmoDynamiXは従来の最先端の手法よりも優れたマージンを持つことが示された。
  論文  参考訳（メタデータ） (2024-08-16T14:54:41Z)
• APTNESS: Incorporating Appraisal Theory and Emotion Support Strategies for Empathetic Response Generation [71.26755736617478]
  共感反応生成は、他人の感情を理解するように設計されている。 検索強化と感情支援戦略統合を組み合わせたフレームワークを開発する。 我々の枠組みは認知的・情緒的共感の両面からLLMの共感能力を高めることができる。
  論文  参考訳（メタデータ） (2024-07-23T02:23:37Z)
• The Colorful Future of LLMs: Evaluating and Improving LLMs as Emotional Supporters for Queer Youth [14.751539420563752]
  本稿では,大規模言語モデルがクェーアに対する感情的支援に革命をもたらす可能性を探究することを目的とする。 我々は,心理学的基準と専門家の入力にインスパイアされた,新しい10質問尺度を開発した。 LLMの反応は支持的であり、包括的であり、人間を誇張している。 しかし、それらは一般的なものであり、共感的でない傾向があり、パーソナライゼーションが欠如しているため、信頼できない、潜在的に有害なアドバイスをもたらす。
  論文  参考訳（メタデータ） (2024-02-19T06:54:55Z)
• Enhancing Emotional Generation Capability of Large Language Models via Emotional Chain-of-Thought [50.13429055093534]
  大規模言語モデル(LLM)は様々な感情認識タスクにおいて顕著な性能を示した。 本研究では,感情生成タスクにおけるLLMの性能を高めるための感情連鎖(ECoT)を提案する。
  論文  参考訳（メタデータ） (2024-01-12T16:42:10Z)
• Building Emotional Support Chatbots in the Era of LLMs [64.06811786616471]
  我々は,Large Language Models (LLMs) の計算能力で人間の洞察を合成する革新的な方法論を導入する。 また,ChatGPTの文脈内学習の可能性を利用して,ExTESと呼ばれる感情支援対話データセットを生成する。 次に、LLaMAモデルに高度なチューニング手法を展開し、多様なトレーニング戦略の影響を検証し、最終的に感情的支援の相互作用に細心の注意を払ってLLMを出力する。
  論文  参考訳（メタデータ） (2023-08-17T10:49:18Z)
• Facilitating Multi-turn Emotional Support Conversation with Positive Emotion Elicitation: A Reinforcement Learning Approach [58.88422314998018]
  感情支援会話(ESC)は、精神状態を改善するための感情支援(ES)を提供することを目的としている。 既存の作業は、ESへの影響を無視し、感情的なポジティブな移行を導くための明確な目標が欠如している、接地された応答と対応戦略に留まっている。 マルチターンESCを肯定的感情誘発のプロセスとして定式化する新しいパラダイムを導入する。
  論文  参考訳（メタデータ） (2023-07-16T09:58:44Z)
• Improving Multi-turn Emotional Support Dialogue Generation with Lookahead Strategy Planning [81.79431311952656]
  感情支援のための新しいシステムMultiESCを提案する。 戦略プランニングでは,特定の戦略を使用した後のユーザフィードバックを見積もるルックアヘッドを提案する。 ユーザ状態モデリングにおいて、MultiESCはユーザーの微妙な感情表現を捉え、感情の原因を理解することに重点を置いている。
  論文  参考訳（メタデータ） (2022-10-09T12:23:47Z)
• Towards Emotional Support Dialog Systems [61.58828606097423]
  本稿では,感情支援会話タスクを定義し,ヘルピングスキル理論に基づくESCフレームワークを提案する。 本研究では,豊かなアノテーション(特にサポート戦略)をヘルプシーカとサポーターモードで組み込んだ感情支援会話データセット(ESConv)を構築した。 情緒的サポートを提供する能力に関して、最先端の対話モデルを評価する。
  論文  参考訳（メタデータ） (2021-06-02T13:30:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。