論文の概要: Breakdowns in Conversational AI: Interactional Failures in Emotionally and Ethically Sensitive Contexts

• arxiv url: http://arxiv.org/abs/2604.02713v1
• Date: Fri, 03 Apr 2026 04:10:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.31811
• Title: Breakdowns in Conversational AI: Interactional Failures in Emotionally and Ethically Sensitive Contexts
• Title（参考訳）: 会話型AIにおけるブレークダウン--感情的・感情的な文脈における相互作用的失敗
• Authors: Jiawen Deng, Wentao Zhang, Ziyun Jiao, Fuji Ren,
• Abstract要約: 本研究では,心理的なペルソナとマルチターン対話や,情緒的なペアリングを行うことのできるペルソナ条件付きユーザシミュレータを開発した。 感情的ミスアライメント、倫理的失敗、共感が責任を負うような多次元的トレードオフなど、いくつかの一般的な失敗パターンを特定します。
• 参考スコア（独自算出の注目度）: 16.938835302814084
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conversational AI is increasingly deployed in emotionally charged and ethically sensitive interactions. Previous research has primarily concentrated on emotional benchmarks or static safety checks, overlooking how alignment unfolds in evolving conversation. We explore the research question: what breakdowns arise when conversational agents confront emotionally and ethically sensitive behaviors, and how do these affect dialogue quality? To stress-test chatbot performance, we develop a persona-conditioned user simulator capable of engaging in multi-turn dialogue with psychological personas and staged emotional pacing. Our analysis reveals that mainstream models exhibit recurrent breakdowns that intensify as emotional trajectories escalate. We identify several common failure patterns, including affective misalignments, ethical guidance failures, and cross-dimensional trade-offs where empathy supersedes or undermines responsibility. We organize these patterns into a taxonomy and discuss the design implications, highlighting the necessity to maintain ethical coherence and affective sensitivity throughout dynamic interactions. The study offers the HCI community a new perspective on the diagnosis and improvement of conversational AI in value-sensitive and emotionally charged contexts.
• Abstract（参考訳）: 会話型AIは、感情的に充電され倫理的に敏感なインタラクションにますますデプロイされる。 これまでの研究は主に感情的なベンチマークや静的安全性チェックに重点を置いてきた。 会話エージェントが感情的にも倫理的にも敏感な行動に直面すると、どのようにして会話の質に影響を及ぼすのか? ストレステスト用チャットボットの性能を評価するため,心理的なペルソナとマルチターン対話を行うことのできるペルソナ条件付きユーザシミュレータを開発した。 分析の結果,情緒的軌跡がエスカレートするにつれて,主観的なモデルが繰り返されることが明らかとなった。 感情的なミスアライメント、倫理的なガイダンスの失敗、共感が過小評価される、あるいは責任を損なうような、多次元的なトレードオフなど、いくつかの一般的な失敗パターンを特定します。 我々はこれらのパターンを分類学に分類し、設計上の意味を議論し、動的相互作用を通して倫理的一貫性と情緒的感受性を維持する必要性を強調した。 この研究は、HCIコミュニティに、価値に敏感で感情に満ちたコンテキストにおける会話型AIの診断と改善に関する新たな視点を提供する。

関連論文リスト

• EMO-Reasoning: Benchmarking Emotional Reasoning Capabilities in Spoken Dialogue Systems [25.920610612373608]
  EMO-Reasoningは、対話システムにおける感情的コヒーレンスを評価するためのベンチマークである。 マルチターン対話における感情遷移を評価するために,クロスターン感情推論スコアを提案する。
  論文  参考訳（メタデータ） (2025-08-25T03:01:40Z)
• Are You Listening to Me? Fine-Tuning Chatbots for Empathetic Dialogue [0.5849783371898033]
  感情的にリッチなインタラクションを生成するタスクにおいて,Large Language Models (LLM) がどのように反応するかを検討する。 本研究では,感情分析(VADER)と専門家評価の両方を用いて,対話の感情的進行を分析した。
  論文  参考訳（メタデータ） (2025-07-03T11:32:41Z)
• CauESC: A Causal Aware Model for Emotional Support Conversation [79.4451588204647]
  既存のアプローチは、苦痛の感情の原因を無視します。 彼らは、話者間の相互作用における感情的ダイナミクスよりも、探究者自身の精神状態に焦点を当てている。 本稿では、まず、苦痛の感情要因と、その原因によって引き起こされる感情効果を認識する新しいフレームワークCauESCを提案する。
  論文  参考訳（メタデータ） (2024-01-31T11:30:24Z)
• Dynamic Causal Disentanglement Model for Dialogue Emotion Detection [77.96255121683011]
  隠れ変数分離に基づく動的因果解離モデルを提案する。 このモデルは、対話の内容を効果的に分解し、感情の時間的蓄積を調べる。 具体的には,発話と隠れ変数の伝搬を推定する動的時間的ゆがみモデルを提案する。
  論文  参考訳（メタデータ） (2023-09-13T12:58:09Z)
• Empathetic Dialogue Generation via Sensitive Emotion Recognition and Sensible Knowledge Selection [47.60224978460442]
  情緒的対話生成のためのシリアル・アンド・感情知識相互作用(SEEK)法を提案する。 我々は,会話中の感情のダイナミックス(感情の流れ)に敏感な微粒なエンコーディング戦略を用いて,応答の感情依存特性を予測するとともに,知識と感情の相互作用をモデル化し,より敏感な応答を生成する新しい枠組みを設計する。
  論文  参考訳（メタデータ） (2022-10-21T03:51:18Z)
• Emotion-aware Chat Machine: Automatic Emotional Response Generation for Human-like Emotional Interaction [55.47134146639492]
  この記事では、投稿中のセマンティクスと感情を同時にエンコードできる、未定義のエンドツーエンドニューラルネットワークを提案する。 実世界のデータを用いた実験により,提案手法は,コンテンツコヒーレンスと感情の適切性の両方の観点から,最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2021-06-06T06:26:15Z)
• Disambiguating Affective Stimulus Associations for Robot Perception and Dialogue [67.89143112645556]
  知覚された聴覚刺激と感情表現の関連性を学ぶことができるNICOロボットを提供します。 NICOは、感情駆動対話システムの助けを借りて、個人と特定の刺激の両方でこれを行うことができる。 ロボットは、実際のHRIシナリオにおいて、被験者の聴覚刺激の楽しさを判断するために、この情報を利用することができる。
  論文  参考訳（メタデータ） (2021-03-05T20:55:48Z)
• Knowledge Bridging for Empathetic Dialogue Generation [52.39868458154947]
  外部知識の不足により、感情的な対話システムは暗黙の感情を知覚し、限られた対話履歴から感情的な対話を学ぶことが困難になる。 本研究では,情緒的対話生成における感情を明確に理解し,表現するために,常識的知識や情緒的語彙的知識などの外部知識を活用することを提案する。
  論文  参考訳（メタデータ） (2020-09-21T09:21:52Z)
• Generating Emotionally Aligned Responses in Dialogues using Affect Control Theory [15.848210524718219]
  感情制御理論(Affect Control Theory、ACT)は、人間と人間の相互作用に対する感情の社会的・数学的モデルである。 本研究では、ACTが感情認識型神経会話エージェントの開発にどのように役立つかを検討する。
  論文  参考訳（メタデータ） (2020-03-07T19:31:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。