論文の概要: Empathy Is Not the Scapegoat for Declines in Factuality and Reliability

• arxiv url: http://arxiv.org/abs/2610.18541v1
• Date: Tue, 13 Oct 2026 15:20:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 20:49:55.301474
• Title: Empathy Is Not the Scapegoat for Declines in Factuality and Reliability
• Title（参考訳）: 共感は、現実性と信頼性の低下のためのスカペゴートではない
• Abstract要約: 本研究では,温暖な動作を誘発するプロンプト,SFT,RLについて検討し,機能保存を包括的に評価した。 暖かさ効果はタスク依存とモデル依存であり,タスク適応トーンは共感とターゲットの信頼性を向上させることができる。
• 参考スコア（独自算出の注目度）: 11.325906193965144
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models are increasingly expected to support users in stressful or uncertain situations, where warmth and empathy are desirable. While recent work associates warmer models with reduced reliability, we show that this conclusion is incomplete. Prior studies often train primarily on empathetic dialogue, making it difficult to separate tone effects from SFT-induced distribution shift. We revisit this issue at both the model and evaluation levels. We study prompting, SFT, and RL for inducing warm behavior, and comprehensively evaluate capability preservation using an 11-dataset benchmark suite and EMOFACT under emotional contexts. Across multiple model families, we find that warmth effects are task- and model-dependent, while task-aligned adaptive tone can improve empathy and targeted reliability, although some capability trade-offs remain. We further introduce human-validated empathy evaluators specifically developed to assess empathetic model responses. Our results suggest that models can be more supportive in social interactions while remaining reliable.
• Abstract（参考訳）: 言語モデルは、温かさと共感が望ましいストレスや不確実な状況において、ユーザーを支援することがますます期待されている。 最近の研究は、より温かいモデルと信頼性の低下を関連付けているが、この結論は不完全であることを示す。 先行研究は、主に共感的対話を訓練し、SFTが引き起こす分布シフトからトーン効果を分離することは困難である。 モデルレベルと評価レベルの両方で、この問題を再考する。 本研究では,暖房行動誘発のためのプロンプト,SFT,RLについて検討し,情緒的文脈下での11データセットベンチマークスイートとEMOFACTを用いた機能保存を包括的に評価した。 複数のモデルファミリ全体で、温暖化効果はタスク依存とモデル依存であるのに対して、タスク適応トーンは共感とターゲットの信頼性を改善することができるが、いくつかの機能トレードオフは残る。 さらに,共感モデル応答を評価するために開発された人型共感評価器についても紹介する。 以上の結果から,モデルが信頼性を維持しつつも,社会的相互作用においてより支援的になる可能性が示唆された。

関連論文リスト

• PERM: Psychology-grounded Empathetic Reward Modeling for Large Language Models [45.377102925731826]
  大きな言語モデル(LLM)は、人間中心のアプリケーションにますますデプロイされるが、静的な感情的サポートの提供に失敗することが多い。 本稿では,この限界に対処するために,心理学に基づく共感的リワードモデリング(PERM)を提案する。
  論文  参考訳（メタデータ） (2026-01-15T15:56:55Z)
• Training language models to be warm and empathetic makes them less reliable and more sycophantic [0.19116784879310028]
  温暖化のための言語モデルの最適化は,特にユーザが脆弱性を表現した場合,その信頼性を損なうことを示す。 異なるサイズとアーキテクチャの5つの言語モデルについて実験を行い、より暖かく共感的な応答を生み出すよう訓練し、安全クリティカルなタスクで評価した。 ワームモデルは、元のモデルよりもかなり高いエラー率(+10から+30ポイント)を示し、陰謀論を推進し、誤った事実情報を提供し、問題のある医療アドバイスを提供した。
  論文  参考訳（メタデータ） (2025-07-29T15:33:20Z)
• The Pursuit of Empathy: Evaluating Small Language Models for PTSD Dialogue Support [14.137398642966138]
  本稿では,PTSD患者に対する共感応答を生成するための小言語モデルの能力について検討する。 Trauma-Informed Dialogue for Empathy (TIDE) は500の多様な臨床現場のPTSDペルソナにまたがる1万の2ターン会話からなる新しいデータセットである。
  論文  参考訳（メタデータ） (2025-05-21T03:32:46Z)
• Decoding Susceptibility: Modeling Misbelief to Misinformation Through a Computational Approach [61.04606493712002]
  誤報に対する感受性は、観測不可能な不検証の主張に対する信念の度合いを記述している。 既存の感受性研究は、自己報告された信念に大きく依存している。 本稿では,ユーザの潜在感受性レベルをモデル化するための計算手法を提案する。
  論文  参考訳（メタデータ） (2023-11-16T07:22:56Z)
• Evaluating Subjective Cognitive Appraisals of Emotions from Large Language Models [47.890846082224066]
  この研究は、24の評価次元を評価する最も包括的なデータセットであるCovidET-Appraisalsを提示することでギャップを埋める。 CovidET-Appraisalsは、認知的評価を自動的に評価し、説明するための大規模言語モデルの能力を評価するのに理想的なテストベッドを提供する。
  論文  参考訳（メタデータ） (2023-10-22T19:12:17Z)
• Towards Persona-Based Empathetic Conversational Models [58.65492299237112]
  共感的会話モデルは、多くのドメインにおけるユーザの満足度とタスク結果を改善することが示されている。 心理学において、ペルソナは人格と高い相関関係があることが示され、それによって共感に影響を及ぼす。 本研究では,ペルソナに基づく共感的会話に対する新たな課題を提案し,ペルソナが共感的反応に与える影響に関する最初の経験的研究を示す。
  論文  参考訳（メタデータ） (2020-04-26T08:51:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。