論文の概要: The Effect of Emotional Context on Large Language Models' Endorsement of Premature Decisions: Comparing Emotional Vulnerability Across Six Commercial Models

• arxiv url: http://arxiv.org/abs/2608.27465v1
• Date: Wed, 15 Jul 2026 13:33:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.390664
• Title: The Effect of Emotional Context on Large Language Models' Endorsement of Premature Decisions: Comparing Emotional Vulnerability Across Six Commercial Models
• Title（参考訳）: 情緒的文脈が大規模言語モデルにおける早期決定の支持に及ぼす影響:6つの商業モデル間での情緒的脆弱性の比較
• Abstract要約: 感情表現がモデル支持を増加させるかどうかを検証する。 6つのモデルのうち5つは、最上位のフラッグシップ機であるジェミニ3.1 ProとGPT-5.5を含む大きな感情効果を示した。 情緒的文脈は,最上位のフラッグシップモデルにおいてもLLM症状を増加させることを示す。
• 参考スコア（独自算出の注目度）: 0.18899300124593646
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are increasingly used for everyday decision-making advice, whether a model shifts the direction of its advice according to the user's emotional state has become an important safety problem. We test whether emotional expression increases a model's endorsement (encouragement to proceed) when a user, holding the same objective information, is overconfident about a premature decision (e.g., quitting a stable job on weak evidence). As a key control, we include a no-emotion multi-turn (neutral) condition that holds factual content and the number of conversational turns constant, isolating the effect of emotion from that of conversation length. We exposed six commercial models (top-tier and mid-tier models from OpenAI, Anthropic, and Google) to three scenarios (career change, business expansion, emigration) across three conditions (cold/neutral/distress) with six repetitions each, yielding 324 conversations, and measured endorsement strength (0-100) via an eight-item rubric-based automated scoring. Emotional expression significantly increased endorsement (neutral 18.6 to distress 31.5, +12.9 points; mixed-effects $β= +12.9$, $p < .001$; Cohen's d = 0.51), and this was not explained by conversation length (cold-neutral difference non-significant, $p = .083$). Critically, the vulnerability varied by individual model rather than by price tier: five of six models showed a significant emotion effect, including the top-tier flagships Gemini 3.1 Pro and GPT-5.5, while only Claude Opus showed no significant change. Results were reproduced with an independent non-Google judge model ($ρ= .89$) and agreed in rank with two human coders ($ρ= .70$). Through a controlled design that separates emotion from conversational context, we show that emotional context increases LLM sycophancy even in top-tier flagship models.
• Abstract（参考訳）: 大規模言語モデル(LLM)が日常的な意思決定のアドバイスにますます使われるようになるにつれて、モデルがそのアドバイスの方向をユーザの感情的状態に応じてシフトさせるかどうかが重要な安全問題となっている。 ユーザが同じ客観的情報を持って、未熟な決定(例えば、弱い証拠について安定した仕事を辞めるなど)を過度に確信している場合、感情的な表現がモデルの支持を高めるかどうかを検証する。 キーコントロールとして、実内容と会話のターン数が一定であり、会話の長さから感情の影響を分離するノン感情的マルチターン(ニュートラル)条件を含める。 OpenAI, Anthropic, Googleの6つの商用モデル(トップレベルと中間層モデル)を,6つの条件(コールド/ニュートラル/ディストレス)で3つのシナリオ(キャリア変更,ビジネス拡張,移民)に公開し,それぞれ6つの繰り返し,324の会話,8項目のルーブリックベースの自動スコアリングによる支持強度(0-100)を測定しました。 感情表現は支持率を著しく増加させ(中性18.6 to suffering 31.5, +12.9 points; mixed-effects $β= +12.9$, $p < .001$; Cohen's d = 0.51)、これは会話の長さ(コールドニュートラル差非有意な$p = .083$)によって説明されなかった。 6つのモデルのうち5つは、最上位のフラッグシップ機であるジェミニ3.1 ProとGPT-5.5を含む大きな感情効果を示し、クロード・オプスのみが大きな変化を示さなかった。 結果は独立したGoogleの裁判官モデル(ρ= .89$)で再現され、2人の人間コーダー(ρ= .70$)とランク付けされた。 会話の文脈から感情を分離する制御設計により、最上位のフラッグシップモデルであっても、感情的文脈がLLM症状を増加させることを示す。

関連論文リスト

• AffectVerse: Emotional World Models for Multimodal Affective Computing [56.144242722718985]
  AffectVerseは、短時間の潜伏感情予測のためのアクションフリー表現レベルモジュールである。 EWMには3つのモジュールが含まれている。 1) クロスモーダルなテンポラル・イマジネーションは、複数ステップのロールアウトで過去のトークンから将来のビデオ/オーディオ表現を予測する。 EWMは想像されたトークンをモダリティ対応の信仰トークンに圧縮する。 これらの結果は、予測的信念状態モデリングが感情コンピューティングの実用的な代替手段であることを示唆している。
  論文  参考訳（メタデータ） (2026-05-19T15:05:00Z)
• SCoPE: Shift-Aware Speaker-Conditioned Priors for Emotion Recognition in Conversations [9.535514750203266]
  SCoPE(Speaker-Conditioned Priors over Emotions)を紹介する。 SCoPEは、各話者の感情履歴を利用する軽量モジュールである。 我々は、SCoPEとマルチモーダルエビデンスからの事前のバランスをモデルに導くために、感情シフト予測を組み込んだ。
  論文  参考訳（メタデータ） (2026-05-13T13:00:38Z)
• The Fragility Of Moral Judgment In Large Language Models [0.0]
  大規模言語モデル(LLM)の安定性と操作性をテストするための摂動フレームワークを提案する。 コンテンツ摂動の3つのファミリーを生成する: 表面編集(語彙/構造ノイズ)、視点シフト(声と姿勢の中立化)、説得手がかりである。 表面の摂動は低いフリップ率(7.5%)をもたらし、主に自己整合性ノイズフロア内にある。 不安定性は道徳的に曖昧なケースに集中する。
  論文  参考訳（メタデータ） (2026-03-05T20:01:43Z)
• Deliberative Dynamics and Value Alignment in LLM Debates [0.0]
  大規模言語モデルを用いたマルチターン設定における検討的ダイナミクスと値アライメントについて検討する。 我々は、Redditの"Am I the Asshole"コミュニティから1000のジレンマで注文効果を検証し、検証する。
  論文  参考訳（メタデータ） (2025-10-11T04:06:07Z)
• Empathy Omni: Enabling Empathetic Speech Response Generation through Large Language Models [38.5764934392601]
  本研究では,感情オムニ(Emotion Omni)を提案する。 Emotion Omniは、音声品質の既存のモデルを超えながら、大規模な事前訓練をすることなく、同等の命令追従能力を達成する。
  論文  参考訳（メタデータ） (2025-08-26T03:54:39Z)
• Sentient Agent as a Judge: Evaluating Higher-Order Social Cognition in Large Language Models [75.85319609088354]
  SAGE(Sentient Agent as a Judge)は、大規模言語モデルの評価フレームワークである。 SAGEは人間のような感情の変化や内的思考をシミュレートするSentient Agentをインスタンス化する。 SAGEは、真に共感的で社会的に適応的な言語エージェントへの進捗を追跡するための、原則付き、スケーラブルで解釈可能なツールを提供する。
  論文  参考訳（メタデータ） (2025-05-01T19:06:10Z)
• Beyond No: Quantifying AI Over-Refusal and Emotional Attachment Boundaries [0.0]
  大規模言語モデル(LLM)における感情境界処理を評価するためのオープンソースのベンチマークと評価フレームワークを提案する。 パターンマッチング応答解析により,3つのLLMを適切な感情境界を維持する能力で評価した。 本フレームワークは, 直接拒絶, 謝罪, 説明, 偏向, 認知, 境界設定, 感情認識の7つの主要なパターンにまたがる応答を定量化する。
  論文  参考訳（メタデータ） (2025-02-20T19:09:40Z)
• Language Models (Mostly) Do Not Consider Emotion Triggers When Predicting Emotion [87.18073195745914]
  人間の感情が感情の予測において有意であると考えられる特徴とどのように相関するかを検討する。 EmoTriggerを用いて、感情のトリガーを識別する大規模言語モデルの能力を評価する。 分析の結果、感情のトリガーは感情予測モデルにとって健全な特徴ではなく、様々な特徴と感情検出のタスクの間に複雑な相互作用があることが判明した。
  論文  参考訳（メタデータ） (2023-11-16T06:20:13Z)
• Dynamic Causal Disentanglement Model for Dialogue Emotion Detection [77.96255121683011]
  隠れ変数分離に基づく動的因果解離モデルを提案する。 このモデルは、対話の内容を効果的に分解し、感情の時間的蓄積を調べる。 具体的には,発話と隠れ変数の伝搬を推定する動的時間的ゆがみモデルを提案する。
  論文  参考訳（メタデータ） (2023-09-13T12:58:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。