論文の概要: Do Emotions Influence Moral Judgment in Large Language Models?

• arxiv url: http://arxiv.org/abs/2604.19125v1
• Date: Tue, 21 Apr 2026 06:17:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.646682
• Title: Do Emotions Influence Moral Judgment in Large Language Models?
• Title（参考訳）: 感情は大規模言語モデルにおける道徳的判断に影響を及ぼすか?
• Authors: Mohammad Saim, Tianyu Jiang,
• Abstract要約: 我々は、感情を道徳的状況に注入する感情誘導パイプラインを開発する。 肯定的な感情は道徳的受容性を高め、否定的な感情はそれを減らす。
• 参考スコア（独自算出の注目度）: 2.4178976757695336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models have been extensively studied for emotion recognition and moral reasoning as distinct capabilities, yet the extent to which emotions influence moral judgment remains underexplored. In this work, we develop an emotion-induction pipeline that infuses emotion into moral situations and evaluate shifts in moral acceptability across multiple datasets and LLMs. We observe a directional pattern: positive emotions increase moral acceptability and negative emotions decrease it, with effects strong enough to reverse binary moral judgments in up to 20% of cases, and with susceptibility scaling inversely with model capability. Our analysis further reveals that specific emotions can sometimes behave contrary to what their valence would predict (e.g., remorse paradoxically increases acceptability). A complementary human annotation study shows humans do not exhibit these systematic shifts, indicating an alignment gap in current LLMs.
• Abstract（参考訳）: 大規模言語モデルは、感情認識と道徳的推論を区別する能力として広く研究されてきたが、感情が道徳的判断にどのような影響を及ぼすかは未解明のままである。 本研究では、感情を道徳的状況に注入する感情誘導パイプラインを開発し、複数のデータセットやLLM間での道徳的受容性の変化を評価する。 正の感情は道徳的受容性を高め、負の感情はそれを減少させ、最大20%のケースで二項道徳的判断を逆転させる効果が強く、モデルの能力と逆向きにスケールする。 我々の分析により、特定の感情は、その原子価が予測する値に反し、時折振る舞うことが判明した(例えば、反省はパラドックス的に受容可能性を高める)。 補完的な人間の注釈研究は、人間がこれらの系統的な変化を示していないことを示し、現在のLSMのアライメントギャップを示している。

関連論文リスト

• Emotion Concepts and their Function in a Large Language Model [7.456089071483512]
  大きな言語モデル(LLM)は時に感情的な反応を示す。 クロード・ソネット 4.5 では,これがなぜそうなるのかを考察し,アライメント関係の挙動について考察する。
  論文  参考訳（メタデータ） (2026-04-09T02:25:17Z)
• The Role of Emotional Stimuli and Intensity in Shaping Large Language Model Behavior [0.017499351967216335]
  快楽,励まし,怒り,不安という4つの異なる感情の感情的促進効果を探求し,それらを正確性,薬効,毒性で評価する。 我々は,GPT-4oミニを用いたプロンプト生成パイプラインを開発し,4つの感情の異なるLLMと人間生成プロンプトのスイートを作成する。 LLMの行動に関する実証的な評価は、ポジティブな感情刺激がより正確で毒性の低い結果をもたらすことを示唆している。
  論文  参考訳（メタデータ） (2026-04-07T05:29:13Z)
• Are Language Models Sensitive to Morally Irrelevant Distractors? [47.92026843851412]
  低あいまいなシナリオであっても、道徳的気晴らし者が大きな言語モデルの道徳的判断を30%以上シフトできることを示す。 この研究は、人間の道徳的判断の安定性を仮定する理論に挑戦する。
  論文  参考訳（メタデータ） (2026-02-10T05:18:05Z)
• Conversations: Love Them, Hate Them, Steer Them [10.014248704653]
  大きな言語モデル (LLMs) は会話の流布を増大させるが、人間のようなニュアンスな感情表現でそれらを注入することは大きな課題である。 本稿では,LLaMA 3.1-8Bにより,より人間らしく感情的なニュアンスを示すことができることを示す。
  論文  参考訳（メタデータ） (2025-05-23T02:58:45Z)
• The Good, The Bad, and Why: Unveiling Emotions in Generative AI [73.94035652867618]
  EmotionPromptはAIモデルの性能を向上し、EmotionAttackはそれを妨げうることを示す。 EmotionDecodeによると、AIモデルは人間の脳内のドーパミンのメカニズムに似た感情的な刺激を理解することができる。
  論文  参考訳（メタデータ） (2023-12-18T11:19:45Z)
• Language Models (Mostly) Do Not Consider Emotion Triggers When Predicting Emotion [87.18073195745914]
  人間の感情が感情の予測において有意であると考えられる特徴とどのように相関するかを検討する。 EmoTriggerを用いて、感情のトリガーを識別する大規模言語モデルの能力を評価する。 分析の結果、感情のトリガーは感情予測モデルにとって健全な特徴ではなく、様々な特徴と感情検出のタスクの間に複雑な相互作用があることが判明した。
  論文  参考訳（メタデータ） (2023-11-16T06:20:13Z)
• Moral Sparks in Social Media Narratives [14.025768295979184]
  実生活における倫理的シナリオにおける人間の道徳的判断を理解するために,ソーシャルメディア上でのインタラクションを検討する。 具体的には、r/AmITheAssholeと呼ばれるRedditの人気のサブレディット(サブコミュニティ)の投稿を調べる。
  論文  参考訳（メタデータ） (2023-10-30T05:03:26Z)
• Enhancing Cognitive Models of Emotions with Representation Learning [58.2386408470585]
  本稿では,きめ細かな感情の埋め込み表現を生成するための,新しいディープラーニングフレームワークを提案する。 本フレームワークは,コンテキスト型埋め込みエンコーダとマルチヘッド探索モデルを統合する。 本モデルは共感対話データセット上で評価され,32種類の感情を分類する最新結果を示す。
  論文  参考訳（メタデータ） (2021-04-20T16:55:15Z)
• Modality-Transferable Emotion Embeddings for Low-Resource Multimodal Emotion Recognition [55.44502358463217]
  本稿では、上記の問題に対処するため、感情を埋め込んだモダリティ変換可能なモデルを提案する。 我々のモデルは感情カテゴリーのほとんどで最先端のパフォーマンスを達成する。 私たちのモデルは、目に見えない感情に対するゼロショットと少数ショットのシナリオにおいて、既存のベースラインよりも優れています。
  論文  参考訳（メタデータ） (2020-09-21T06:10:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。