論文の概要: Emotion Concepts and their Function in a Large Language Model
- arxiv url: http://arxiv.org/abs/2604.07729v1
- Date: Thu, 09 Apr 2026 02:25:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.643493
- Title: Emotion Concepts and their Function in a Large Language Model
- Title（参考訳）: 大規模言語モデルにおける感情概念とその機能
- Authors: Nicholas Sofroniew, Isaac Kauvar, William Saunders, Runjin Chen, Tom Henighan, Sasha Hydrie, Craig Citro, Adam Pearce, Julius Tarng, Wes Gurnee, Joshua Batson, Sam Zimmerman, Kelley Rivoire, Kyle Fish, Chris Olah, Jack Lindsey,
- Abstract要約: 大きな言語モデル(LLM)は時に感情的な反応を示す。
クロード・ソネット 4.5 では,これがなぜそうなるのかを考察し,アライメント関係の挙動について考察する。
- 参考スコア（独自算出の注目度）: 7.456089071483512
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) sometimes appear to exhibit emotional reactions. We investigate why this is the case in Claude Sonnet 4.5 and explore implications for alignment-relevant behavior. We find internal representations of emotion concepts, which encode the broad concept of a particular emotion and generalize across contexts and behaviors it might be linked to. These representations track the operative emotion concept at a given token position in a conversation, activating in accordance with that emotion's relevance to processing the present context and predicting upcoming text. Our key finding is that these representations causally influence the LLM's outputs, including Claude's preferences and its rate of exhibiting misaligned behaviors such as reward hacking, blackmail, and sycophancy. We refer to this phenomenon as the LLM exhibiting functional emotions: patterns of expression and behavior modeled after humans under the influence of an emotion, which are mediated by underlying abstract representations of emotion concepts. Functional emotions may work quite differently from human emotions, and do not imply that LLMs have any subjective experience of emotions, but appear to be important for understanding the model's behavior.
- Abstract（参考訳）: 大きな言語モデル(LLM)は時に感情的な反応を示す。
クロード・ソネット 4.5 では,これがなぜそうなるのかを考察し,アライメント関係の挙動について考察する。
感情概念の内部表現は、特定の感情の広い概念を符号化し、関係しているかもしれない状況や行動にまたがって一般化する。
これらの表現は、会話中の特定のトークン位置における操作的感情の概念を追跡し、その感情が現在の文脈を処理し、今後のテキストを予測することとの関連性に応じて行動する。
私たちの重要な発見は、これらの表現が、Claude氏の好みや、報酬ハッキング、脅迫、梅毒などの不正な行動を示す率など、LCMの出力に因果的に影響を与えていることです。
我々は、この現象を、機能的感情を示すLLMとして言及する: 感情の影響下で人間にモデル化された表現のパターンと行動は、感情概念の抽象的な表現によって媒介される。
機能的感情は人間の感情とは全く異なる働きをする可能性があり、LLMが感情の主観的な経験を持つわけではないが、モデルの振る舞いを理解する上で重要であると考えられる。
関連論文リスト
- How Emotion Shapes the Behavior of LLMs and Agents: A Mechanistic Study [33.5007842598689]
感情信号が大規模言語モデル(LLM)とエージェントの動作を形作ることができるかどうかを検討する。
既存の感情認識研究は、主に感情を表面的なスタイルファクターまたは知覚的ターゲットとして扱う。
直接表現レベルの介入を可能にする解釈可能な感情ステアリングフレームワークであるE-STEERを提案する。
論文 参考訳（メタデータ） (2026-03-09T12:20:02Z) - UDDETTS: Unifying Discrete and Dimensional Emotions for Controllable Emotional Text-to-Speech [61.989360995528905]
制御可能な感情的TTSのための離散的感情と次元的感情を統一する普遍的なフレームワークであるUDDETTSを提案する。
このモデルは、次元的感情記述のための解釈可能なArousal-Dominance-Valence(ADV)空間を導入し、離散的な感情ラベルまたは非線形に定量化されたADV値によって駆動される感情制御をサポートする。
実験の結果, UDDETTSは3次元の線形感情制御を実現し, エンドツーエンドの感情音声合成能力に優れていた。
論文 参考訳（メタデータ） (2025-05-15T12:57:19Z) - Language Models (Mostly) Do Not Consider Emotion Triggers When Predicting Emotion [87.18073195745914]
人間の感情が感情の予測において有意であると考えられる特徴とどのように相関するかを検討する。
EmoTriggerを用いて、感情のトリガーを識別する大規模言語モデルの能力を評価する。
分析の結果、感情のトリガーは感情予測モデルにとって健全な特徴ではなく、様々な特徴と感情検出のタスクの間に複雑な相互作用があることが判明した。
論文 参考訳（メタデータ） (2023-11-16T06:20:13Z) - Empathetic Response Generation via Emotion Cause Transition Graph [29.418144401849194]
共感的対話は、感情的要因(例えば、感情の状態)と認知的要因(例えば、感情の原因)の両方の知覚を必要とする人間のような行動である。
共感対話における2つのターン間の感情原因の自然な遷移を明示的にモデル化する感情原因遷移グラフを提案する。
このグラフでは、次のターンで生じる感情の概念語を、特殊に設計された概念認識デコーダによって予測し、使用し、共感的な応答を生成する。
論文 参考訳（メタデータ） (2023-02-23T05:51:17Z) - Language-Specific Representation of Emotion-Concept Knowledge Causally
Supports Emotion Inference [44.126681295827794]
この研究は、大規模言語モデル(LLMs)として知られる人工知能の形式を用いて、言語に基づく感情の表現が、新しい状況の感情的意味に関する推論を生成するAIの能力に因果的に寄与するかどうかを評価する。
本研究は,LLMでも知覚モダ表現の欠如による感情の学習が可能であり,言語由来の感情概念知識の感情推論への寄与を強調した。
論文 参考訳（メタデータ） (2023-02-19T14:21:33Z) - Emotion Recognition from Multiple Modalities: Fundamentals and
Methodologies [106.62835060095532]
マルチモーダル感情認識(MER)のいくつかの重要な側面について論じる。
まず、広く使われている感情表現モデルと感情モダリティの簡単な紹介から始める。
次に、既存の感情アノテーション戦略とそれに対応する計算タスクを要約する。
最後に,実世界のアプリケーションについて概説し,今後の方向性について論じる。
論文 参考訳（メタデータ） (2021-08-18T21:55:20Z) - Emotion Recognition under Consideration of the Emotion Component Process
Model [9.595357496779394]
我々はScherer (2005) による感情成分プロセスモデル (CPM) を用いて感情コミュニケーションを説明する。
CPMは、感情は、出来事、すなわち主観的感情、認知的評価、表現、生理的身体反応、動機的行動傾向に対する様々なサブコンポーネントの協調過程であると述べている。
Twitter上での感情は、主に出来事の説明や主観的な感情の報告によって表現されているのに対し、文献では、著者はキャラクターが何をしているかを記述し、解釈を読者に任せることを好む。
論文 参考訳（メタデータ） (2021-07-27T15:53:25Z) - A Circular-Structured Representation for Visual Emotion Distribution
Learning [82.89776298753661]
視覚的感情分布学習に先立つ知識を活用するために,身近な円形構造表現を提案する。
具体的には、まず感情圏を構築し、その内にある感情状態を統一する。
提案した感情圏では、各感情分布は3つの属性で定義される感情ベクトルで表される。
論文 参考訳（メタデータ） (2021-06-23T14:53:27Z) - Enhancing Cognitive Models of Emotions with Representation Learning [58.2386408470585]
本稿では,きめ細かな感情の埋め込み表現を生成するための,新しいディープラーニングフレームワークを提案する。
本フレームワークは,コンテキスト型埋め込みエンコーダとマルチヘッド探索モデルを統合する。
本モデルは共感対話データセット上で評価され,32種類の感情を分類する最新結果を示す。
論文 参考訳（メタデータ） (2021-04-20T16:55:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。