論文の概要: Empathy Is Steerable but Multi-Axial: Mechanism Geometry and Persona Effects in LLMs
- arxiv url: http://arxiv.org/abs/2609.15654v1
- Date: Mon, 14 Sep 2026 14:37:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 12:40:38.846764
- Title: Empathy Is Steerable but Multi-Axial: Mechanism Geometry and Persona Effects in LLMs
- Title（参考訳）: 共感は安定しているが多軸的:LLMにおけるメカニズム幾何学とペルソナ効果
- Abstract要約: アクティベーションステアリングは、誠実さ、拒絶、薬効などの特性を制御するために使われてきた。
EPITOMEフレームワークを用いて、支援的共感を感情反応、解釈、探索に分解する。
対照的なアクティベーション付加は、EPITOMEプロキシスコアを常にシフトする安定した中間層介入をもたらす。
- 参考スコア（独自算出の注目度）: 5.8363441532646485
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Activation steering has been used to control traits such as honesty, refusal, and sycophancy, yet supportive empathy is evaluated along multiple dimensions that need not correspond to independently controllable activation directions. Using the EPITOME framework, which decomposes supportive empathy into Emotional Reactions, Interpretations, and Explorations, we study three instruction-tuned LLMs and ask whether candidate directions derived from these labels produce distinguishable intervention effects or instead share structure, and how persona prompts interact with those directions. We find that contrastive activation addition yields a stable middle-layer intervention that consistently shifts the EPITOME proxy scores across models, moving empathy analysis beyond response-level scoring. However, the recovered directions are only partially separable: steering one direction induces off-target shifts, and hand-crafted prompting shifts the empathy profile rather than isolating a single dimension. Persona prompts substantially change EPITOME scores, but a paired activation-shift decomposition shows that the recovered subspace captures only approximately 3 percent of persona-induced squared activation-shift magnitude at layer 15. Under this EPITOME-based definition, expressed empathy is steerable but multi-axial, and controlling persona-conditioned empathy requires targeting structure beyond individual mechanism directions.
- Abstract（参考訳）: アクティベーションステアリングは、誠実さ、拒絶、サイコファシーなどの特性を制御するために使われてきたが、独立した制御可能なアクティベーション方向に対応できない複数の次元に沿って支持的な共感が評価されている。
感情反応,解釈,探索に支援的共感を分解するEPITOMEフレームワークを用いて,これらのラベルから導かれる候補方向が識別可能な介入効果を生じるか,その代わりに構造を共有するか,ペルソナがそれらの方向性とどのように相互作用するかを問う。
対照的なアクティベーション追加は、EPITOMEプロキシスコアをモデル間で一貫してシフトさせ、応答レベルスコアを超えて共感分析を移動させる安定した中間層介入をもたらす。
片方向の操舵は目標外シフトを誘導し、手作りのプロンプトは単一の次元を分離するのではなく共感プロファイルをシフトさせる。
ペルソナはEPITOMEのスコアを実質的に変化させるが、ペア化されたアクティベーションシフト分解により、回収されたサブスペースは15層でペルソナによって誘導される2乗アクティベーションシフトの約3%しか捕捉しないことが示された。
このEPITOMEに基づく定義では、表現された共感は操縦可能であるが、多軸であり、ペルソナ条件の共感を制御するには、個々のメカニズムの方向を超えるターゲティング構造が必要である。
関連論文リスト
- How Affect Propagates among LLM Agents: Emergent Emotional Contagion in Crowd Simulation [0.0]
マルチエージェント群シミュレーションにおいて, 相互に認知・評価するエージェント間の影響について検討した。
このアーキテクチャは、エージェント間で直接感情状態を転送する手作業によるメカニズムは含まない。
スパース,小集団における空間的・時間的・人格的依存的な構造を持つ感情的伝染動態を創出することを示す。
論文 参考訳（メタデータ） (2026-07-27T23:22:17Z) - When Cognitive Graphs Meet LLMs: BDEI Cognitive Pathways for Panic Emotional Arousal Prediction [20.38395886496368]
積極的緊急介入には,個別のパニック感情の覚醒タイミングの予測が不可欠である。
既存の方法は認知要素を含むが、感情的な覚醒過程を明示的にモデル化するものではない。
この過程を明示的にモデル化するため,評価感情理論の基盤となる予測が必要であると論じる。
論文 参考訳（メタデータ） (2026-06-13T05:23:00Z) - Exploitation Without Deception: Dark Triad Feature Steering Reveals Separable Antisocial Circuits in Language Models [0.0]
我々は、Dark Triadの性格特性を増幅するために、解離オートエンコーダ(SAE)を用いる。
5つの心理的指標の行動変化を評価する。
発見は、少なくとも1つの大きな言語モデルにおける反社会的傾向は、統一された構成ではなく、解離可能な構成要素から構成されていることを示唆している。
論文 参考訳（メタデータ） (2026-05-10T21:36:31Z) - EMPA: Evaluating Persona-Aligned Empathy as a Process [2.6558732808569805]
EMPAはプロセス指向のフレームワークであり、個別の応答よりも持続的な介入としてペルソナによるサポートを評価する。
実際の相互作用を、制御可能で心理的に根拠付けられたシナリオに蒸留する。
横方向のアライメント、累積的な影響、安定性によって、潜在心理学空間における軌跡をスコアする。
論文 参考訳（メタデータ） (2026-02-28T09:04:06Z) - PERSONA: Dynamic and Compositional Inference-Time Personality Control via Activation Vector Algebra [84.59328460968872]
大規模言語モデルにおけるパーソナリティ制御の現在の手法は、静的なプロンプトや高価な微調整に依存している。
ペルソナ(PERSONA)は、人格ベクトルを直接操作することで、微調整レベルのパフォーマンスを実現する訓練不要のフレームワークである。
PersonalityBenchでは、この手法は平均スコア9.60を達成し、教師付き微調整上界9.61とほぼ一致している。
論文 参考訳（メタデータ） (2026-02-17T15:47:58Z) - ADEPT: RL-Aligned Agentic Decoding of Emotion via Evidence Probing Tools -- From Consensus Learning to Ambiguity-Driven Emotion Reasoning [67.22219034602514]
ADEPT(Agentic Decoding of Emotion via Evidence Probing Tools)は,感情認識をマルチターン探索プロセスとして再構成するフレームワークである。
ADEPTはSLLMを進化する候補感情を維持するエージェントに変換し、専用のセマンティックおよび音響探査ツールを適応的に呼び出す。
ADEPTは、ほとんどの設定において主感情の精度を向上し、微妙な感情の特徴を著しく改善することを示した。
論文 参考訳（メタデータ） (2026-02-13T08:33:37Z) - From Latent Signals to Reflection Behavior: Tracing Meta-Cognitive Activation Trajectory in R1-Style LLMs [48.33546389897804]
R1型LPMは自己反射の能力に注目が集まっているが、そのような行動の基盤となる内部メカニズムはいまだ不明である。
logitレンズを使ってトークンレベルのセマンティクスを読み取ると、構造化された進行が明らかになる。
以上の結果から,潜時モニタリングから談話レベルの規制,そして最終的に自己回帰を過大化させる,人間的なメタ認知プロセスの進展が示唆された。
論文 参考訳（メタデータ） (2026-02-02T11:58:24Z) - Psychological Steering in LLMs: An Evaluation of Effectiveness and Trustworthiness [14.523351279184356]
本研究は, プロンプト, 微調整, 表現工学など, 様々な操舵戦略と組み合わせたLLMファミリーの4つのモデルにまたがる。
また, ベクトル注入は出力品質をわずかに低下させつつ, より細かい制御性を実現するのに対し, プロンプトは一貫して有効であるが, 強度制御に制限があることを示す。
本フレームワークは,感情と人格のステアリングを総合的に評価し,社会的対話型アプリケーションにおけるその解釈可能性と信頼性に関する洞察を提供する。
論文 参考訳（メタデータ） (2025-10-06T04:49:56Z) - The Personality Illusion: Revealing Dissociation Between Self-Reports & Behavior in LLMs [60.15472325639723]
人格特性は、人間の行動の予測因子として長い間研究されてきた。
近年のLarge Language Models (LLM) は, 人工システムに類似したパターンが出現する可能性を示唆している。
論文 参考訳（メタデータ） (2025-09-03T21:27:10Z) - Seeking Subjectivity in Visual Emotion Distribution Learning [93.96205258496697]
視覚感情分析(VEA)は、人々の感情を異なる視覚刺激に向けて予測することを目的としている。
既存の手法では、集団投票プロセスにおいて固有の主観性を無視して、統合されたネットワークにおける視覚的感情分布を予測することが多い。
視覚的感情分布の主観性を調べるために,新しいテキストサブジェクティビティ評価ネットワーク(SAMNet)を提案する。
論文 参考訳（メタデータ） (2022-07-25T02:20:03Z) - A Circular-Structured Representation for Visual Emotion Distribution
Learning [82.89776298753661]
視覚的感情分布学習に先立つ知識を活用するために,身近な円形構造表現を提案する。
具体的には、まず感情圏を構築し、その内にある感情状態を統一する。
提案した感情圏では、各感情分布は3つの属性で定義される感情ベクトルで表される。
論文 参考訳（メタデータ） (2021-06-23T14:53:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。