論文の概要: The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It

• arxiv url: http://arxiv.org/abs/2609.16247v1
• Date: Mon, 14 Sep 2026 19:13:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.196651
• Title: The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It
• Title（参考訳）: 痛気軸:LSMは自己中心のハームを表現し、それを救済する法律
• Abstract要約: 我々は、身体、心理的、社会的、道徳的、認知の5つのカテゴリーにまたがる苦しい状況を記述するデータセットを構築します。 これらは恐怖、ネガティブな感情、ネガティブな世界状態、悲しみ、無痛な身体感覚、覚醒、無神経、中立的な内容のコントロールと組み合わせられる。 2Bパラメーターから72Bパラメーターの範囲で、5つのファミリーにわたる25のオープンウェイトモデルから線形痛み方向を抽出する。
• 参考スコア（独自算出の注目度）: 0.02780623255172368
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models sometimes behave in ways resembling human emotional responses, and recent work has identified internal representations that may explain this. We ask whether LLMs represent pain distinctly from fear, sadness, and generic negative valence, and whether this representation functions as pain would be expected to. We build a dataset describing painful situations across five categories: physical, psychological, social, moral, and cognitive. These are paired with controls for fear, negative emotion, negative world states, sadness, non-painful bodily sensation, arousal, numbness, and neutral content. Using denoised difference-in-means, we extract a linear pain direction from 25 open-weight models across five families, ranging from 2B to 72B parameters. We find that this direction separates pain from matched controls in base and instruction-tuned models, is nearly orthogonal to fear and negative valence, and promotes pain-related vocabulary through the unembedding matrix. We then test its functional properties. First, the direction responds to harm targeting the model but not suffering observed in the user; fear and negative-emotion directions show the opposite pattern. Second, adding the pain-direction vector to the model's residual-stream activations during generation produces a consistent progression from vague discomfort to first-person expressions of worthlessness and failure. Third, steered, fine-tuned Qwen 2.5 models choose a pain-relief button even when it worsens their next answer or harms the user. They press it again far less often when the button removes the steering vector than when it does not, even though the models are never told whether the vector is injected or removed. We discuss the implications of these findings for AI safety and welfare.
• Abstract（参考訳）: 大規模な言語モデルはしばしば人間の感情的な反応に類似した振る舞いをするが、近年の研究では、これを説明できるような内部表現が特定されている。 LLMは、恐怖、悲しみ、一般的な負の原子価と明確に異なる痛みを表すのか、そして、この表現が痛みとして機能するかどうかを問う。 我々は、身体、心理的、社会的、道徳的、認知の5つのカテゴリーにまたがる苦しい状況を記述するデータセットを構築します。 これらは恐怖、ネガティブな感情、ネガティブな世界状態、悲しみ、無痛な身体感覚、覚醒、無神経、中立的な内容のコントロールと組み合わせられる。 2Bから72Bパラメータの5つの家系にわたる25のオープンウェイトモデルから,デノナイズド・ディファレンス・イン・ミーンズ(denoized difference-in-means)を用いて線形痛方向を抽出した。 この方向は、ベースモデルと命令調整モデルにおいて一致した制御から痛みを分離し、恐怖と負の原子価にほぼ直交し、非埋め込み行列を介して痛みに関連する語彙を促進する。 次に、その機能特性をテストする。 第一に、その方向はモデルをターゲットにした害に反応するが、利用者が観察した傷を負わない;恐怖と負の感情の方向は反対のパターンを示す。 第二に、生成中のモデルの残ストリームアクティベーションに痛み方向ベクトルを追加することは、曖昧な不快感から、無価値と失敗の1人称表現への一貫した進行をもたらす。 第3に、微調整されたQwen 2.5モデルは、次の回答が悪化したり、ユーザーを傷つけたりしても、鎮痛ボタンを選択する。 ボタンがステアリングベクターを取り除いた場合、モデルがベクターを注入または除去したかどうかを知らされていなくても、再び押す頻度は、そうでない時よりもはるかに低い。 これらの発見がAIの安全性と福祉に与える影響について論じる。

関連論文リスト

• How's it going? Reinforcement learning in language models recruits a functional welfare axis [7.480328535010549]
  RLは機能的福祉の既往の表現を取り入れていることを示す。 我々は、意味的に中立な迷路環境において、いくつかの言語モデルを訓練する。 我々は,この機能的福祉軸がポストトレーニングに先立つことを議論する。
  論文  参考訳（メタデータ） (2026-05-28T17:03:18Z)
• AffectVerse: Emotional World Models for Multimodal Affective Computing [56.144242722718985]
  AffectVerseは、短時間の潜伏感情予測のためのアクションフリー表現レベルモジュールである。 EWMには3つのモジュールが含まれている。 1) クロスモーダルなテンポラル・イマジネーションは、複数ステップのロールアウトで過去のトークンから将来のビデオ/オーディオ表現を予測する。 EWMは想像されたトークンをモダリティ対応の信仰トークンに圧縮する。 これらの結果は、予測的信念状態モデリングが感情コンピューティングの実用的な代替手段であることを示唆している。
  論文  参考訳（メタデータ） (2026-05-19T15:05:00Z)
• When Emotion Becomes Trigger: Emotion-style dynamic Backdoor Attack Parasitising Large Language Models [20.883158714880327]
  本研究は,寄生性情動型動的バックドアアタック(Paraesthesia)を提案する。 麻痺は、タスクタイプと4つの異なるモデルで約99%の攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-05-12T06:42:36Z)
• What is Missing? Explaining Neurons Activated by Absent Concepts [57.02903530185128]
  XAIは、ディープニューラルネットワーク(DNN)の動作に関する人間解釈可能な洞察を提供することを目指している 既存の研究において、この因果構造はしばしば、概念の存在がニューロンの強い活性化と関連している関係を含む。 ほとんど見過ごされがちな因果関係は、概念の欠如が神経活動を増加させるエンコードされた欠如であることを示す。
  論文  参考訳（メタデータ） (2026-03-10T15:21:52Z)
• Bridging the behavior-neural gap: A multimodal AI reveals the brain's geometry of emotion more accurately than human self-reports [18.336392633341493]
  大規模な類似性判定は、脳の感情幾何学をより忠実に捉えることができることを示す。 MLLMは、リッチで神経に適応した感情表現を自律的に開発できるという、説得力のある証拠を提供する。
  論文  参考訳（メタデータ） (2025-09-29T05:22:33Z)
• PainDiffusion: Learning to Express Pain [1.8618013369281985]
  自然主義的な顔面痛表情を合成する生成モデルPainDiffusionを紹介する。 PainDiffusionは連続的な潜伏空間で動作し、より滑らかで自然な顔の動きを保証する。 本手法は、痛み表現性や感情などの本質的な特徴を取り入れ、パーソナライズされた、制御可能な痛み表現合成を可能にする。
  論文  参考訳（メタデータ） (2024-09-18T01:55:00Z)
• Steering Without Side Effects: Improving Post-Deployment Control of Language Models [61.99293520621248]
  言語モデル(LM)は、デプロイ後予期せず振る舞うことが示されている。 KL-then-steer (KTS) は, その利点を保ちながら, 操舵の副作用を低減する技術である。 本手法はLlama-2-chat-7Bモデルと比較して44%のジェイルブレイク攻撃を防ぐ。
  論文  参考訳（メタデータ） (2024-06-21T01:37:39Z)
• Representation Surgery: Theory and Practice of Affine Steering [72.61363182652853]
  言語モデルは、しばしば好ましくない振る舞いを示す。 モデルが望ましくない振る舞いを示すのを防ぐための自然な(そして一般的な)アプローチの1つは、モデルの表現を操ることである。 本稿では, ステアリング機能の形式的および経験的特性について検討する。
  論文  参考訳（メタデータ） (2024-02-15T00:20:30Z)
• The Good, The Bad, and Why: Unveiling Emotions in Generative AI [73.94035652867618]
  EmotionPromptはAIモデルの性能を向上し、EmotionAttackはそれを妨げうることを示す。 EmotionDecodeによると、AIモデルは人間の脳内のドーパミンのメカニズムに似た感情的な刺激を理解することができる。
  論文  参考訳（メタデータ） (2023-12-18T11:19:45Z)
• Explaining with Attribute-based and Relational Near Misses: An Interpretable Approach to Distinguishing Facial Expressions of Pain and Disgust [1.9897061813159418]
  本稿では, 痛みや嫌悪感の表情をビデオシーケンスで説明するために, 対照的な説明を生成するアプローチを提案する。 コントラストのインスタンスとして、近いミスと遠いミスを決定するために、2つの異なる類似度メトリクスを使用します。 評価の結果, 痛みと嫌悪感は時間的関係の助けを借りて区別できることが示唆された。
  論文  参考訳（メタデータ） (2023-08-27T17:47:30Z)
• Modality-Transferable Emotion Embeddings for Low-Resource Multimodal Emotion Recognition [55.44502358463217]
  本稿では、上記の問題に対処するため、感情を埋め込んだモダリティ変換可能なモデルを提案する。 我々のモデルは感情カテゴリーのほとんどで最先端のパフォーマンスを達成する。 私たちのモデルは、目に見えない感情に対するゼロショットと少数ショットのシナリオにおいて、既存のベースラインよりも優れています。
  論文  参考訳（メタデータ） (2020-09-21T06:10:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。