論文の概要: Emotion Is Not External Knowledge: Internal Attention Signals for Affective State Reasoning

• arxiv url: http://arxiv.org/abs/2610.21347v1
• Date: Thu, 15 Oct 2026 06:29:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.220791
• Title: Emotion Is Not External Knowledge: Internal Attention Signals for Affective State Reasoning
• Title（参考訳）: 感情は外部の知識ではない:感情的状態推論のための内部注意信号
• Abstract要約: トピックシフト後に関連性を残した疎文脈的手がかりから推定される暗黙の状態としての情緒的状態について検討した。 それまでの注意介入は、ラベル付きドメイン内ヘッドプロファイルと外部に指定されたターゲットスパンに依存していた。 本稿では, 疎い感情の頭部を因果的局所化により局所化する自己目標内部注意促進法(SIAB)を提案する。
• 参考スコア（独自算出の注目度）: 8.053570040188601
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) increasingly operate in multi-turn interactions that require maintaining latent conversational states, not only explicit facts. We study affective state as an implicit state inferred from sparse contextual cues that remain relevant after topic shifts, and ask whether LLMs expose internal attention signals for routing such evidence at inference time. Prior attention interventions rely on labeled in-domain head profiles and externally specified target spans, limiting transfer across affective-evidence distributions. We propose Self-targeted Internal Attention Boosting (SIAB), which localizes sparse affective heads via causal localization (in detail activation patching) on synthetic minimal pairs and boosts, at the answer position, the content tokens these heads already attend to; both edited heads and target tokens are derived from the model's own behavior, enabling the same head set to be reused across tasks.We evaluate on ECC and GoEmotions across three LLMs and multiple prompting settings. Across settings, SIAB improves prompt-matched baselines by up to +10.3 macro-F1 on ECC and +5.5 on GoEmotions. Combined with PASTA-style external supervision, it achieves up to +13.84 accuracy points and +12.51 macro-F1 points, while mechanistic analyses trace the gains to sparse, emotion-enriched heads and show that layer proximity affects additivity.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、明示的な事実だけでなく、潜在的な会話状態の維持を必要とするマルチターンインタラクションにおいてますます機能する。 トピックシフト後に関連性を有する疎度な文脈的手がかりから推定される暗黙の状態として情緒状態について検討し、LLMがそのような証拠を推測時にルーティングするために内部の注意信号を公開するかどうかを問う。 以前の注意介入は、ラベル付きドメイン内ヘッドプロファイルと外部に指定されたターゲットスパンに依存しており、感情のエビデンス分布間の移動を制限する。 そこで本研究では, 自己ターゲット型内的注意力増強法(SIAB)を提案し, 因果的局所化(詳細アクティベーションパッチ)による感情的頭部の局所化と, 応答位置において, それらの頭部がすでに参加しているコンテントトークン, 編集された頭部とターゲットトークンの両方がモデル自身の振る舞いから導出され, 同一の頭部をタスク間で再利用することが可能であり, ECCとGoEmotionsで3つのLLMおよび複数プロンプト設定で評価する。 SIABは設定全体にわたって、ECCでは+10.3マクロF1、GoEmotionsでは+5.5のプロンプトマッチングベースラインを改善している。 PASTAスタイルの外部監視と組み合わせて、最大で+13.84の精度点と+12.51のマクロF1の点を達成し、機械学的解析では、粗い感情に富んだ頭部まで上昇し、層の近接が添加性に影響を与えることを示した。

関連論文リスト

• Mind What Matters for Reasoning: Aligning Cross-Modal Attention via Selective Probability Mass Concentration [20.617578822182043]
  マルチモーダルな大規模言語モデル (MLLM) は視覚的推論タスクにおいて高い性能を達成するが、幻覚や言語先行への過度な依存は伴わない。 既存のアプローチは主に推論指向の監督や推論時の戦略を通じて推論を改善する。 本研究では,接地応答型頭部を識別し,テキスト・ツー・イメージの注意を選択的に調整する訓練フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-24T15:05:22Z)
• AffectOmni: RL-Verifiable People-Centric Grounded Affective Reasoning for Social and Art-Related Scenes [59.134503227559634]
  マルチモーダル大言語モデル(MLLM)は,VQAとシーン理解において高い性能を発揮する。 モデルは、マイクロ表現やボディランゲージのような人中心の手がかりを無視しながら、正しい答えを予測できる。 本稿では、感情的推論を検証可能なフレームワークであるAffect Omniを提案する。
  論文  参考訳（メタデータ） (2026-08-24T11:25:04Z)
• Causal Supervision of Attention for Affective Behaviour Analysis [5.611458864154039]
  textit11th Affective Behaviour Analysis in-the-wild Competitionにはマルチタスク学習チャレンジが含まれている。 課題は、主題全体にわたって一般化される感情に関連した表現を学習することにある。 本稿では、因果的監視と注意要素の相互共分散規則化を組み合わせた注意プールフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-13T19:11:33Z)
• Token-Based Affordance Grounding with Large Vision-Language Models [35.91429072589231]
  Affordance Groundingは、特定のアクションをサポートするイメージ領域をローカライズすることを目的としている。 TokAGはLVLMのトークンレベルの意味空間信号を利用して、外部の監視なしにアクション関連領域をローカライズする。
  論文  参考訳（メタデータ） (2026-07-03T20:34:42Z)
• See Only When Needed: Context-Aware Attention Intervention for Mitigating Hallucinations in LVLMs [81.71384150441163]
  大規模視覚言語モデル(LVLM)のためのコンテキスト認識注意介入(CAI)を提案する。 CAIは必要なときのみ2軸選択によってシーズを強制する。 複数のLVLMバックボーンとベンチマークの実験は、CAIが最先端の幻覚緩和を達成することを示している。
  論文  参考訳（メタデータ） (2026-06-29T06:35:47Z)
• ActiveScope: Actively Seeking and Correcting Perception for MLLMs [73.84325380140547]
  MLLM(Multimodal Large Language Models)は、高解像度画像における微細な認識に苦戦している。 本研究では,能動的に知覚を探索し,修正することにより,MLLMを強化したトレーニングフリーフレームワークであるActiveScopeを提案する。
  論文  参考訳（メタデータ） (2026-06-23T08:17:15Z)
• Attention Illuminates LLM Reasoning: The Preplan-and-Anchor Rhythm Enables Fine-Grained Policy Optimization [56.083511902353365]
  強化学習(Reinforcement Learning, RL)は、一般的に、大規模言語モデルの全世代にわたって一様クレジットを適用する。 この研究は、LSMの内部論理を推論自体の機械的青写真として描画する特権基板として注意を向けている。 クリティカルノードに対するターゲットクレジット割り当てを動的に行う3つの新しいRL戦略を導入する。
  論文  参考訳（メタデータ） (2025-10-15T13:49:51Z)
• Explaining multimodal LLMs via intra-modal token interactions [55.27436637894534]
  MLLM(Multimodal Large Language Models)は、様々な視覚言語タスクにおいて顕著な成功を収めているが、その内部決定機構は十分に理解されていない。 モーダル内相互作用を利用した解釈可能性の向上を提案する。
  論文  参考訳（メタデータ） (2025-09-26T14:39:13Z)
• REAL: Reading Out Transformer Activations for Precise Localization in Language Model Steering [26.428347164111926]
  推論時ステアリングは、パラメータを変更することなく、大きな言語モデルの応答を変更することを目的としている。 既存のアプローチはしばしば単純化的なキューやアドホックな一般化に依存している。 本稿では,Transformerモデルにおける振る舞い関連モジュールを識別するフレームワークであるREALを紹介する。
  論文  参考訳（メタデータ） (2025-06-10T02:16:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。