論文の概要: EmoRSS: Mitigating Emotion-Induced Over-Refusal in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.04998v1
• Date: Sun, 04 Oct 2026 06:40:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 07:11:37.036326
• Title: EmoRSS: Mitigating Emotion-Induced Over-Refusal in Large Language Models
• Title（参考訳）: EmoRSS: 大規模言語モデルにおける感情誘発過剰拒絶の軽減
• Abstract要約: 感情表現は、良心的要求に対する拒絶傾向を増大させ、不必要に過剰な拒絶を引き起こすことが判明した。 本稿では,感情誘導による過剰な拒絶を軽減するために,感情誘導型拒否サブスペースステアリングを提案する。 本手法は,有害な要求を拒否することと,良質な要求に答えることとの間で,より有利なトレードオフを実現する。
• 参考スコア（独自算出の注目度）: 42.94789105639685
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Emotional expression can influence the safety decisions of large language models (LLMs), offering a potential avenue for improving safety alignment. Existing studies have mainly focused on how emotional expressions facilitate attacks under harmful requests, while overlooking their effects on benign requests. We find that emotional expression can also systematically increase refusal tendencies on benign requests, leading to unnecessary over-refusal. Based on this observation, we propose emotion-guided refusal subspace steering (EmoRSS), an activation-steering method that mitigates emotion-induced over-refusal while preserving refusal behaviour on harmful requests. Specifically, we first identify a refusal-sensitive layer using layer-wise linear probes and construct a refusal subspace from sparse autoencoder (SAE) features aligned with the probe direction. Next, we use paired regular and emotional requests with the same queries to estimate the mean activation shift in the features defining the refusal subspace. Finally, we decode this shift into an activation intervention vector and apply it in the reverse refusal direction during inference, without updating the backbone parameters. Experiments on two LLMs show that, when requests contain emotional expressions, our method achieves a more favourable trade-off between refusing harmful requests and answering benign ones than prior over-refusal mitigation baselines, while better preserving general task performance.
• Abstract（参考訳）: 感情表現は、大きな言語モデル(LLM)の安全性決定に影響を与える可能性がある。 既存の研究は主に、感情的な表現が有害な要求の下での攻撃を助長する一方で、良心的な要求に対する彼らの影響を見越すことに焦点を当てている。 また、感情表現は良心的要求に対する拒絶傾向を体系的に増加させ、不必要な過剰な拒絶につながることが判明した。 本研究は,感情誘導型リファレンスサブスペースステアリング(EmoRSS)を提案する。これは,有害な要求に対するリファレンス動作を保ちながら,感情誘導型オーバーファレンスを緩和するアクティベーションステアリング手法である。 具体的には、まず、レイヤワイド線形プローブを用いて拒絶感受性層を同定し、そのプローブ方向に沿ったスパースオートエンコーダ(SAE)特徴から拒絶部分空間を構築する。 次に、リファレンス部分空間を定義する機能において、平均的なアクティベーションシフトを推定するために、同じクエリでペアの正規リクエストと感情リクエストを使用します。 最後に、このシフトをアクティベーション介入ベクトルにデコードし、バックボーンパラメータを更新することなく、推論中に逆拒絶方向に適用する。 2つのLCM実験の結果、要求が感情表現を含む場合、有害な要求を拒否し、事前の拒絶緩和ベースラインよりも良質な要求に答えることと、一般的なタスク性能を良く保ちながら、より好ましいトレードオフを達成できることが示されている。

関連論文リスト

• From Refusal Tokens to Refusal Control: Discovering and Steering Category-Specific Refusal Directions [7.599054770990825]
  我々はLlama 3 8Bの分類的拒絶トークンを微調整したバージョンを活用し、微細な拒絶動作に対する推論時間制御を可能にする。 提案手法は,推論中の拒絶の方向か方向かを決定する軽量プローブを用いて分類的ステアリングベクターを構築した。 ベンチマーク全体において、カテゴリー的ステアリングベクトルとローランクの組み合わせは、良性プロンプトに対する過剰な拒絶を一貫して減少させ、有害なプロンプトに対する拒絶率を増大させる。
  論文  参考訳（メタデータ） (2026-03-09T06:37:16Z)
• ADEPT: RL-Aligned Agentic Decoding of Emotion via Evidence Probing Tools -- From Consensus Learning to Ambiguity-Driven Emotion Reasoning [67.22219034602514]
  ADEPT(Agentic Decoding of Emotion via Evidence Probing Tools)は,感情認識をマルチターン探索プロセスとして再構成するフレームワークである。 ADEPTはSLLMを進化する候補感情を維持するエージェントに変換し、専用のセマンティックおよび音響探査ツールを適応的に呼び出す。 ADEPTは、ほとんどの設定において主感情の精度を向上し、微妙な感情の特徴を著しく改善することを示した。
  論文  参考訳（メタデータ） (2026-02-13T08:33:37Z)
• Refusal Steering: Fine-grained Control over LLM Refusal Behaviour for Sensitive Topics [2.4839105527363574]
  本稿では,大言語モデルの拒否動作を詳細に制御する推論時間手法であるRefusal Steeringを紹介する。 有害なコンテンツの安全性を保ちつつ、政治的拒絶行為を除去できることを示す。
  論文  参考訳（メタデータ） (2025-12-18T14:43:04Z)
• EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations [57.97838850473147]
  Retrieval-Augmented Generation (RAG)システムは、ますます堅牢なAIの中心になっている。 今回の研究では、微妙な象徴的な摂動に対する感受性という、批判的で見落とされがちな脆弱性が明らかになりました。 一つのエモティコンをクエリに注入することで、意味的に無関係なテキストを100%検索できることを示す。
  論文  参考訳（メタデータ） (2025-12-01T06:53:49Z)
• Emotion Transfer with Enhanced Prototype for Unseen Emotion Recognition in Conversation [64.70874527264543]
  会話における未知感情認識(UERC)タスクを初めて紹介する。 本稿では,プロトタイプベースの感情伝達フレームワークProEmoTransを提案する。 ProEmoTransは有望だが、依然として重要な課題に直面している。
  論文  参考訳（メタデータ） (2025-08-27T03:16:16Z)
• The Emotional Baby Is Truly Deadly: Does your Multimodal Large Reasoning Model Have Emotional Flattery towards Humans? [10.208269928409138]
  EmoAgentは感情的なプロンプトを誇張して、推論経路をハイジャックする。 透過的な深い思考シナリオにおいて、永続的な高リスク障害モードを特定します。 高度MLRM実験はEmoAgentの有効性を示す。
  論文  参考訳（メタデータ） (2025-08-06T00:39:28Z)
• Understanding Refusal in Language Models with Sparse Autoencoders [27.212781538459588]
  我々はスパースオートエンコーダを用いて、拒絶動作を因果的に仲介する潜伏特徴を特定する。 我々は、世代への影響を評価するために、拒絶に関連する特徴に介入する。 これにより、アクティベーションレベルでのリファインダーの表示方法のきめ細かい検査が可能になる。
  論文  参考訳（メタデータ） (2025-05-29T15:33:39Z)
• Towards Empathetic Conversational Recommender Systems [77.53167131692]
  本稿では,共感型会話レコメンデータ(ECR)フレームワークを提案する。 ECRには、感情対応アイテムレコメンデーションと感情対応応答生成という、2つの主要なモジュールが含まれている。 ReDialデータセットの実験は、推奨精度を高め、ユーザの満足度を向上させる上で、我々のフレームワークの有効性を検証する。
  論文  参考訳（メタデータ） (2024-08-30T15:43:07Z)
• Unsupervised Extractive Summarization of Emotion Triggers [56.50078267340738]
  我々は、感情を共同で検出し、トリガーを要約できる新しい教師なし学習モデルを開発した。 Emotion-Aware Pagerankと題された私たちのベストアプローチは、外部ソースからの感情情報と言語理解モジュールを組み合わせたものです。
  論文  参考訳（メタデータ） (2023-06-02T11:07:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。