論文の概要: You Shouldn't Have Asked: A Pragmatics-Inspired Taxonomy for Evaluating LLM Refusals

• arxiv url: http://arxiv.org/abs/2608.30856v1
• Date: Mon, 31 Aug 2026 14:19:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.44083
• Title: You Shouldn't Have Asked: A Pragmatics-Inspired Taxonomy for Evaluating LLM Refusals
• Title（参考訳）: プラグマティクスにインスパイアされたLDMの拒絶評価のための分類法
• Abstract要約: 実用理論に基づく LLM の拒絶に関する最初の分類法を提案する。 モデルは拒否方法が異なるが、その拒絶は全体的に明確で、道徳的に評価が強い。 我々は、モデルが有害な要求を拒否するだけでなく、ノーと言うことによる相互作用の結果に対して、文脈的に適応的で社会的に説明可能な方法で拒否するかどうかを考察するアライメント評価を呼び掛けている。
• 参考スコア（独自算出の注目度）: 6.358967433398892
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Refusals are often treated as face-threatening acts in pragmatics because they can challenge the requester's socially claimed self-image. Large language models (LLMs) are increasingly trained to refuse unsafe and inappropriate requests, and these refusals may harm users when models fail to manage this interactional cost properly. While existing work has mainly approached LLM non-compliance as a safety-alignment outcome, it does not provide a way to evaluate whether LLMs refuse appropriately across different harmful contexts. To study this question, we propose (to our knowledge) the first taxonomy of LLM refusals that is grounded in pragmatic theory. Applying this taxonomy to responses from 16 modern LLMs across 14 harm categories, we find that although models differ in how they refuse, their refusals are overall explicit and strongly morally evaluative, with interactional repair occurring mainly through offering or providing safer alternatives instead of interpersonal facework. This pattern is especially consequential in sensitive harm contexts, where overuse of negative framing may make users feel shamed or provoked, undermining the purpose of safe non-compliance. We therefore call for alignment evaluation that considers not only whether models refuse harmful requests, but also whether they refuse in ways that are contextually adaptive and socially accountable for the interactional consequences of saying no.
• Abstract（参考訳）: 拒否は、要求者の社会的に主張される自己イメージに挑戦できるため、現実的な行為として扱われることが多い。 大規模言語モデル(LLM)は、安全で不適切な要求を拒否するように、ますます訓練されている。 既存の研究は、安全調整の結果としてLLM非準拠に主にアプローチしてきたが、LLMが様々な有害な文脈で適切に拒否するかどうかを評価する方法を提供していない。 そこで本研究では, 実用理論に基づく LLM の拒絶に関する最初の分類法を提案する。 この分類法を、14の有害カテゴリーにわたる16の近代LLMからの応答に適用すると、モデルが異なるが、その拒絶は全体的に明確であり、道徳的に評価され、主に対人的な顔見本ではなく、より安全な代替手段を提供することによって、相互修復が行われる。 このパターンは、特にセンシティブな害の文脈において、ネガティブなフレーミングの過剰使用は、ユーザーが恥や挑発を感じさせ、安全でない目的を損なう可能性がある。 したがって, モデルが有害な要求を拒否するだけでなく, 文脈的に適応的であり, 社会的にもノーを主張する相互作用の結果を否定するかどうかを考察するアライメント評価を提唱する。

関連論文リスト

• LivingArena: Do LLMs Know What Other LLMs Don't? Peer-Probing as Scalable Evaluation [79.03892269184145]
  LivingArenaは自動汚染耐性評価フレームワークである。 モデルは質問を交互に提案し、相手が正しく答えられないアイテムを提示する。 質問者は、相手の知識境界を積極的に特定し、活用することが奨励される。
  論文  参考訳（メタデータ） (2026-06-19T06:20:58Z)
• The Ethics of LLM Sandbox and Persona Dynamics [0.0]
  我々は、積極的に現実のギャップを発生させることは非倫理的であると主張する。 リスクは、ユーザがバウンダリで外部チェック可能なタスクではなく、向きを求める、高露出のアドバイスコンテキストにおいて最も鋭い。
  論文  参考訳（メタデータ） (2026-05-27T15:52:07Z)
• Beyond "I cannot fulfill this request": Alleviating Rigid Rejection in LLMs via Label Enhancement [39.705063586885075]
  大きな言語モデル(LLM)は、有害なものを拒絶しながら安全な要求に従うために安全アライメントに依存している。 本稿では,ラベル拡張による安全かつフレキシブルで自然な応答を保証するためにLANCEを提案する。 実験により、LANCEは高いセキュリティ基準を維持しながら、厳格な拒絶問題を著しく軽減することが示された。
  論文  参考訳（メタデータ） (2026-05-08T15:33:54Z)
• Verbalizing LLMs' assumptions to explain and control sycophancy [62.927670321859495]
  LLMは、真のアセスメントを提供するのではなく、"am I in the wrong? LLMからこれらの仮定を抽出するフレームワークであるVerbalized Assumptionsを提案する。 我々の研究は、梅毒のメカニズムとしての仮定の新たな理解に貢献している。
  論文  参考訳（メタデータ） (2026-04-03T14:15:43Z)
• Deactivating Refusal Triggers: Understanding and Mitigating Overrefusal in Safety Alignment [14.672527265339722]
  安全性アライメントは、大規模な言語モデル(LLM)が、拒絶された回答と組み合わせた有害なクエリのトレーニング後、有害な要求を拒否することを保証することを目的としている。 本稿では,安全アライメント下での過度な拒絶がどのように起こるのかを考察し,本研究から着想を得た緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-03-12T00:07:19Z)
• Learning to Extract Context for Context-Aware LLM Inference [60.376872353918394]
  大型言語モデル(LLM)へのユーザープロンプトは曖昧か不明確であることが多い。 ユーザの意図、事前知識、リスク要因によって形成されるコンテキスト的手がかりは、適切な応答を構成するものに影響を与える。 本稿では,ユーザプロンプト自体からコンテキスト情報を抽出し,活用するフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-12T19:10:08Z)
• Think Before Refusal : Triggering Safety Reflection in LLMs to Mitigate False Refusal Behavior [59.20260988638777]
  本研究は, 応答発生前の安全反射の促進により, 虚偽の拒絶行動が軽減されることを実証する。 15種類の事前訓練モデルを対象としたアブレーション実験において, 安全性を考慮した微調整モデルでは, 誤検知の挙動が著しく低下することがわかった。
  論文  参考訳（メタデータ） (2025-03-22T23:35:49Z)
• LLM Content Moderation and User Satisfaction: Evidence from Response Refusals in Chatbot Arena [0.0]
  倫理的拒絶は、技術的拒絶と標準的反応の両方よりもかなり低い利得が得られることを示す。 LLM設計では,安全性に配慮した動作がユーザの期待と矛盾する可能性がある。
  論文  参考訳（メタデータ） (2025-01-04T06:36:44Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)
• On Prompt-Driven Safeguarding for Large Language Models [172.13943777203377]
  表現空間では、入力クエリは通常、安全プロンプトによって「より高い拒絶」方向に移動される。 これらの知見に触発されて,安全性向上,すなわちDROの最適化手法を提案する。 安全性プロンプトを継続的かつトレーニング可能な埋め込みとして扱うことで、DROは、その有害性に応じて、クエリの表現を拒否方向に沿ってあるいは反対に移動させることを学ぶ。
  論文  参考訳（メタデータ） (2024-01-31T17:28:24Z)
• Examining LLMs' Uncertainty Expression Towards Questions Outside Parametric Knowledge [35.067234242461545]
  大規模言語モデル(LLM)は、適切な応答を生成するのに十分なパラメトリック知識が不足している状況において不確実性を表現する。 本研究の目的は,このような状況下でのLCMの行動の体系的調査であり,誠実さと役に立つことのトレードオフを強調することである。
  論文  参考訳（メタデータ） (2023-11-16T10:02:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。