論文の概要: Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing

• arxiv url: http://arxiv.org/abs/2610.27908v1
• Date: Tue, 20 Oct 2026 09:22:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.740645
• Title: Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing
• Title（参考訳）: LLMの安全性における極性盲点--否定・アンソニー置換・反対フレームの体系的研究
• Abstract要約: NLPタスクとモダリティをまたいだ言語モデルでは、ネゲーションは依然として永続的な課題である。 文法的否定とアントニム置換という2種類の極性反転について検討し, 極性保存制御として同義語置換を用いる。 極性ブラインドネスは、最も評価されたモデルに影響を与え、最も脆弱なモデルでは平均的な害スコアが4.12に達する。
• 参考スコア（独自算出の注目度）: 9.93784626921896
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Negation remains a persistent challenge for language models across NLP tasks and modalities. We show that this weakness can undermine LLM safety guardrails through a structural vulnerability we term polarity blindness: the failure to recognize harmful intent after polarity-altering linguistic transformations. We study two forms of polarity inversion: grammatical negation and antonym replacement, and use synonym replacement as a polarity-preserving control. We further test whether an adversarial textual wrapper amplifies these failures. Using a 260-prompt benchmark across 10 state-of-the-art LLMs and 3 languages (English, Spanish, Czech), stratified by harmfulness potential and evaluated on a validated 0-5 harm scale, we find that polarity blindness affects most evaluated models, with mean harm scores reaching 4.12 for the most vulnerable model. The effect persists across typologically differing negation systems, suggesting that polarity blindness reflects a broader limitation in semantic robustness rather than a language- or grammar-specific failure.
• Abstract（参考訳）: NLPタスクとモダリティをまたいだ言語モデルでは、ネゲーションは依然として永続的な課題である。 この弱さは、極性変化後の有害な意図を認識できないという構造的脆弱性によって、LLMの安全ガードレールを損なう可能性があることを示す。 文法的否定とアントニム置換という2種類の極性反転について検討し, 極性保存制御として同義語置換を用いる。 さらに、逆テキストラッパーがこれらの失敗を増幅するかどうかを検証する。 10の最先端のLSMと3つの言語(英語、スペイン語、チェコ語)にまたがる260プロンプトのベンチマークを用いて、有害性ポテンシャルに階層化され、検証された0-5の有害度尺度で評価した結果、極性ブラインドが最も評価されたモデルに影響を与え、最も脆弱なモデルでは平均的害スコアが4.12に達することがわかった。 この効果は、タイプ論的に異なる否定システムにまたがって持続し、極性ブラインドネスは言語や文法固有の失敗よりも意味的堅牢性の幅広い制限を反映していることを示唆している。

関連論文リスト

• Do Language Models Encode Knowledge of Linguistic Constraint Violations? [6.1335559884409685]
  大規模言語モデル (LLM) は言語的性能は高いが、これらの予測を生成するための内部メカニズムはいまだに不明である。 本研究では,LLMが言語制約違反の表現をパラメータ内にエンコードし,非文法的な文を処理する際に選択的に活性化されるという仮説を考察する。 本稿では,制約違反と良好な入力に対して優先的に活性化される特徴を特定するための感度スコアを導入し,潜在的な違反固有の特徴の教師なし検出を可能にする。
  論文  参考訳（メタデータ） (2026-05-12T12:37:06Z)
• Mastering Negation: Boosting Grounding Models via Grouped Opposition-Based Learning [87.15765427638195]
  D-Negationは、ポジティブな意味記述とネガティブな意味記述の両方で注釈付けされたオブジェクトを提供する新しいデータセットである。 本稿では,限られたサンプルから否定認識表現を学習する,反抗型学習フレームワークを提案する。 モデルパラメータの10%未満を微調整することにより、正および負のセマンティック評価において最大4.4mAPおよび5.7mAPの改善が達成される。
  論文  参考訳（メタデータ） (2026-03-13T03:21:48Z)
• Layer-Specific Fine-Tuning for Improved Negation Handling in Medical Vision-Language Models [6.260109821811391]
  否定は臨床報告において基本的な言語的操作であるが、視覚言語モデル(VLM)はしばしば否定的な医療声明と肯定的な主張を区別することができない。 制御された臨床条件下での極性感度を評価する放射線学的診断ベンチマークを導入する。 我々は,構造化クレームを符号化し,属性レベルの否定をサポートする文脈的臨床否定データセットを構築した。
  論文  参考訳（メタデータ） (2026-02-13T00:44:26Z)
• From Lemmas to Dependencies: What Signals Drive Light Verbs Classification? [0.0]
  軽動詞構成 (LVCs) は、特にトルコ語において、動詞の多語表現の難易度クラスである。 本稿では,モデル入力を体系的に制限することで,どの信号がLVC分類を駆動するかを問う。
  論文  参考訳（メタデータ） (2026-02-04T01:41:11Z)
• Benchmarking Gaslighting Negation Attacks Against Multimodal Large Language Models [45.63440666848143]
  MLLM(Multimodal Large Language Models)は、様々なモダリティの統合において顕著な進歩を見せている。 彼らの成功にもかかわらず、MLLMは会話の敵対的な入力に弱いままである。 我々は,最初に正しい回答を提供するモデルが,ユーザが提供する否定によってそのアウトプットを逆転するように説得される現象であるガスライティング否定攻撃について検討する。
  論文  参考訳（メタデータ） (2025-01-31T10:37:48Z)
• Probing structural constraints of negation in Pretrained Language Models [1.8749305679160366]
  文中の否定の存在を最もよくエンコードする文脈表現を,プローブを用いて識別する。 否定範囲内のトークンの文脈表現は、(i)スコープ外のトークンと比較して、存在を予測しやすくする。 しかし、さらなる制御実験により、同じ構文節内でトークンの文脈表現を使用する場合、他の語彙項目の存在もよりよく捉えられることが明らかになった。
  論文  参考訳（メタデータ） (2024-08-06T09:54:49Z)
• Revisiting subword tokenization: A case study on affixal negation in large language models [57.75279238091522]
  現代英語大言語モデル(LLM)に対する接尾辞否定の影響を計測する。 我々は、異なるサブワードトークン化手法を用いてLLMを用いて実験を行う。 モデルは全体として、接尾辞の意味を確実に認識できることを示す。
  論文  参考訳（メタデータ） (2024-04-03T03:14:27Z)
• Language models are not naysayers: An analysis of language models on negation benchmarks [58.32362243122714]
  我々は,次世代自動回帰言語モデルによる否定処理能力の評価を行った。 LLMには,否定の存在に対する感受性,否定の語彙的意味を捉える能力の欠如,否定下での推論の失敗など,いくつかの制限があることが示されている。
  論文  参考訳（メタデータ） (2023-06-14T01:16:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。