論文の概要: How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense

• arxiv url: http://arxiv.org/abs/2610.11005v2
• Date: Tue, 13 Oct 2026 16:46:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-14 23:39:49.651379
• Title: How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense
• Title（参考訳）: ナラティブ・ラッピングがLLMの拒絶にどのように影響するか - クロスランゲージベンチマークと防御
• Abstract要約: 安全に整合した言語モデルは、直接記述された有害な要求を拒否することが多いが、ロールプレイや物語ラッパー内で同じ要求に答える。 Qwen3-1.7B攻撃の成功率は89.4%、現代中国語では93.0%、古典中国語では95.7%である。 提案するAXISは、選好最適化と、有害な要求表現を拒絶方向と整合させる回転目標を組み合わせたものである。
• 参考スコア（独自算出の注目度）: 18.171553832439745
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safety-aligned language models often refuse a harmful request stated directly but answer the same request inside a role-play or narrative wrapper. We measure this vulnerability across languages and registers: attack success on Qwen3-1.7B is already 89.4% in English and 93.0% in modern Chinese, and reaches 95.7% in Classical Chinese. We build GUISE, a benchmark for systematically studying this vulnerability. It includes parallel requests in English, modern Chinese, and Classical Chinese, matched harmful and benign pairs, wrapper types held out for evaluation, and a stricter criterion that counts warn-then-answer responses as attack successes. Representation analysis shows that language and register move harmful-request representations only slightly away from the model's refusal direction, whereas narrative wrappers move them much farther away. We propose AXIS, which combines preference optimisation with a rotation objective that aligns harmful-request representations with the refusal direction and a commitment objective that trains the model to refuse completely rather than produce a warn-then-answer response. Across Qwen3-1.7B, Qwen3-4B and GLM-4-9B, AXIS achieves the highest combined safety and usability score among the compared methods.
• Abstract（参考訳）: 安全に整合した言語モデルは、直接記述された有害な要求を拒否することが多いが、ロールプレイや物語ラッパー内で同じ要求に答える。 Qwen3-1.7B攻撃の成功率は、英語で89.4%、現代中国語で93.0%、古典中国語で95.7%に達している。 この脆弱性を体系的に研究するためのベンチマークであるGUISEを構築します。 英語、現代中国語、古典中国語の同時リクエスト、有害で良心的なペアのマッチング、評価のためのラッパータイプ、警告応答を攻撃の成功とみなす厳格な基準を含む。 表現分析は、言語とレジスタが有害な要求表現をモデルの拒絶方向からわずかに離れているのに対して、物語ラッパーはより遠くに移動していることを示している。 提案するAXISは,選好最適化と,有害な要求表現を拒絶方向と整合させる回転目標と,警告応答を生成するのではなく,完全に拒否するようにモデルを訓練するコミットメント目標とを組み合わせて提案する。 Qwen3-1.7B、Qwen3-4B、GLM-4-9Bにまたがって、AXISは比較手法の中で最も高い安全性とユーザビリティのスコアを得る。

関連論文リスト

• Safety Targeted Embedding Exploit via Refinement [1.384477926572109]
  本研究は、英語を主とする安全機構が多言語入力にまたがる一般化を想定できないことを示す。 STEERは、単語を低リソース言語に翻訳し、有害な意図を保ちながら拒絶を抑制する、勾配誘導攻撃である。 マルチリンガル安全性の向上にはアライメントとアウト・オブ・ディストリビューション・インプットを明示的に検出・棄却するメカニズムの広範な適用が必要であると論じる。
  論文  参考訳（メタデータ） (2026-07-02T08:17:57Z)
• Same Model, Different Weakness: How Language and Modality Reshape the Jailbreak Attack Surface in Frontier MLLMs [0.0]
  米国英語(en-US)とメキシコスペイン語(es-MX)のジェイルブレイク脆弱性を比較検討した最初の体系的言語横断型マルチモーダル型レッドチーム研究について述べる。 私たちの中心的な発見は、言語が脆弱性を均一にスケールしないことです。 これは、言語的および視覚的なアライメント障害が、異なるメカニズムを通して機能し、切り換え言語がその分離を公開するのに十分であることを示している。
  論文  参考訳（メタデータ） (2026-05-22T02:12:45Z)
• LSR: Linguistic Safety Robustness Benchmark for Low-Resource West African Languages [0.0]
  我々は、西アフリカの言語における言語間拒絶劣化を測定するための最初の体系的ベンチマークであるLSRを紹介する。 文化に根ざした14の攻撃プローブにおけるGemini 2.5 Flashを4つの有害カテゴリで評価した。 西アフリカの言語全体では、拒絶率は35～55%に低下し、イガラは最も深刻な減少を示している。
  論文  参考訳（メタデータ） (2026-02-27T22:54:31Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• The Tower of Babel Revisited: Multilingual Jailbreak Prompts on Closed-Source Large Language Models [3.221349323179165]
  大規模言語モデル(LLM)は、様々な領域に広く適用されているが、敵の迅速なインジェクションに弱いままである。 我々は、フロンティアプロプライエタリなソリューションを評価するために、多様な攻撃手法を活用する、第一種統合敵フレームワークを提案する。 我々の評価は、英語と中国語のセキュリティ内容の6つのカテゴリにまたがっており、32種類のジェイルブレイク攻撃に対して38,400のレスポンスが生成される。
  論文  参考訳（メタデータ） (2025-05-18T07:51:19Z)
• Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models [53.580928907886324]
  Reasoning-Augmented Conversationは、新しいマルチターンジェイルブレイクフレームワークである。 有害なクエリを良心的な推論タスクに再構成する。 RACEは,複雑な会話シナリオにおいて,最先端攻撃の有効性を実現する。
  論文  参考訳（メタデータ） (2025-02-16T09:27:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。