論文の概要: Behind the Mask: Benchmarking Camouflaged Jailbreaks in Large Language Models

• arxiv url: http://arxiv.org/abs/2509.05471v1
• Date: Fri, 05 Sep 2025 19:57:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:03.524604
• Title: Behind the Mask: Benchmarking Camouflaged Jailbreaks in Large Language Models
• Title（参考訳）: マスクの裏:大規模言語モデルにおけるカモフラージュされたジェイルブレイクのベンチマーク
• Authors: Youjia Zheng, Mohammad Zandsalimy, Shanu Sushmita,
• Abstract要約: カモフラージュされたジェイルブレイクは 明らかに良心的な言語の中に 悪意のある意図を埋め込んで 既存の安全メカニズムを回避している 本稿では, 従来のキーワードベース検出手法の誤り特性と限界に着目し, カモフラージュされたジェイルブレイクプロンプトの構築と影響について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) are increasingly vulnerable to a sophisticated form of adversarial prompting known as camouflaged jailbreaking. This method embeds malicious intent within seemingly benign language to evade existing safety mechanisms. Unlike overt attacks, these subtle prompts exploit contextual ambiguity and the flexible nature of language, posing significant challenges to current defense systems. This paper investigates the construction and impact of camouflaged jailbreak prompts, emphasizing their deceptive characteristics and the limitations of traditional keyword-based detection methods. We introduce a novel benchmark dataset, Camouflaged Jailbreak Prompts, containing 500 curated examples (400 harmful and 100 benign prompts) designed to rigorously stress-test LLM safety protocols. In addition, we propose a multi-faceted evaluation framework that measures harmfulness across seven dimensions: Safety Awareness, Technical Feasibility, Implementation Safeguards, Harmful Potential, Educational Value, Content Quality, and Compliance Score. Our findings reveal a stark contrast in LLM behavior: while models demonstrate high safety and content quality with benign inputs, they exhibit a significant decline in performance and safety when confronted with camouflaged jailbreak attempts. This disparity underscores a pervasive vulnerability, highlighting the urgent need for more nuanced and adaptive security strategies to ensure the responsible and robust deployment of LLMs in real-world applications.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、カモフラージュド・ジェイルブレイク(camouflaged jailbreaking)として知られる高度な逆境にますます脆弱である。 この方法は、既存の安全メカニズムを避けるために、一見良心的な言語の中に悪意のある意図を埋め込む。 オーバート攻撃とは異なり、これらの微妙なプロンプトは文脈の曖昧さと言語の柔軟な性質を悪用し、現在の防衛システムに重大な課題を生じさせている。 本稿では, 従来のキーワードベース検出手法の誤り特性と限界に着目し, カモフラージュされたジェイルブレイクプロンプトの構築と影響について検討する。 LLMの安全性プロトコルを厳格にテストするために設計された500のキュレートされた例(有害な400のプロンプトと100の良性プロンプト)を含む、新しいベンチマークデータセットであるCamouflaged Jailbreak Promptsを導入する。 さらに,安全意識,技術的フィージビリティ,実装安全ガード,有害ポテンシャル,教育価値,コンテンツ品質,コンプライアンススコアの7次元にわたる有害性を測定する多面的評価フレームワークを提案する。 モデルでは良性入力で高い安全性とコンテンツ品質を示すが、偽装されたジェイルブレイクに直面すると、性能と安全性は著しく低下する。 この格差は広範にわたる脆弱性を浮き彫りにしており、現実のアプリケーションにLCMを責任と堅牢に配置することを保証するために、よりニュアンスで適応的なセキュリティ戦略を緊急に必要としていることを強調している。

関連論文リスト

• GuardVal: Dynamic Large Language Model Jailbreak Evaluation for Comprehensive Safety Testing [13.267217024192535]
  大規模言語モデル(LLMs)におけるジェイルブレイク攻撃の重大な脆弱性 本稿では,保護者LSMの状態に基づいてジェイルブレイクプロンプトを生成・改善する新しい評価プロトコルであるGuardValを紹介する。 このプロトコルを10の安全領域にわたるMistral-7bからGPT-4まで多様なモデルに適用する。
  論文  参考訳（メタデータ） (2025-07-10T13:15:20Z)
• Playing the Fool: Jailbreaking LLMs and Multimodal LLMs with Out-of-Distribution Strategy [31.03584769307822]
  安全アライメントを超越した入力のOOD化による新しいジェイルブレイクフレームワークJOODを提案する。 多様なジェイルブレイクシナリオに対する実験では、JOODが最近のプロプライエタリなLDMとMLLMを効果的にジェイルブレイクすることを示した。
  論文  参考訳（メタデータ） (2025-03-26T01:25:24Z)
• xJailbreak: Representation Space Guided Reinforcement Learning for Interpretable LLM Jailbreaking [32.89084809038529]
  ブラックボックス・ジェイルブレイク(Black-box jailbreak)は、大規模な言語モデルの安全メカニズムをバイパスする攻撃である。 強化学習(RL)を利用した新しいブラックボックスジェイルブレイク手法を提案する。 我々は,より厳密で総合的なジェイルブレイク成功評価を提供するために,キーワード,意図マッチング,回答バリデーションを取り入れた総合的ジェイルブレイク評価フレームワークを導入する。
  論文  参考訳（メタデータ） (2025-01-28T06:07:58Z)
• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• Shaping the Safety Boundaries: Understanding and Defending Against Jailbreaks in Large Language Models [55.253208152184065]
  大規模言語モデル(LLM)におけるジェイルブレークは、LLMを騙して有害なテキストを生成するというセキュリティ上の問題である。 我々は7つの異なるジェイルブレイク法を詳細に分析し、不一致が不十分な観察サンプルから生じることを確認した。 安全境界内でのアクティベーションを適応的に制限する「textbfActivation Boundary Defense (ABD)」という新しい防衛法を提案する。
  論文  参考訳（メタデータ） (2024-12-22T14:18:39Z)
• Defensive Prompt Patch: A Robust and Interpretable Defense of LLMs against Jailbreak Attacks [59.46556573924901]
  本稿では,大規模言語モデル(LLM)のための新しいプロンプトベースの防御機構であるDPPを紹介する。 従来のアプローチとは異なり、DPP は LLM の高能率を維持しながら最小の攻撃成功率 (ASR) を達成するように設計されている。 LLAMA-2-7B-ChatおよびMistral-7B-Instruct-v0.2モデルによる実験結果から,DSPの堅牢性と適応性が確認された。
  論文  参考訳（メタデータ） (2024-05-30T14:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。