論文の概要: EvoJail: Evolutionary Diverse Jailbreak Prompt Generation for Large Language Models

• arxiv url: http://arxiv.org/abs/2605.02921v1
• Date: Wed, 22 Apr 2026 02:59:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 06:56:26.52787
• Title: EvoJail: Evolutionary Diverse Jailbreak Prompt Generation for Large Language Models
• Title（参考訳）: EvoJail: 大規模言語モデルのための進化的多言語ジェイルブレイクプロンプト生成
• Authors: Rui Tang, Kaiyu Xu, Pengsen Cheng, Hao Ren, Haizhou Wang, Shuyu Jiang,
• Abstract要約: EvoJailは、命令フュージョン駆動の進化的ジェイルブレイク生成フレームワークである。 さまざまなモデルバージョンに適応できるjailbreakプロンプトを検索する。 93%以上の攻撃成功率と5.6%以上の多様性指標を達成できる。
• 参考スコア（独自算出の注目度）: 11.859945627799098
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As LLMs continue to shape real-world applications, automated jailbreak generation becomes essential to reveal safety weaknesses and guide model improvement. Existing automatic jailbreak generation methods have not yet fully considered two important aspects: adaptability to evolving safety-finetuned models, which affects their effectiveness on newer model versions, and diversity in generated prompts, which can cause narrow or repetitive attack patterns. To address these issues, we propose EvoJail, an instruction-fusion-driven evolutionary jailbreak generation framework that formalizes jailbreak prompt generation as a multi-objective black-box optimization problem and leverages the principles of evolutionary algorithms to search for jailbreak prompts that can adapt across different model versions and exhibit diverse attack patterns. Specifically, EvoJail integrates jailbreak prompt generation into an iterative evolutionary loop, where at each iteration candidate prompts are evaluated directly against the target model and then selected and varied based on the target model's responses, enabling the generation process to continuously adapt to model updates. To enhance diversity, EvoJail introduces field-aware instruction fusion to construct diverse starting points and incorporates diversity-aware objectives into the evolutionary fitness function, guiding the search toward prompts with richer semantic variation, while further designing multi-level LLM-based mutation operators that modify prompt structures at different granularities to promote structural diversity throughout the evolutionary process. Results demonstrate that EvoJail has stronger adaptability and can achieve over $93\%$ attack success rate and more than $5.6\%$ improvement in diversity metrics over state-of-the-art methods.
• Abstract（参考訳）: LLMは現実世界のアプリケーションを作り続けており、安全性の弱点を明らかにし、モデルの改善を導くために自動ジェイルブレイク生成が不可欠である。 既存の自動ジェイルブレイク生成手法は、新しいモデルバージョンにおけるそれらの効果に影響を与える、安全性に配慮したモデルの進化への適応性、および、狭いまたは反復的な攻撃パターンを引き起こす可能性のある生成されたプロンプトの多様性という、2つの重要な側面を十分に考慮していない。 これらの問題に対処するために、EvoJailという命令融合駆動の進化的ジェイルブレイク生成フレームワークを提案する。このフレームワークは、ジェイルブレイク生成を多目的ブラックボックス最適化問題として形式化し、進化的アルゴリズムの原理を利用して、さまざまなモデルバージョンに適応し、多様な攻撃パターンを示すジェイルブレイクプロンプトを探索する。 具体的には、EvoJailはJailbreakプロンプト生成を反復進化ループに統合し、各イテレーション候補プロンプトはターゲットモデルに対して直接評価され、ターゲットモデルの応答に基づいて選択および変更される。 多様性を高めるために、EvoJailは様々な出発点を構築するためにフィールド対応の命令融合を導入し、多様性対応の目的を進化適合関数に組み入れ、より豊かな意味変化でプロンプトへの探索を導くとともに、異なる粒度のプロンプト構造を変更するマルチレベルLSMベースの突然変異演算子を設計し、進化過程を通して構造的多様性を促進する。 その結果、EvoJailはより適応性が高く、攻撃の成功率9,3\%以上、最先端の手法よりも多様性の指標が5.6\%以上向上できることが示されている。

関連論文リスト

• Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models [41.9206863747699]
  大規模言語モデル(LLM)は、特に様々なユーザ生成インプットに公開する無料のWebベースアプリケーションを通じて広くデプロイされている。 このオープンエンド露光は、モデルの安全性を損なうジェイルブレイク攻撃のリスクを高める。 EvoJailは,多目的進化探索による長期分布攻撃を自動検出するフレームワークである。
  論文  参考訳（メタデータ） (2026-03-20T16:45:04Z)
• Co-Evolutionary Multi-Modal Alignment via Structured Adversarial Evolution [8.28457465201508]
  我々は、静的な敵の監視を超えて、進化する攻撃と共進化的アライメントを導入する。 本稿では,敵対的プロンプトをメソッドテンプレートや有害な意図に分解する進化的攻撃手法を提案する。 Adaptive Defenderは、合成されたハードネガティブに対して反復的に更新され、進化する攻撃に適応するクローズドループプロセスを形成する。
  論文  参考訳（メタデータ） (2026-03-02T12:10:46Z)
• Evolutionary Generation of Multi-Agent Systems [49.47969796873096]
  大規模言語モデル (LLM) ベースのマルチエージェントシステム (MAS) は複雑な推論、計画、ツール拡張タスクを強く約束する。 EvoMASは構造化構成生成としてMAS生成を定式化する。 EvoMASは、人間の設計したMASと以前の自動MAS生成方法の両方でタスク性能を一貫して改善する。
  論文  参考訳（メタデータ） (2026-02-06T09:01:35Z)
• ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models [8.765213350762748]
  ジェイルブレイク攻撃は 有害な出力を 引き出すためにアライメント・ガードをバイパスする セマンティック・コヒーレントで高能率な対人プロンプトを生成するための新しいフレームワークであるForgeDANを提案する。 本評価は,従来のSOTAソリューションよりも優れた自然さとステルスを維持しつつ,高い脱獄率を達成することを示す。
  論文  参考訳（メタデータ） (2025-11-17T16:19:21Z)
• Evolve the Method, Not the Prompts: Evolutionary Synthesis of Jailbreak Attacks on LLMs [39.861409656970075]
  Evo Synthは、アタック計画からジェイルブレイクメソッドの進化的合成にパラダイムをシフトする、自律的なフレームワークである。 マルチエージェントシステムを使用して、新しいコードベースの攻撃アルゴリズムを自律的に設計し、進化させ、実行します。
  論文  参考訳（メタデータ） (2025-11-16T17:52:07Z)
• LLM-Virus: Evolutionary Jailbreak Attack on Large Language Models [59.29840790102413]
  既存のジェイルブレイク攻撃は主に不透明な最適化手法と勾配探索法に基づいている。 進化的ジェイルブレイクと呼ばれる進化的アルゴリズムに基づくジェイルブレイク攻撃手法であるLSM-Virusを提案する。 この結果から, LLM-Virus は既存の攻撃手法と比較して, 競争力や性能に優れていたことが示唆された。
  論文  参考訳（メタデータ） (2024-12-28T07:48:57Z)
• Jailbreak Attacks and Defenses against Multimodal Generative Models: A Survey [50.031628043029244]
  マルチモーダル生成モデルは、ビルトインの安全機構をバイパスし、潜在的に有害なコンテンツの生成を誘導できる、ジェイルブレイク攻撃の影響を受けやすい。 本稿では,マルチモーダル生成モデルに特有の攻撃方法,防御機構,評価フレームワークの詳細な分類について述べる。
  論文  参考訳（メタデータ） (2024-11-14T07:51:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。