論文の概要: Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models

• arxiv url: http://arxiv.org/abs/2603.20122v1
• Date: Fri, 20 Mar 2026 16:45:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:39.244381
• Title: Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models
• Title（参考訳）: Evolving Jailbreaks: 大規模言語モデルに対する多目的ロングテール自動アタック
• Authors: Wenjing Hong, Zhonghua Rong, Li Wang, Feng Chang, Jian Zhu, Ke Tang, Zexuan Zhu, Yew-Soon Ong,
• Abstract要約: 大規模言語モデル(LLM)は、特に様々なユーザ生成インプットに公開する無料のWebベースアプリケーションを通じて広くデプロイされている。 このオープンエンド露光は、モデルの安全性を損なうジェイルブレイク攻撃のリスクを高める。 EvoJailは,多目的進化探索による長期分布攻撃を自動検出するフレームワークである。
• 参考スコア（独自算出の注目度）: 41.9206863747699
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) have been widely deployed, especially through free Web-based applications that expose them to diverse user-generated inputs, including those from long-tail distributions such as low-resource languages and encrypted private data. This open-ended exposure increases the risk of jailbreak attacks that undermine model safety alignment. While recent studies have shown that leveraging long-tail distributions can facilitate such jailbreaks, existing approaches largely rely on handcrafted rules, limiting the systematic evaluation of these security and privacy vulnerabilities. In this work, we present EvoJail, an automated framework for discovering long-tail distribution attacks via multi-objective evolutionary search. EvoJail formulates long-tail attack prompt generation as a multi-objective optimization problem that jointly maximizes attack effectiveness and minimizes output perplexity, and introduces a semantic-algorithmic solution representation to capture both high-level semantic intent and low-level structural transformations of encryption-decryption logic. Building upon this representation, EvoJail integrates LLM-assisted operators into a multi-objective evolutionary framework, enabling adaptive and semantically informed mutation and crossover for efficiently exploring a highly structured and open-ended search space. Extensive experiments demonstrate that EvoJail consistently discovers diverse and effective long-tail jailbreak strategies, achieving competitive performance with existing methods in both individual and ensemble level.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、特に、低リソース言語や暗号化されたプライベートデータなど、様々なユーザ生成インプットに公開する無料のWebベースアプリケーションを通じて、広くデプロイされている。 このオープンエンド露光は、モデルの安全性を損なうジェイルブレイク攻撃のリスクを高める。 最近の研究では、長期分布を利用することでこのような脱獄を促進することが示されているが、既存のアプローチは手作りのルールに大きく依存しており、これらのセキュリティとプライバシの脆弱性の体系的評価を制限している。 本研究では,多目的進化探索による長期分布攻撃の自動検出フレームワークであるEvoJailを提案する。 EvoJailは、攻撃効率を最大化し、出力の難易度を最小化する多目的最適化問題としてロングテールアタックプロンプト生成を定式化し、暗号化・復号論理の高レベルなセマンティックインテントと低レベルな構造変換の両方をキャプチャーするセマンティック・アルゴリズムのソリューション表現を導入した。 この表現に基づいて、EvoJailはLLM支援演算子を多目的進化フレームワークに統合し、適応的で意味的に情報を得た突然変異とクロスオーバーを可能にし、高度に構造化されオープンな検索空間を効率的に探索する。 大規模な実験により、EvoJailは多様で効果的なロングテールジェイルブレイク戦略を一貫して発見し、個人レベルとアンサンブルレベルの両方で既存の手法と競合する性能を達成している。

関連論文リスト

• ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models [8.765213350762748]
  ジェイルブレイク攻撃は 有害な出力を 引き出すためにアライメント・ガードをバイパスする セマンティック・コヒーレントで高能率な対人プロンプトを生成するための新しいフレームワークであるForgeDANを提案する。 本評価は,従来のSOTAソリューションよりも優れた自然さとステルスを維持しつつ,高い脱獄率を達成することを示す。
  論文  参考訳（メタデータ） (2025-11-17T16:19:21Z)
• Jailbreak Attacks and Defenses against Multimodal Generative Models: A Survey [50.031628043029244]
  マルチモーダル生成モデルは、ビルトインの安全機構をバイパスし、潜在的に有害なコンテンツの生成を誘導できる、ジェイルブレイク攻撃の影響を受けやすい。 本稿では,マルチモーダル生成モデルに特有の攻撃方法,防御機構,評価フレームワークの詳細な分類について述べる。
  論文  参考訳（メタデータ） (2024-11-14T07:51:51Z)
• BlackDAN: A Black-Box Multi-Objective Approach for Effective and Contextual Jailbreaking of Large Language Models [47.576957746503666]
  BlackDANは、多目的最適化を備えた革新的なブラックボックス攻撃フレームワークである。 ジェイルブレイクを効果的に促進する高品質なプロンプトを生成する。 コンテキスト関連性を維持し、検出可能性を最小限にする。
  論文  参考訳（メタデータ） (2024-10-13T11:15:38Z)
• Multi-Turn Context Jailbreak Attack on Large Language Models From First Principles [2.5167155755957316]
  コンテキスト・フュージョン・アタック (Context Fusion Attack, CFA) は、コンテキスト・フュージョン・ブラックボックス・ジェイルブレイク・アタックの手法である。 また,他の多ターン攻撃戦略と比較して,CFAの成功率,ばらつき,有害性を示す。
  論文  参考訳（メタデータ） (2024-08-08T09:18:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。