論文の概要: Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models

• arxiv url: http://arxiv.org/abs/2603.20122v1
• Date: Fri, 20 Mar 2026 16:45:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 19:48:39.244381
• Title: Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models
• Title（参考訳）: Evolving Jailbreaks: 大規模言語モデルに対する多目的ロングテール自動アタック
• Abstract要約: 大規模言語モデル(LLM)は、特に様々なユーザ生成インプットに公開する無料のWebベースアプリケーションを通じて広くデプロイされている。 このオープンエンド露光は、モデルの安全性を損なうジェイルブレイク攻撃のリスクを高める。 EvoJailは,多目的進化探索による長期分布攻撃を自動検出するフレームワークである。
• 参考スコア（独自算出の注目度）: 41.9206863747699
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) have been widely deployed, especially through free Web-based applications that expose them to diverse user-generated inputs, including those from long-tail distributions such as low-resource languages and encrypted private data. This open-ended exposure increases the risk of jailbreak attacks that undermine model safety alignment. While recent studies have shown that leveraging long-tail distributions can facilitate such jailbreaks, existing approaches largely rely on handcrafted rules, limiting the systematic evaluation of these security and privacy vulnerabilities. In this work, we present EvoJail, an automated framework for discovering long-tail distribution attacks via multi-objective evolutionary search. EvoJail formulates long-tail attack prompt generation as a multi-objective optimization problem that jointly maximizes attack effectiveness and minimizes output perplexity, and introduces a semantic-algorithmic solution representation to capture both high-level semantic intent and low-level structural transformations of encryption-decryption logic. Building upon this representation, EvoJail integrates LLM-assisted operators into a multi-objective evolutionary framework, enabling adaptive and semantically informed mutation and crossover for efficiently exploring a highly structured and open-ended search space. Extensive experiments demonstrate that EvoJail consistently discovers diverse and effective long-tail jailbreak strategies, achieving competitive performance with existing methods in both individual and ensemble level.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、特に、低リソース言語や暗号化されたプライベートデータなど、様々なユーザ生成インプットに公開する無料のWebベースアプリケーションを通じて、広くデプロイされている。 このオープンエンド露光は、モデルの安全性を損なうジェイルブレイク攻撃のリスクを高める。 最近の研究では、長期分布を利用することでこのような脱獄を促進することが示されているが、既存のアプローチは手作りのルールに大きく依存しており、これらのセキュリティとプライバシの脆弱性の体系的評価を制限している。 本研究では,多目的進化探索による長期分布攻撃の自動検出フレームワークであるEvoJailを提案する。 EvoJailは、攻撃効率を最大化し、出力の難易度を最小化する多目的最適化問題としてロングテールアタックプロンプト生成を定式化し、暗号化・復号論理の高レベルなセマンティックインテントと低レベルな構造変換の両方をキャプチャーするセマンティック・アルゴリズムのソリューション表現を導入した。 この表現に基づいて、EvoJailはLLM支援演算子を多目的進化フレームワークに統合し、適応的で意味的に情報を得た突然変異とクロスオーバーを可能にし、高度に構造化されオープンな検索空間を効率的に探索する。 大規模な実験により、EvoJailは多様で効果的なロングテールジェイルブレイク戦略を一貫して発見し、個人レベルとアンサンブルレベルの両方で既存の手法と競合する性能を達成している。

関連論文リスト

• MMJailBench: A Factorized Benchmark for Disentangling Multimodal Jailbreak Vulnerabilities [17.17645010365275]
  MMJailBenchは、制御された構成下にある因子を体系的に変化させ、結合する因子化ベンチマークである。 ジェイルブレイクの脆弱性は、現在のマルチモーダルセーフティアライメントにおける不均一なカバレッジを露呈する。 フルかつ軽量な構成,複数判定オプション,多次元メトリクスを備えたモジュール型マルチモーダルジェイルブレイク評価スイートを開発した。
  論文  参考訳（メタデータ） (2026-08-26T08:03:55Z)
• Reasoning as an Attack Surface: Adaptive Evolutionary CoT Jailbreaks for LLMs [56.53007443197966]
  大規模推論モデル(LRM)は推論および生成タスクにおいて顕著な機能を示した。 彼らの明確なチェーン・オブ・シント(CoT)メカニズムは、新しいセキュリティリスクをもたらし、特にジェイルブレイク攻撃に対して脆弱である。 AE-CoTと呼ばれる適応的な進化的CoTジェイルブレイクフレームワークを提案し、これらの制限を克服する。
  論文  参考訳（メタデータ） (2026-05-23T10:11:32Z)
• EvoJail: Evolutionary Diverse Jailbreak Prompt Generation for Large Language Models [11.859945627799098]
  EvoJailは、命令フュージョン駆動の進化的ジェイルブレイク生成フレームワークである。 さまざまなモデルバージョンに適応できるjailbreakプロンプトを検索する。 93%以上の攻撃成功率と5.6%以上の多様性指標を達成できる。
  論文  参考訳（メタデータ） (2026-04-22T02:59:49Z)
• ForgeDAN: An Evolutionary Framework for Jailbreaking Aligned Large Language Models [8.765213350762748]
  ジェイルブレイク攻撃は 有害な出力を 引き出すためにアライメント・ガードをバイパスする セマンティック・コヒーレントで高能率な対人プロンプトを生成するための新しいフレームワークであるForgeDANを提案する。 本評価は,従来のSOTAソリューションよりも優れた自然さとステルスを維持しつつ,高い脱獄率を達成することを示す。
  論文  参考訳（メタデータ） (2025-11-17T16:19:21Z)
• GRAF: Multi-turn Jailbreaking via Global Refinement and Active Fabrication [55.63412213263305]
  大規模言語モデルは、悪意のある目的のために誤用される可能性があるため、顕著な安全性のリスクを生じさせる。 そこで本研究では,各インタラクションにおける攻撃経路をグローバルに洗練する,新しいマルチターンジェイルブレーキング手法を提案する。 さらに、モデル応答を積極的に作成し、安全性に関する警告を抑えることにより、有害な出力を誘発する可能性を高める。
  論文  参考訳（メタデータ） (2025-06-22T03:15:05Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)
• Jailbreak Attacks and Defenses against Multimodal Generative Models: A Survey [50.031628043029244]
  マルチモーダル生成モデルは、ビルトインの安全機構をバイパスし、潜在的に有害なコンテンツの生成を誘導できる、ジェイルブレイク攻撃の影響を受けやすい。 本稿では,マルチモーダル生成モデルに特有の攻撃方法,防御機構,評価フレームワークの詳細な分類について述べる。
  論文  参考訳（メタデータ） (2024-11-14T07:51:51Z)
• BlackDAN: A Black-Box Multi-Objective Approach for Effective and Contextual Jailbreaking of Large Language Models [47.576957746503666]
  BlackDANは、多目的最適化を備えた革新的なブラックボックス攻撃フレームワークである。 ジェイルブレイクを効果的に促進する高品質なプロンプトを生成する。 コンテキスト関連性を維持し、検出可能性を最小限にする。
  論文  参考訳（メタデータ） (2024-10-13T11:15:38Z)
• Multi-Turn Context Jailbreak Attack on Large Language Models From First Principles [2.5167155755957316]
  コンテキスト・フュージョン・アタック (Context Fusion Attack, CFA) は、コンテキスト・フュージョン・ブラックボックス・ジェイルブレイク・アタックの手法である。 また,他の多ターン攻撃戦略と比較して,CFAの成功率,ばらつき,有害性を示す。
  論文  参考訳（メタデータ） (2024-08-08T09:18:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。