論文の概要: PixJail: Self-Evolving Paper-to-Pipeline Reproduction for Text-to-Image Jailbreak Evaluation

• arxiv url: http://arxiv.org/abs/2606.24081v1
• Date: Tue, 23 Jun 2026 02:49:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.749468
• Title: PixJail: Self-Evolving Paper-to-Pipeline Reproduction for Text-to-Image Jailbreak Evaluation
• Title（参考訳）: PixJail: テキスト・トゥ・イメージ・ジェイルブレイク評価のための自己進化型紙-パイプラインの再現
• Authors: Leyi Sheng, Han Sun, Zhen Sun, Yuntao Yue, Jinlin Wu, Xinlei He, Jiaheng Wei,
• Abstract要約: テキストから画像へのジェイルブレイク評価は、単一のプロンプトレベルのテストではなく、複数のステージによって形成されるパイプラインレベルの問題である。 再現可能なT2Iジェイルブレイク評価のための自己進化型紙-パイプ間エージェントフレームワークPixJailを提案する。 我々は、コード利用およびコード利用不可の文書を含む11の代表的なT2Ijailbreakメソッドを再生する。
• 参考スコア（独自算出の注目度）: 21.837531720036427
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Text-to-Image (T2I) jailbreak techniques evolve rapidly, existing benchmarks and reproduction workflows often struggle to keep pace. More importantly, T2I jailbreak evaluation is not a single prompt-level test, but a pipeline-level problem shaped by multiple stages, including prompt transformation, image generation, safety filtering, and multimodal judging. This makes results across papers difficult to reliably reproduce and fairly compare. To bridge this gap, we propose PixJail, a self-evolving paper-to-pipeline agent framework for reproducible T2I jailbreak evaluation. Given a T2I jailbreak paper and optional reference code, PixJail rapidly constructs a paper-specific attack module and a runnable evaluation pipeline under a unified contract, while faithfully reproducing the original experimental results. PixJail further maintains a memory bank that stores paper digests, attack evolution patterns, reusable templates, failure cases, and versioned artifacts, enabling future reproduction efforts to reuse prior experience. We reproduce eleven representative T2I jailbreak methods, including both code-available and code-unavailable papers. Under their original settings, our framework accurately recovers prior results with minimal error (2.1\% average, 0\% median). We hope that PixJail can serve as a unified foundation for future T2I jailbreak reproduction and evaluation, significantly reducing manual effort.
• Abstract（参考訳）: Text-to-Image (T2I) のjailbreakテクニックが急速に進化するにつれて、既存のベンチマークや再現ワークフローはペースを維持するのに苦労することが多い。 さらに重要なのは、T2Iのジェイルブレイク評価は、単一のプロンプトレベルのテストではなく、プロンプト変換、画像生成、安全フィルタリング、マルチモーダル判定を含む、複数のステージで形成されるパイプラインレベルの問題である。 これにより、論文間での結果を確実に再現し、比較することが困難になる。 このギャップを埋めるために、再現可能なT2Iジェイルブレイク評価のための自己進化型紙-パイプ間エージェントフレームワークPixJailを提案する。 T2Iのジェイルブレイク紙とオプションの参照コードがあれば、PixJailは紙固有の攻撃モジュールと実行可能な評価パイプラインを統一された契約の下で迅速に構築し、元の実験結果を忠実に再現する。 PixJailはさらに、紙のダイジェスト、アタック進化パターン、再利用可能なテンプレート、障害ケース、バージョン管理されたアーティファクトを格納するメモリバンクをメンテナンスしている。 我々は、コード利用およびコード利用不可の文書を含む11の代表的なT2Ijailbreakメソッドを再生する。 元の設定では、我々のフレームワークは最小限のエラー(2.1\%、中央値0\%)で事前結果を正確に回復する。 PixJailが将来のT2Iジェイルブレイクの再現と評価の統一基盤として機能し、手作業を大幅に削減できることを期待しています。

関連論文リスト

• Fuzz-Testing Meets LLM-Based Agents: An Automated and Efficient Framework for Jailbreaking Text-To-Image Generation Models [15.582860145268553]
  JailFuzzerは、大きな言語モデル(LLM)エージェントによって駆動される新しいファジングフレームワークである。 自然かつ意味的に一貫性のあるプロンプトを生成し、従来の防御による検出の可能性を減らす。 クエリオーバーヘッドを最小限に抑えたジェイルブレイク攻撃で高い成功率を達成する。
  論文  参考訳（メタデータ） (2024-08-01T12:54:46Z)
• Automatic Jailbreaking of the Text-to-Image Generative AI Systems [76.9697122883554]
  本稿では,ChatGPT,Copilot,Geminiなどの商用T2I生成システムの安全性について,ナイーブプロンプトによる著作権侵害について検討する。 安全ガードをバイパスするプロンプトを生成するT2I生成システムに対して,より強力な自動脱獄パイプラインを提案する。 当社のフレームワークは,ChatGPTを11.0%のブロックレートでジェイルブレイクし,その76%で著作権コンテンツを生成する。
  論文  参考訳（メタデータ） (2024-05-26T13:32:24Z)
• JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models [123.66104233291065]
  ジェイルブレイク攻撃は、大きな言語モデル(LLM)が有害、非倫理的、またはその他の不快なコンテンツを生成する原因となる。 これらの攻撃を評価することは、現在のベンチマークと評価テクニックの収集が適切に対処していない、多くの課題を提示します。 JailbreakBenchは、以下のコンポーネントを備えたオープンソースのベンチマークである。
  論文  参考訳（メタデータ） (2024-03-28T02:44:02Z)
• A StrongREJECT for Empty Jailbreaks [72.8807309802266]
  StrongREJECTは、ジェイルブレイクのパフォーマンスを評価するための高品質なベンチマークである。 これは、被害者モデルが禁止されたプロンプトに対する応答の有害性を評価する。 それは、ジェイルブレイクの有効性の人間の判断と最先端の合意を達成します。
  論文  参考訳（メタデータ） (2024-02-15T18:58:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。