論文の概要: JailbreakOPT: Tool-Assisted Iterative Jailbreak Prompt Optimization

• arxiv url: http://arxiv.org/abs/2606.11425v1
• Date: Tue, 09 Jun 2026 20:22:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.169829
• Title: JailbreakOPT: Tool-Assisted Iterative Jailbreak Prompt Optimization
• Title（参考訳）: JailbreakOPT: ツールによる反復的Jailbreak Prompt最適化
• Authors: Ge Shi, Jun Yin, Donglin Xie, Fangyi Liu, Yucan Li, Menglin Liu,
• Abstract要約: JailbreakOPTは、反復的な単一ターンジェイルブレイク即時最適化を改善するためのツールアシストフレームワークである。 JailbreakOPTは、多様なアトミックジェイルブレイクプロンプトをアタックツールライブラリに整理し、エポソード内最適化を統一した抽象化を通じて構成する。 実験の結果、JailbreakOPTは攻撃成功率(ASR)を改善し、成功(No.A)まで攻撃回数をアトミック単一ターン攻撃と比較して減少させることがわかった。
• 参考スコア（独自算出の注目度）: 6.473799439592539
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Jailbreak attacks expose persistent safety weaknesses in large language models (LLMs), but existing stateless single-turn methods face a trade-off: hand-crafted prompts are expressive but static, while iterative prompt optimization can adapt but often relies on low-level mutations that require many target queries. We propose JailbreakOPT, a tool-assisted framework for improving iterative single-turn jailbreak prompt optimization. JailbreakOPT organizes diverse atomic jailbreak prompts into an attack tool library and composes them through a unified intra-episode optimization abstraction to generate stronger standalone attack prompts. To reuse experience across attack episodes, JailbreakOPT further frames tool selection as a contextual bandit problem and applies contextual Thompson sampling to guide exploration and exploitation based on past outcomes. Experiments across multiple target LLMs and attack goals show that JailbreakOPT improves attack success rate (ASR) while reducing the number of attacks until success (No.A) compared with atomic single-turn attacks and existing iterative optimization baselines. This paper may contain offensive or harmful content.
• Abstract（参考訳）: Jailbreak攻撃は、大きな言語モデル(LLM)において永続的な安全性の弱点を露呈するが、既存のステートレスなシングルターンメソッドはトレードオフに直面している。 我々は、反復的な単一ターンジェイルブレイク即時最適化を改善するためのツール支援フレームワークであるJailbreakOPTを提案する。 JailbreakOPTは、多様なアトミックジェイルブレイクプロンプトをアタックツールライブラリに整理し、エポソード内最適化の抽象化を通じて構成し、強力なスタンドアロンアタックプロンプトを生成する。 攻撃エピソード間の体験を再利用するため、JailbreakOPTはツール選択を文脈的盗聴問題として枠付けし、過去の結果に基づいた探索とエクスプロイトのガイドに文脈的トンプソンサンプリングを適用した。 複数のLLMと攻撃目標にわたる実験により、JailbreakOPTは攻撃成功率(ASR)を改善しつつ、アトミックシングルターン攻撃や既存の反復最適化ベースラインと比較して、成功(No.A)まで攻撃回数を減らすことが示されている。 本論文は、有害または有害な内容を含む可能性がある。

関連論文リスト

• Stand on The Shoulders of Giants: Building JailExpert from Previous Attack Experience [36.525169416008886]
  大規模言語モデル(LLM)は、一定の安全性の制約の下で、ヒューマンアラインなコンテンツを生成する。 textbfJailExpertフレームワークは、初めてエクスペリエンス構造を形式的に表現したフレームワークである。 JailExpertは平均17%の攻撃成功率と2.7倍の改善を実現している。
  論文  参考訳（メタデータ） (2025-08-25T14:16:30Z)
• Test-Time Immunization: A Universal Defense Framework Against Jailbreaks for (Multimodal) Large Language Models [80.66766532477973]
  テストタイム免疫(TIM)は、自己進化的な方法で様々なジェイルブレイク攻撃に対して適応的に防御することができる。 テストタイム免疫(TIM)は、自己進化的な方法で様々なジェイルブレイク攻撃に対して適応的に防御することができる。
  論文  参考訳（メタデータ） (2025-05-28T11:57:46Z)
• JailPO: A Novel Black-box Jailbreak Framework via Preference Optimization against Aligned LLMs [11.924542310342282]
  我々は、LLM(Large Language Models)アライメントを調べるための新しいブラックボックスジェイルブレイクフレームワークであるJailPOを紹介する。 スケーラビリティと普遍性のために、JailPOは攻撃モデルを慎重に訓練し、隠蔽されたジェイルブレイクプロンプトを自動的に生成する。 また、優先最適化に基づく攻撃手法を導入し、ジェイルブレイクの有効性を高める。
  論文  参考訳（メタデータ） (2024-12-20T07:29:10Z)
• LIAR: Leveraging Inference Time Alignment (Best-of-N) to Jailbreak LLMs in Seconds [98.20826635707341]
  ジェイルブレイク攻撃は、慎重に製作されたプロンプトを通じて有害なアウトプットを引き出すことによって、安全に整合したLDMの脆弱性を露呈する。 私たちはジェイルブレイクを推論時のミスアライメントとして捉え、高速でブラックボックスのベスト・オブ・N$サンプリングアタックであるLIARを導入しました。 また、安全アライメント強度を定量化し、最適下界を導出するための理論的「ジェイルブレイクに対する安全ネット」指標も導入する。
  論文  参考訳（メタデータ） (2024-12-06T18:02:59Z)
• EnJa: Ensemble Jailbreak on Large Language Models [69.13666224876408]
  大きな言語モデル(LLM)は、安全クリティカルなアプリケーションにますますデプロイされている。 LLMは、悪質なプロンプトを慎重に作り、ポリシーに違反するコンテンツを生成することで、まだジェイルブレイクされる可能性がある。 本稿では,プロンプトレベルのジェイルブレイクを用いて有害な命令を隠蔽し,グラデーションベースの攻撃で攻撃成功率を高め,テンプレートベースのコネクタを介して2種類のジェイルブレイク攻撃を接続する新しいEnJa攻撃を提案する。
  論文  参考訳（メタデータ） (2024-08-07T07:46:08Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)
• EasyJailbreak: A Unified Framework for Jailbreaking Large Language Models [53.87416566981008]
  本稿では,大規模言語モデル(LLM)に対するジェイルブレイク攻撃の構築と評価を容易にする統合フレームワークであるEasyJailbreakを紹介する。 Selector、Mutator、Constraint、Evaluatorの4つのコンポーネントを使ってJailbreak攻撃を構築する。 10の異なるLSMで検証した結果、さまざまなジェイルブレイク攻撃で平均60%の侵入確率で重大な脆弱性が判明した。
  論文  参考訳（メタデータ） (2024-03-18T18:39:53Z)
• Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks [17.22989422489567]
  大規模言語モデル(LLM)は敵の攻撃や脱獄に対して脆弱である。 本稿では,LLMをジェイルブレイク攻撃から守るための最適化に基づく目標と,堅牢なシステムレベルの防御を実現するアルゴリズムを提案する。 GPT-4の攻撃成功率(ASR)は6%,Llama-2の攻撃成功率(ASR)は0%に低下した。
  論文  参考訳（メタデータ） (2024-01-30T18:56:08Z)
• A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool Large Language Models Easily [51.63085197162279]
  大きな言語モデル(LLM)は有用で安全な応答を提供するように設計されている。 ジェイルブレイク」と呼ばれる 敵のプロンプトは 保護を回避できる 有効なジェイルブレイクプロンプトを生成するためにLLM自体を活用する自動フレームワークであるReNeLLMを提案する。
  論文  参考訳（メタデータ） (2023-11-14T16:02:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。