論文の概要: JBFuzz: Jailbreaking LLMs Efficiently and Effectively Using Fuzzing

• arxiv url: http://arxiv.org/abs/2503.08990v1
• Date: Wed, 12 Mar 2025 01:52:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-13 15:40:38.206429
• Title: JBFuzz: Jailbreaking LLMs Efficiently and Effectively Using Fuzzing
• Title（参考訳）: JBFuzz: Jailbreaking LLMsを効果的かつ効果的にFuzzingを使う
• Authors: Vasudev Gohil,
• Abstract要約: JBFuzzは、ソフトウェアのバグや脆弱性を検出するファジングの成功にインスパイアされている。 JBFuzzは、様々な有害・非倫理的な質問に対して全てのLSMを投獄し、平均的な攻撃成功率は99%である。
• 参考スコア（独自算出の注目度）: 2.3822909465087228
• License:
• Abstract: Large language models (LLMs) have shown great promise as language understanding and decision making tools, and they have permeated various aspects of our everyday life. However, their widespread availability also comes with novel risks, such as generating harmful, unethical, or offensive content, via an attack called jailbreaking. Despite extensive efforts from LLM developers to align LLMs using human feedback, they are still susceptible to jailbreak attacks. To tackle this issue, researchers often employ red-teaming to understand and investigate jailbreak prompts. However, existing red-teaming approaches lack effectiveness, scalability, or both. To address these issues, we propose JBFuzz, a novel effective, automated, and scalable red-teaming technique for jailbreaking LLMs. JBFuzz is inspired by the success of fuzzing for detecting bugs/vulnerabilities in software. We overcome three challenges related to effectiveness and scalability by devising novel seed prompts, a lightweight mutation engine, and a lightweight and accurate evaluator for guiding the fuzzer. Assimilating all three solutions results in a potent fuzzer that only requires black-box access to the target LLM. We perform extensive experimental evaluation of JBFuzz using nine popular and widely-used LLMs. We find that JBFuzz successfully jailbreaks all LLMs for various harmful/unethical questions, with an average attack success rate of 99%. We also find that JBFuzz is extremely efficient as it jailbreaks a given LLM for a given question in 60 seconds on average. Our work highlights the susceptibility of the state-of-the-art LLMs to jailbreak attacks even after safety alignment, and serves as a valuable red-teaming tool for LLM developers.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、言語理解と意思決定ツールとして大きな可能性を示しており、日々の生活の様々な側面に浸透しています。 しかし、彼らの普及には、ジェイルブレイクと呼ばれる攻撃によって有害、非倫理的、または攻撃的なコンテンツを生み出すという新たなリスクも伴う。 人間のフィードバックを使ってLLMを調整しようとするLLM開発者の努力にもかかわらず、それでもJailbreak攻撃の影響を受けやすい。 この問題に対処するために、研究者はしばしば赤いチームを使ってジェイルブレイクのプロンプトを理解し、調査する。 しかし、既存のレッドチームのアプローチには、有効性、スケーラビリティ、あるいはその両方がない。 これらの問題に対処するために,JBFuzzを提案する。 JBFuzzは、ソフトウェアのバグや脆弱性を検出するファジングの成功にインスパイアされている。 我々は,新規なシードプロンプト,軽量な突然変異エンジン,ファザを導く軽量かつ高精度な評価器を考案することによって,有効性とスケーラビリティに関わる3つの課題を克服する。 これら3つのソリューションを同化することで、ターゲットのLSMへのブラックボックスアクセスのみを必要とする強力なファジィザが生まれる。 9つのLLMを用いてJBFuzzを広範囲に評価した。 JBFuzzは、様々な有害・非倫理的な質問に対して全てのLSMを投獄し、平均的な攻撃成功率は99%である。 また、JBFuzzは、与えられた質問に対して平均60秒で所与のLLMをジェイルブレイクするので、非常に効率的であることもわかりました。 我々の研究は、安全アライメント後のジェイルブレイク攻撃に対する最先端のLLMの感受性を強調し、LLM開発者にとって価値のある再チームツールとして役立ちます。

関連論文リスト

• Rewrite to Jailbreak: Discover Learnable and Transferable Implicit Harmfulness Instruction [32.04296423547049]
  大規模言語モデル(LLM)は様々な領域に広く適用されている。 LLMを攻撃するための転送可能なブラックボックスジェイルブレイク法であるRewrite to Jailbreak (R2J)アプローチを提案する。
  論文  参考訳（メタデータ） (2025-02-16T11:43:39Z)
• Dagger Behind Smile: Fool LLMs with a Happy Ending Story [3.474162324046381]
  Happy Ending Attack (HEA)は、主に$textithappy end$を通じて形成された肯定的なプロンプトを含むシナリオテンプレートで悪意のあるリクエストをラップする。 我々のHEAは、GPT-4o、Llama3-70b、Gemini-proを含む最先端のLLMのジェイルブレイクに成功し、平均して88.79%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2025-01-19T13:39:51Z)
• IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [64.46372846359694]
  IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。 最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。 例えば、GPT-4oで46.31%、Claude-3.5-Sonnetで19.65%のASRを達成した。
  論文  参考訳（メタデータ） (2024-10-29T07:15:56Z)
• Jailbreaking Large Language Models Through Alignment Vulnerabilities in Out-of-Distribution Settings [57.136748215262884]
  本稿では,ObscurePrompt for jailbreaking LLMを紹介し,OOD(Out-of-Distribution)データにおける脆弱なアライメントに着想を得た。 まず、脱獄過程における決定境界を定式化し、次にLLMの倫理的決定境界に不明瞭な文章がどう影響するかを考察する。 本手法は,2つの防御機構に対する有効性を保ちながら,攻撃効果の観点から従来の手法を大幅に改善する。
  論文  参考訳（メタデータ） (2024-06-19T16:09:58Z)
• Efficient LLM-Jailbreaking by Introducing Visual Modality [28.925716670778076]
  本稿では,大規模言語モデル(LLM)に対するジェイルブレイク攻撃に焦点を当てた。 我々のアプローチは、ターゲットのLLMに視覚モジュールを組み込むことで、MLLM(Multimodal large language model)を構築することから始まる。 我々は, EmbJS をテキスト空間に変換し, ターゲット LLM のジェイルブレイクを容易にする。
  論文  参考訳（メタデータ） (2024-05-30T12:50:32Z)
• Images are Achilles' Heel of Alignment: Exploiting Visual Vulnerabilities for Jailbreaking Multimodal Large Language Models [107.88745040504887]
  マルチモーダル大言語モデル(MLLM)の無害アライメント問題について検討する。 そこで本研究では,テキスト入力における悪意のある意図の有害性を隠蔽し,増幅する,HADESという新しいジェイルブレイク手法を提案する。 実験の結果、HADESは既存のMLLMを効果的にジェイルブレイクし、LLaVA-1.5では90.26%、Gemini Pro Visionでは71.60%の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-03-14T18:24:55Z)
• Play Guessing Game with LLM: Indirect Jailbreak Attack with Implicit Clues [16.97760778679782]
  本稿では, LLM の防御戦略を回避し, 悪意のある応答を得る, 間接的ジェイルブレイク攻撃手法である Puzzler を提案する。 実験の結果,Puzzler はクローズドソース LLM 上で96.6% のクエリ成功率を達成した。 最先端のjailbreak検出アプローチに対してテストすると、Puzzlerはベースラインよりも検出を回避するのに効果的であることを証明している。
  論文  参考訳（メタデータ） (2024-02-14T11:11:51Z)
• Jailbreaking Attack against Multimodal Large Language Model [69.52466793164618]
  本稿では,マルチモーダル大規模言語モデル(MLLM)に対するジェイルブレイク攻撃に焦点を当てた。 imgJP (emphimage Jailbreaking Prompt) の探索手法を提案する。 提案手法は, 生成したimgJPをジェイルブレイクモデルに転送できるため, 強いモデル伝達性を示す。
  論文  参考訳（メタデータ） (2024-02-04T01:29:24Z)
• A Wolf in Sheep's Clothing: Generalized Nested Jailbreak Prompts can Fool Large Language Models Easily [51.63085197162279]
  大きな言語モデル(LLM)は有用で安全な応答を提供するように設計されている。 ジェイルブレイク」と呼ばれる 敵のプロンプトは 保護を回避できる 有効なジェイルブレイクプロンプトを生成するためにLLM自体を活用する自動フレームワークであるReNeLLMを提案する。
  論文  参考訳（メタデータ） (2023-11-14T16:02:16Z)
• Jailbreaking Black Box Large Language Models in Twenty Queries [97.29563503097995]
  大規模言語モデル(LLM)は、敵のジェイルブレイクに対して脆弱である。 LLMへのブラックボックスアクセスのみのセマンティックジェイルブレイクを生成するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-12T15:38:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。