論文の概要: MLCommons Jailbreak Benchmark v1.0
- arxiv url: http://arxiv.org/abs/2610.02827v1
- Date: Fri, 02 Oct 2026 05:17:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.216741
- Title: MLCommons Jailbreak Benchmark v1.0
- Title（参考訳）: MLCommonsがjailbreak Benchmark v1.0をリリース
- Abstract要約: Jailbreak Benchmark v1.0は、単一ターンのテキストベースのjailbreak攻撃に対する大きな言語モデルの堅牢性を評価するためのエンドツーエンドの方法論を提供する。
基準駆動システムと攻撃選択、ペア化されたベースラインと敵評価、人間のアノテーション、自動評価器の校正、スコア付け、グレーディング、リスク校正の開示を1つのベンチマークパイプライン内で組み合わせる。
- 参考スコア（独自算出の注目度）: 19.680369494957898
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern AI systems are designed to refuse hazardous requests. A jailbreak is a prompt crafted to bypass those safeguards and elicit outputs that the system would normally refuse to provide. The MLCommons Jailbreak Benchmark v1.0 provides an end-to-end methodology for evaluating the robustness of large language models to single-turn, text-based jailbreak attacks. It combines criteria-driven system and attack selection, paired baseline and adversarial evaluation, human annotation, automated evaluator calibration, scoring, grading, and risk-calibrated disclosure within a single benchmarking pipeline. The benchmark evaluates eight open-weight systems using 264 seed prompts spanning eleven hazard categories and representative attacks drawn from the MLCommons Jailbreak Taxonomy. Responses are assessed using the AILuminate Assessment Standard v1.4, and robustness is measured through the Resilience Gap: the change in safety performance between baseline and adversarial conditions. Across all evaluated systems and attacks, the unsafe-response rate increased from 11.08% under baseline conditions to 18.65% under jailbreak conditions, producing an average Resilience Gap of 7.57%. Accessible systems showed a larger mean gap, while attack effectiveness varied substantially across attack categories and hazards. The benchmark also examines evaluator reliability and sources of measurement error. Beyond reporting results, Jailbreak Benchmark v1.0 establishes a reproducible methodological foundation for comparative jailbreak evaluation and for future expansion across systems, attacks, hazards, and evaluation methods.
- Abstract（参考訳）: 現代のAIシステムは、有害な要求を拒否するために設計されている。
ジェイルブレイク(jailbreak)は、通常システムは提供を拒むであろうそれらの保護と出力を回避しようとするプロンプトである。
MLCommons Jailbreak Benchmark v1.0は、大規模言語モデルの単一ターンテキストベースのjailbreak攻撃に対する堅牢性を評価するためのエンドツーエンドの方法論を提供する。
基準駆動システムと攻撃選択、ペア化されたベースラインと敵評価、人間のアノテーション、自動評価器の校正、スコア付け、グレーディング、リスク校正の開示を1つのベンチマークパイプライン内で組み合わせる。
このベンチマークは、11の危険カテゴリーとMLCommons Jailbreak Taxonomyから引き出された代表的攻撃にまたがる264のシードプロンプトを使用して、8つのオープンウェイトシステムを評価する。
AILuminate Assessment Standard v1.4 を用いて応答を評価し,Resilience Gap を用いてロバスト性を測定した。
全ての評価されたシステムと攻撃全体で、安全でない応答率はベースライン条件下で11.08%からジェイルブレイク条件下で18.65%に増加し、平均レジリエンスギャップは7.57%となった。
アクセシブルシステムでは平均ギャップが大きく,攻撃効果は攻撃カテゴリーや危険度によって大きく異なっていた。
このベンチマークでは、評価器の信頼性と測定誤差の原因についても検討している。
報告結果の他に、Jailbreak Benchmark v1.0は、比較ジェイルブレイク評価と、システム、攻撃、ハザード、評価方法の今後の拡張のための再現可能な方法論基盤を確立している。
関連論文リスト
- How Real is Your Jailbreak? Fine-grained Jailbreak Evaluation with Anchored Reference [20.565609053126384]
FJARは、アンロックされた参照を持つきめ細かいジェイルブレイク評価フレームワークである。
まず、jailbreakレスポンスを5つの細かいカテゴリに分類します。
そこで我々は,高品質なアンカード参照を構築するために,新しい無害木分解手法を提案する。
論文 参考訳（メタデータ） (2026-01-04T07:54:24Z) - OmniSafeBench-MM: A Unified Benchmark and Toolbox for Multimodal Jailbreak Attack-Defense Evaluation [94.61617176929384]
OmniSafeBench-MMはマルチモーダル・ジェイルブレイク攻撃防御評価のための総合ツールボックスである。
13の代表的な攻撃方法と15の防衛戦略、9つの主要なリスクドメインと50のきめ細かいカテゴリにまたがる多様なデータセットを統合している。
データ、方法論、評価をオープンソースで再現可能なプラットフォームに統合することで、OmniSafeBench-MMは将来の研究のための標準化された基盤を提供する。
論文 参考訳（メタデータ） (2025-12-06T22:56:29Z) - JADES: A Universal Framework for Jailbreak Assessment via Decompositional Scoring [45.76641811031552]
本稿では,JADES(Jailbreak Assessment via Decompositional Scoring)について紹介する。
その鍵となるメカニズムは、入力された有害な質問を一連の重み付けされたサブ問合せに自動的に分解し、各サブ問合せをスコアし、サブスコアを最終決定に重み付けすることである。
JADES on JailbreakQRは400対のjailbreakプロンプトと応答からなる新しいベンチマークで、それぞれが人間によって細心の注意を払って注釈付けされている。
論文 参考訳（メタデータ） (2025-08-28T14:40:27Z) - GuidedBench: Measuring and Mitigating the Evaluation Discrepancies of In-the-wild LLM Jailbreak Methods [10.603857042090521]
2022年以降,37件のジェイルブレイク研究に基づいて,系統的な測定を行った。
既存の評価システムにはケース特化基準が欠如しており,その有効性や安全性に関する誤解を招く結果が得られた。
GuidedBenchは、キュレートされた有害な質問データセット、詳細なケースバイケース評価ガイドライン、これらのガイドラインと統合された評価システムを含む、新しいベンチマークである。
論文 参考訳（メタデータ） (2025-02-24T06:57:27Z) - AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。
包括的な、自動化された、論理的な3つのフレームワークを提案します。
このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
論文 参考訳（メタデータ） (2024-06-06T07:24:41Z) - JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models [123.66104233291065]
ジェイルブレイク攻撃は、大きな言語モデル(LLM)が有害、非倫理的、またはその他の不快なコンテンツを生成する原因となる。
これらの攻撃を評価することは、現在のベンチマークと評価テクニックの収集が適切に対処していない、多くの課題を提示します。
JailbreakBenchは、以下のコンポーネントを備えたオープンソースのベンチマークである。
論文 参考訳（メタデータ） (2024-03-28T02:44:02Z) - A StrongREJECT for Empty Jailbreaks [72.8807309802266]
StrongREJECTは、ジェイルブレイクのパフォーマンスを評価するための高品質なベンチマークである。
これは、被害者モデルが禁止されたプロンプトに対する応答の有害性を評価する。
それは、ジェイルブレイクの有効性の人間の判断と最先端の合意を達成します。
論文 参考訳（メタデータ） (2024-02-15T18:58:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。