論文の概要: Jailbroken Frontier Models Retain Their Capabilities

• arxiv url: http://arxiv.org/abs/2605.00267v2
• Date: Mon, 04 May 2026 18:25:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 14:45:21.224275
• Title: Jailbroken Frontier Models Retain Their Capabilities
• Title（参考訳）: 脱獄したフロンティアモデルの能力維持
• Abstract要約: Haiku 4.5からOpus 4.6までの5つのベンチマークで28のジェイルブレイクを評価した。 Haiku 4.5は、ジェイルブレイク時に平均33.1%のベンチマークパフォーマンスを失うのに対して、Opus 4.6は最大思考力では7.7%しか失われていない。 私たちは、フロンティアモデルの安全ケースは、ジェイルブレイクによる有意義な能力低下に依存してはならないことを推奨します。
• 参考スコア（独自算出の注目度）: 13.528820984495658
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As language model safeguards become more robust, attackers are pushed toward developing increasingly complex jailbreaks. Prior work has found that this complexity imposes a "jailbreak tax" that degrades the target model's task performance. We show that this tax scales inversely with model capability and that the most advanced jailbreaks effectively yield no reduction in model capabilities. Evaluating 28 jailbreaks on five benchmarks across Claude models ranging in capability from Haiku 4.5 to Opus 4.6, we find Haiku 4.5 loses an average of 33.1% on benchmark performance when jailbroken, while Opus 4.6 at max thinking effort loses only 7.7%. We also observe that across all models, reasoning-heavy tasks display considerably more degradation than knowledge-recall tasks. Finally, Boundary Point Jailbreaking, currently the strongest jailbreak against deployed classifiers, achieves near-perfect classifier evasion with near-zero degradation across safeguarded models. We recommend that safety cases for frontier models should not rely on a meaningful capability degradation from jailbreaks.
• Abstract（参考訳）: 言語モデルの保護がより堅牢になるにつれて、攻撃者はますます複雑なジェイルブレイクの開発に向かっている。 以前の作業では、この複雑さがターゲットモデルのタスクパフォーマンスを低下させる"ジェイルブレイク税"を課すことが分かりました。 この税は、モデル能力と逆スケールし、最も先進的なジェイルブレイクは、効果的にモデル能力の低下を生じさせないことを示す。 Haiku 4.5からOpus 4.6まで、クロードモデルの5つのベンチマークで28のジェイルブレイクを評価すると、Haiku 4.5はジェイルブレイク時にベンチマークパフォーマンスで平均33.1%を失うのに対し、最大思考のOpus 4.6は7.7%しか失われていない。 また、すべてのモデルにおいて、推論に重きを置くタスクは、知識を呼び起こすタスクよりも大幅に劣化していることを示す。 最後に、現在デプロイされた分類器に対して最強のジェイルブレイクであるBoundary Point Jailbreakingは、保護されたモデル間でほぼゼロに近い劣化を伴うほぼ完璧な分類器回避を実現している。 私たちは、フロンティアモデルの安全ケースは、ジェイルブレイクによる有意義な能力低下に依存してはならないことを推奨します。

関連論文リスト

• Multi-Turn Jailbreaks Are Simpler Than They Seem [3.6010884750431438]
  マルチターンジェイルブレイク攻撃は、シングルターン保護に最適化されたモデルに対して、70%以上の成功率を達成する。 この結果は,AIの安全性評価やジェイルブレイク耐性システムの設計に重要な意味を持つ。
  論文  参考訳（メタデータ） (2025-08-11T05:57:41Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• One Model Transfer to All: On Robust Jailbreak Prompts Generation against LLMs [13.54228868302755]
  ArrAttackは、防衛された大規模言語モデル(LLM)をターゲットにした攻撃方法である。 ArrAttackは、様々な防御措置をバイパスできる堅牢なジェイルブレイクプロンプトを自動的に生成する。 私たちの仕事は、ジェイルブレイク攻撃と防衛のギャップを埋め、堅牢なジェイルブレイクプロンプトを生成するための新たな視点を提供します。
  論文  参考訳（メタデータ） (2025-05-23T08:02:38Z)
• The Jailbreak Tax: How Useful are Your Jailbreak Outputs? [21.453837660747844]
  既存のjailbreakによって生成されたモデル出力が実際に有用かどうかを問う。 8つの代表的なジェイルブレイクに対する評価は、ジェイルブレイク応答におけるモデルユーティリティの一貫した低下を示す。 全体として、我々の研究は、AI安全性の新たな重要な指標としてジェイルブレイク税を提案している。
  論文  参考訳（メタデータ） (2025-04-14T20:30:41Z)
• IDEATOR: Jailbreaking and Benchmarking Large Vision-Language Models Using Themselves [70.43466586161345]
  IDEATORは、ブラックボックスジェイルブレイク攻撃のための悪意のある画像テキストペアを自律的に生成する新しいジェイルブレイク手法である。 最近リリースされたVLM11のベンチマーク結果から,安全性の整合性に大きなギャップがあることが判明した。 例えば、我々はASRをGPT-4oで46.31%、Claude-3.5-Sonnetで19.65%と設定した。
  論文  参考訳（メタデータ） (2024-10-29T07:15:56Z)
• Stealthy Jailbreak Attacks on Large Language Models via Benign Data Mirroring [47.40698758003993]
  そこで本研究では,ターゲットブラックボックスモデルのミラーモデルを良質なデータ蒸留により局所的に訓練することにより,悪意あるプロンプト構築を誘導するトランスファー攻撃法を提案する。 提案手法は最大攻撃成功率92%, バランス値80%を達成し, GPT-3.5 Turboに対して平均1.5のジェイルブレイククエリが検出された。
  論文  参考訳（メタデータ） (2024-10-28T14:48:05Z)
• Understanding Jailbreak Success: A Study of Latent Space Dynamics in Large Language Models [4.547063832007314]
  単一のクラスからジェイルブレイクベクトルを抽出することで、他のセマンティックな異なるクラスからジェイルブレイクの有効性を緩和することができる。 有害性特徴抑制の潜在的共通メカニズムについて検討し、有効なジェイルブレイクが即時有害性に対するモデルの認識を著しく低下させる証拠を見出した。
  論文  参考訳（メタデータ） (2024-06-13T16:26:47Z)
• JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models [123.66104233291065]
  ジェイルブレイク攻撃は、大きな言語モデル(LLM)が有害、非倫理的、またはその他の不快なコンテンツを生成する原因となる。 これらの攻撃を評価することは、現在のベンチマークと評価テクニックの収集が適切に対処していない、多くの課題を提示します。 JailbreakBenchは、以下のコンポーネントを備えたオープンソースのベンチマークである。
  論文  参考訳（メタデータ） (2024-03-28T02:44:02Z)
• EasyJailbreak: A Unified Framework for Jailbreaking Large Language Models [53.87416566981008]
  本稿では,大規模言語モデル(LLM)に対するジェイルブレイク攻撃の構築と評価を容易にする統合フレームワークであるEasyJailbreakを紹介する。 Selector、Mutator、Constraint、Evaluatorの4つのコンポーネントを使ってJailbreak攻撃を構築する。 10の異なるLSMで検証した結果、さまざまなジェイルブレイク攻撃で平均60%の侵入確率で重大な脆弱性が判明した。
  論文  参考訳（メタデータ） (2024-03-18T18:39:53Z)
• A StrongREJECT for Empty Jailbreaks [72.8807309802266]
  StrongREJECTは、ジェイルブレイクのパフォーマンスを評価するための高品質なベンチマークである。 これは、被害者モデルが禁止されたプロンプトに対する応答の有害性を評価する。 それは、ジェイルブレイクの有効性の人間の判断と最先端の合意を達成します。
  論文  参考訳（メタデータ） (2024-02-15T18:58:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。