論文の概要: JailBound: FOL-Guided Jailbreak Evaluation for Exploring LLM Behavioral Boundaries

• arxiv url: http://arxiv.org/abs/2611.07530v1
• Date: Thu, 05 Nov 2026 06:41:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.570616
• Title: JailBound: FOL-Guided Jailbreak Evaluation for Exploring LLM Behavioral Boundaries
• Title（参考訳）: JailBound: LLMの挙動境界探索のためのFOLガイドによるジェイルブレイク評価
• Abstract要約: 大規模言語モデル(LLM)は、汎用的な会話アシスタントとしてますます普及している。 JailBoundは、自動ベンチマーク構築と1次損失(FOL)誘導のデュアルブランチ検索を組み合わせた統合されたジェイルブレイク評価フレームワークである。 我々は13のモデルファミリーから46 LLMのJailBoundを統一的な実験プロトコルで評価した。
• 参考スコア（独自算出の注目度）: 18.566005219470252
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As large language models (LLMs) are increasingly deployed as general-purpose conversational assistants, they must handle diverse user requests while reliably refusing harmful ones. Jailbreak attacks craft adversarial instructions or conversational contexts to elicit unsafe responses despite these safeguards. However, existing jailbreak benchmarks often rely on manually designed or collected prompts, making it difficult to systematically extend coverage to new threat conditions. Moreover, existing attack search methods typically optimize for attack success rate (ASR), providing limited insight into how model behavior changes locally between safe refusal and unsafe response. To address these limitations, we present JailBound, a unified jailbreak evaluation framework that combines automated benchmark construction with first-order loss (FOL)-guided dual-branch search. JailBound organizes threats by risk category, application domain, and attack type. Conditioned on this taxonomy, a fine-tuned meta-attack generator synthesizes evaluation prompts across diverse threat conditions. FOL serves as a local sensitivity signal for exploring high-value attack states and behavior-sensitive states. We evaluate JailBound across 46 LLMs from 13 model families under a unified experimental protocol. Under matched settings, the High-Value Branch improves average ASR over a ZOL-only baseline by 5.1 and 4.9 percentage points across the two evaluation settings. Under local perturbations, states from the Safety-Sensitivity Branch exhibit higher behavioral flip rates than those from the High-Value Branch across all tested radii for JailBound and S-Eval, indicating greater local sensitivity of judge-assigned safety labels. Warning: this paper includes examples that may be offensive or harmful.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、汎用的な会話アシスタントとしてますます多くデプロイされているため、有害なものを確実に再利用しながら、多様なユーザ要求を処理する必要がある。 ジェイルブレイク攻撃は、これらの保護にもかかわらず安全でない応答を誘発するために、敵の指示や会話の文脈を作らせる。 しかし、既存のジェイルブレイクベンチマークは、しばしば手動で設計または収集されたプロンプトに依存しており、新しい脅威条件へのカバレッジを体系的に拡張することは困難である。 さらに、既存の攻撃探索手法は一般的に攻撃成功率(ASR)を最適化し、モデル動作が安全な拒絶反応と安全でない応答の間でどのように局所的に変化するかについての限られた洞察を与える。 これらの制限に対処するために,自動ベンチマーク構築とFOL(Fon-order Los)誘導のデュアルブランチ検索を組み合わせた,統合されたジェイルブレイク評価フレームワークであるJailBoundを提案する。 JailBoundはリスクカテゴリ、アプリケーションドメイン、アタックタイプによって脅威を整理する。 この分類に基づいて、微調整されたメタ攻撃発生器は様々な脅威条件で評価プロンプトを合成する。 FOLは、高価値攻撃状態と行動感受性状態を調べるための局所感度信号として機能する。 我々は13のモデルファミリーから46 LLMのJailBoundを統一的な実験プロトコルで評価した。 一致した設定の下で、High-Value BranchはZOLのみのベースラインよりも平均的なASRを2つの評価設定で5.1と4.9ポイント改善する。 局所摂動下では、安全感性ブランチの州は、ジャイルバウンドとS-Evalの全ての試験ラジイにまたがるハイバリューブランチの州よりも行動上のフリップ率が高く、裁判官が指定した安全ラベルの局所的な感度が高いことを示している。 警告: 攻撃的あるいは有害な例を含む。

関連論文リスト

• MLCommons Jailbreak Benchmark v1.0 [19.680369494957898]
  Jailbreak Benchmark v1.0は、単一ターンのテキストベースのjailbreak攻撃に対する大きな言語モデルの堅牢性を評価するためのエンドツーエンドの方法論を提供する。 基準駆動システムと攻撃選択、ペア化されたベースラインと敵評価、人間のアノテーション、自動評価器の校正、スコア付け、グレーディング、リスク校正の開示を1つのベンチマークパイプライン内で組み合わせる。
  論文  参考訳（メタデータ） (2026-10-02T05:17:56Z)
• Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems [0.0]
  エージェントAIシステムは、命令を解釈し、外部データを処理し、ツールを呼び出し、他のエージェントと調整するための言語モデルコンポーネントにますます依存している。 本研究は、標的システムの確率モデル、防御機構、および攻撃者の自動判断による攻撃防御設定を解析する。
  論文  参考訳（メタデータ） (2026-06-18T16:50:28Z)
• The Vulnerability of LLM Rankers to Prompt Injection Attacks [40.03039307576983]
  大規模言語モデル(LLM)は強力なリランカとして登場した。 最近の研究では、候補文書に埋め込まれた単純なプロンプトインジェクションは、LCMのランキング決定を著しく変える可能性があることが示されている。
  論文  参考訳（メタデータ） (2026-02-18T06:19:08Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• How Real is Your Jailbreak? Fine-grained Jailbreak Evaluation with Anchored Reference [20.565609053126384]
  FJARは、アンロックされた参照を持つきめ細かいジェイルブレイク評価フレームワークである。 まず、jailbreakレスポンスを5つの細かいカテゴリに分類します。 そこで我々は,高品質なアンカード参照を構築するために,新しい無害木分解手法を提案する。
  論文  参考訳（メタデータ） (2026-01-04T07:54:24Z)
• OmniSafeBench-MM: A Unified Benchmark and Toolbox for Multimodal Jailbreak Attack-Defense Evaluation [94.61617176929384]
  OmniSafeBench-MMはマルチモーダル・ジェイルブレイク攻撃防御評価のための総合ツールボックスである。 13の代表的な攻撃方法と15の防衛戦略、9つの主要なリスクドメインと50のきめ細かいカテゴリにまたがる多様なデータセットを統合している。 データ、方法論、評価をオープンソースで再現可能なプラットフォームに統合することで、OmniSafeBench-MMは将来の研究のための標準化された基盤を提供する。
  論文  参考訳（メタデータ） (2025-12-06T22:56:29Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。