論文の概要: ATTCK-R: Knowledge-Aware Long-Horizon Jailbreaking for Protected LLMs

• arxiv url: http://arxiv.org/abs/2610.16305v1
• Date: Mon, 12 Oct 2026 07:32:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 06:32:43.991513
• Title: ATTCK-R: Knowledge-Aware Long-Horizon Jailbreaking for Protected LLMs
• Title（参考訳）: ATTCK-R:保護LDMのための知識対応ロングホライゾンジェイルブレイク
• Abstract要約: プロンプトベースの安全保護は、強いマルチターンベースラインの平均攻撃成功率を0.896から0.608(32.1%)に下げることを示す。 ブラックボックスシステムを保護するために設計された,計画駆動型マルチターンレッドチームリングフレームワークATTCK-Rを提案する。
• 参考スコア（独自算出の注目度）: 2.9766979041947006
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models are deployed behind increasingly sophisticated safety mechanisms, evaluating their robustness under realistic adversarial conditions becomes increasingly difficult and critical. Existing jailbreaking evaluations often rely on static prompts, limited interaction horizons, or lightly protected systems, failing to reflect protected deployment settings with prompt-based safety protections. We show that the introduction of a prompt-based safety protection reduces the average attack success rate of a strong multi-turn baseline from 0.896 to 0.608 (32.1\% relative), demonstrating that unprotected evaluations substantially overestimate real-world vulnerabilities. We propose Adaptive Traceback and Tactic Curation for Knowledge-based Red-teaming (ATTCK-R), a planning-driven multi-turn red teaming framework designed for protected black-box systems. ATTCK-R models jailbreaking as a long-horizon trajectory optimization problem using a structured belief state, introduces optimization-based tactic curation to abstract reusable strategies from prior successes and failures, and employs informed traceback to resume attacks from strategically meaningful states rather than restarting. Evaluated across 9 widely used LLMs configured with a single prompt-based safety protection layer, ATTCK-R consistently outperforms strong recent multi-turn jailbreaking frameworks. Ablation results confirm that long-horizon planning and tactic curation improve attack effectiveness, while adaptive traceback improves efficiency through structured recovery from conversational failure.
• Abstract（参考訳）: 大規模言語モデルが高度な安全メカニズムの裏に展開されるにつれて、現実的な敵条件下での堅牢性の評価はますます困難で批判的になる。 既存のジェイルブレイク評価は、しばしば静的なプロンプト、限られた相互作用の地平線、軽度に保護されたシステムに依存し、プロンプトベースの安全保護で保護されたデプロイメント設定を反映しない。 本研究では,プロンプトベースの安全保護の導入により,強いマルチターンベースラインの平均攻撃成功率が0.896から0.608(32.1\%)に低下し,非保護評価が現実世界の脆弱性を著しく過大評価していることを示す。 ブラックボックスシステムを保護するために設計された,計画駆動型マルチターンレッドチームリングフレームワークATTCK-Rを提案する。 ATTCK-Rは、構造化された信念状態を用いた長距離軌道最適化問題としてジェイルブレイクをモデル化し、事前の成功と失敗から再利用可能な戦略を抽象化するための最適化ベースの戦術キュレーションを導入し、再起動ではなく、戦略的に意味のある状態からの攻撃を再開するために、インフォメーション・トレースバックを利用する。 ATTCK-Rは、単一のプロンプトベースの安全保護層で構成された9つの広く使用されているLLMで評価され、最近のマルチターンジェイルブレイクフレームワークよりも一貫して優れています。 アブレーションの結果,長期計画と戦術的キュレーションにより攻撃効果が向上し,適応的トレースバックは会話障害からの構造化回復により効率が向上することを確認した。

関連論文リスト

• Metis: Learning to Jailbreak LLMs via Self-Evolving Metacognitive Policy Optimization [51.11398557420066]
  我々は、推論時ポリシー最適化としてジェイルブレイクを改定するフレームワークであるMetisを紹介する。 メティスは比較手法の中でも89.2%で最強のアタック成功率(ASR)を達成している。 冗長な探索を最適化に置き換えることで、Metisはトークンコストを平均8.2倍、最大11.4倍に削減する。
  論文  参考訳（メタデータ） (2026-05-11T06:45:00Z)
• ICL-EVADER: Zero-Query Black-Box Evasion Attacks on In-Context Learning and Their Defenses [8.57098009274006]
  In-context Learning (ICL) は、大規模言語モデルを用いたテキスト分類において、強力なデータ効率のパラダイムとなっている。 In this present ICL-Evader, a novel black-box evasion attack framework which operating under a high practical zero-query threat model。
  論文  参考訳（メタデータ） (2026-01-29T11:50:50Z)
• Be Your Own Red Teamer: Safety Alignment via Self-Play and Reflective Experience Replay [19.431152130507648]
  大規模言語モデル(LLM)は目覚ましい能力を達成したが、敵のジェイルブレイク攻撃に弱いままである。 本稿では、アタッカー(ジェイルブレイクの発生)とディフェンダー(有害な要求を拒否)の両方として機能するシステムであるセーフティセルフプレイ(SSP)を紹介する。 SSPは、堅牢な防御能力を自律的に進化させ、静的な敵対的データセットでトレーニングされたベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2026-01-15T17:00:16Z)
• Jailbreaking LLMs Without Gradients or Priors: Effective and Transferable Attacks [22.52730333160258]
  RAILSは,モデルロジットのみで動作するフレームワークである。 RAILSは勾配依存を排除し、クロストケナイザーアンサンブル攻撃を可能にする。 RAILSは、複数のオープンソースモデルで100%近い成功率と、GPTやGeminiのようなクローズドソースシステムへの高いブラックボックス攻撃転送性を実現している。
  論文  参考訳（メタデータ） (2026-01-06T21:14:13Z)
• ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
  ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。 ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
  論文  参考訳（メタデータ） (2025-07-14T09:05:54Z)
• AutoAdv: Automated Adversarial Prompting for Multi-Turn Jailbreaking of Large Language Models [0.0]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃の脆弱性を示し続けている。 本稿では,敵対的即時生成を自動化する新しいフレームワークであるAutoAdvを紹介する。 我々の攻撃は、有害なコンテンツ生成に対して最大86%のジェイルブレイク成功率を達成したことを示す。
  論文  参考訳（メタデータ） (2025-04-18T08:38:56Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)
• Defensive Prompt Patch: A Robust and Interpretable Defense of LLMs against Jailbreak Attacks [59.46556573924901]
  本稿では,大規模言語モデル(LLM)のための新しいプロンプトベースの防御機構であるDPPを紹介する。 従来のアプローチとは異なり、DPP は LLM の高能率を維持しながら最小の攻撃成功率 (ASR) を達成するように設計されている。 LLAMA-2-7B-ChatおよびMistral-7B-Instruct-v0.2モデルによる実験結果から,DSPの堅牢性と適応性が確認された。
  論文  参考訳（メタデータ） (2024-05-30T14:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。