論文の概要: A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks

• arxiv url: http://arxiv.org/abs/2608.26008v1
• Date: Wed, 26 Aug 2026 16:52:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.92075
• Title: A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks
• Title（参考訳）: LLM脱獄攻撃に対する自己進化型多エージェントフレームワーク防御
• Authors: Tongyan Hu, Bryan Hooi,
• Abstract要約: 大規模言語モデル(LLM)は、ジェイルブレイク攻撃に弱いままである。 本稿では,永続的相互作用ルールメモリを中心に構築された自己進化型テストタイムディフェンスを提案する。
• 参考スコア（独自算出の注目度）: 53.12252890906191
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) remain vulnerable to jailbreak attacks that exploit techniques such as role-playing, obfuscation, code transformation, and multi-step indirection to elicit harmful outputs. As jailbreak strategies keep emerging, defenses have proliferated in an ongoing cat-and-mouse game, yet most remain static: their safety behavior is fixed at deployment, so they cannot accumulate defensive experience or adapt to unseen strategies. We propose a self-evolving test-time defense built around a persistent, cross-interaction rule memory: when an attack succeeds, the framework abstracts that failure into a method-level rule capturing the structural attack wrapper rather than the harmful topic, and reuses it against future inputs. Because rules are method-level, one induced rule generalizes across an entire attack family, and the label space expands as novel wrappers appear. The mechanism operates entirely through external memory and prompting, with no parameter updates, and applies to both open-weight and black-box API models. We realize it as four cooperating modules, but the contribution is the memory-based adaptation mechanism, not the module decomposition. Across four black-box jailbreak families and multiple models, our method substantially reduces attack success rates while preserving benign utility, remains robust under an adaptive composite-wrapper attack, and does not increase over-refusal as the memory grows.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、ロールプレイング、難読化、コード変換、有害な出力を引き出すための多段階間接といったテクニックを活用するジェイルブレイク攻撃に対して脆弱なままである。 ジェイルブレイク戦略が発展し続けるにつれ、防衛活動は進行中のキャット・アンド・ムースゲームで活発化しているが、ほとんどの場合静止状態であり、その安全行動は配備時に固定されているため、防御経験を蓄積したり、目に見えない戦略に適応できない。 攻撃が成功すると、フレームワークはその障害を有害なトピックではなく構造的アタックラッパーをキャプチャするメソッドレベルのルールに抽象化し、将来の入力に対して再利用する。 ルールはメソッドレベルであるため、1つの誘導ルールは攻撃ファミリー全体にわたって一般化され、ラベル空間は新規ラッパーが現れるにつれて拡大する。 このメカニズムは外部メモリを通じて完全に動作し、パラメータを更新せずにプロンプトし、オープンウェイトとブラックボックスの両方のAPIモデルに適用する。 我々はこれを4つの協調モジュールとして認識するが、その寄与はメモリベースの適応機構であり、モジュールの分解ではない。 4つのブラックボックス・ジェイルブレイク・ファミリーと複数のモデルにまたがって、良質な実用性を維持しながら攻撃成功率を大幅に低下させ、適応型複合ラッパー・アタックの下では頑健であり、メモリが増大するにつれて過度に拒否されることはない。

関連論文リスト

• Layer-Level Self-Exposure and Patch: Affirmative Token Mitigation for Jailbreak Attack Defense [55.77152277982117]
  私たちは、jailbreak攻撃から防御するために設計された方法であるLayer-AdvPatcherを紹介します。 私たちは、自己拡張データセットを通じて、大規模言語モデル内の特定のレイヤにパッチを適用するために、未学習の戦略を使用します。 我々の枠組みは、脱獄攻撃の有害性と攻撃の成功率を減らす。
  論文  参考訳（メタデータ） (2025-01-05T19:06:03Z)
• SelfDefend: LLMs Can Defend Themselves against Jailbreaking in a Practical Manner [21.414701448926614]
  本稿では,自衛隊(SelfDefend)と呼ばれる総称LDMジェイルブレイク防御フレームワークを紹介する。 主要なjailbreak攻撃に対して,メインストリームのGPT-3.5/4モデルを使用することを実証的に検証した。 防衛の堅牢性をさらに向上し、コストを最小化するために、我々は専用のオープンソース防衛モデルをチューニングするためにデータ蒸留アプローチを採用している。
  論文  参考訳（メタデータ） (2024-06-08T15:45:31Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)
• AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting [54.931241667414184]
  textbfAdaptive textbfShield Promptingを提案する。これは、MLLMを構造ベースのジェイルブレイク攻撃から守るための防御プロンプトで入力をプリペイドする。 我々の手法は、構造に基づくジェイルブレイク攻撃に対するMLLMの堅牢性を一貫して改善することができる。
  論文  参考訳（メタデータ） (2024-03-14T15:57:13Z)
• Weak-to-Strong Jailbreaking on Large Language Models [92.52448762164926]
  大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 既存のジェイルブレイク法は計算コストがかかる。 我々は、弱々しく強固な脱獄攻撃を提案する。
  論文  参考訳（メタデータ） (2024-01-30T18:48:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。