論文の概要: TRAP: Tree-Guided Reinforcement-Augmented Probing for Automated LLM Jailbreaking

• arxiv url: http://arxiv.org/abs/2610.17313v1
• Date: Mon, 12 Oct 2026 19:10:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 02:14:54.551799
• Title: TRAP: Tree-Guided Reinforcement-Augmented Probing for Automated LLM Jailbreaking
• Title（参考訳）: TRAP: 自動LDM脱獄のための木ガイド強化型探傷法
• Abstract要約: 統一された大型言語モデル(LLM)は、安全ガードレールを回避しようとするジェイルブレイクのプロンプトに弱いままである。 本稿では,自動ジェイルブレイク戦略発見のための階層的なフレームワークであるTree-Guided Reinforcement-Augmented Probing (TRAP)を提案する。 TRAPは確立したjailbreakメソッドとアタックテンプレートをセマンティックストラテジーツリーに編成し、幅広いアタックアプローチを具体的で再利用可能な戦略に接続する。
• 参考スコア（独自算出の注目度）: 1.3177681589844814
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Aligned large language models (LLMs) remain vulnerable to jailbreak prompts that circumvent their safety guardrails, making the identification of these vulnerabilities important for understanding and mitigating model weaknesses. Existing automated jailbreak methods explore prompt candidates or reuse attack experience, but generally do not learn over a persistent hierarchy that connects related jailbreak strategies, such as role-play, encoding, and obfuscation. This leaves the relationships among reusable strategies underused in guiding adaptive attack selection. We present Tree-Guided Reinforcement-Augmented Probing (TRAP), a hierarchical framework for automated jailbreak strategy discovery that requires only black-box access to the target LLM. TRAP organizes established jailbreak methods and successful attack templates into a semantic strategy tree, connecting broad attack approaches to concrete, reusable strategies. A reinforcement-learning policy based on a tree-structured gradient bandit explores this tree and uses evaluator feedback to update strategy preferences along each selected path. The policy retains these preferences across attack objectives, allowing experience from earlier attempts to guide subsequent strategy selection. Retrieval-augmented prompt construction translates the selected strategy into an attack for the current objective using relevant successful examples. Experiments on AdvBench across seven aligned LLMs show that TRAP outperforms its counterparts on six models under the reported method settings and the common primary evaluator, achieving attack success rates of 45.6% to 97.9% on these models. These findings support hierarchical strategy learning as an effective approach to discovering jailbreak vulnerabilities in aligned LLMs.
• Abstract（参考訳）: 統一された大規模言語モデル(LLM)は、安全ガードレールを回避し、モデルの弱点を理解し緩和するためにこれらの脆弱性の識別が重要となるジェイルブレイクプロンプトに対して脆弱なままである。 既存の自動ジェイルブレイクメソッドは、候補者のプロンプトや攻撃経験の再利用を探求するが、一般的には、ロールプレイ、エンコーディング、難読化といった関連するジェイルブレイク戦略を結び付ける永続的な階層について学ばない。 これにより、アダプティブアタック選択の導出に未熟な再利用可能な戦略間の関係が残される。 本稿では,自動ジェイルブレイク戦略発見のための階層的なフレームワークであるTree-Guided Reinforcement-Augmented Probing (TRAP)について述べる。 TRAPは確立したjailbreakメソッドとアタックテンプレートをセマンティックストラテジーツリーに編成し、幅広いアタックアプローチを具体的で再利用可能な戦略に接続する。 木構造勾配帯域に基づく強化学習ポリシでは,木を探索し,評価器フィードバックを用いて,選択した経路の戦略嗜好を更新する。 この方針は攻撃目標を越えてこれらの嗜好を保ち、その後の戦略選択を導こうとする以前の試みからの体験を可能にする。 Retrieval-augmented prompt constructionは、選択した戦略を関連する成功例を用いて現在の目的に対する攻撃に変換する。 7つのLCMでAdvBenchを実験したところ、TRAPは報告されたメソッド設定と一般的なプライマリ評価器の下で6つのモデルで性能を上回り、攻撃成功率は45.6%から97.9%に達した。 これらの知見は, 階層的戦略学習を, 協調LDMにおけるジェイルブレイク脆弱性発見の効果的なアプローチとして支援する。

関連論文リスト

• SRTJ: Self-Evolving Rule-Driven Training-Free LLM Jailbreaking [24.752522468137443]
  我々は、攻撃戦略を体系的に発見、構成、洗練する自己進化型ルール駆動型トレーニングフリージェイルブレイク(SRTJ)フレームワークを提案する。 結果として生じるルールメモリは階層的なマルチレベルな方法で進化し、蒸留された攻撃知識を長期的、中期的、短期的なルールに明示的に整理する。 SRTJは、既存のjailbreak法と比較して、一般化と堅牢性を向上しつつ、異なる目標LLMに対して、強力で安定した攻撃性能を実現する。
  論文  参考訳（メタデータ） (2026-05-01T17:27:45Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• An Automated Framework for Strategy Discovery, Retrieval, and Evolution in LLM Jailbreak Attacks [9.715575204912167]
  攻撃戦略を自律的に発見し,回収し,進化させる脱獄フレームワークを提案する。 ASTRAは平均アタック成功率(ASR)が82.7%に達し、ベースラインをはるかに上回っている。
  論文  参考訳（メタデータ） (2025-11-04T08:24:22Z)
• Formalization Driven LLM Prompt Jailbreaking via Reinforcement Learning [48.100552417137656]
  PASSは、初期のジェイルブレイクプロンプトを形式化された記述に変換するために強化学習を使用している。 我々は、共通のオープンソースモデルに関する広範な実験を行い、攻撃の有効性を実証した。
  論文  参考訳（メタデータ） (2025-09-28T01:38:00Z)
• MEF: A Capability-Aware Multi-Encryption Framework for Evaluating Vulnerabilities in Black-Box Large Language Models [5.645247459469767]
  ブラックボックスLLMの脆弱性を評価するための機能対応マルチ暗号化フレームワーク(MEF)を提案する。 限定的な理解能力を持つモデルに対して、MEFは、階層化された意味突然変異と暗号化技術を統合するFu+En1戦略を採用している。 強力な理解能力を持つモデルでは、MEFはより複雑なFu+En1+En2戦略を使用し、LLMの応答に追加のデュアルエンド暗号化技術を適用する。
  論文  参考訳（メタデータ） (2025-05-29T12:50:57Z)
• EnJa: Ensemble Jailbreak on Large Language Models [69.13666224876408]
  大きな言語モデル(LLM)は、安全クリティカルなアプリケーションにますますデプロイされている。 LLMは、悪質なプロンプトを慎重に作り、ポリシーに違反するコンテンツを生成することで、まだジェイルブレイクされる可能性がある。 本稿では,プロンプトレベルのジェイルブレイクを用いて有害な命令を隠蔽し,グラデーションベースの攻撃で攻撃成功率を高め,テンプレートベースのコネクタを介して2種類のジェイルブレイク攻撃を接続する新しいEnJa攻撃を提案する。
  論文  参考訳（メタデータ） (2024-08-07T07:46:08Z)
• AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens [83.08119913279488]
  本稿では,ジェイルブレイク攻撃と防衛技術における依存関係の体系的解析について述べる。 包括的な、自動化された、論理的な3つのフレームワークを提案します。 このアンサンブル・ジェイルブレイク・アタックと防衛の枠組みは,既存の研究を著しく上回る結果となった。
  論文  参考訳（メタデータ） (2024-06-06T07:24:41Z)
• Defensive Prompt Patch: A Robust and Interpretable Defense of LLMs against Jailbreak Attacks [59.46556573924901]
  本稿では,大規模言語モデル(LLM)のための新しいプロンプトベースの防御機構であるDPPを紹介する。 従来のアプローチとは異なり、DPP は LLM の高能率を維持しながら最小の攻撃成功率 (ASR) を達成するように設計されている。 LLAMA-2-7B-ChatおよびMistral-7B-Instruct-v0.2モデルによる実験結果から,DSPの堅牢性と適応性が確認された。
  論文  参考訳（メタデータ） (2024-05-30T14:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。