論文の概要: Dynamic Deep Prompt Optimization for Defending Against Jailbreak Attacks on LLMs

• arxiv url: http://arxiv.org/abs/2609.26185v1
• Date: Mon, 10 Aug 2026 03:05:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.917578
• Title: Dynamic Deep Prompt Optimization for Defending Against Jailbreak Attacks on LLMs
• Title（参考訳）: LLMにおける脱獄防止のための動的深部プロンプト最適化
• Abstract要約: 大規模言語モデル(LLM)は多くのアプリケーションで素晴らしい機能を示しているが、Jailbreak攻撃には弱いままだ。 本稿では, 深いプロンプト最適化に基づく最初のジェイルブレイク防御である動的ディーププロンプト最適化(DDPO)を提案する。
• 参考スコア（独自算出の注目度）: 4.324744046348926
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) demonstrate impressive capabilities across many applications but remain vulnerable to jailbreak attacks, which elicit harmful or unintended content. While model fine-tuning is an option for safety alignment, it is costly and prone to catastrophic forgetting. Prompt optimization has emerged as a promising alternative, yet existing prompt-based defenses typically rely on static modifications (e.g., fixed prefixes or suffixes) that cannot adapt to diverse and evolving attacks. We propose Dynamic Deep Prompt Optimization (DDPO), the first jailbreak defense based on deep prompt optimization. DDPO uses the target LLM's own intermediate layers as feature extractors to dynamically generate defensive embeddings via a lightweight multilayer perceptron. These tailored embeddings are then injected into a subsequent intermediate layer, enabling an input-dependent defense without modifying the LLM's weights. This design ensures high adaptability with minimal computational overhead. Experiments on a diverse set of models and attacks demonstrate that DDPO significantly outperforms static prompt optimization methods, particularly on weakly aligned models and when handling semantically ambiguous benign prompts, successfully distinguishing them from genuinely harmful requests.
• Abstract（参考訳）: 大きな言語モデル(LLM)は多くのアプリケーションにまたがって印象的な機能を示しているが、有害または意図しないコンテンツを誘発するジェイルブレイク攻撃には弱いままである。 モデルファインチューニングは安全アライメントの選択肢であるが、コストがかかり、悲惨な忘れがちである。 プロンプト最適化は有望な代替手段として現れてきたが、既存のプロンプトベースのディフェンスは通常、多様で進化する攻撃に適応できない静的な修正(例えば、固定プレフィックスや接尾辞)に依存している。 本稿では, 深いプロンプト最適化に基づく最初のジェイルブレイク防御である動的ディーププロンプト最適化(DDPO)を提案する。 DDPOはLLMの中間層を特徴抽出器として使用し、軽量な多層パーセプトロンを介して防御的な埋め込みを動的に生成する。 これらの調整された埋め込みは後続の中間層に注入され、LSMの重みを変更することなく入力依存の防御を可能にする。 この設計により、最小の計算オーバーヘッドで高い適応性が得られる。 多様なモデルとアタックに対する実験により、DDPOは静的なプロンプト最適化法、特に弱い整列モデルや意味的に曖昧な良性のプロンプトを扱う場合には、真に有害な要求と区別することに成功した。

関連論文リスト

• Adversarial Reframing: A Framework for Targeted Generation in Language Models [4.231181719953953]
  大規模言語モデル(LLM)は、さまざまな実世界の設定で広くデプロイされているが、ジェイルブレイクに対して脆弱であり、プロンプトベースの攻撃安全フィルタである。 本稿では,基礎モデルの安全性を積極的に強化するためのツールとしてTHREAT (edversa bypass generation via Reframing) を提案する。
  論文  参考訳（メタデータ） (2026-05-20T19:31:07Z)
• PSM: Prompt Sensitivity Minimization via LLM-Guided Black-Box Optimization [0.0]
  本稿では,シールド付加によるシステムプロンプト硬化のための新しいフレームワークを提案する。 我々は、LSM-as-optimizerを利用してShiELDの空間を探索し、敵攻撃の組から導かれる漏洩量を最小限に抑える。 最適化されたShielDは、包括的な抽出攻撃に対する急激なリークを著しく低減することを示した。
  論文  参考訳（メタデータ） (2025-11-20T10:25:45Z)
• SecInfer: Preventing Prompt Injection via Inference-time Scaling [54.21558811232143]
  emphSecInferは,インセンジェンス時間スケーリングに基づくインジェクション攻撃に対する新しい防御法である。 SecInferは、既存のインジェクション攻撃と適応的なインジェクション攻撃の両方を効果的に軽減し、最先端の防御と既存の推論時間スケーリングアプローチより優れていることを示す。
  論文  参考訳（メタデータ） (2025-09-29T16:00:41Z)
• LightDefense: A Lightweight Uncertainty-Driven Defense against Jailbreaks via Shifted Token Distribution [84.2846064139183]
  大規模言語モデル(LLM)は、脱獄プロンプトからの脅威に直面している。 ホワイトボックスモデルを対象とした軽量防衛機構であるLightDefenseを提案する。
  論文  参考訳（メタデータ） (2025-04-02T09:21:26Z)
• FlexLLM: Exploring LLM Customization for Moving Target Defense on Black-Box LLMs Against Jailbreak Attacks [7.31505609352525]
  大規模言語モデル(LLM)の防衛は、有害なコンテンツを生成するためにこれらのシステムを利用する多数の攻撃者に対抗するために不可欠である。 モデルロバスト性を高めるために、デコードハイパーパラメータを変更する移動目標防御手法を提案する。 以上の結果から,テストした3つのモデルのうち,我々の防衛は脱獄攻撃に対して最も効果的であることが示された。
  論文  参考訳（メタデータ） (2024-12-10T17:02:28Z)
• Defensive Prompt Patch: A Robust and Interpretable Defense of LLMs against Jailbreak Attacks [59.46556573924901]
  本稿では,大規模言語モデル(LLM)のための新しいプロンプトベースの防御機構であるDPPを紹介する。 従来のアプローチとは異なり、DPP は LLM の高能率を維持しながら最小の攻撃成功率 (ASR) を達成するように設計されている。 LLAMA-2-7B-ChatおよびMistral-7B-Instruct-v0.2モデルによる実験結果から,DSPの堅牢性と適応性が確認された。
  論文  参考訳（メタデータ） (2024-05-30T14:40:35Z)
• AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting [54.931241667414184]
  textbfAdaptive textbfShield Promptingを提案する。これは、MLLMを構造ベースのジェイルブレイク攻撃から守るための防御プロンプトで入力をプリペイドする。 我々の手法は、構造に基づくジェイルブレイク攻撃に対するMLLMの堅牢性を一貫して改善することができる。
  論文  参考訳（メタデータ） (2024-03-14T15:57:13Z)
• Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks [17.22989422489567]
  大規模言語モデル(LLM)は敵の攻撃や脱獄に対して脆弱である。 本稿では,LLMをジェイルブレイク攻撃から守るための最適化に基づく目標と,堅牢なシステムレベルの防御を実現するアルゴリズムを提案する。 GPT-4の攻撃成功率(ASR)は6%,Llama-2の攻撃成功率(ASR)は0%に低下した。
  論文  参考訳（メタデータ） (2024-01-30T18:56:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。