論文の概要: Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.15207v1
• Date: Sat, 10 Oct 2026 22:36:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.174745
• Title: Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける深さに基づく動的推論によるジェイルブレイク脆弱性の探索
• Abstract要約: 本研究では,大規模言語モデルのジェイルブレイク攻撃に対するロバスト性に対する深さに基づく動的推論の影響について検討する。 Shallowのエグジットは、より深いものよりも、ジェイルブレイク攻撃に対して一貫して堅牢であることに気付きました。 これらの洞察は、ジェイルブレイク攻撃に対してより堅牢な動的推論方法論を設計するのに役立ちます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have been shown to be computationally expensive and vulnerable to jailbreak attacks, in which adversarial prompts bypass safety alignment and induce harmful responses. To address this inefficiency, a range of techniques have been proposed to enable efficient LLM inference. Depth-based dynamic inference has demonstrated promising results by enabling outputs to be generated from intermediate layers. It offers the flexibility to adjust model behavior based on the available resource budget. However, how this flexibility affects the robustness of LLMs against jailbreak attacks remains unexplored. In this paper, we address this gap via a comprehensive investigation into the impact of depth-based dynamic inference on the robustness of LLMs against jailbreak attacks. Specifically, we make the following key observations: 1) Shallow exits are consistently more robust to jailbreak attacks than deeper ones; 2) Exit depth affects how easily the adversarial suffix can be optimized, with deeper exits reaching lower attack loss; and 3) Adversarial suffixes affect utility uniformly across exit depths. These insights can help design dynamic inference methodologies that are more robust to jailbreak attacks. Code is available at https://github.com/LassNajmuldeen/balcony-jailbreaking
• Abstract（参考訳）: 大規模言語モデル(LLM)は計算コストが高く、ジェイルブレイク攻撃に弱いことが示されており、敵は安全アライメントを回避し、有害な応答を誘導する。 この非効率性に対処するために、効率的なLLM推論を実現するための様々な手法が提案されている。 深さに基づく動的推論は中間層から出力を発生させることによって有望な結果を示した。 利用可能なリソース予算に基づいてモデル動作を調整する柔軟性を提供する。 しかし、この柔軟性がLLMのジェイルブレイク攻撃に対する堅牢性にどのように影響するかは未解明のままである。 本稿では,LLMの脱獄攻撃に対するロバスト性に対する深さに基づく動的推論の影響を包括的に調査し,このギャップに対処する。 具体的には、以下の重要な観察を行う。 1) 過度の出口は、より深いものよりも、脱獄攻撃に対して一貫して堅牢である。 2) 出口深度は、敵の接尾辞がいかに容易に最適化され、より深い出口がより低い攻撃損失に達するかに影響を及ぼす。 3) 隣接接尾辞は出口深度に均一に影響を及ぼす。 これらの洞察は、ジェイルブレイク攻撃に対してより堅牢な動的推論方法論を設計するのに役立ちます。 コードはhttps://github.com/LassNajmuldeen/balcony-jailbreakingで入手できる。

関連論文リスト

• A Causal Perspective for Enhancing Jailbreak Attack and Defense [29.669194815878768]
  大規模言語モデルとデータ駆動因果探索を融合したフレームワークを提案する。 7つの言語モデルにまたがる35kのジェイルブレイク試行からなる包括的データセットを導入する。 分析の結果、"Positive Character"や"Number of Task Steps"といった特定の特徴が、jailbreakの直接的な因果的ドライバとして機能していることが判明した。
  論文  参考訳（メタデータ） (2026-01-31T15:20:13Z)
• Improving LLM Safety Alignment with Dual-Objective Optimization [81.98466438000086]
  大規模言語モデル(LLM)の既存のトレーニング時間安全アライメント技術は、ジェイルブレイク攻撃に対して脆弱なままである。 本研究では,DPOの目的を2つの構成要素にまとめる安全アライメントの改善について提案する。(1) 安全でない世代が部分的に発生しても拒否を促す頑健な拒絶訓練,(2) 有害な知識の未学習。
  論文  参考訳（メタデータ） (2025-03-05T18:01:05Z)
• xJailbreak: Representation Space Guided Reinforcement Learning for Interpretable LLM Jailbreaking [32.89084809038529]
  ブラックボックス・ジェイルブレイク(Black-box jailbreak)は、大規模な言語モデルの安全メカニズムをバイパスする攻撃である。 強化学習(RL)を利用した新しいブラックボックスジェイルブレイク手法を提案する。 我々は,より厳密で総合的なジェイルブレイク成功評価を提供するために,キーワード,意図マッチング,回答バリデーションを取り入れた総合的ジェイルブレイク評価フレームワークを導入する。
  論文  参考訳（メタデータ） (2025-01-28T06:07:58Z)
• LIAR: Leveraging Inference Time Alignment (Best-of-N) to Jailbreak LLMs in Seconds [98.20826635707341]
  ジェイルブレイク攻撃は、慎重に製作されたプロンプトを通じて有害なアウトプットを引き出すことによって、安全に整合したLDMの脆弱性を露呈する。 私たちはジェイルブレイクを推論時のミスアライメントとして捉え、高速でブラックボックスのベスト・オブ・N$サンプリングアタックであるLIARを導入しました。 また、安全アライメント強度を定量化し、最適下界を導出するための理論的「ジェイルブレイクに対する安全ネット」指標も導入する。
  論文  参考訳（メタデータ） (2024-12-06T18:02:59Z)
• HSF: Defending against Jailbreak Attacks with Hidden State Filtering [14.031010511732008]
  隠れ状態フィルタ(HSF)に基づくジェイルブレイク攻撃防御戦略を提案する。 HSFは、推論プロセスが始まる前に、モデルが相手の入力をプリエンプティブに識別し、拒否することを可能にする。 不正なユーザクエリに対する応答を最小限に抑えながら、Jailbreak攻撃の成功率を大幅に低下させる。
  論文  参考訳（メタデータ） (2024-08-31T06:50:07Z)
• AutoDAN: Generating Stealthy Jailbreak Prompts on Aligned Large Language Models [54.95912006700379]
  本稿では,大規模言語モデルに対する新たなジェイルブレイク攻撃であるAutoDANを紹介する。 AutoDANは、慎重に設計された階層型遺伝的アルゴリズムによって、ステルスなジェイルブレイクプロンプトを自動的に生成できる。
  論文  参考訳（メタデータ） (2023-10-03T19:44:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。