論文の概要: SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks

• arxiv url: http://arxiv.org/abs/2606.05609v1
• Date: Thu, 04 Jun 2026 02:31:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.497786
• Title: SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks
• Title（参考訳）: SlotGCG: 脱獄攻撃のためのLSMにおける位置脆弱性の爆発
• Authors: Seungwon Jeong, Jiwoo Jeong, Hyeonjin Kim, Yunseok Lee, Woojin Lee,
• Abstract要約: textitVulnerable Slot Score (VSS)を導入し、ジェイルブレイクに対する位置的脆弱性を定量化する。 次に、最も脆弱な挿入スロットを選択し、それらのスロットに対してターゲット最適化攻撃を実行するSlotGCGを提案する。 提案手法では,攻撃に依存しない位置探索機構を任意の最適化ベースの攻撃にプラグインし,200msの事前処理時間を追加する。
• 参考スコア（独自算出の注目度）: 12.686897698255406
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are widely deployed, identifying their vulnerability through jailbreak attacks becomes increasingly critical. Optimization-based attacks like Greedy Coordinate Gradient (GCG) have focused on inserting adversarial tokens to the end of prompts. However, GCG restricts adversarial tokens to a fixed insertion point (typically the prompt suffix), leaving the effect of inserting tokens at other positions unexplored. In this paper, we empirically investigate \emph{slots}, i.e., candidate positions within a prompt where tokens can be inserted. We find that vulnerability to jailbreaking is highly related to the selection of the \emph{slots}. Based on these findings, we introduce the \textit{Vulnerable Slot Score} (VSS) to quantify the positional vulnerability to jailbreaking. We then propose SlotGCG, which evaluates all slots with VSS, selects the most vulnerable slots for insertion, and runs a targeted optimization attack at those slots. Our approach provides a position-search mechanism that is attack-agnostic and can be plugged into any optimization-based attack, adding only 200ms of preprocessing time. Experiments across multiple models demonstrate that SlotGCG significantly outperforms existing methods. Specifically, it achieves 14\% higher Attack Success Rates (ASR) over GCG-based attacks, converges faster, and shows superior robustness against defense methods with 42\% higher ASR than baseline approaches. Our implementation is available at \href{https://github.com/youai058/SlotGCG}{https://github.com/youai058/SlotGCG}
• Abstract（参考訳）: 大きな言語モデル(LLM)が広くデプロイされるにつれて、脱獄攻撃による脆弱性の特定がますます重要になっている。 Greedy Coordinate Gradient (GCG)のような最適化ベースの攻撃は、プロンプトの最後に敵トークンを挿入することに重点を置いている。 しかし、GCGは敵トークンを固定挿入点(典型的にはプロンプト接尾辞)に制限し、他の位置にトークンを挿入する効果は未探索のままである。 本稿では,トークンを挿入可能なプロンプト内の候補位置を実証的に調査する。 私たちは、jailbreakingの脆弱性が \emph{slots} の選択に非常に関係していることに気付きました。 これらの知見に基づき、ジェイルブレイクに対する位置的脆弱性を定量化するために、textit{Vulnerable Slot Score} (VSS)を導入した。 次に、VSSで全てのスロットを評価し、挿入する最も脆弱なスロットを選択し、それらのスロットに対してターゲット最適化攻撃を実行するSlotGCGを提案する。 提案手法では,攻撃に依存しない位置探索機構を任意の最適化ベースの攻撃にプラグインし,200msの事前処理時間を追加する。 複数のモデルにまたがる実験により、SlotGCGは既存の手法を大幅に上回っていることが示された。 具体的には、GCGベースの攻撃よりも14\%高い攻撃成功率(ASR)を達成し、より早く収束し、ベースラインアプローチよりも42\%高いASRを持つ防衛手法に対して優れた堅牢性を示す。 我々の実装は \href{https://github.com/youai058/SlotGCG}{https://github.com/youai058/SlotGCG} で利用可能である。

関連論文リスト

• Localization then Neutralization: Gradient-guided Token Suppression against Visual Prompt Injection Attack [78.02110947708535]
  敵対的なイメージは、プロンプトインジェクションを通じて、マルチモーダルな大規模言語モデルに深刻なセキュリティ上の脅威をもたらす。 敵の攻撃を成功させるには、画像全体を一様に依存するのではなく、重要な画像トークンの小さなサブセットに依存していることを示す。 本稿では,これらのトークンを勾配解析により局所化し,マスキングにより中和するグラディエントトークンマスキング(GTM)を提案する。
  論文  参考訳（メタデータ） (2026-05-24T17:51:34Z)
• Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs [75.62489398666644]
  我々は,Claude Codeをベースとしたemphautoresearchスタイルのパイプライン citepkarpathy2026autoresearch が,新しいホワイトボックス対逆攻撃を発見できることを示した。 textbfsignantは、jailbreakで既存のすべての(30以上のメソッド)を著しく上回り、インジェクション評価を促します。
  論文  参考訳（メタデータ） (2026-03-25T16:50:56Z)
• Beyond Suffixes: Token Position in GCG Adversarial Attacks on Large Language Models [0.0]
  我々は、一般的なGreedy Coordinate Gradient(GCG)攻撃に注目し、ジェイルブレイク攻撃の未発見の攻撃軸を特定する。 ケーススタディとしてGCGを用いて, 接尾辞の代わりに接頭辞を生成するよう攻撃を最適化し, 攻撃成功率に実質的に影響を及ぼすことを示す。
  論文  参考訳（メタデータ） (2026-02-03T08:53:35Z)
• Sockpuppetting: Jailbreaking LLMs Without Optimization Through Output Prefix Injection [2.8329969194317]
  sockpuppetting"は、オープンウェイト言語モデルをジェイルブレイクするためのシンプルな方法である。 攻撃成功率(ASR)はQwen3-8BのGCGよりも80%高い。
  論文  参考訳（メタデータ） (2026-01-19T19:53:48Z)
• Bag of Tricks for Subverting Reasoning-based Safety Guardrails [62.139297207938036]
  推論に基づくガードレールを覆い隠すジェイルブレイク手法の袋を提示する。 攻撃対象は白、グレー、ブラックボックスの設定で、無駄なテンプレート操作から完全に自動化された最適化までさまざまです。
  論文  参考訳（メタデータ） (2025-10-13T16:16:44Z)
• Mask-GCG: Are All Tokens in Adversarial Suffixes Necessary for Jailbreak Attacks? [3.5954282637912787]
  本研究では,サフィックス内の影響のあるトークンを識別するために,学習可能なトークンマスキングを利用するプラグアンドプレイ方式であるMask-GCGを提案する。 本手法は,高インパクト位置におけるトークンの更新確率を高めつつ,低インパクト位置でのトークンのプルーニングを行う。
  論文  参考訳（メタデータ） (2025-09-08T05:45:37Z)
• Checkpoint-GCG: Auditing and Attacking Fine-Tuning-Based Prompt Injection Defenses [10.08464073347558]
  細調整による防御に対するホワイトボックス攻撃であるCheckpoint-GCGを導入する。 最強防衛に対する攻撃成功率(ASR)を最大96%まで達成できるチェックポイントGCGを示す。
  論文  参考訳（メタデータ） (2025-05-21T16:43:17Z)
• Improved Techniques for Optimization-Based Jailbreaking on Large Language Models [78.32176751215073]
  Greedy Coordinate Gradient (GCG)攻撃の成功は、最適化ベースのジェイルブレイク技術の研究への関心が高まっている。 我々はGCGのような最適化ベースのジェイルブレイクにいくつかの改良(経験的)技術を提案する。 以上の結果から,GCGが最先端のジェイルブレイク攻撃より優れ,100%近い攻撃成功率を達成できる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-05-31T17:07:15Z)
• Boosting Jailbreak Attack with Momentum [5.047814998088682]
  大規模言語モデル(LLM)は様々なタスクで顕著な成功を収めていますが、敵の攻撃に弱いままです。 textbfAccelerated GbfCG (textbfMAC)アタックは、運動量項を勾配に統合し、逆のプロンプトにおけるランダムなトークンの探索を強化し安定化させる。
  論文  参考訳（メタデータ） (2024-05-02T12:18:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。