論文の概要: Sockpuppetting: Jailbreaking LLMs Without Optimization Through Output Prefix Injection
- arxiv url: http://arxiv.org/abs/2601.13359v1
- Date: Mon, 19 Jan 2026 19:53:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-21 22:47:23.042197
- Title: Sockpuppetting: Jailbreaking LLMs Without Optimization Through Output Prefix Injection
- Title（参考訳）: Sockpuppetting: 出力プレフィックスインジェクションによる最適化なしでLLMをジェイルブレイクする
- Abstract要約: sockpuppetting"は、オープンウェイト言語モデルをジェイルブレイクするためのシンプルな方法である。
攻撃成功率(ASR)はQwen3-8BのGCGよりも80%高い。
- 参考スコア（独自算出の注目度）: 2.8329969194317
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As open-weight large language models (LLMs) increase in capabilities, safeguarding them against malicious prompts and understanding possible attack vectors becomes ever more important. While automated jailbreaking methods like GCG [Zou et al., 2023] remain effective, they often require substantial computational resources and specific expertise. We introduce "sockpuppetting'', a simple method for jailbreaking open-weight LLMs by inserting an acceptance sequence (e.g., "Sure, here is how to...'') at the start of a model's output and allowing it to complete the response. Requiring only a single line of code and no optimization, sockpuppetting achieves up to 80% higher attack success rate (ASR) than GCG on Qwen3-8B in per-prompt comparisons. We also explore a hybrid approach that optimizes the adversarial suffix within the assistant message block rather than the user prompt, increasing ASR by 64% over GCG on Llama-3.1-8B in a prompt-agnostic setting. The results establish sockpuppetting as an effective low-cost attack accessible to unsophisticated adversaries, highlighting the need for defences against output-prefix injection in open-weight models.
- Abstract（参考訳）: オープンウェイトな大規模言語モデル(LLM)の能力が向上するにつれて、悪意のあるプロンプトから彼らを保護し、攻撃ベクトルを理解することがますます重要になる。
GCG(Zou et al , 2023)のような自動ジェイルブレイク手法は依然として有効であるが、かなりの計算資源と特定の専門知識を必要とすることが多い。
我々は、モデル出力の開始時に受け入れシーケンス(例えば、"Sure, here is how to...'')を挿入し、応答を完了させることで、オープンウェイトLLMをジェイルブレイクする簡単な方法である"sockpuppetting'"を紹介します。
たった1行のコードだけで最適化が不要なソックアップペッティングは、Qwen3-8Bの攻撃成功率(ASR)を、プロンプト毎の比較で最大80%向上させる。
また、ユーザプロンプトではなく、アシスタントメッセージブロック内の逆接接尾辞を最適化するハイブリッドアプローチについても検討し、Llama-3.1-8B上のGCGよりもASRを64%増加させる。
その結果、ソックアップペッティングは、未解決の敵に対して有効な低コスト攻撃として確立され、オープンウェイトモデルにおけるアウトプット・プレフィックス・インジェクションに対する防御の必要性が強調された。
関連論文リスト
- SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks [12.686897698255406]
textitVulnerable Slot Score (VSS)を導入し、ジェイルブレイクに対する位置的脆弱性を定量化する。
次に、最も脆弱な挿入スロットを選択し、それらのスロットに対してターゲット最適化攻撃を実行するSlotGCGを提案する。
提案手法では,攻撃に依存しない位置探索機構を任意の最適化ベースの攻撃にプラグインし,200msの事前処理時間を追加する。
論文 参考訳（メタデータ） (2026-06-04T02:31:29Z) - TrapSuffix: Proactive Defense Against Adversarial Suffixes in Jailbreaking [52.72486831074384]
サフィックスベースのジェイルブレイク攻撃は、敵のサフィックス、すなわち短いトークンシーケンスを付加し、LLMを安全でない出力にステアリングする。
提案するTrapSuffixは,推論パイプラインを変更することなく,トラップアラインな動作をベースモデルに注入する,軽量な微調整手法である。
様々なサフィックスベースのジェイルブレイク設定で、TrapSuffixは平均攻撃成功率を0.01%以下に下げ、平均追跡成功率87.9%を達成する。
論文 参考訳（メタデータ） (2026-02-06T11:43:56Z) - RECAP: A Resource-Efficient Method for Adversarial Prompting in Large Language Models [0.0]
本稿では,事前学習した相手プロンプトのデータベースに新たなプロンプトをマッチングすることで,リトレーニングの必要性を解消する資源効率の高い逆プロンプト手法を提案する。
セマンティックに類似した敵のプロンプトを抽出することにより,計算コストを大幅に削減した競合攻撃成功率を実現する。
論文 参考訳（メタデータ） (2026-01-20T06:01:02Z) - Bag of Tricks for Subverting Reasoning-based Safety Guardrails [62.139297207938036]
推論に基づくガードレールを覆い隠すジェイルブレイク手法の袋を提示する。
攻撃対象は白、グレー、ブラックボックスの設定で、無駄なテンプレート操作から完全に自動化された最適化までさまざまです。
論文 参考訳（メタデータ） (2025-10-13T16:16:44Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - REINFORCE Adversarial Attacks on Large Language Models: An Adaptive, Distributional, and Semantic Objective [57.57786477441956]
応答の個体群に対する適応的・意味的最適化問題を提案する。
我々の目標は、Llama3の攻撃成功率(ASR)を2倍にし、サーキットブレーカー防御でASRを2%から50%に向上させることである。
論文 参考訳（メタデータ） (2025-02-24T15:34:48Z) - Enhancing Adversarial Attacks through Chain of Thought [0.0]
勾配に基づく敵対的攻撃は、特に整列した大言語モデル(LLM)に対して有効である
本稿では,CoTプロンプトとgreedy coordinate gradient (GCG)技術を統合することで,敵攻撃の普遍性を高めることを提案する。
論文 参考訳（メタデータ） (2024-10-29T06:54:00Z) - Faster-GCG: Efficient Discrete Optimization Jailbreak Attacks against Aligned Large Language Models [16.938267820586024]
本稿では,GCGの設計を深く掘り下げて,効率の良い逆ジェイルブレイク法であるFaster-GCGを提案する。
実験により、高速GCGは計算コストのたった1/10で元のGCGを超えることができることが示された。
論文 参考訳（メタデータ） (2024-10-20T11:27:41Z) - Improved Techniques for Optimization-Based Jailbreaking on Large Language Models [78.32176751215073]
Greedy Coordinate Gradient (GCG)攻撃の成功は、最適化ベースのジェイルブレイク技術の研究への関心が高まっている。
我々はGCGのような最適化ベースのジェイルブレイクにいくつかの改良(経験的)技術を提案する。
以上の結果から,GCGが最先端のジェイルブレイク攻撃より優れ,100%近い攻撃成功率を達成できる可能性が示唆された。
論文 参考訳（メタデータ） (2024-05-31T17:07:15Z) - Improved Generation of Adversarial Examples Against Safety-aligned LLMs [72.38072942860309]
勾配に基づく手法を用いて生成した敵対的プロンプトは、安全対応のLDMに対して自動ジェイルブレイク攻撃を行う際、優れた性能を示す。
本稿では,この問題に対する新たな視点を探求し,トランスファーベースの攻撃にインスパイアされたイノベーションを活用することで緩和できることを示唆する。
この組み合わせによって生成されたクエリ固有逆接接尾辞の87%がLlama-2-7B-Chatを誘導し、AdvBench上のターゲット文字列と正確に一致する出力を生成することを示した。
論文 参考訳（メタデータ） (2024-05-28T06:10:12Z) - AmpleGCG: Learning a Universal and Transferable Generative Model of Adversarial Suffixes for Jailbreaking Both Open and Closed LLMs [11.094625711201648]
GCGcitepzou2023Universalは、離散トークン最適化アルゴリズムを提案し、単一のサフィックスを最低損失で選択し、ジェイルブレイクアライメントされたLCMを成功させる。
本研究では,サフィックスをトレーニングデータとして活用し,有害なクエリを与えられたサフィックスの分布をキャプチャするAmpleGCGという生成モデルを学習する。
AmpleGCGモデルは、たった4秒で1つの有害なクエリに対して200の逆サフィックスを生成することができる。
論文 参考訳（メタデータ） (2024-04-11T17:05:50Z) - PAL: Proxy-Guided Black-Box Attack on Large Language Models [55.57987172146731]
大規模言語モデル(LLM)は近年人気が高まっているが、操作時に有害なコンテンツを生成する能力を示している。
PAL(Proxy-Guided Attack on LLMs)は, ブラックボックスクエリのみの設定で, LLMに対する最初の最適化ベースの攻撃である。
GPT-3.5-Turboの攻撃成功率は84%,Llama-2-7Bの攻撃成功率は48%であった。
論文 参考訳（メタデータ） (2024-02-15T02:54:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。