論文の概要: ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack

• arxiv url: http://arxiv.org/abs/2610.23030v1
• Date: Fri, 16 Oct 2026 07:07:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.800522
• Title: ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack
• Title（参考訳）: ECHO:最適化ベースのジェイルブレイク攻撃における応答障害によるコンプライアンスプロキシのリプレース
• Abstract要約: ECHOは、被害者コンプライアンスのトークンレベルのプロキシを、HarmSigの継続的有害度スコアに置き換える。 AdvBenchの5人のオープン・ウェイト・犠牲者のうち、ECHOは89.23%のHarmBench成功率と0.898のStrongREJECT平均スコアを達成している。
• 参考スコア（独自算出の注目度）: 11.078518660176629
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite extensive safety alignment, large language models remain vulnerable to jailbreak attacks. Existing optimization-based attacks share a single objective: maximize a token-level proxy of victim compliance---such as the likelihood of an affirmative prefix---computed on the prompt rather than the decoded reply. This proxy cannot distinguish a cautious hedge from a fully actionable harmful answer, leaving the search blind to what the model actually says. We propose ECHO (Evaluation-Conditioned Harmfulness Optimization), which replaces the compliance proxy with response-level, continuous harmfulness scores from HarmSig, a 1.7B regressor grounded in actual harmful capability. ECHO couples HarmSig with five word-level perturbation operators and Keyword-Anchored Beam Search with global top-m memory, under a strict black-box threat model. Across five open-weight victims on AdvBench, ECHO achieves up to 0.898 StrongREJECT mean score and 89.23% HarmBench success. Our code is publicly available at https://github.com/STANWYW/echo.
• Abstract（参考訳）: 大規模な安全アライメントにもかかわらず、大きな言語モデルはジェイルブレイク攻撃に弱いままである。 既存の最適化ベースの攻撃は、1つの目的を共有している: 被害者のコンプライアンスのトークンレベルのプロキシを最大化する。 このプロキシは、慎重なヘッジを、完全に行動可能な有害な回答と区別できない。 本稿では,ECHO(Evaluation-Conditioned Harmfulness Optimization)を提案する。ECHOは,実際の有害能力を基礎とした1.7BレジストレータであるHarmSigから,コンプライアンスプロキシを応答レベル,継続的な有害度スコアに置き換える。 ECHOは、厳格なブラックボックス脅威モデルの下で、HarmSigと5つのワードレベルの摂動演算子、グローバルのトップmメモリ付きキーワードアンコレッドビームサーチを結合する。 AdvBenchの5人のオープン・ウェイト・犠牲者のうち、ECHOは89.23%のHarmBench成功率と0.898のStrongREJECT平均スコアを達成している。 私たちのコードはhttps://github.com/STANWYW/echo.comで公開されています。

関連論文リスト

• Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics [50.36375380196006]
  ジェイルブレイクプロンプトは、大規模な言語モデルにおけるアライメントガードレールをバイパスすることができる。 先行検出アプローチは固定距離空間に大きく依存する。 この仮定は,意図によって無視されるが,安全関連キーワードを含む疑似悪質なプロンプトの下で破られることを示す。 本稿では, LLM を入力を出力に変換する運動系として扱う Manifold Trajectory Kinetics (MTK) を提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:49:26Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• An Interpretable N-gram Perplexity Threat Model for Large Language Model Jailbreaks [87.64278063236847]
  本研究では,ジェイルブレイク攻撃の原理的比較のための統一的脅威モデルを提案する。 私たちの脅威モデルは、あるジェイルブレイクがテキストの配布で起こりそうなかどうかをチェックします。 私たちはこの脅威モデルに人気のある攻撃を適応させ、これらの攻撃を同等の足場でベンチマークしました。
  論文  参考訳（メタデータ） (2024-10-21T17:27:01Z)
• Defending Large Language Models against Jailbreak Attacks via Semantic Smoothing [107.97160023681184]
  適応型大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。 提案するSEMANTICSMOOTHは,与えられた入力プロンプトのセマンティック変換されたコピーの予測を集約するスムージングベースのディフェンスである。
  論文  参考訳（メタデータ） (2024-02-25T20:36:03Z)
• Robust Prompt Optimization for Defending Language Models Against Jailbreaking Attacks [17.22989422489567]
  大規模言語モデル(LLM)は敵の攻撃や脱獄に対して脆弱である。 本稿では,LLMをジェイルブレイク攻撃から守るための最適化に基づく目標と,堅牢なシステムレベルの防御を実現するアルゴリズムを提案する。 GPT-4の攻撃成功率(ASR)は6%,Llama-2の攻撃成功率(ASR)は0%に低下した。
  論文  参考訳（メタデータ） (2024-01-30T18:56:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。