論文の概要: Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
- arxiv url: http://arxiv.org/abs/2607.26639v1
- Date: Wed, 29 Jul 2026 09:01:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-30 21:06:25.587608
- Title: Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
- Title（参考訳）: 封じ込められた強度:コードエンコードでNの検索がベスト
- Abstract要約: セルフチェックディフェンスは、応答する前に、ターゲットモデルに要求を評価するように要求する。
個々の攻撃に対して無害な2つの攻撃を構成することで、違反する可能性があることを示す。
- 参考スコア（独自算出の注目度）: 7.287314790466206
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A self-check defense asks the target model to assess a request before answering it; SAGE, the strongest published instance, reports an average 99% defense success rate. We show it can be breached by composing two attacks that are individually harmless against it: an established code-completion encoding and an established best-of-N search, neither of which exceeds 4.7% of behaviors alone. Composed, with the search budget spent on the encoding, they reach 67/22/15% across three open targets, and the effect persists on a 70B target. We then explain the composition rather than only reporting it. First, a self-check defense borrows its strength from the target: SAGE does not detect the attack, it asks the model to, and the four targets convert that request into an explicit refusal between 32% and 97% of the time, which orders the spread in defended coverage even though undefended reach is near-identical. Second, which attack survives is decided by the type of defense, and it inverts: against transform defenses the code encoding retains far more of its undefended reach than the character search, while against gate defenses the ordering flips. We account for this with the number of independent probes an attack delivers to a defense's decision boundary. Finally, we report a validity defect we found and repaired in our own pipeline, a deterministic attack under greedy decoding has no best-of-N variation channel at all, and give the one-line diagnostic that detects it. All claims rest on 310,000 generations scored by a human-validated judge.
- Abstract（参考訳）: 最強の公開インスタンスであるSAGEは、平均99%の防衛成功率を報告している。
確立されたコード補完エンコーディングと確立されたベスト・オブ・N検索という2つの攻撃を個別に無害に構成することで、その攻撃が破られることを示す。
エンコーディングに費やした検索予算は、3つのオープンターゲットに対して67/22/15%に達し、その効果は70Bターゲットに持続する。
次に、その構成を報告するだけでなく、説明します。
SAGEは攻撃を検知せず、モデルに要求し、4つのターゲットは、その要求を32%から97%の時間で明示的に拒否し、防御対象範囲の広がりがほぼ正当であるにもかかわらず、防御対象範囲の広がりを命令する。
第2に、攻撃が生き残るかは防衛の種類によって決定され、逆転する: 変換防御に対するコードエンコーディングは、文字探索よりも防御されていない範囲をはるかに多く保持し、ゲートディフェンスに対する命令フリップは命令する。
我々は、攻撃が防衛の判断境界にもたらす独立したプローブの数を考慮に入れている。
最後に,我々のパイプラインで検出し,修復した妥当性の欠陥を報告し,greedy復号による決定論的攻撃は,Nの最良の変分チャネルを全く持たず,検出する一線診断を与える。
すべての主張は、人間公認の裁判官によって記録された310,000世代に当てはまる。
関連論文リスト
- Semantic Watermarking with Order-Robust Detection over Sub-sentence Units [21.50298444968968]
サブ文単位上での順序ロバスト検出によりセマンティックな透かしを攻撃する。
私たちがテストした最も強力なノーボックス攻撃は、その設計に適合したEDA変種であり、攻撃確率は10.8%である。
プロバイダの検出器とシークレットキーにアクセスする強力なEDAは、k-SemStampの65.5%に対して、39.7%のアタック・サクセスレートに達する。
論文 参考訳（メタデータ） (2026-08-27T19:54:17Z) - Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents [0.0]
最近の研究は、間接的プロンプトインジェクションに対するツール使用 LLM エージェントの防御戦略に集約されている。
我々はこれらのアウト・オブ・バンド・ディフェンスを古典的整合性保護の事例として整理する。
我々は、このプロトコルを、Progent自身の適応攻撃解析の独立した複製と拡張として実行している。
論文 参考訳（メタデータ） (2026-06-25T00:35:23Z) - Revisiting JBShield: Breaking and Rebuilding Representation-Level Jailbreak Defenses [1.5927806443377646]
本稿では,GCGの目的を,コサイン類似性による拒絶方向抑制と有毒な概念正則化という2つの用語を組み合わせて調整するJB-GCGを提案する。
Llama-3-8Bの5つの構成で、JB-GCGは平均46.2%のASRを達成し、最強の環境では53.4%に達する。
本稿では,多層リファレンス指紋上でのマハラノビス異常検出に基づく新しい防御法であるトラジェクトリ検証(RTV)を導入する。
論文 参考訳（メタデータ） (2026-05-04T19:17:50Z) - AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。
LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。
本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
論文 参考訳（メタデータ） (2025-12-23T08:42:09Z) - The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections [74.60337113759313]
現在のジェイルブレイクとプロンプトインジェクションに対する防御は、通常、有害な攻撃文字列の静的セットに対して評価される。
我々は,この評価プロセスに欠陥があることを論じる。代わりに,攻撃戦略を明示的に修正したアダプティブアタッカーに対する防御を,防衛設計に対抗して評価すべきである。
論文 参考訳（メタデータ） (2025-10-10T05:51:04Z) - Data Free Backdoor Attacks [83.10379074100453]
DFBAは、モデルアーキテクチャを変更することなく、リトレーニングフリーでデータフリーのバックドア攻撃である。
我々の注入されたバックドアは、様々な最先端の防御策によって、検出不可能で、検出不能であることを確認した。
複数のデータセットに対する評価では,1) 無視可能な分類損失,2) 攻撃成功率,3) 既存の6つの防御を回避している。
論文 参考訳（メタデータ） (2024-12-09T05:30:25Z) - Stealthy Backdoor Attack via Confidence-driven Sampling [49.72680157684523]
バックドア攻撃は、悪質なトリガをDNNモデルに過剰に挿入することを目的としており、テストシナリオ中に不正な制御を許可している。
既存の方法では防衛戦略に対する堅牢性が欠如しており、主に無作為な試薬を無作為に選別しながら、引き金の盗難を強化することに重点を置いている。
信頼性スコアの低いサンプルを選別し、これらの攻撃を識別・対処する上で、守備側の課題を著しく増大させる。
論文 参考訳（メタデータ） (2023-10-08T18:57:36Z) - The Best Defense is a Good Offense: Adversarial Augmentation against
Adversarial Attacks [91.56314751983133]
A5$は、手元の入力に対する攻撃が失敗することを保証するために防御的摂動を構築するためのフレームワークである。
我々は,地上の真理ラベルを無視するロバスト化ネットワークを用いて,実機での防御強化を効果的に示す。
また、A5$を適用して、確実に堅牢な物理オブジェクトを作成する方法も示します。
論文 参考訳（メタデータ） (2023-05-23T16:07:58Z) - SHIELD: Thwarting Code Authorship Attribution [11.311401613087742]
著者の帰属はますます正確になり、匿名を希望するプログラマには深刻なプライバシー上のリスクが生じる。
対戦型コード例に対する異なるコードオーサシップ属性アプローチの堅牢性を検討するためにShiELDを導入する。
論文 参考訳（メタデータ） (2023-04-26T02:55:28Z) - Stealthy Backdoor Attack for Code Models [19.272856932095966]
既存のコードモデルに対するバックドア攻撃では、不便で簡単に検出できるトリガーが使用される。
本稿では、ステルスなバックドア攻撃によるコードモデルの脆弱性を調査することを目的とする。
AFRAIDOORにおけるアダプティブトリガーの約85%が、防衛プロセスにおける検出をバイパスしていることがわかった。
論文 参考訳（メタデータ） (2023-01-06T13:15:42Z) - RayS: A Ray Searching Method for Hard-label Adversarial Attack [99.72117609513589]
我々は、レイサーチ攻撃(RayS)を提案し、これはハードラベル攻撃の有効性と効率を大幅に改善する。
モデルの正当性チェックとしても使用できる。
論文 参考訳（メタデータ） (2020-06-23T07:01:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。