論文の概要: BRANCH: Bypassing Multi-Scanner AI Guardrails

• arxiv url: http://arxiv.org/abs/2610.10742v1
• Date: Wed, 07 Oct 2026 18:10:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.624553
• Title: BRANCH: Bypassing Multi-Scanner AI Guardrails
• Title（参考訳）: BRANCH:マルチスキャナAIガードレールをバイパスする
• Abstract要約: マルチスキャナガードレールシステムのバイパス手法であるBRANCHを提案する。 BRANCHは6つのガードレールシステムに対して,120のシナリオで100%の攻撃成功率を実現し,クエリが72%減少し,ウォールクロック時間が4.5倍短縮された。 また,BRANCHによる29本の無見えないガードレールへのバイパスが,商業用ブラックボックスガードレール8本を含む場合,追加最適化なしで攻撃成功率を最大100%向上することを示す。
• 参考スコア（独自算出の注目度）: 1.1391142149008149
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: AI systems increasingly rely on Large Language Models (LLMs) as core reasoning engines, making them targets for prompt injection and jailbreaks. Guardrails monitor and validate model inputs and outputs, yet their isolated, task-focused detection leaves gaps in their classification making them susceptible to bypasses. In response, guardrail systems formed by multiple scanners have emerged that collaboratively detect different types of malicious instructions, whereby shared latent representations across classification boundaries render established bypassing techniques ineffective. We propose BRANCH, a bypassing methodology designed for multi-scanner guardrail systems. Our method leverages a branching tree search approach that dynamically applies adversarial perturbation against individual scanners, with subsequent perturbation optimization and technique selection based on overall improvement across all guardrail system scanners, effectively decoupling bypass evaluation from attack signal optimization. Our findings demonstrate that BRANCH achieves 100% attack success rate across 6 guardrail systems in 120 scenarios with 72% fewer queries and 4.5x reduced wallclock time compared to established techniques, while preserving semantic meaning within the bypass. We also show how bypasses generated by BRANCH transfer to 29 unseen guardrails, including 8 commercial black-box guardrails, improving attack success in some cases up to 100% with no additional optimization.
• Abstract（参考訳）: AIシステムは、コア推論エンジンとしてLarge Language Models(LLM)をますます頼りにしており、インジェクションやジェイルブレイクのターゲットとなっている。 ガードレールはモデル入力と出力を監視し、検証するが、その分離されたタスク中心の検出は、その分類にギャップを残し、バイパスの影響を受けやすい。 これに対し、複数のスキャナーによって構成されたガードレールシステムは、異なる種類の悪意のある命令を協調的に検出し、分類境界をまたいだ潜在表現を共有することで、確立されたバイパス技術が効果的でないことが判明した。 マルチスキャナガードレールシステムのためのバイパス手法であるBRANCHを提案する。 本手法は,各スキャナに対する逆摂動を動的に適用する分岐木探索手法を応用し,すべてのガードレールシステムスキャナの全体的な改善に基づく摂動最適化とテクニック選択を行い,攻撃信号の最適化からバイパス評価を効果的に分離する。 以上の結果から,BRANCHは6つのガードレールシステムに対して,120のシナリオで100%の攻撃成功率を達成し,クエリが72%少なく,ウォールクロック時間が4.5倍に短縮された。 また,BRANCHによる29本の無見えないガードレールへのバイパスが,商業用ブラックボックスガードレール8本を含む場合,追加最適化なしで攻撃成功率を最大100%向上することを示す。

関連論文リスト

• Behind the Refusal: Determining Guardrail Activation via Behavioral Monitoring [1.1391142149008149]
  悪意のある命令を検出してブロックするガードレールシステムは、AIセキュリティの重要なコンポーネントである。 対象AIシステム内にガードレールが存在することを検知する最初のブラックボックスガードレール偵察手法を提案する。
  論文  参考訳（メタデータ） (2026-07-02T12:59:28Z)
• Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics [50.36375380196006]
  ジェイルブレイクプロンプトは、大規模な言語モデルにおけるアライメントガードレールをバイパスすることができる。 先行検出アプローチは固定距離空間に大きく依存する。 この仮定は,意図によって無視されるが,安全関連キーワードを含む疑似悪質なプロンプトの下で破られることを示す。 本稿では, LLM を入力を出力に変換する運動系として扱う Manifold Trajectory Kinetics (MTK) を提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:49:26Z)
• AI Evasion and Impersonation Attacks on Facial Re-Identification with Activation Map Explanations [13.564481603680838]
  本稿では,回避攻撃と偽装攻撃の両方が可能な敵パッチを生成するための新しい枠組みを提案する。 我々は,条件付きエンコーダ・デコーダネットワークを用いて,ソース画像とターゲット画像からのマルチスケール特徴を導出して,逆パッチを1つのフォワードパスで合成する。 我々のフレームワークはCelebA-HQで27%の成功率を獲得し、他のパッチベースの手法と競合する。
  論文  参考訳（メタデータ） (2026-03-16T15:12:41Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• Bypassing LLM Guardrails: An Empirical Analysis of Evasion Attacks against Prompt Injection and Jailbreak Detection Systems [4.225223514207515]
  大規模言語モデル(LLM)ガードレールシステムは、迅速な注入や脱獄攻撃を防ぐために設計されている。 本稿では, 点検と脱獄検出の2つの方法を示す。 両手法が対向ユーティリティを維持しながら検出を回避できることを示す。
  論文  参考訳（メタデータ） (2025-04-15T13:16:02Z)
• Bridging the Gap Between End-to-End and Two-Step Text Spotting [88.14552991115207]
  ブリッジングテキストスポッティングは、2段階のメソッドでエラーの蓄積と最適化性能の問題を解決する新しいアプローチである。 提案手法の有効性を広範囲な実験により実証する。
  論文  参考訳（メタデータ） (2024-04-06T13:14:04Z)
• FaultGuard: A Generative Approach to Resilient Fault Prediction in Smart Electrical Grids [53.2306792009435]
  FaultGuardは、障害タイプとゾーン分類のための最初のフレームワークであり、敵攻撃に耐性がある。 本稿では,ロバスト性を高めるために,低複雑性故障予測モデルとオンライン逆行訓練手法を提案する。 本モデルでは,耐故障予測ベンチマークの最先端を最大0.958の精度で上回っている。
  論文  参考訳（メタデータ） (2024-03-26T08:51:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。