論文の概要: Prompt Injection Detection is Regime-Dependent: A Deployment-Aware Evaluation with Interpretable Structural Signals

• arxiv url: http://arxiv.org/abs/2605.26999v1
• Date: Tue, 26 May 2026 13:19:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:42.1825
• Title: Prompt Injection Detection is Regime-Dependent: A Deployment-Aware Evaluation with Interpretable Structural Signals
• Title（参考訳）: Prompt Injection Detection is Regime-Dependent: A Deployment-Aware Evaluation with Interpretable Structure Signals
• Authors: Akindoyin Akinrele, Shreyank N Gowda,
• Abstract要約: マルチモデルおよびマルチレジーム実験フレームワークを用いたインジェクション検出のデプロイメント・アウェア評価について述べる。 我々は複数のアウト・オブ・ディストリビューション・セッティングで語彙、意味、構造、トランスフォーマーに基づく検出器を比較した。 その結果,検出性能は状態依存性が高く,しきい値選択に敏感であることが示唆された。
• 参考スコア（独自算出の注目度）: 11.542407696902115
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prompt injection poses a critical threat to the safe deployment of large language models, yet existing detection approaches are typically evaluated under limited settings that do not reflect real-world operating constraints. In this work, we present a deployment-aware evaluation of prompt injection detection using a multi-model and multi-regime experimental framework. We compare lexical, semantic, structural, and transformer-based detectors across multiple out-of-distribution settings, repeated data splits, and both ranking and thresholded deployment metrics. We introduce interpretable structural signals that capture hierarchy overrides, system prompt spoofing, role redefinition, and evasion patterns, and assess their contribution both within sparse models and in combination with strong encoder baselines. Our results show that detection performance is highly regime-dependent and sensitive to threshold selection, with no single model dominating across all settings. Transformer-based models achieve the strongest overall performance, while structural signals provide modest but consistent gains in certain regimes and improve low false positive rate behaviour in harder scenarios. These findings highlight the gap between ranking performance and deployment effectiveness and underscore the importance of evaluating prompt injection defences under realistic operational constraints. Code will be released.
• Abstract（参考訳）: プロンプトインジェクションは、大規模な言語モデルの安全なデプロイに重大な脅威をもたらすが、既存の検出アプローチは通常、現実世界の運用制約を反映しない限られた設定下で評価される。 本研究では,マルチモデルおよびマルチ登録実験フレームワークを用いたインジェクション検出のデプロイメント・アウェア評価について述べる。 語彙、意味、構造、トランスフォーマーに基づく検出器を、複数のアウト・オブ・ディストリビューション設定、繰り返しデータ分割、ランキングとしきい値のデプロイメントメトリクスで比較する。 我々は,階層オーバライド,システムプロンプトスプーフィング,ロール再定義,回避パターンを捕捉する解釈可能な構造信号を導入し,それらの寄与をスパースモデル内およびエンコーダベースラインと組み合わせて評価する。 以上の結果から,検出性能は状態依存性が高く,しきい値選択に敏感であり,全ての設定において1つのモデルが支配的でないことが明らかとなった。 トランスフォーマーベースのモデルは、最も高い全体的なパフォーマンスを達成する一方、構造信号は特定のレシエーションにおいて控えめだが一貫した利得を提供し、より厳しいシナリオでは偽陽性率の振る舞いを改善する。 これらの知見は, 実運用上の制約下でのインジェクション防衛の評価の重要性を, 評価性能と展開効率のギャップを浮き彫りにしている。 コードはリリースされる。

関連論文リスト

• Active Bayesian Inference for Robust Control under Sensor False Data Injection Attacks [10.312968200748115]
  本稿では,サイバー物理システムにおけるセンサ攻撃検出とリカバリのギャップを埋める枠組みを提案する。 本稿では, 簡易な部分観測可能マルコフ決定プロセス(POMDP)によるしきい値に基づく探索手法を提案し, その有効性を示す。
  論文  参考訳（メタデータ） (2026-04-13T12:54:24Z)
• AgentScore: Autoformulation of Deployable Clinical Scoring Systems [45.88028371034407]
  本稿では,単位重み付き臨床チェックリストのセマンティックガイドによる最適化を行うAgentScoreを紹介する。 AgentScoreは既存のスコア生成方法より優れており、より柔軟な解釈可能なモデルに匹敵するAUCを実現している。 さらに2つの外部検証タスクにおいて、AgentScoreは、確立されたガイドラインベースのスコアよりも高い差別を達成する。
  論文  参考訳（メタデータ） (2026-01-29T21:11:06Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• Are LLMs Vulnerable to Preference-Undermining Attacks (PUA)? A Factorial Analysis Methodology for Diagnosing the Trade-off between Preference Alignment and Real-World Validity [45.92643973404507]
  我々は,協調型モデルが,操作的プロンプト戦略のクラスであるpreference-Undermining Attacks (PUA) に対して脆弱であるかどうかを検討する。 驚くべきことに、より高度なモデルは、時にはマニピュティブなプロンプトに影響を受けやすい。
  論文  参考訳（メタデータ） (2026-01-10T15:16:23Z)
• Cascading multi-agent anomaly detection in surveillance systems via vision-language models and embedding-based classification [0.0]
  この研究は、補完パラダイムをコヒーレントで解釈可能なアーキテクチャに統一するカスケーディングマルチエージェントフレームワークを導入している。 初期モジュールは再構成ゲートフィルタリングとオブジェクトレベルの評価を行い、高レベルの推論エージェントは、意味的に曖昧な事象を解釈するために選択的に呼び出される。 このフレームワークは、早期出力効率、適応型マルチエージェント推論、説明可能な異常属性を組み合わせることで、従来の検出パイプラインを超えて進歩し、スケーラブルなインテリジェントなビジュアル監視のための再現可能でエネルギー効率の良い基盤を確立する。
  論文  参考訳（メタデータ） (2026-01-08T11:31:47Z)
• Hierarchical Polysemantic Feature Embedding for Autonomous Ransomware Detection [0.0]
  ランサムウェアの進化には、より洗練された検出技術の開発が必要である。 提案するフレームワークでは,ランサムウェア関連機能を非ユークリッド空間に埋め込んでいる。 実験により、このフレームワークは従来の機械学習ベースのモデルよりも一貫して優れていた。 提案手法は,検出性能と処理オーバーヘッドのバランスを保ち,現実のサイバーセキュリティアプリケーションの候補となる。
  論文  参考訳（メタデータ） (2025-02-09T21:46:36Z)
• Auto-Prompt Generation is Not Robust: Prompt Optimization Driven by Pseudo Gradient [50.15090865963094]
  PertBenchは、幅広い入力摂動を含む包括的なベンチマークデータセットである。 我々の分析は、既存の即時生成戦略における重大な脆弱性を明らかにしている。 PGOは、摂動型を擬似次数次信号として活用する、勾配のないプロンプト生成フレームワークである。
  論文  参考訳（メタデータ） (2024-12-24T06:05:08Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Clustering Effect of (Linearized) Adversarial Robust Models [60.25668525218051]
  本稿では, 敵の強靭性に対する新たな理解を提案し, ドメイン適応や頑健性向上といったタスクに適用する。 提案したクラスタリング戦略の合理性と優越性を実験的に評価した。
  論文  参考訳（メタデータ） (2021-11-25T05:51:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。