論文の概要: BASIS: Breach-Aware Selective Prompt Injection Shielding with Prefill Attention Probes

• arxiv url: http://arxiv.org/abs/2608.08027v1
• Date: Sat, 08 Aug 2026 09:32:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.611951
• Title: BASIS: Breach-Aware Selective Prompt Injection Shielding with Prefill Attention Probes
• Title（参考訳）: BASIS:プレフィル・アテンション・プローブを用いた選択的プロンプト・インジェクション・シールド
• Abstract要約: 既存の検出方法は、注入の有無のみを検出し、検出に応答しない。 本稿では,この過度な拒絶問題に対処するために,ロバストネス・アウェア・プロンプト・インジェクション・ディフェンス(Robustness-Aware Prompt Injection Defense)を提案する。 実験により、ロバスト性は、安全な攻撃サンプルに対する過剰な拒絶を著しく低減しつつ、ほぼ完璧な噴射検出を維持していることが示された。
• 参考スコア（独自算出の注目度）: 28.166699360211993
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prompt injection is a critical security threat in large language model (LLM) applications, where attackers hijack model behavior by embedding malicious instructions in user or external data. Existing detection methods only detect the presence of injection and refuse to respond upon detection, overlooking the fact that for many modern aligned models, well-crafted instructions can resist most injection attacks. This means that the injection robustness varies significantly across instructions and models. This leads to widespread unnecessary over-refusal: inputs containing injections that the model could have handled correctly are rejected incorrectly. To deal with this over-refusal issue, we propose BASIS (Robustness-Aware Prompt Injection Defense). This defense method uses the Attention Competition Ratio ($ρ$) as features to train two sparse linear probes: an existence probe and a breach probe. Both probes make defense decisions through cascaded gating, which does not require additional LLM inference. BASIS comprises three stages: injection existence detection, per-sample breach prediction, and instruction robustness assessment; the online cascade refuses only when the model would actually be compromised and thus avoids over-refusal on robust instructions. Experiments across four tasks and six open-source LLMs show that BASIS maintains near-perfect injection detection while substantially reducing over-refusal on safe attack samples, especially under robust instruction templates.
• Abstract（参考訳）: プロンプトインジェクションは、ユーザまたは外部データに悪意のある命令を埋め込むことで、攻撃者がモデル動作をハイジャックする、大規模言語モデル(LLM)アプリケーションにおいて重要なセキュリティ脅威である。 既存の検出方法は、射出の有無を検知し、検出に応答することを拒み、現代の多くのモデルにおいて、巧妙な指示がほとんどの射出攻撃に抵抗できるという事実を見落としている。 つまり、インジェクションの堅牢性は命令やモデルによって大きく異なる。 モデルが正しく処理できるインジェクションを含む入力は誤って拒否される。 本稿では,この過度な拒絶問題に対処するため,BASIS(Robustness-Aware Prompt Injection Defense)を提案する。 この防衛方法は、アテンションコンペティション比(ρ$)を2つの粗い線形プローブ(存在プローブと侵害プローブ)を訓練する特徴として用いている。 どちらのプローブも、追加のLLM推論を必要としないカスケードゲーティングによる防御決定を行う。 BASISは、インジェクション存在検出、サンプルごとの違反予測、命令の堅牢性評価の3段階で構成されている。 4つのタスクと6つのオープンソースのLCM実験により、BASISは安全な攻撃サンプル、特に堅牢な命令テンプレートに対する過剰な拒絶を著しく低減しつつ、ほぼ完全なインジェクション検出を維持していることが示された。

関連論文リスト

• Your Agentic LLMs Secretly Encode Latent Signals of Indirect Prompt-Injection Exposure [26.64751871160867]
  エージェントLSMは間接的プロンプトインジェクション(IPI)攻撃に対して脆弱である。 我々はこの問題を3つの側面から深く研究する。 我々は、需要に対する反注入推論を先導する、プローブゲート推論に基づく防衛であるAGRIを紹介する。
  論文  参考訳（メタデータ） (2026-08-01T12:00:33Z)
• Zero-Shot Embedding Drift Detection: A Lightweight Defense Against Prompt Injections in LLMs [2.2448294058653455]
  敵は電子メールやユーザー生成コンテンツなどの間接的な入力チャネルを利用してアライメント保護を回避する。 本稿では,Zero-Shot Embedding Drift Detection (ZEDD)を提案する。 ZEDDは、モデル内部へのアクセス、アタックタイプの事前知識、タスク固有の再トレーニングを必要とせずに動作する。
  論文  参考訳（メタデータ） (2026-01-18T11:33:35Z)
• PIShield: Detecting Prompt Injection Attacks via Intrinsic LLM Features [33.95073302161128]
  既存のプロンプトインジェクション検出法は、しばしば準最適性能および/または高い計算オーバーヘッドを持つ。 本稿では,有効かつ効率的に検出できるPIShieldを提案する。 PIShieldは高効率かつ効率的であり,既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-10-15T18:34:49Z)
• Backdoor-Powered Prompt Injection Attacks Nullify Defense Methods [95.54363609024847]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本稿では,即時噴射防御法を無効化するより悪質な攻撃について検討する。 バックドアによるプロンプトインジェクション攻撃は、以前のプロンプトインジェクション攻撃よりも有害である。
  論文  参考訳（メタデータ） (2025-10-04T07:11:11Z)
• TopicAttack: An Indirect Prompt Injection Attack via Topic Transition [92.26240528996443]
  大規模言語モデル(LLM)は間接的なインジェクション攻撃に対して脆弱である。 提案するTopicAttackは,LLMに生成した遷移プロンプトを生成し,徐々にトピックをインジェクション命令にシフトさせる。 提案手法は, インジェクトからオリジナルへのアテンション比が高く, 成功確率が高く, ベースライン法よりもはるかに高い比を達成できることがわかった。
  論文  参考訳（メタデータ） (2025-07-18T06:23:31Z)
• Detection Method for Prompt Injection by Integrating Pre-trained Model and Heuristic Feature Engineering [3.0823377252469144]
  即時注射攻撃は 重大な セキュリティ上の脅威として現れました 既存の防御機構は、有効性と一般化性の間のトレードオフに直面している。 本稿では,デュアルチャネル機能融合検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-05T06:01:19Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• DataSentinel: A Game-Theoretic Detection of Prompt Injection Attacks [87.66245688589977]
  LLM統合されたアプリケーションとエージェントは、インジェクション攻撃に弱い。 検出方法は、入力が注入プロンプトによって汚染されているかどうかを判定することを目的とする。 本研究では,迅速なインジェクション攻撃を検出するゲーム理論手法であるDataSentinelを提案する。
  論文  参考訳（メタデータ） (2025-04-15T16:26:21Z)
• Can Indirect Prompt Injection Attacks Be Detected and Removed? [94.67980597764245]
  間接的インジェクション攻撃の検出・除去の可能性について検討した。 検出のために,既存のLCMとオープンソースの検出モデルの性能を評価する。 そこで本研究では,(1) インジェクション命令を含む部分をセグメント化して除去するセグメンテーション除去法,(2) 抽出モデルを訓練してインジェクション命令を識別・除去する抽出除去法,の2つの直感的手法を評価する。
  論文  参考訳（メタデータ） (2025-02-23T14:02:16Z)
• Attention Tracker: Detecting Prompt Injection Attacks in LLMs [62.247841717696765]
  大型言語モデル (LLM) は様々なドメインに革命をもたらしたが、インジェクション攻撃に弱いままである。 そこで本研究では,特定の注意点が本来の指示から注入指示へと焦点を移す,注意散逸効果の概念を紹介した。 本研究では,アテンション・トラッカーを提案する。アテンション・トラッカーは,インジェクション・アタックを検出するために,インストラクション上の注意パターンを追跡する訓練不要な検出手法である。
  論文  参考訳（メタデータ） (2024-11-01T04:05:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。