論文の概要: MPIDetector: Detecting Multi-modal Prompt Injection via LLM-based Reasoning

• arxiv url: http://arxiv.org/abs/2610.30202v1
• Date: Wed, 21 Oct 2026 10:27:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.082978
• Title: MPIDetector: Detecting Multi-modal Prompt Injection via LLM-based Reasoning
• Title（参考訳）: MPIDetector:LLMによるマルチモーダルプロンプトインジェクションの検出
• Abstract要約: 攻撃者は、テキストの物語や視覚的な入力の中に悪意のある指示を隠して、安全アライメントをバイパスすることができる。 シグネチャとパープレキシティベースのメソッドのような既存のアプローチは、パターンマッチングに大きく依存している。 本稿では,MPIDetectorと呼ばれる新しい検出フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 11.68803062751453
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the rapid integration of Multi-modal Large Language Models (MLLMs) into real-world applications, Prompt Injection (PI) has emerged as a critical security threat. Attackers can conceal malicious instructions within textual narratives or visual inputs to bypass safety alignment. Existing approaches, such as signature- and perplexity-based methods, rely heavily on pattern matching, making them insufficient to detect sophisticated, cross-modal PI payloads. In this paper, we propose a novel detection framework, called MPIDetector, that leverages LLMs' intrinsic reasoning capabilities via few-shot In-Context Learning (ICL). Instead of fine-tuning, we provide the model with specific prompt templates and representative attack examples, enabling it to scrutinize the semantic intent of input across modalities. We constructed a comprehensive evaluation benchmark comprising eight textual and seven visual malicious categories, supplemented with benign datasets to rigorously test for false positives. Our evaluation across multiple leading LLMs, including Gemini-2.0-Flash, Qwen3-VL-32B-Instruct, and Doubao-seed-1.6-flash, demonstrates the efficacy and generalizability of this approach. The proposed method achieves up to 90.91% accuracy and 100% recall on textual tasks. In the visual domain, it achieves up to 99.28% accuracy while maintaining 100% precision across all evaluated models. Crucially, when evaluated against 500 highly obfuscated environmental web-agent injections (WebInject), MPIDetector achieved a detection rate up to 99.80%. Comparisons with two baseline approaches for detecting textual PI payloads, along with two additional methods for visual input detection, demonstrate MPIDetector's superior accuracy. These results show that LLM-driven reasoning provides a robust, cross-modal defense against advanced prompt injections.
• Abstract（参考訳）: MLLM(Multi-modal Large Language Models)が現実世界のアプリケーションに急速に統合されたことにより、Prompt Injection(PI)が重要なセキュリティ脅威として浮上した。 攻撃者は、テキストの物語や視覚的な入力の中に悪意のある指示を隠して、安全アライメントをバイパスすることができる。 シグネチャとパープレキシティに基づく手法のような既存のアプローチはパターンマッチングに大きく依存しており、洗練されたクロスモーダルPIペイロードを検出するには不十分である。 本稿では,MPIDetectorと呼ばれる新しい検出フレームワークを提案する。 微調整の代わりに、特定のプロンプトテンプレートや代表的な攻撃例をモデルに提供し、モジュール間の入力の意味的意図を精査できるようにします。 8つのテキストと7つの視覚的悪意のあるカテゴリからなる総合的な評価ベンチマークを構築し、良質なデータセットを補足して、偽陽性の厳密な検査を行った。 Gemini-2.0-Flash, Qwen3-VL-32B-Instruct, Doubao-seed-1.6-Flash を含む複数のLLMにおいて,本手法の有効性と一般化性を示す。 提案手法は,テキストタスクにおける最大90.91%の精度と100%のリコールを実現する。 視覚領域では、最大99.28%の精度を達成し、評価された全てのモデルに対して100%の精度を維持する。 重要なことに、高度に難解な環境Webエージェントインジェクション(WebInject)500に対して評価すると、MPIDetectorは99.80%まで検出された。 テキストPIペイロード検出のための2つのベースラインアプローチと、視覚入力検出のための2つの追加手法との比較により、MPIDetectorの精度が向上した。 これらの結果から, LLMによる推論は, 先進的なインジェクションに対する堅牢かつクロスモーダルな防御効果をもたらすことが示唆された。

関連論文リスト

• DetectAnyLLM: Towards Generalizable and Robust Detection of Machine-Generated Text Across Domains and Models [60.713908578319256]
  タスク指向の知識で検出器を最適化するために,DDL(Direct Discrepancy Learning)を提案する。 そこで本研究では,最新のMGTD性能を実現する統合検出フレームワークであるTectAnyLLMを紹介する。 MIRAGEは5つのテキストドメインにまたがる10のコーパスから人書きテキストをサンプリングし、17個の最先端のLLMを使用して再生成または修正する。
  論文  参考訳（メタデータ） (2025-09-15T10:59:57Z)
• VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
  VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。 セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。 平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
  論文  参考訳（メタデータ） (2025-09-15T02:25:38Z)
• Detection Method for Prompt Injection by Integrating Pre-trained Model and Heuristic Feature Engineering [3.0823377252469144]
  即時注射攻撃は 重大な セキュリティ上の脅威として現れました 既存の防御機構は、有効性と一般化性の間のトレードオフに直面している。 本稿では,デュアルチャネル機能融合検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-05T06:01:19Z)
• Attention Tracker: Detecting Prompt Injection Attacks in LLMs [62.247841717696765]
  大型言語モデル (LLM) は様々なドメインに革命をもたらしたが、インジェクション攻撃に弱いままである。 そこで本研究では,特定の注意点が本来の指示から注入指示へと焦点を移す,注意散逸効果の概念を紹介した。 本研究では,アテンション・トラッカーを提案する。アテンション・トラッカーは,インジェクション・アタックを検出するために,インストラクション上の注意パターンを追跡する訓練不要な検出手法である。
  論文  参考訳（メタデータ） (2024-11-01T04:05:59Z)
• Palisade -- Prompt Injection Detection Framework [0.9620910657090188]
  大規模言語モデルは、悪意のあるインジェクション攻撃に対して脆弱である。 本稿では,新しいNLPを用いたインジェクション検出手法を提案する。 階層化された入力スクリーニングプロセスを通じて精度と最適化を強調する。
  論文  参考訳（メタデータ） (2024-10-28T15:47:03Z)
• Fine-tuned Large Language Models (LLMs): Improved Prompt Injection Attacks Detection [6.269725911814401]
  大きな言語モデル(LLM)は、幅広い言語ベースのタスクに対処する能力が大きく進歩しているため、人気ツールになりつつある。 しかし、LSMのアプリケーションはインジェクション攻撃に対して非常に脆弱であり、致命的な問題を引き起こす。 このプロジェクトでは,インジェクションのインジェクション攻撃に関連するセキュリティ脆弱性について検討する。
  論文  参考訳（メタデータ） (2024-10-28T00:36:21Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。