論文の概要: When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications

• arxiv url: http://arxiv.org/abs/2605.10176v1
• Date: Mon, 11 May 2026 08:28:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.642951
• Title: When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications
• Title（参考訳）: PromptsがPayloadsになったとき: 大規模言語モデル駆動アプリケーションにおけるSQLインジェクション攻撃を緩和するフレームワーク
• Authors: Farzad Nourmohammadzadeh Motlagh, Mehrdad Hajizadeh, Mehryar Majd, Pejman Najafi, Feng Cheng, Christoph Meinel,
• Abstract要約: 大規模言語モデル(LLM)では、ユーザがsqlのような形式的なクエリ言語ではなく、会話型入力を使ってデータをクエリすることができる。 悪意のあるユーザは、モデル動作を操作し、安全でないクエリを生成する敵のプロンプトを作成することで、これらのメカニズムを利用することができる。 LLMを介在するsqlインジェクション攻撃を検知・緩和する多層セキュリティフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 4.213098466542674
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Natural language interfaces to structured databases are becoming increasingly common, largely due to advances in large language models (LLMs) that enable users to query data using conversational input rather than formal query languages such as SQL. While this paradigm significantly improves usability and accessibility, it introduces new security risks, particularly the amplification of SQL injection vulnerabilities through the prompt-to-SQL translation process. Malicious users can exploit these mechanisms by crafting adversarial prompts that manipulate model behavior and generate unsafe queries. In this work, we propose a multi-layered security framework designed to detect and mitigate LLM-mediated SQL injection attacks. The framework integrates a front-end security shield for prompt sanitization, an advanced threat detection model for behavioral and semantic anomaly identification, and a signature-based control layer for known attack patterns. We evaluate the proposed framework under diverse and realistic attack scenarios, including prompt injection, obfuscated SQL payloads, and context-manipulation attacks. To ensure robustness, we generate and curate a comprehensive benchmark dataset of adversarial prompts and assess performance across a fine-tuned LLM configuration. Experimental results demonstrate that the proposed approach achieves high detection accuracy while maintaining low false-positive rates, significantly improving the secure deployment of LLM-powered database applications.
• Abstract（参考訳）: 構造化データベースへの自然言語インタフェースは、SQLのような形式的なクエリ言語ではなく、対話型入力でデータをクエリできる大規模言語モデル(LLM)の進歩により、ますます一般的になっている。 このパラダイムはユーザビリティとアクセシビリティを大幅に改善するが、新しいセキュリティリスク、特にSQLインジェクションの脆弱性を即時からSQLへの変換プロセスで増幅する。 悪意のあるユーザは、モデル動作を操作し、安全でないクエリを生成する敵のプロンプトを作成することで、これらのメカニズムを利用することができる。 本研究では,LLMを介するSQLインジェクション攻撃の検出と軽減を目的とした多層セキュリティフレームワークを提案する。 このフレームワークは、迅速な衛生化のためのフロントエンドセキュリティシールド、行動的および意味的異常識別のための高度な脅威検出モデル、既知の攻撃パターンのためのシグネチャベースの制御層を統合する。 提案するフレームワークを,プロンプトインジェクション,難読化SQLペイロード,コンテキスト操作攻撃など,多種多様な現実的な攻撃シナリオ下で評価する。 堅牢性を確保するため、我々は、逆数プロンプトの総合的なベンチマークデータセットを作成し、微調整LLM構成による性能評価を行う。 実験結果から,提案手法は偽陽性率を低く保ちながら高い検出精度を実現し,LLMによるデータベースアプリケーションの安全なデプロイを著しく改善することを示した。

関連論文リスト

• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• SAFENLIDB: A Privacy-Preserving Safety Alignment Framework for LLM-based Natural Language Database Interfaces [12.135290721799421]
  NLIDBのための新しいプライバシセキュリティアライメントフレームワークであるtextscSafeNlidbを提案する。 このフレームワークは、スクラッチからハイブリッドチェーンのインタラクションデータを生成する自動化パイプラインを備えている。 提案手法は,大規模LCMと理想設定ベースラインより優れる。
  論文  参考訳（メタデータ） (2025-11-10T07:05:59Z)
• Are Your LLM-based Text-to-SQL Models Secure? Exploring SQL Injection via Backdoor Attacks [23.036091420064235]
  セキュリティ上の懸念はほとんど未解決であり、特にバックドア攻撃の脅威である。 Toxicは、新しいバックドア攻撃フレームワークである。 我々は、0.44%の有毒データを注入するだけで79.41%の攻撃成功率となり、データベースのセキュリティに重大なリスクが生じることを示した。
  論文  参考訳（メタデータ） (2025-03-07T14:16:48Z)
• SecAlign: Defending Against Prompt Injection with Preference Optimization [52.48001255555192]
  敵のプロンプトは外部のデータソースに注入され、システムの意図した命令をオーバーライドし、悪意のある命令を実行する。 我々は、好みの最適化技術に基づくSecAlignと呼ばれる新しいディフェンスを提案する。 本手法は,訓練中に見られたものよりもはるかに高度な攻撃に対しても,様々なプロンプトインジェクションの成功率を10%に下げる。
  論文  参考訳（メタデータ） (2024-10-07T19:34:35Z)
• AdaShield: Safeguarding Multimodal Large Language Models from Structure-based Attack via Adaptive Shield Prompting [54.931241667414184]
  textbfAdaptive textbfShield Promptingを提案する。これは、MLLMを構造ベースのジェイルブレイク攻撃から守るための防御プロンプトで入力をプリペイドする。 我々の手法は、構造に基づくジェイルブレイク攻撃に対するMLLMの堅牢性を一貫して改善することができる。
  論文  参考訳（メタデータ） (2024-03-14T15:57:13Z)
• Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models [79.0183835295533]
  我々は,このような脆弱性のリスクを評価するために,BIPIAと呼ばれる間接的インジェクション攻撃のための最初のベンチマークを導入した。 我々の分析では、LLMが情報コンテキストと動作可能な命令を区別できないことと、外部コンテンツ内での命令の実行を回避できないことの2つの主要な要因を同定した。 ブラックボックスとホワイトボックスという2つの新しい防御機構と、これらの脆弱性に対処するための明確なリマインダーを提案する。
  論文  参考訳（メタデータ） (2023-12-21T01:08:39Z)
• From Prompt Injections to SQL Injection Attacks: How Protected is Your LLM-Integrated Web Application? [4.361862281841999]
  本稿では,Langchainフレームワークに基づくWebアプリケーションを対象としたP$$インジェクションの総合的な検討を行う。 以上の結果から,Langchain をベースとした LLM 統合アプリケーションは P$$ のインジェクション攻撃の影響を受けやすいことが示唆された。 本稿では,Langchainフレームワークの拡張として統合可能な4つの効果的な防御手法を提案する。
  論文  参考訳（メタデータ） (2023-08-03T19:03:18Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。