論文の概要: LongPIBench: A Long-Context Benchmark for Prompt Injection

• arxiv url: http://arxiv.org/abs/2608.28411v1
• Date: Fri, 28 Aug 2026 15:00:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.375362
• Title: LongPIBench: A Long-Context Benchmark for Prompt Injection
• Title（参考訳）: LongPIBench: プロンプトインジェクションのための長期ベンチマーク
• Abstract要約: LongPIBenchは、ロングコンテキストシナリオにおけるプロンプトインジェクション防御を評価するためのベンチマークである。 簡単なプロンプトインジェクション攻撃でも高い成功率を達成でき、しばしば最先端の防御を回避できることを示す。
• 参考スコア（独自算出の注目度）: 52.0498674763688
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Prompt injection attacks pose a serious security risk to large language models in real-world applications. However, existing prompt injection benchmarks primarily focus on short-context inputs, leaving the attacks and defenses in long-context settings largely unexplored. This gap leads to a substantial overestimation of the effectiveness of current defenses. In this paper, we bridge the gap by introducing LongPIBench, a long-context benchmark for prompt injection covering 4 realistic application scenarios: paper peer review, resume screening, code review, and email summary. For each scenario, we construct a synthetic dataset and a real-world dataset, with context lengths ranging from thousands to tens of thousands of tokens. The evaluation results on LongPIBench reveal significant vulnerabilities of prompt injection defenses under long-context settings: even simple heuristic prompt injection attacks achieve high success rates and frequently bypass state-of-the-art defenses. We hope LongPIBench can serve as a practical benchmark for systematically evaluating prompt injection defenses in realistic long-context scenarios.
• Abstract（参考訳）: プロンプトインジェクション攻撃は、現実世界のアプリケーションで大規模な言語モデルに深刻なセキュリティリスクをもたらす。 しかし、既存のプロンプトインジェクションベンチマークは主に短いコンテキスト入力に焦点を当てており、攻撃と防御は長いコンテキスト設定でほとんど探索されていない。 このギャップは、現在の防衛効果のかなりの過大評価につながる。 本稿では,ペーパーピアレビュー,再検査,コードレビュー,Eメール要約という,4つの現実的なアプリケーションシナリオをカバーするインジェクションのための長文ベンチマークであるLongPIBenchを導入することで,ギャップを埋める。 各シナリオに対して、数千から数万のトークンからなる合成データセットと実世界のデータセットを構築します。 簡単なヒューリスティックインジェクション攻撃でさえ、高い成功率を達成し、しばしば最先端の防御を回避できる。 我々はLongPIBenchが現実的な長期コンテキストシナリオにおける即発注入防御を体系的に評価するための実用的なベンチマークとして機能することを願っている。

関連論文リスト

• Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening [101.09427874773901]
  広範に利用されているアプリケーションにおいて,最初のシステマティック・インジェクション・アタックについて述べる。 我々の分析は、数年以上にわたって雇用EZによって収集された約200万の現実世界の履歴書に基づいている。
  論文  参考訳（メタデータ） (2026-05-27T18:56:19Z)
• PIArena: A Platform for Prompt Injection Evaluation [21.281542161531934]
  プロンプトインジェクション攻撃は、様々な現実世界のアプリケーションに深刻なセキュリティリスクをもたらす。 コミュニティは重要なギャップに直面している。インジェクションを迅速に評価するための統一されたプラットフォームが欠如している。 PIArenaを使うことで、ユーザは最先端の攻撃と防御を簡単に統合し、さまざまな既存および新しいベンチマークでそれらを評価できる。
  論文  参考訳（メタデータ） (2026-04-09T17:42:45Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• PromptSleuth: Detecting Prompt Injection via Semantic Intent Invariance [10.105673138616483]
  大規模言語モデル(LLM)は、仮想アシスタントから自律エージェントに至るまで、現実のアプリケーションにますます統合されている。 攻撃者がパラフレーズ、難読化、マルチタスクのインジェクション戦略で進化するにつれて、既存のベンチマークは、出現する脅威の全スペクトルを捉えるのに十分ではない。 PromptSleuthは,表面的特徴ではなくタスクレベルの意図を推論することで,迅速なインジェクションを検出するセマンティック指向の防衛フレームワークである。
  論文  参考訳（メタデータ） (2025-08-28T15:19:07Z)
• TopicAttack: An Indirect Prompt Injection Attack via Topic Transition [92.26240528996443]
  大規模言語モデル(LLM)は間接的なインジェクション攻撃に対して脆弱である。 提案するTopicAttackは,LLMに生成した遷移プロンプトを生成し,徐々にトピックをインジェクション命令にシフトさせる。 提案手法は, インジェクトからオリジナルへのアテンション比が高く, 成功確率が高く, ベースライン法よりもはるかに高い比を達成できることがわかった。
  論文  参考訳（メタデータ） (2025-07-18T06:23:31Z)
• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• CAPTURE: Context-Aware Prompt Injection Testing and Robustness Enhancement [0.34530027457862006]
  攻撃検出と過防衛傾向の両方を評価する新しい文脈認識型ベンチマークであるCAPTUREを紹介する。 実験の結果,現行のプロンプトインジェクションガードレールモデルでは,敵のケースでは高い偽陰性,良性シナリオでは過剰な偽陽性に悩まされていることが明らかとなった。 この新しいモデルでは、コンテキスト認識データセットの偽陰性率と偽陽性率の両方を劇的に削減します。
  論文  参考訳（メタデータ） (2025-05-18T11:14:14Z)
• Automatic and Universal Prompt Injection Attacks against Large Language Models [38.694912482525446]
  LLM(Large Language Models)は、命令を解釈し、従う能力によって、人間の言語を処理し、生成する際、優れた言語モデルである。 これらの攻撃はアプリケーションを操作して、ユーザの実際の要求から逸脱して、攻撃者のインジェクトされたコンテンツに対応する応答を生成する。 本稿では,プロンプトインジェクション攻撃の目的を理解するための統合フレームワークを導入し,高効率で普遍的なインジェクションデータを生成するための自動勾配ベース手法を提案する。
  論文  参考訳（メタデータ） (2024-03-07T23:46:20Z)
• Formalizing and Benchmarking Prompt Injection Attacks and Defenses [59.57908526441172]
  本稿では,迅速なインジェクション攻撃を形式化するフレームワークを提案する。 フレームワークに基づいて、既存のものを組み合わせることで、新たな攻撃を設計します。 我々の研究は、将来のプロンプトインジェクション攻撃と防御を定量的に評価するための共通のベンチマークを提供する。
  論文  参考訳（メタデータ） (2023-10-19T15:12:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。