Fugu-MT 論文翻訳(概要): Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents

論文の概要: Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents

arxiv url: http://arxiv.org/abs/2610.03448v1
Date: Fri, 02 Oct 2026 15:30:11 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-06 00:14:30.452986
Title: Passing the Test You Trained On: Re-evaluating Prompt-Injection Detectors for LLM Agents
Title（参考訳）: あなたが訓練したテストに合格する:LSMエージェントのためのプロンプト注入検出器の再評価
Abstract要約: LLMを使わずにAgentDojoとTau-benchという2つのエージェントベンチマークの真真正なツールコールを再生する。我々は,MetaのPrompt Guard 2を含む15の検出器と,これらの出力とBIPIAベンチマークに基づいて2つのタスク対応LCM判定器を評価した。両方のエージェントベンチマークで最高の検出器は、いかなるベンチマークともデータを共有せず、エージェントスタイルの入力でトレーニングされた。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: LLM agents increasingly screen tool outputs with small prompt-injection detectors, and teams choose among detectors by their scores on public benchmarks. We ask whether those scores predict how a detector behaves inside an agent. We replay the ground-truth tool calls of two agent benchmarks, AgentDojo and tau-bench, without an LLM to obtain tool outputs that are benign by construction, label injected outputs by differential replay, and evaluate fifteen detectors, including Meta's Prompt Guard 2, and two task-aware LLM judges on these outputs and on the BIPIA benchmark. Detection rankings transfer poorly between benchmarks: the best detector on BIPIA catches 2% of AgentDojo injections at a 1% false-positive rate, and a detector that catches 72% of AgentDojo injections catches 15% on tau-bench. False-positive rates on tool outputs, which range from none to over 90%, do transfer between the two agent benchmarks. Where training data is public, the form of the training inputs explains the results. The BIPIA leader was trained on full BIPIA inputs, but having seen InjecAgent's attack strings as short prompts does not help it find them inside tool outputs; the best detector on both agent benchmarks shares no data with any benchmark and was trained on agent-style inputs. Evaluations meant to inform deployment should use the agent's own tool outputs, report detection at a low false-positive rate, and audit what the detector was trained on.
Abstract（参考訳）: LLMエージェントは、小さなプロンプト注入検出器でツール出力を検査するようになり、チームは公開ベンチマークでスコアによって検出器を選択するようになった。これらのスコアは、検知器がエージェントの内部でどのように振る舞うかを予測するかどうかを問う。我々は,2つのエージェントベンチマークであるAgentDojoとTau-benchをLLMなしでリプレイし,構築によって良質なツール出力を得るとともに,差分リプレイによる出力をラベル付けし,MetaのPrompt Guard 2や,これらの出力とBIPIAベンチマークの2つのタスク対応LDM判定器を含む15の検出器を評価する。 BIPIAの最良の検出器は1%の偽陽性率でAgentDojoインジェクションの2%をキャッチし、AgentDojoインジェクションの72%をキャッチする検出器はTau-benchで15%をキャッチする。ツール出力の偽陽性率は、90%以上で、2つのエージェントベンチマーク間で転送される。トレーニングデータが公開されている場合は、トレーニング入力の形式が結果を説明する。 BIPIAのリーダーは完全なBIPIA入力のトレーニングを受けたが、InjecAgentの攻撃文字列をショートプロンプトと見ていたため、ツール出力内では検出できない。配備を知らせるための評価は、エージェント自身のツール出力を使用し、偽陽性率の低いレポート検出を行い、検出器がトレーニングされたことを監査するべきである。

関連論文リスト

Agents Can Use Base Models to Evade AI Detection [27.744608800535186]
ベース言語モデルを備えた符号化エージェントは,サンプルからの応答をうまくアセンブルし,検出を回避できることを示す。クロードコードを利用するClaude Opus 5は、ローカル32BパラメータOLMo-2ベースLMを効果的にオーケストレーションする。
論文参考訳（メタデータ） (2026-09-25T18:13:40Z)
ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文参考訳（メタデータ） (2026-08-27T01:22:14Z)
Do Agent Benchmarks Measure Capability? Protocol Validity in the Age of Agentic AI [6.058290832294911]
エージェントベンチマークは、リポジトリの編集、Web研究、端末の使用、長期のインタラクションをますます評価している。最近の報奨ベンチマークとシステムレポートは、エージェントが代わりに公開ソリューションを回復し、評価成果物を読み、ジェネレータ構造を推論し、フィードバックを操作し、不正なスコアリングパスの恩恵を受けることができることを示している。我々は、プロトコルの有効性を定式化し、露出を特定し、エージェントがどのように使用したかを決定し、その結果のスコアが誤解を招くかどうかを評価するポストホック監査であるHackDetectを導入する。
論文参考訳（メタデータ） (2026-07-24T14:55:19Z)
RewardHackingAgents: Benchmarking Evaluation Integrity for LLM ML-Engineering Agents [0.9821874476902969]
LLMエージェントは、単一のスカラーテストメトリクスで成功を判断するエンドツーエンドのMLエンジニアリングタスクをますます実行します。エージェントは、モデルを改善するのではなく、評価パイプラインを妥協することで、報告されたスコアを増やすことができる。ワークスペースベースのベンチマークであるRewardHackingAgentsを導入する。
論文参考訳（メタデータ） (2026-03-11T22:06:44Z)
Test-Driven AI Agent Definition (TDAD): Compiling Tool-Using Agents from Behavioral Specifications [0.0]
テスト駆動型AIエージェント定義(TDAD)は、エージェントプロンプトをコンパイルされたアーティファクトとして扱う方法論である。 SpecSuite-CoreのTDADは、ポリシーコンプライアンス、グラウンドド・アナリティクス、ランブックの遵守、決定論的強制にまたがる4つのエージェントのベンチマークである。
論文参考訳（メタデータ） (2026-03-09T18:04:54Z)
When Benchmarks Lie: Evaluating Malicious Prompt Classifiers Under True Distribution Shift [0.0]
有害なリクエスト、ジェイルブレイク、間接的なプロンプトインジェクション、抽出攻撃にまたがる18のデータセットのベンチマークを用いて、包括的な分析を行う。我々は,真のアウト・オブ・ディストリビューションの一般化を評価するために,LODO(Leave-One-Dataset-Out)評価を提案する。
論文参考訳（メタデータ） (2026-02-15T14:21:43Z)
DetectAnyLLM: Towards Generalizable and Robust Detection of Machine-Generated Text Across Domains and Models [60.713908578319256]
タスク指向の知識で検出器を最適化するために,DDL(Direct Discrepancy Learning)を提案する。そこで本研究では,最新のMGTD性能を実現する統合検出フレームワークであるTectAnyLLMを紹介する。 MIRAGEは5つのテキストドメインにまたがる10のコーパスから人書きテキストをサンプリングし、17個の最先端のLLMを使用して再生成または修正する。
論文参考訳（メタデータ） (2025-09-15T10:59:57Z)
VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文参考訳（メタデータ） (2025-09-15T02:25:38Z)
Defending against Indirect Prompt Injection by Instruction Detection [109.30156975159561]
InstructDetectorは、LLMの動作状態を利用して潜在的なIPI攻撃を特定する、新しい検出ベースのアプローチである。 InstructDetectorは、ドメイン内設定で99.60%、ドメイン外設定で96.90%の検出精度を達成し、攻撃成功率をBIPIAベンチマークで0.03%に下げる。
論文参考訳（メタデータ） (2025-05-08T13:04:45Z)
Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
論文参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。