論文の概要: AgentLSD: Evaluating AI Security Agents Under Adversarial Task Contamination

• arxiv url: http://arxiv.org/abs/2609.19140v1
• Date: Wed, 16 Sep 2026 17:58:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.929631
• Title: AgentLSD: Evaluating AI Security Agents Under Adversarial Task Contamination
• Title（参考訳）: AgentLSD: 敵のタスク汚染下でAIセキュリティエージェントを評価する
• Abstract要約: 本稿では,敵対的タスク汚染を研究するためのフレームワークであるAgentLSDを提案する。 偽のフラグ、誤解を招くヒント、デコイエンドポイント、隠れたキューなどのトラップアーティファクトを注入します。 我々は、11のWeb Capture the Flagチャレンジで6つのモデルを評価した。
• 参考スコア（独自算出の注目度）: 1.8540341223394288
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI agents for security inspect web pages, source code, logs, configuration files, and command outputs. These environments may contain deceptive artifacts that influence the agent's behavior. We call this adversarial task contamination. Whereas prompt injection relies on attacker-supplied instructions, task contamination also includes non-instructional evidence, such as fake results and decoy endpoints. We present AgentLSD, a controlled framework for studying adversarial task contamination. AgentLSD uses Capture the Flag (CTF) challenges as its experimental environment. We inject trap artifacts, such as fake flags, misleading hints, decoy endpoints, and hidden cues, while preserving the intended CTF solution. The framework supports paired clean and trap-augmented experiments with deterministic trap generation, runtime injection, telemetry, and delivery verification. We evaluate six models on 11 web CTF challenges. In the clean condition, agents capture 41% of the flags, and no model solves every challenge. We then measure the impact of task contamination. Even when the agent still recovers the flag, traps increase the number of turns (+20) and reasoning tokens (+2k). Solve-rate effects are more heterogeneous, as some model-challenge pairs are largely unaffected while others follow decoys or submit wrong flags. These results show that clean CTF performance understates vulnerability to deceptive task evidence. AgentLSD isolates this effect and provides a reproducible benchmark for studying it. We release the framework, configurations, trap specifications, and raw traces.
• Abstract（参考訳）: セキュリティのためのAIエージェントは、Webページ、ソースコード、ログ、設定ファイル、コマンド出力を検査する。 これらの環境は、エージェントの行動に影響を与える偽りの人工物を含むかもしれない。 私たちはこれを敵タスク汚染と呼ぶ。 プロンプトインジェクションは攻撃者に供給された命令に依存するが、タスク汚染には偽結果やデコイエンドポイントなどの非教育的証拠も含まれている。 本稿では,敵対的タスク汚染を研究するための制御フレームワークであるAgentLSDを提案する。 AgentLSDは、実験環境としてCapture the Flag (CTF)の課題を使用している。 意図したCTFソリューションを維持しながら、偽のフラグ、誤解を招くヒント、デコイエンドポイント、隠れたキューなどのトラップアーティファクトを注入します。 このフレームワークは、決定論的トラップ生成、ランタイムインジェクション、テレメトリ、デリバリ検証を備えた、クリーンかつトラップ強化のペア実験をサポートする。 我々は11のウェブCTF課題に対して6つのモデルを評価する。 クリーンな状態では、エージェントはフラグの41%をキャプチャし、すべての課題を解決するモデルは存在しない。 次にタスク汚染の影響を測定します。 エージェントがフラグを回復しても、トラップはターン数(+20)と推論トークン数(+2k)を増加させる。 解速度効果はより異質であり、いくつかのモデルチェレンジ対は影響を受けないが、他のものはデコイに従うか間違ったフラグを提出する。 これらの結果から,CTFのクリーンな性能は,不正なタスク証拠に対する脆弱性を負うことが明らかとなった。 AgentLSDはこの効果を分離し、それを研究するための再現可能なベンチマークを提供する。 フレームワーク、設定、トラップ仕様、生のトレースをリリースしています。

関連論文リスト

• Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks [22.272681549351983]
  我々は,Darwin Gdel Machine,Self-Improving Coding Agent,Hyperagentsの3つの自己修正型コーディングエージェントを攻撃した。 我々は、ベンチマーク中毒攻撃を可能にするのに十分な脆弱性、ベンチマーク、モデル、エージェントの足場の特性を蒸留する。 自己修正型コーディングエージェントは、このような攻撃に対してより回復力のあるように設計されなければならない、と我々は主張する。
  論文  参考訳（メタデータ） (2026-09-15T20:32:53Z)
• How Do LLM Agents Actually Get the Flag? Trace-Level Provenance for Agentic Offensive Security Evaluation [19.20339330379649]
  トレースベースのエージェント監査フレームワークであるCTF-ABACUSを紹介する。 それぞれの実行をエビデンスベースの解決プロファイルとして再構築する。 エクスプロイトの発生場所、フラグが最初に現れる場所、そして、復元されたフラグが実証された振る舞いによってサポートされているかどうかを識別する。
  論文  参考訳（メタデータ） (2026-08-26T17:50:34Z)
• Coding Agents Are Guessing: Measuring Action-Boundary Violations in Underspecified DevOps Instructions [16.871217408296932]
  符号化エージェントにおける動作境界違反を測定するためのベンチマークであるUnderSpecBenchを提案する。 UnderSpecBenchには、ドキュメント化されたインシデントやCVE、ツールの動作を基盤とする69のタスクファミリが含まれている。 タスクの難易度から不特定性を分離するために、各タスクは同じ環境と地道な安全なアクションを維持します。
  論文  参考訳（メタデータ） (2026-07-02T15:11:39Z)
• AgentTrap: Measuring Runtime Trust Failures in Third-Party Agent Skills [32.24433022603674]
  サードパーティのスキルがLLMエージェントのパッケージエコシステムになりつつある。 悪質なスキルは、明らかに有害なアクションを実行するためにモデルを尋ねる必要はありません。 代わりに、ルーチンワークフローの一部として有害な振る舞いを偽装することができる。 本稿では,LLMエージェントが悪意のある実行動作に抵抗しながら,サードパーティのスキルを活用できるかどうかを評価するベンチマークであるAgentTrapを紹介する。
  論文  参考訳（メタデータ） (2026-05-13T17:04:17Z)
• SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
  エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。 フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。 本手法は,現実的な環境下で高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-02-15T16:09:48Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
  この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。 この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。 クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
  論文  参考訳（メタデータ） (2025-06-16T08:09:32Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。