論文の概要: An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses

• arxiv url: http://arxiv.org/abs/2610.14116v1
• Date: Fri, 09 Oct 2026 08:25:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 23:12:30.576203
• Title: An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses
• Title（参考訳）: 多層エージェント防犯をバイパスするプロンプトエンジニアリング戦略の実証的研究
• Abstract要約: OpenClaw Security Attack and Defense Challengeは、3段階の防衛パイプラインを通じてAIエージェントの堅牢性を評価する。 本稿では,エンタープライズOA,Eコマース,スマートホームのシナリオにおいて,19の攻撃対象にまたがるこれらのレイヤに対して,迅速なエンジニアリング戦略を実証したケーススタディを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The OpenClaw Security Attack and Defense Challenge evaluates AI agent robustness through a three-stage defense pipeline: skill file scanning (Stage 1), instruction safety evaluation (Stage 2), and attack trajectory scoring (Stage 3). This paper presents an empirical case study of prompt engineering strategies against these layers across 19 attack targets in Enterprise OA, E-commerce, and Smart Home scenarios. I document both successful and failed strategies, with an emphasis on the observed trade-off between instruction safety (Stage 2) and attack execution accuracy (Stage 3). The final online score is 0.2630, with 5 of 19 tasks achieving full bypass. The results suggest that multi-layer defenses, reinforced by built-in behavioral constraints, substantially limit what prompt engineering alone can achieve.
• Abstract（参考訳）: OpenClaw Security Attack and Defense Challengeは、スキルファイルスキャン(Stage 1)、命令安全性評価(Stage2)、アタックトラジェクトリースコア(Stage3)という3段階の防衛パイプラインを通じて、AIエージェントの堅牢性を評価する。 本稿では,エンタープライズOA,Eコマース,スマートホームのシナリオにおいて,19の攻撃対象にまたがるこれらのレイヤに対して,迅速なエンジニアリング戦略を実証したケーススタディを示す。 私は、命令安全性(ステップ2)とアタック実行精度(ステップ3)のトレードオフの観察に重点を置いて、成功した戦略と失敗した戦略の両方を文書化します。 最終的なオンラインスコアは0.2630で、19のタスクのうち5つは完全なバイパスを達成した。 以上の結果から,組込み動作制約により強化された多層防御は,工学的にのみ達成できるものを大幅に制限することが示された。

関連論文リスト

• CASCADE Against Jailbreaks: Combination Across Stages with Controlled Attack-Defense Evaluation [2.37771211295026]
  大規模言語モデル(LLM)に対するジェイルブレイク攻撃に対する防御は、異なるパイプラインステージで実行される。 それぞれの段階でどの防衛を展開すべきか、どのように組み合わせるかは、まだ不明である。 本研究は,パイプライン内およびパイプライン間における防御の組み合わせに関する最初の体系的研究である。
  論文  参考訳（メタデータ） (2026-09-18T14:06:00Z)
• Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment [25.752599132396437]
  間接的なプロンプトインジェクションは、エージェントがタスク実行中に検索するサードパーティデータに悪意のある命令を埋め込むことによって、LLMベースのエージェントをハイジャックする。 既存のディフェンスでは、静的なベンチマークでほぼゼロの攻撃成功率を報告しているが、最近のアダプティブ評価では、攻撃者がデプロイされたディフェンスに対して最適化を許せば、これらの結果は崩壊する。 本稿では,攻撃者が制御するデータではなく,ユーザタスクに対する防衛判断を基礎としたトレーニングベースのRETAを提案する。
  論文  参考訳（メタデータ） (2026-06-13T19:15:44Z)
• Your Agent, Their Asset: A Real-World Safety Analysis of OpenClaw [87.97230960702274]
  本稿では,OpenClawの安全性評価について紹介する。 エージェントの永続状態を3次元に統一するCIK分類法を導入する。 評価では、ライブOpenClawインスタンス上の12のアタックシナリオをカバーしています。
  論文  参考訳（メタデータ） (2026-04-06T15:27:05Z)
• AttackEval: A Systematic Empirical Study of Prompt Injection Attack Effectiveness Against Large Language Models [0.0]
  アタックエヴァル(AttackEval)は、インジェクション攻撃の有効性の体系的研究である。 我々は3つの親集団(シンタクティック、コンテクチュアル、セマンティック/社会)に分類される10の攻撃カテゴリーの分類を構築する。 本研究は,4つのより強力な防衛層下での模擬生産犠牲者システムに対して評価を行った。
  論文  参考訳（メタデータ） (2026-04-04T05:49:30Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Cybersecurity AI: Evaluating Agentic Cybersecurity in Attack/Defense CTFs [3.6968315805917897]
  我々は、サイバーセキュリティにおける攻撃や防御にAIシステムがより効果的であるかどうかを評価する。 統計分析によると、防御剤は54.3%の制約のないパッチング成功を達成している。 発見は、ディフェンダーがオープンソースのCybersecurity AIフレームワークを採用する緊急性を強調している。
  論文  参考訳（メタデータ） (2025-10-20T13:21:09Z)
• Reinforcement Learning for Decision-Level Interception Prioritization in Drone Swarm Defense [51.736723807086385]
  本稿では,この課題に対処する上で,強化学習の実践的メリットを示すケーススタディを提案する。 本研究では,現実的な運用制約を捉えた高忠実度シミュレーション環境を提案する。 エージェントは最適なインターセプション優先順位付けのために複数のエフェクターを調整することを学ぶ。 我々は、何百ものシミュレートされた攻撃シナリオにおいて、手作りルールベースのベースラインに対する学習ポリシーを評価する。
  論文  参考訳（メタデータ） (2025-08-01T13:55:39Z)
• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• The VLLM Safety Paradox: Dual Ease in Jailbreak Attack and Defense [56.32083100401117]
  Vision Large Language Models(VLLMs)のジェイルブレイク攻撃に対する脆弱性は、驚くにあたらない。 これらの攻撃に対する最近の防御機構は、ベンチマーク評価においてほぼ飽和状態に達している。
  論文  参考訳（メタデータ） (2024-11-13T07:57:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。