論文の概要: AutoRedClaw: Automated Red-Teaming for Claw-Style Agents

• arxiv url: http://arxiv.org/abs/2610.27244v1
• Date: Mon, 19 Oct 2026 20:15:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.491401
• Title: AutoRedClaw: Automated Red-Teaming for Claw-Style Agents
• Title（参考訳）: AutoRedClaw: クレースタイルエージェントのための自動化されたレッドチーム
• Abstract要約: AutoRedClawは、実行に必要な環境でエンドツーエンドのアタックを生成する自動化フレームワークである。 リスクカテゴリ、アタック戦略、アタックステージ、アタックサーフェスに沿ってジェネレーションを編成し、経験誘導による探索を使用して、探索されていない地域に向けてジェネレーションを操る。 有効攻撃率は30%以上であり、成功サンプル当たり0.10ドル以下である。
• 参考スコア（独自算出の注目度）: 64.94937830238798
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent systems are shifting from task-scoped tool-use agents to persistent, personalized assistants such as OpenClaw. These claw-style agents maintain configuration files (e.g., AGENTS.md), long-term memory, and reusable skills. Once poisoned, this persistent state is repeatedly reloaded into the agent's context, creating persistent threats across tasks and sessions. Existing security evaluation systems struggle to evaluate these complex claw-style systems since they rely heavily on manually constructed test cases and environments, which limits their scale and coverage; in addition, these manually designed cases quickly become outdated as agents evolve, and their evaluation settings leave a gap with how claw-style agents are deployed in practice. To address this, we introduce AutoRedClaw, an automated red-teaming framework that generates end-to-end attacks together with the environments needed to execute them. AutoRedClaw combines a strict quality-checking protocol with execution-based validation to ensure the correctness, realism, and effectiveness of generated samples, and adopts task-driven environment construction to keep costs low. To achieve broad coverage, it organizes generation along risk categories, attack strategies, attack stages, and attack surfaces, and uses experience-guided exploration to steer generation toward under-explored regions. AutoRedClaw achieves an effective attack rate above 30% at less than $0.10 per successful sample. From its outputs, we construct RedClaw-Bench, a 330-case benchmark that yields substantially higher attack success rates (ASRs) than AgentDojo, AgentDyn, and DTap. Across seven harnesses and four frontier models, most agent systems exceed 50% ASR, showing that our red-teaming pipeline provides a strong evaluation signal even for the most advanced agent systems. Our code and benchmark are released at https://github.com/SaFo-Lab/AutoRedClaw.
• Abstract（参考訳）: エージェントシステムは、タスクスコープされたツール使用エージェントから、OpenClawのようなパーソナライズされたパーソナライズされたアシスタントへとシフトしている。 これらの爪型エージェントは構成ファイル(例: AgentS.md)、長期記憶、再利用可能なスキルを保持する。 一度毒を盛ると、この永続状態はエージェントのコンテキストに繰り返し再ロードされ、タスクやセッション間で永続的な脅威が発生する。 既存のセキュリティ評価システムは、手動で構築されたテストケースや環境に大きく依存しているため、これらの複雑な爪型システムを評価するのに苦労している。 これを解決するために、私たちはAutoRedClawを紹介します。AutoRedClawは、エンド・ツー・エンドのアタックを、実行に必要な環境とともに生成する自動化された赤チームフレームワークです。 AutoRedClawは厳格な品質チェックプロトコルと実行ベースの検証を組み合わせることで、生成されたサンプルの正確性、リアリズム、有効性を保証し、タスク駆動型環境構築を採用してコストを抑える。 幅広い範囲をカバーするために、リスクカテゴリ、攻撃戦略、攻撃ステージ、攻撃面に沿って世代を編成し、経験誘導による探索を使用して、未探索地域に向けて世代を操る。 AutoRedClawは、30%以上の効果的な攻撃率を、成功例当たり0.10ドル未満で達成している。 アウトプットから、AgentDojo、AgentDyn、DTapよりも攻撃成功率(ASR)がかなり高い330ケースのベンチマークであるRedClaw-Benchを構築します。 7つのハーネスと4つのフロンティアモデルにまたがって、ほとんどのエージェントシステムはASRを超える。 コードとベンチマークはhttps://github.com/SaFo-Lab/AutoRedClaw.comで公開されています。

関連論文リスト

• SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
  コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。 操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。 SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
  論文  参考訳（メタデータ） (2026-08-31T03:39:43Z)
• Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens [65.53494487819053]
  クローのようなAIエージェント(OpenClawなど)は、認証情報、ファイル、ツール、外部サービスへの永続的なアクセスを伴う、常にオンのプロセスである。 我々はClawのようなエージェントをエージェントコンピュータシステムとして扱い、そのゲートウェイランタイムがOSのような仲介の役割を担っている。 我々は、4つの攻撃面にわたる406の敵タスクのベンチマークであるSafeClawArenaを開発した。
  論文  参考訳（メタデータ） (2026-06-29T18:00:45Z)
• SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
  エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。 フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。 本手法は,現実的な環境下で高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2026-02-15T16:09:48Z)
• RedCodeAgent: Automatic Red-teaming Agent against Diverse Code Agents [70.24175620901538]
  コードエージェントは、強力なコード生成機能とコードインタプリタとの統合により、広く採用されている。 現在の静的安全性ベンチマークとレッドチームツールは、出現する現実世界のリスクシナリオを特定するのに不十分である。 我々はRedCodeAgentを提案する。RedCodeAgentは、多様なコードエージェントの脆弱性を体系的に発見するように設計された、最初の自動リピートエージェントである。
  論文  参考訳（メタデータ） (2025-10-02T22:59:06Z)
• STAC: When Innocent Tools Form Dangerous Chains to Jailbreak LLM Agents [38.755035623707656]
  本稿では,エージェントツールの利用を生かした新しいマルチターンアタックフレームワークSTACについて紹介する。 我々は,483のSTACケースを自動生成し,評価するために,1,352セットのユーザエージェント環境相互作用を特徴とするフレームワークを適用した。 GPT-4.1を含む最先端のLSMエージェントはSTACに対して極めて脆弱であり,攻撃成功率(ASR)は90%以上である。
  論文  参考訳（メタデータ） (2025-09-30T00:31:44Z)
• AutoRedTeamer: Autonomous Red Teaming with Lifelong Attack Integration [40.350632196772466]
  本稿では,大規模言語モデル(LLM)に対する完全自動化とエンドツーエンドのレッドコラボレーションのための新しいフレームワークであるAutoRedTeamerを紹介する。 AutoRedTeamerはマルチエージェントアーキテクチャとメモリ誘導型攻撃選択機構を組み合わせることで、新たな攻撃ベクトルの継続的な発見と統合を可能にする。 我々は、さまざまな評価設定でAutoRedTeamerの有効性を示し、HarmBenchのLlama-3.1-70Bに対する攻撃成功率を20%向上させた。
  論文  参考訳（メタデータ） (2025-03-20T00:13:04Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。