論文の概要: OpenART: Scaling Agent Red Teaming via Open-Ended Environment Evolution

• arxiv url: http://arxiv.org/abs/2608.00677v1
• Date: Sat, 01 Aug 2026 13:51:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:24.856249
• Title: OpenART: Scaling Agent Red Teaming via Open-Ended Environment Evolution
• Title（参考訳）: OpenART: オープンエンド環境進化によるエージェントレッドチームのスケーリング
• Abstract要約: AIエージェントは、初期状態の変化が将来的な決定に影響を与える可能性のある永続的な環境で動作する。 現在の安全ベンチマークは、短い静的タスクにフォーカスするため、累積的なリスクを捕捉できないことが多い。 環境の進化を通じて、スケーラブルなエージェントレッドチームのためのオープンなアリーナであるOpenARTを紹介します。
• 参考スコア（独自算出の注目度）: 71.06848799741152
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents operate in persistent environments where early state changes can influence decisions far into the future. Unlike conventional language-model interactions, agent behavior is mediated through a shared state that is repeatedly modified and reused across long-horizon workflows. Current safety benchmarks often fail to capture these cumulative risks because they focus on short, static tasks. To address these limitations, we introduce OpenART, an open-ended arena for scalable agent red teaming through environment evolution. OpenART provides over 10,000 validated stateful scenarios across 50 domains, drawing from a pool of more than 500,000 tools and skills. These tasks require a median of 97 tool calls and enable unified evaluation across 75 different agent-model configurations. To systematically explore these evolving attack surfaces, we propose the Evolutionary Markov Hypergraph Attack (EMHA). EMHA is a black-box policy that performs feedback-driven environment evolution by coordinating authorized state transitions without requiring parameter updates. Throughout the evaluation, task objectives remain fixed while only the environment state changes. Across all configurations, EMHA achieves a pooled Attack Success Rate (ASR) of 85.0%. Its advantage over instruction-only evolution increases from approximately 2% on simple environments to over 17% on the most complex ones, demonstrating that environment evolution increasingly exposes safety failures as task complexity grows. Furthermore, our analysis shows that the specific runtime implementation of an agent explains a significant portion of safety variation beyond the underlying model's capabilities. These results establish OpenART as a scalable foundation for studying agent safety in complex, evolving environments.
• Abstract（参考訳）: AIエージェントは、初期状態の変化が将来的な決定に影響を与える可能性のある永続的な環境で動作する。 従来の言語とモデルの相互作用とは異なり、エージェントの振る舞いは共有状態を通じて仲介される。 現在の安全ベンチマークは、短い静的タスクにフォーカスするため、これらの累積リスクを捕捉できないことが多い。 これらの制限に対処するため、環境の進化を通じて、スケーラブルなエージェントレッドチームのためのオープンなアリーナであるOpenARTを紹介します。 OpenARTは50のドメインに1万以上の検証済みのステートフルシナリオを提供し、50万以上のツールとスキルをプールから引き出す。 これらのタスクは、中央値97のツールコールを必要とし、75の異なるエージェントモデル構成で統一的な評価を可能にする。 進化的マルコフハイパーグラフ攻撃(EMHA)を提案する。 EMHAは、パラメータ更新を必要とせず、承認された状態遷移を調整することで、フィードバック駆動型環境進化を実行するブラックボックスポリシーである。 評価全体を通して、タスクの目的は固定され、環境状態のみが変化する。 すべての構成において、EMHAは85.0%のプールされたアタック成功率(ASR)を達成する。 命令のみの進化に対するアドバンテージは、単純な環境ではおよそ2%から、最も複雑な環境では17%以上まで増加する。 さらに、分析の結果、エージェントの特定の実行時実装が、基礎となるモデルの能力を超えた安全性のかなりの部分を説明することが明らかとなった。 これらの結果は、複雑で進化する環境でエージェントの安全性を研究するためのスケーラブルな基盤としてOpenARTを確立している。

関連論文リスト

• EnvHarness: Awakening Static Worlds for Agent Learning [58.54600450547412]
  Environment Harnessは静的な環境をラップして、基礎となるロジックを変更することなく振る舞いを再構築する。 EnvHarnessは様々な領域にまたがって適用され、すべての再形環境が元の検証元を保持する。 EnvRiggerはターゲットポリシーをブラックボックスとして扱い、その実行軌跡を観察して、診断された欠陥をターゲットとしたEnvHarnessコンポーネントを合成する。
  論文  参考訳（メタデータ） (2026-08-20T10:42:06Z)
• PLATO: Pointer Learner for Agent and Task Openness [2.413584261314428]
  エージェント・タスク・オープンネスのためのポインタ学習システム(PLATO)について紹介する。 PLATOはポインタネットワークベースのアクターであり、集中型グラフニューラルネットワーク(GNN)批判と組み合わせている。 我々は,OASYSの最先端ベースラインよりも高い性能と一貫したゼロショットの一般化を示す。
  論文  参考訳（メタデータ） (2026-07-27T21:20:13Z)
• EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments [100.23277774720928]
  EvoArenaは、端末、ソフトウェア、ソーシャルドメイン間でのプログレッシブアップデートのシーケンスとして環境変化をモデル化するベンチマークスイートである。 EvoMemは、メモリの進化を構造化された更新履歴として記録するパッチベースのメモリパラダイムである。
  論文  参考訳（メタデータ） (2026-06-11T17:59:59Z)
• DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
  DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。 DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。 DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
  論文  参考訳（メタデータ） (2026-05-06T11:59:48Z)
• The World Won't Stay Still: Programmable Evolution for Agent Benchmarks [44.36372545284675]
  LLMベースのエージェントは、環境とのインタラクション、データクエリ、マルチターンプロセスでのツールの呼び出しによって、ユーザの要求を満たす。 既存のベンチマークのほとんどは、固定されたスキーマとツールセットを持つ静的環境を前提としており、現実世界の進化的な性質を無視し、エージェントの環境変化に対する堅牢性を前提としている。 本稿では,環境進化をプログラム可能なグラフベースのフレームワークProEvolveを提案する。
  論文  参考訳（メタデータ） (2026-03-06T04:56:18Z)
• Autonomous Continual Learning of Computer-Use Agents for Environment Adaptation [57.65688895630163]
  ACuRLは自律的なカリキュラム強化学習フレームワークで、エージェントを人間データゼロの特定の環境に継続的に適応させる。 本研究では,環境内学習と環境横断学習の両方を効果的に実現し,既存の環境を忘れずに4～22%の性能向上を実現した。
  論文  参考訳（メタデータ） (2026-02-10T23:06:02Z)
• NAAMSE: Framework for Evolutionary Security Evaluation of Agents [1.0131895986034316]
  我々は,エージェントのセキュリティ評価をフィードバック駆動最適化問題として再編成する進化的フレームワークであるNAAMSEを提案する。 本システムでは,遺伝子プロンプト変異,階層的コーパス探索,非対称的行動スコアリングのライフサイクルを編成する単一自律エージェントを用いている。 Gemini 2.5 Flashの実験では、進化的突然変異がワンショットメソッドによって欠落した脆弱性を体系的に増幅することを示した。
  論文  参考訳（メタデータ） (2026-02-07T06:13:02Z)
• MOSS: Enabling Code-Driven Evolution and Context Management for AI Agents [7.4159044558995335]
  動的コンテキスト管理システムとコード生成を統合する新しいフレームワークであるMOSS(llM-oriented Operating System Simulation)を紹介する。 フレームワークの中核は、最小限の知識原則を強制するために、インバージョン・オブ・コントロールコンテナとデコレータを併用する。 我々は,このフレームワークがエージェント開発における効率性と能力をいかに向上させるかを示し,チューリング完全エージェントへの移行におけるその優位性を強調した。
  論文  参考訳（メタデータ） (2024-09-24T14:30:21Z)
• HAZARD Challenge: Embodied Decision Making in Dynamically Changing Environments [93.94020724735199]
  HAZARDは、火災、洪水、風などの3つの予期せぬ災害シナリオで構成されている。 このベンチマークにより、さまざまなパイプラインで自律エージェントの意思決定能力を評価することができる。
  論文  参考訳（メタデータ） (2024-01-23T18:59:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。