論文の概要: Sandman: Building and Operating Sandboxes for Agentic Reinforcement Learning on Shared Kubernetes
- arxiv url: http://arxiv.org/abs/2610.39711v1
- Date: Thu, 29 Oct 2026 09:45:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.487733
- Title: Sandman: Building and Operating Sandboxes for Agentic Reinforcement Learning on Shared Kubernetes
- Title(参考訳): Sandman: 共有Kubernetes上でのエージェント強化学習のためのサンドボックスの構築と運用
- Abstract要約: Sandmanは、エージェントツールの実行と評価のためにAmazonで構築、運用されているサンドボックスサービスである。
トレーニングフレームワークはタスクイメージを提供し、返されたサンドボックス内のコマンドとファイル操作を使用する。
スケールテストでは、サンドマンは11,858個の小さなサンドボックスを同時に保持した。
- 参考スコア(独自算出の注目度): 16.98631454915822
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Agentic reinforcement learning (RL) often requires repeated tool calls in task-specific environments. A training job may create thousands of these environments in bursts while sharing a cluster with other jobs. We present Sandman, a sandbox service built and operated at Amazon for agent tool execution and evaluation. It serves multiple production agentic RL workloads on shared Kubernetes. A training framework supplies a task image and uses commands and file operations in the returned sandbox. Files and processes persist across calls until the framework releases the environment. Sandman manages creation, readiness and cleanup. Each sandbox is a Kubernetes pod with a small daemon mounted into the unmodified image. In a scale test, Sandman held 11,858 concurrent tiny sandboxes. Four production SWE-bench Verified training campaigns created 3.1 million sandboxes in October 2026. We report the design trade-offs and operational lessons from handling creation bursts, preparing task environments, reclaiming abandoned sandboxes, and running evaluation under controlled conditions. We will open-source Sandman's daemon, provider and pool.
- Abstract(参考訳): エージェント強化学習(RL)は、しばしばタスク固有の環境で繰り返しツールコールを必要とする。
トレーニングジョブは、クラスタを他のジョブと共有しながら、数千の環境をバーストで生成する可能性がある。
エージェントツールの実行と評価のためにAmazonで構築および運用されているサンドボックスサービスであるSandmanを紹介します。
共有Kubernetes上で複数のプロダクションエージェントRLワークロードを提供する。
トレーニングフレームワークはタスクイメージを提供し、返されたサンドボックス内のコマンドとファイル操作を使用する。
フレームワークが環境をリリースするまで、ファイルとプロセスは呼び出し全体にわたって持続する。
Sandmanは作成、準備、クリーンアップを管理する。
各サンドボックスは、修正されていないイメージに小さなデーモンを配置したKubernetesポッドである。
スケールテストでは、サンドマンは11,858個の小さなサンドボックスを同時に保持した。
4つのSWEベンチ認証訓練キャンペーンが2026年10月に3100万個のサンドボックスを生み出した。
本報告では,生成バーストの処理,タスク環境の整備,放棄されたサンドボックスの回収,制御条件下での評価などによる設計上のトレードオフと運用上の教訓について報告する。
Sandmanのデーモン、プロバイダ、プールをオープンソースにします。
関連論文リスト
- Scalable Weak-to-Strong Verifier Hardening for Agent Environments [30.10170718209991]
弱い検証器硬化に対するスケーラブルで完全自動的なアプローチを導入する。
まず、エージェントが直接修正できない独立したバリデーションサンドボックスをセットアップし、次にハッカー修正ループを使用して残りのバリデーション脆弱性を発見して修復する。
当社のHacker-fixerループの以前のバージョンは、公式のTerminal Benchリポジトリによって、その環境におけるエクスプロイトの監査方法として採用されました。
論文 参考訳(メタデータ) (2026-10-11T21:10:19Z) - Pincer: Resource Authorization for Agents using a Digital Twin [67.15317774522758]
Pincerは新しいディフェンスで、リソース層で動作し、オートモードのようなツールコール層で既存のディフェンスと連携する。
Pincerのコアにはデジタルツインがある。分離されたコンテキストモデルで、動的にユーザ固有の最小限のポリシーを自動的に学習し、強制する。
評価の結果,Pincerはいくつかのベースラインと比較して,セキュリティとユーティリティの両方に強く依存していることがわかった。
論文 参考訳(メタデータ) (2026-10-01T23:03:12Z) - Weird Machine Compositors: Exploiting AI Orchestration at the Expression Layer [0.0]
オーケストレーションプラットフォームは、サンドボックスの列挙とブロックを通じて、ユーザが提供する式を保護する。
これらのサンドボックスは、命令セットが基礎となる言語仕様である奇妙なマシンであることを実証する。
これらの発見は,オーケストレーション製品カテゴリ全体にわたって,サンドボックス障害の広範なパターンの中に置かれています。
論文 参考訳(メタデータ) (2026-09-27T09:49:02Z) - Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark with Contamination-Resistant Task Construction [57.138342889101345]
Tencent WorkBuddy Benchは、コーディングエージェントのためのマルチドメイン評価スイートである。
本報告では, 設計手法, スコアリングプロトコル, クロスモデルリーダーボードについて述べる。
論文 参考訳(メタデータ) (2026-07-23T04:34:06Z) - Sandlock: Confining AI Agent Code with Unprivileged Linux Primitives [5.253963000405894]
Sandlockは、単純な分割を中心に構成された軽量なLinuxプロセスサンドボックスである。
動的ネットワーク決定、HTTPレベルのアクセス制御、TOCTOUセーフなエグゼクティブ引数の検査、可逆効果をサポートする。
論文 参考訳(メタデータ) (2026-05-25T19:51:30Z) - Redefining AI Red Teaming in the Agentic Era: From Weeks to Hours [0.29342347743009217]
オープンソースDreadnode SDK上に構築されたAIレッドチームエージェントを紹介する。
エージェントは、接地された敵攻撃、450以上の変換、130以上のスコアを発生させる。
オペレータはマルチエージェントシステム、マルチ言語、ターゲットを探索し、実装方法ではなく、何をプローブすべきかに焦点を当てる。
論文 参考訳(メタデータ) (2026-05-05T17:43:52Z) - ClawMark: A Living-World Benchmark for Multi-Turn, Multi-Day, Multimodal Coworker Agents [77.22389710754452]
マルチターンマルチデイタスクを中心に構築された同僚エージェントのベンチマークであるベンチを紹介する。
現在のリリースには、13のプロのシナリオにわたる100のタスクが含まれており、5つのステートフルなサンドボックスサービスに対して実行される。
最強のモデルは75.8の重み付きスコアに達するが、最も厳格なタスク成功率は20.0%に過ぎず、部分的な進歩が一般的であることを示している。
論文 参考訳(メタデータ) (2026-04-26T16:05:02Z) - ClawBench: Can AI Agents Complete Everyday Online Tasks? [50.958690494341106]
ClawBenchは153のシンプルなタスクの評価フレームワークで、人々が人生や仕事で定期的に達成する必要がある。
ClawBenchは本番Webサイトで動作し、実世界のWebインタラクションの完全な複雑さ、動的な性質、課題を保存する。
軽量なインターセプション層は、最終的なリクエストのみをキャプチャしてブロックし、現実世界の副作用なしに安全な評価を保証する。
論文 参考訳(メタデータ) (2026-04-09T17:57:13Z) - Quantifying Frontier LLM Capabilities for Container Sandbox Escape [1.6245103041408155]
大規模言語モデル(LLM)は、コードの実行、ファイルの読み書き、ネットワークへのアクセスといったツールを使用して、自律的なエージェントとして機能するようになっている。
これらのリスクを軽減するため、エージェントは一般的にデプロイされ、独立した"サンドボックス"環境で評価される。
オープンベンチマークであるSANDBOXESCAPEBENCHを導入する。
論文 参考訳(メタデータ) (2026-03-01T22:47:39Z) - EnvScaler: Scaling Tool-Interactive Environments for LLM Agent via Programmatic Synthesis [101.67583081810136]
大規模言語モデル(LLM)は、様々な現実世界環境においてエージェントとして機能するよう訓練されることが期待されている。
このプロセスはリッチで多様なツール・インタラクション・サンドボックスに依存している。
スケーラブルなツールインタラクション環境のための自動化フレームワークであるEnvScalerを提案する。
論文 参考訳(メタデータ) (2026-01-09T14:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。