論文の概要: AutoEnvScaling: Automating the Data Flywheel with Terminal Agents
- arxiv url: http://arxiv.org/abs/2610.14163v1
- Date: Fri, 09 Oct 2026 17:51:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 22:47:46.715736
- Title: AutoEnvScaling: Automating the Data Flywheel with Terminal Agents
- Title(参考訳): AutoEnvScaling: ターミナルエージェントによるデータフライホイールの自動化
- Abstract要約: 本稿では,環境設計を端末タスクとして扱うAutoEnvScalingを導入し,エージェントを用いてデータフライホイールの自動化を行う。
環境生成を端末タスクにすることで、AutoEnvScalingは有効環境率を最大25倍に向上させる。
GPT-5.6-sol による AutoEnvScaling 環境上でのQwen3.5-35B-A3B のトレーニングにより,Tmax ベースライン上での Terminal-Bench 2.1 スコアが4.3 ポイント向上したことを示す。
- 参考スコア(独自算出の注目度): 63.914438869241486
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Terminal agents solve tasks in software engineering and scientific research by executing commands in a terminal. Training them via reinforcement learning (RL) requires diverse and verifiable environments, but these environments are still mostly designed by human researchers, so their supply grows only as fast as researchers can work. We introduce AutoEnvScaling, which treats environment design as a terminal task and uses agents to automate the data flywheel. A proposer agent builds new RL environments from the rollouts of the solver being trained, and the solver's new rollouts guide the next round. By turning environment generation into a terminal task, AutoEnvScaling increases the valid-environment rate by up to 25 times compared to prompt-only generation, at up to 75% lower cost per valid environment. We show that training Qwen3.5-35B-A3B on AutoEnvScaling environments from GPT-5.6-sol improves its Terminal-Bench 2.1 score by 4.3 points over the matched Tmax baseline. The broader goal of AutoEnvScaling is to enable recursive self-improvement (RSI): by making both environment generation and solving terminal tasks, it lets one model co-evolve in both roles. We show that Qwen3.6-35B-A3B, acting in both roles, gains 12.2 points on Terminal-Bench 2.1 and raises its Terminal-Bench 4.0 score from 1.6 to 3.2. The pipeline also generalizes across agentic domains, generating environments for software engineering, computer use, professional work, and GPU kernel programming. Overall, these results show a path toward agents building their own training environments, reducing human reliance and taking a core step toward RSI.
- Abstract(参考訳): 端末エージェントは、端末でコマンドを実行することによって、ソフトウェア工学と科学研究のタスクを解決する。
強化学習(RL)によるトレーニングには多様で検証可能な環境が必要だが、これらの環境はいまだに人間の研究者によって設計されているため、研究者が働くのと同じくらいの速さで供給が成長する。
本稿では,環境設計を端末タスクとして扱うAutoEnvScalingを導入し,エージェントを用いてデータフライホイールの自動化を行う。
プロポーザルエージェントは、トレーニング中のソルバのロールアウトから新しいRL環境を構築し、ソルバの新しいロールアウトが次のラウンドを案内する。
環境生成を端末タスクにすることで、AutoEnvScalingは、プロンプトのみの生成に比べて最大25倍、有効環境当たり75%のコストで有効環境を向上する。
GPT-5.6-sol による AutoEnvScaling 環境上でのQwen3.5-35B-A3B のトレーニングにより,Tmax ベースライン上での Terminal-Bench 2.1 スコアが4.3 ポイント向上したことを示す。
AutoEnvScalingのより広範な目標は、再帰的自己改善(RSI:recursive self-improvement)を可能にすることである。
両役ともQwen3.6-35B-A3Bはターミナルベンチ2.1で12.2ポイントを獲得し、ターミナルベンチ4.0のスコアを1.6から3.2に引き上げている。
パイプラインはまた、エージェントドメインをまたいで一般化し、ソフトウェアエンジニアリング、コンピュータ使用、プロフェッショナルワーク、GPUカーネルプログラミングのための環境を生成する。
全体として、これらの結果は、エージェントが自身のトレーニング環境を構築するための道筋を示し、人間への依存を減らし、RSIへの中核的な一歩を踏み出した。
関連論文リスト
- Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments [89.86581796261123]
それぞれの軌道を再利用可能な環境に変えるためのフレームワークである Terminal-Universe を紹介する。
Terminal-Universeは、トラジェクトリに記録されたファイル操作をリプレイして、エージェントが変更する前に各ファイルを復元し、部分的なワークスペースを生成する。
また、タスクは幅と深さの2つの軸に沿ってスケールします。
論文 参考訳(メタデータ) (2026-09-03T17:41:05Z) - SPADE: Self-Play in Adaptive Synthetic Executable Environments [110.80471334001574]
1つのLLMが2つの役割を演じるセルフプレイのRLフレームワークであるSPADEを紹介する。
Environment Designerは、OpenAI Gymスタイルのreset()/step()インターフェイスで実行可能なコードとして、完全な長距離トレーニング環境を記述する。
環境デザイナは,大規模な事前学習コーパスから採取した文書に基づいて構築し,蓄積した環境記憶を与える。
論文 参考訳(メタデータ) (2026-08-19T17:58:56Z) - Terminal-World: Scaling Terminal-Agent Environments via Agent Skills [52.39713754337834]
エージェントスキルを中心的な合成プリミティブとして利用する完全自動化パイプラインである Terminal-World を紹介する。
我々は,5,723のトレーニング環境を構築し,端末-ワールド-8B/14B/32Bを6つのベンチマークで評価した。
Terminal-World-32B は Terminal-Bench 2.0 で Nemotron-Terminal-32B を +4.5 Pass@1 (31.5) で上回り、43.8 Pass@3 に達する。
論文 参考訳(メタデータ) (2026-05-20T08:14:51Z) - EnterpriseBench Corecraft: Training Generalizable Agents on High-Fidelity RL Environments [0.10934862523101825]
我々は,高忠実度強化学習環境におけるAIエージェントの訓練が,トレーニング分布を超えて一般化する能力を生み出すことを示す。
私たちは、Surge AIのエージェントRL環境スイートであるEnterpriseBenchの最初の環境であるCoreCraftを紹介します。
論文 参考訳(メタデータ) (2026-02-18T04:35:46Z) - PIPer: On-Device Environment Setup via Online Reinforcement Learning [74.52354321028493]
自動化された環境設定メソッドは、任意のリポジトリに対して、手作業なしで完全に構成された環境を提供することで、開発者を支援することができる。
近年の研究では、最先端のLarge Language Models (LLMs) でさえ、このタスクの自動化に限られた成功をおさめていることが明らかになっている。
我々は、正しいスクリプトを生成するための教師付き微調整と、環境設定のタスクに適応するために、Reinforcement Learning with Verifiable Rewards(RLVR)を組み合わせる。
EnvBench-Python では,より大型の Qwen3-32B や GPT-4 と同等に動作可能な Qwen3-8B (コンシューマハードウェア上で動作可能なモデル) を実現する。
論文 参考訳(メタデータ) (2025-09-29T20:03:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。