論文の概要: WorkRover: Scaling Long-Horizon Cowork Agent Training Via Recursive Environment Evolution
- arxiv url: http://arxiv.org/abs/2610.18067v1
- Date: Tue, 13 Oct 2026 09:52:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.583638
- Title: WorkRover: Scaling Long-Horizon Cowork Agent Training Via Recursive Environment Evolution
- Title(参考訳): WorkRover: 再帰的環境の進化にともなうロングホライゾン・コワーキングエージェントトレーニングのスケールアップ
- Abstract要約: 環境進化を通じて長期のコワーキングエージェントを訓練するためのフレームワークであるWorkRoverを紹介する。
Factorial Compatibility Replay (FCR)は、ロールアウトフィードバックを使用してコンポーネントのリビジョンの組み合わせを評価する。
Verifier-to-Turn Credit Assignment (VTCA)は、決定論的ワークスペース-プログレスチェックからの信号でトラジェクトリレベルのGRPOのアドバンテージを増大させる。
- 参考スコア(独自算出の注目度): 101.12175332979554
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling interactive environments is important for training long-horizon agents through reinforcement learning. These environments often require further testing and refinement after initial generation, and correcting defects in a task may also require updating its work context and verifier. However, existing construction pipelines offer limited support for such iterative refinement while keeping these components aligned. We introduce WorkRover, a framework for training long-horizon cowork agents through recursive environment evolution. Its harness-driven synthesis enables construction agents to jointly build and validate semantically aligned work contexts, executable tasks, and evidence-grounded verifiers, adapting their actions to workspace state and execution feedback rather than following a fixed construction workflow. To support environment evolution, we introduce Factorial Compatibility Replay (FCR), which uses rollout feedback to evaluate combinations of component revisions through dependency-closed replay and selects the smallest validated repair among tested candidates while preserving task requirements and evaluation constraints. To provide finer-grained training signals, we propose Verifier-to-Turn Credit Assignment (VTCA), which augments trajectory-level GRPO advantages with signals from deterministic workspace-progress checks and assigns a bounded share of positive-progress credit to prerequisite turns using recorded tool-output and artifact dependencies. Using WorkRover, we post-train Qwen3.5-35B-A3B to obtain WorkRover-35B-A3B and evaluate it on several cowork-agent benchmarks. Its reported scores exceed those of Qwen3.5-35B-A3B by 26.27 percentage points on JobBench, 29.32 percentage points on OfficeQA Pro, and 413.25 Elo points on GDPval v2. These results suggest that WorkRover offers a promising foundation for scalable training of long-horizon cowork agents.
- Abstract(参考訳): 対話型環境のスケーリングは、強化学習を通じて長距離エージェントを訓練する上で重要である。
これらの環境は、初期生成後のさらなるテストと改善を必要とし、タスクの欠陥を修正するためには、作業コンテキストと検証の更新も必要となる。
しかし、既存のパイプラインは、これらのコンポーネントを整列させながら、そのような反復的な改善を限定的にサポートしている。
我々は、再帰的な環境進化を通じて、長期のコワーキングエージェントを訓練するためのフレームワークWorkRoverを紹介する。
そのハーネス駆動の合成により、建設エージェントは、セマンティックに整合した作業コンテキスト、実行可能タスク、エビデンス基底検証を共同で構築し、検証し、彼らのアクションを固定された建設ワークフローに従うのではなく、ワークスペースの状態と実行フィードバックに適応させることができる。
環境の進化を支援するために、FCR(Factial Compatibility Replay)を導入する。これは、ロールアウトフィードバックを用いて、依存関係を閉じたリプレイを通じてコンポーネントのリビジョンの組み合わせを評価し、タスク要件と評価制約を保ちながら、テスト対象の最小の修復を選択する。
よりきめ細かいトレーニング信号を提供するために,VTCA(Verifier-to-Turn Credit Assignment)を提案する。これは,決定論的ワークスペース・プログレッシブチェックからの信号によるトラジェクトリレベルのGRPOの優位性を向上し,記録されたツールアウトプットとアーティファクトの依存関係を用いて,前向きなプログレッシブクレジットの有界シェアを所望のターンに割り当てる。
WorkRoverを用いて、Qwen3.5-35B-A3Bを訓練後、WorkRover-35B-A3Bを取得し、複数のコワーキングエージェントベンチマークで評価する。
報告されたスコアは、JobBenchで26.27ポイント、OfficeQA Proで29.32ポイント、GDPval v2で413.25エロポイント、Qwen3.5-35B-A3Bより多い。
これらの結果は、WorkRoverが長距離コワーキングエージェントのスケーラブルなトレーニングのための有望な基盤を提供することを示唆している。
関連論文リスト
- RSIgen: Reciprocal Self-Improvement for Agentic Visual Generation [76.13535986114067]
本稿では,タスク中心の相互改善フレームワークであるRSIgenを紹介する。
Dynamic Responsibility Routing (DRR)は、エビデンス、インプット、サポートされたアクションにマッチした介入を使用して、受講者を選別し、互換性のあるトレーニングターゲットを構築する。
BAGEL、Qwen-Image、Wan-Image-7B全体で、RSIgenはAgengen-Bench Full overall 9を3.2--3.3ポイント改善し、3サイクルのSearchGenをアクションコストで適応させた。
論文 参考訳(メタデータ) (2026-10-13T16:41:24Z) - ClawLoop: Self-Improving Agents via Harness-Native Training Loop [23.47259168771743]
ClawLoopは外部教師モデルと最小限の事前依存を伴わずに自己改善が可能なフレームワークである。
ClawLoopは、タスク合成、トレーニング、診断、フィードバックという3つのフェーズを自己維持サイクルに構成する。
Qwen3.6-27Bをループモデルとし、ClawLoopはSkillsBench、Claw-Eval-Live、ClawGym-Benchを一貫して改善した。
論文 参考訳(メタデータ) (2026-10-09T08:52:34Z) - Scaling Verifiable Environments for Long-horizon Work Agents [56.22497654434293]
検証可能なワークエージェント環境を構築するためのスケーラブルな合成フレームワークであるWorkForgeを紹介する。
WorkForgeはまず、各ワークフローに必要なリソース、決定、成果物を特定する。
その後、関連する現実世界のファイルを取得し、それらをワークスペースに整理する。
WorkForgeはワークスペースを調べて、そのコンテンツに関する具体的な、チェック可能な事実を抽出する。
論文 参考訳(メタデータ) (2026-10-04T03:36:14Z) - WEFT: Scaling Tool-Use Post-Training for General-Purpose Agents [83.57238211078025]
WEFTは、環境幅、タスクの複雑さ、相互作用の多様性にまたがるエージェントインタラクションシステムの構築をスケールする。
大規模で安定した後トレーニングでは、WEFTは最適化と実行の信頼性の両方に対処する。
様々なモデルとベンチマークによる実験は、ツール使用後のトレーニングにおけるWEFTの有効性を示す。
論文 参考訳(メタデータ) (2026-09-29T07:14:53Z) - ACC: Compiling Agent Trajectories for Long-Context Training [36.977301208747015]
Agent Context Compilationは、検索、ソフトウェアエンジニアリング、データベースクエリエージェントからのトラジェクトリを、長いコンテキストのQAペアに変換する。
ACCはシンプルだが効果的なアプローチであり、既存のロングコンテキスト拡張やトレーニングメソッドと組み合わせることができる。
論文 参考訳(メタデータ) (2026-05-21T00:47:03Z) - SWE-QA-Pro: A Representative Benchmark and Scalable Training Recipe for Repository-Level Code Understanding [41.98672557723593]
SWEQA-Proは,多種多様な長期リポジトリと実行可能な環境から構築されたベンチマークである。
さらに,2段階のトレーニングレシピであるSupervised Fine-Tuning(SFT)とReinforcement Learning from AI Feedback(RLAIF)という,スケーラブルな合成データパイプラインを提案する。
SWE-QA-ProのGPT-4oを2.3ポイント超え、最先端モデルとのギャップを大幅に狭める。
論文 参考訳(メタデータ) (2026-03-17T05:12:48Z) - ARCANE: A Multi-Agent Framework for Interpretable and Configurable Alignment [11.754819989978785]
ARCANEは、複数エージェントの協調問題としてアライメントをフレーム化して、自然言語のルーリックとして利害関係者の好みを動的に表現するフレームワークである。
実用理論に着想を得て, ルーブリック学習を再構築問題として定式化し, 正規化グループシーケンスポリシー最適化(GSPO)手法を適用した。
以上の結果から,ルーブリックに基づく報酬モデルが,複雑な長軸AIシステムに対して,解釈可能な,テスト時適応アライメントへの有望な経路を提供することが示された。
論文 参考訳(メタデータ) (2025-12-05T22:39:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。