論文の概要: Factoriax: A GPU-Accelerated Factorio-Style Simulator for Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.05569v1
- Date: Sun, 04 Oct 2026 22:02:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 12:57:11.632036
- Title: Factoriax: A GPU-Accelerated Factorio-Style Simulator for Reinforcement Learning
- Title(参考訳): Factoriax: 強化学習のためのGPUアクセラレーションファクタースタイルシミュレータ
- Abstract要約: JAX で記述された GPU アクセラレーションファクトリ構築シミュレータである Factoriax について紹介する。
Factoriaxでは、エージェントがリソースを収集し、それらのリソースを使用してマシンを構築し、それからマップ上にマシンを配置してプロダクションパイプラインを構築することで、収集と作成プロセスを自動化する必要がある。
- 参考スコア(独自算出の注目度): 10.71996470184547
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Factoriax, a GPU-accelerated factory-building simulator written in JAX. In Factoriax, an agent must collect resources, build machines using those resources, and then automate the collection and crafting process by arranging machines on the map to build production pipelines. This paper discusses the structure of the Factoriax simulator and an initial benchmark called Easy Rocket in which an agent is tasked with building a resource-intensive machine called the Rocket in a limited number of game ticks to escape the planet. We also publish results from a number of PPO-based training runs on Easy Rocket. Factoriax is built to be fast. A 1-billion-step PPO training run, equivalent to 500,000 episodes, runs on Easy Rocket in about 8 minutes on a single NVIDIA A100. A standard laptop GPU can complete the same run in about 84 minutes. Our trained PPO agent learns to gather resources, craft machines from those resources, and place them on the map through a curriculum reward directly tied to a manually designed set of achievements. After training, the agent does not place machines in a functional spatial configuration, failing to fully complete the benchmark, and leaving the challenge open for future attempts.
- Abstract(参考訳): JAX で記述された GPU アクセラレーションファクトリ構築シミュレータである Factoriax について紹介する。
Factoriaxでは、エージェントがリソースを収集し、それらのリソースを使用してマシンを構築し、それからマップ上にマシンを配置してプロダクションパイプラインを構築することで、収集と作成プロセスを自動化する必要がある。
本稿では、Factiaxシミュレータの構造と、エージェントが惑星を脱出するために限られた数のゲームにおいて、Rocketと呼ばれるリソース集約マシンを構築することを任務とするEasy Rocketと呼ばれる初期ベンチマークについて論じる。
また、Easy Rocket上での多くのPPOベースのトレーニングの結果も公開しています。
Factoriaxは高速に構築されている。
50万エピソードに相当する1ビリオンステップのPPOトレーニング実行は、NVIDIA A100で約8分でEasy Rocket上で実行される。
標準のラップトップGPUは、約84分で同じ動作を完了できる。
我々の訓練されたPPOエージェントは、リソースを収集し、それらのリソースから機械を作り、それらを地図上に配置することを学ぶ。
トレーニング後、エージェントはマシンを機能的な空間構成に配置せず、ベンチマークを完全に完了せず、今後の試みのために課題を開放する。
関連論文リスト
- Learning Sim-to-Real Humanoid Locomotion in 15 Minutes [51.500643119683225]
本稿では,FastSACとFastTD3という,非政治的RLアルゴリズムに基づくシンプルで実用的なレシピを提案する。
我々の単純なレシピは、何千もの並列環境において、政治外のRLアルゴリズムを大規模に安定化させる。
我々は,Unitree G1 と Booster T1 ロボット上でのヒューマノイド移動制御器のエンドツーエンドの迅速な学習を実演する。
論文 参考訳(メタデータ) (2025-12-01T18:55:17Z) - Craftax: A Lightning-Fast Benchmark for Open-Ended Reinforcement Learning [4.067733179628694]
Craftaxは、JAXでCrafterをベースとして書き直したもので、Pythonネイティブのオリジナルよりも最大250倍高速である。
10億の環境相互作用を使ったPPOの実行は、1つのGPUだけで1時間以内で終了する。
本研究では,グローバル・エピソード探索を含む既存の手法と,教師なし環境設計がベンチマークで実質的な進歩を損なうことを示す。
論文 参考訳(メタデータ) (2024-02-26T18:19:07Z) - minimax: Efficient Baselines for Autocurricula in JAX [42.270349368227436]
この研究は、加速ハードウェア上でのUEDトレーニングのためのminimaxライブラリを導入している。
JAXを使って完全に拡張された環境とオートキュラムアルゴリズムを実装し、minimaxはハードウェアアクセラレーションのためにトレーニングループ全体をコンパイルできる。
論文 参考訳(メタデータ) (2023-11-21T16:43:13Z) - JaxMARL: Multi-Agent RL Environments and Algorithms in JAX [105.343918678781]
我々は、GPU対応の効率と多くの一般的なMARL環境のサポートを組み合わせた、最初のオープンソースPythonベースのライブラリであるJaxMARLを紹介します。
我々の実験は、壁時計時間の観点から、JAXベースのトレーニングパイプラインが既存のアプローチの約14倍高速であることを示している。
また、人気の高いStarCraft Multi-Agent ChallengeのJAXベースの近似的な再実装であるSMAXを紹介し、ベンチマークする。
論文 参考訳(メタデータ) (2023-11-16T18:58:43Z) - Sample Factory: Egocentric 3D Control from Pixels at 100000 FPS with
Asynchronous Reinforcement Learning [68.2099740607854]
サンプルファクトリー(Sample Factory)は、シングルマシン設定に最適化された高スループットトレーニングシステムである。
我々のアーキテクチャは、非常に効率的で非同期なGPUベースのサンプリングと、オフポリシー補正技術を組み合わせています。
我々は,Sample Factoryを拡張して,セルフプレイと人口ベーストレーニングをサポートし,これらのテクニックを多人数一対一シューティングゲームのための高度なエージェントの訓練に応用する。
論文 参考訳(メタデータ) (2020-06-21T10:00:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。