論文の概要: Agentic Game Development as a Verifiable Trajectory Data Engine for Scaling World Models
- arxiv url: http://arxiv.org/abs/2608.25518v1
- Date: Wed, 26 Aug 2026 08:28:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.671063
- Title: Agentic Game Development as a Verifiable Trajectory Data Engine for Scaling World Models
- Title(参考訳): 世界モデルをスケールするための検証可能な軌道データエンジンとしてのエージェントゲーム開発
- Abstract要約: 私たちは、世界モデルをスケールするには、グラウンド化された報酬信号を提供するデータエンジンが必要であると論じています。
コードが実行可能であるため、コンパイラとランタイムは強化学習後のトレーニングに高品質な報酬を提供することができる。
ヒューマンエンジン検証による強化学習(RLHEV)を提案する。
- 参考スコア(独自算出の注目度): 33.63851718776273
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A common strategy for scaling world models is to train on more crawled video with more compute. We argue that this strategy is inefficient: scaling world models also requires a recursive data engine that offers grounded reward signals. The success of code agents illustrates why this matters. As code is executable, compilers and runtimes can provide high-quality rewards for Reinforcement Learning (RL) post-training of LLMs. By contrast, spatial generation still relies largely on fuzzy proxies such as CLIP scores. These signals are fuzzy and biased, making them hard to support RL post-training. Compared with these, game development provides a missing reward environment for spatial world models. A scene encoded by a game engine is an executable world specification: the engine can efficiently check collision, physics, navigability and bounded playability, while the developer provides the global verification signal by judging whether the scene should be accepted. Game development also provides real-world long-horizon trajectory data for RL post-training. We therefore propose Reinforcement Learning with Human-Engine Verification (RLHEV), a post-training paradigm that combines dense engine signals with implicit human acceptance feedback from the development process.
- Abstract(参考訳): 世界モデルをスケールするための一般的な戦略は、より多くの計算量でクロールされたビデオをトレーニングすることだ。
我々は、この戦略は非効率であると主張する。世界モデルをスケールするには、グラウンド化された報酬信号を提供する再帰的なデータエンジンも必要である。
コードエージェントの成功は、これがなぜ重要なのかを説明している。
コードが実行可能であるため、コンパイラとランタイムは、LLMの強化学習(RL)後のトレーニングに高品質な報酬を提供することができる。
対照的に、空間生成は依然としてCLIPスコアのようなファジィプロキシに大きく依存している。
これらの信号はファジィで偏りがあり、RLのポストトレーニングをサポートするのが難しい。
これらと比較して、ゲーム開発は空間世界モデルに欠けている報酬環境を提供する。
ゲームエンジンによって符号化されたシーンは実行可能な世界仕様であり、エンジンは衝突、物理、航法性、バウンドプレイ容易性を効率的にチェックでき、開発者はシーンが受け入れられるべきかどうかを判断してグローバルな検証信号を提供する。
ゲーム開発はまた、RLポストトレーニングのための現実世界の長距離軌跡データも提供する。
そこで我々は,高密度エンジン信号と開発プロセスからの暗黙の人間受容フィードバックを組み合わせた後学習パラダイムであるReinforcement Learning with Human-Engine Verification (RLHEV)を提案する。
関連論文リスト
- Code World Model: Coding Agent as World Brain [51.31807545747191]
私たちは、世界進化と視覚的実現を分離するフレームワークであるCode World Modelを紹介します。
コーディングエージェントは世界脳として機能し、出来事とその結果について推論する。
実行可能状態と視覚的生成を結びつけるために,フレームの時間的制約をプロキシビデオにエンコードするプロキシ表現を導入する。
論文 参考訳(メタデータ) (2026-08-26T15:37:33Z) - Odysseus: Scaling VLMs to 100+ Turn Decision-Making in Games via Reinforcement Learning [50.464623632604976]
本研究では,スーパーマリオランドにおける長期意思決定のための視覚言語モデル(VLM)の学習について検討する。
本稿では,軽量なターンレベルの批評家によるPPOの適応版を提案し,トレーニングの安定性とサンプル効率を大幅に向上させる。
我々は,VLMエージェントのオープントレーニングフレームワークであるOdysseusを紹介し,ゲーム内の複数のレベルにおいて,実質的なゲインを達成する。
論文 参考訳(メタデータ) (2026-05-01T02:05:56Z) - RLVR-World: Training World Models with Reinforcement Learning [41.04369775904968]
検証可能な報酬で強化学習を活用する統合フレームワークであるRLVR-Worldを提案する。
我々は,テキストゲーム,Webナビゲーション,ロボット操作など,ドメイン間の言語およびビデオベースの世界モデルにおいて,大幅なパフォーマンス向上を示す。
論文 参考訳(メタデータ) (2025-05-20T05:02:53Z) - Game-RL: Synthesizing Multimodal Verifiable Game Data to Boost VLMs' General Reasoning [89.93384726755106]
視覚言語強化学習(RL)は主に狭い領域に焦点を当てている。
ビデオゲームは本質的に、検証が容易なリッチなビジュアル要素とメカニクスを提供します。
ビデオゲームにおけるマルチモーダルかつ検証可能な報酬を完全に活用するために,Game-RLを提案する。
論文 参考訳(メタデータ) (2025-05-20T03:47:44Z) - VLM-RL: A Unified Vision Language Models and Reinforcement Learning Framework for Safe Autonomous Driving [1.3107174618549584]
自動運転政策を学習するための強化学習(RL)に基づく手法は、自動運転コミュニティにおいて注目を集めている。
従来のRLアプローチは手作業による報酬に依存しており、それは広範囲の人的努力を必要とし、しばしば一般化性に欠ける。
我々は、事前訓練された視覚言語モデル(VLM)とRLを統合して報酬信号を生成する統合フレームワークである textbfVLM-RL を提案する。
論文 参考訳(メタデータ) (2024-12-20T04:08:11Z) - Scaling Offline Model-Based RL via Jointly-Optimized World-Action Model Pretraining [49.730897226510095]
我々は,60億のトークンデータを持つアタリゲーム上で事前訓練されたオフラインモデルベースRLエージェントであるJOWA: Jointly-Reinforceed World-Action Modelを紹介する。
われわれの最大のエージェントは、1億5000万のパラメータを持ち、10%のサブサンプルオフラインデータだけで事前トレーニングされたゲーム上での人間レベルのパフォーマンス78.9%で、既存の最先端の大規模なオフラインRLベースラインを31.6%上回っている。
論文 参考訳(メタデータ) (2024-10-01T10:25:03Z) - Promptable Game Models: Text-Guided Game Simulation via Masked Diffusion
Models [68.85478477006178]
ニューラルビデオゲームシミュレータのためのPGM(Promptable Game Model)を提案する。
ユーザーは高レベルのアクションシーケンスと低レベルのアクションシーケンスでゲームを実行することができる。
私たちのPGMは、エージェントの目標をプロンプトの形で指定することで、ディレクターのモードをアンロックします。
提案手法は,既存のニューラルビデオゲームシミュレータのレンダリング品質を著しく上回り,現在の最先端の能力を超えたアプリケーションをアンロックする。
論文 参考訳(メタデータ) (2023-03-23T17:43:17Z) - Deep Policy Networks for NPC Behaviors that Adapt to Changing Design
Parameters in Roguelike Games [137.86426963572214]
例えばRoguelikesのようなターンベースの戦略ゲームは、Deep Reinforcement Learning(DRL)にユニークな課題を提示する。
複雑なカテゴリ状態空間をより適切に処理し、設計決定によって強制的に再訓練する必要性を緩和する2つのネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-12-07T08:47:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。