論文の概要: Player-1: Learning to Play from Synthetic Experience
- arxiv url: http://arxiv.org/abs/2610.20584v1
- Date: Wed, 14 Oct 2026 17:57:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.296038
- Title: Player-1: Learning to Play from Synthetic Experience
- Title(参考訳): Player-1: シンセティック体験から遊び方を学ぶ
- Abstract要約: 本稿では,実演以外のゲーム制御を合成体験で学習するためのフレームワークであるPlayer-1を紹介する。
我々は6,044個のゲームプレイトラジェクトリ上でコンピュータ使用モデルを微調整し、記録されたアクションとタスク命令と視覚的推論を組み合わせた。
ゲーム間で共有される制御要求を主軸とした,16種類の合成2Dおよび3D環境である Player-1-Gym を構築した。
- 参考スコア(独自算出の注目度): 100.9609577188405
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Computer-use agents have demonstrated strong capabilities in interpreting screens and executing keyboard and mouse actions. However, games, with their visually rich worlds and diverse mechanics, remain challenging and offer a demanding next step toward general digital control. Current game-agent learning pipelines often rely on large-scale demonstrations with limited coverage of dynamic game states, while scalable environments for interactive training remain difficult to obtain. We introduce Player-1, a post-training framework for learning game control beyond demonstrations through synthetic experience. We extend the computer-use action space with relative pointer motion, sustained inputs, and composite actions. For supervised initialization, we fine-tune computer-use models on 6,044 curated gameplay trajectories that pair recorded actions with task instructions and visual reasoning. We construct Player-1-Gym, sixteen synthetic 2D and 3D environments designed around control demands shared across games. Programmatically verifiable rewards and randomized observations and control dynamics support multi-environment reinforcement learning with PPO. The resulting Player-1-9B and Player-1-35B-A3B improve MineDojo-300 success over their SFT policies by 27.8 and 17.7 percentage points, respectively. Player-1-9B reaches 38.33% success compared with 12.63% for the strongest evaluated baseline, with further gains over SFT on ViZDoom-10 and GameWorld. Further analyses show that broader synthetic environment coverage improves transfer, while the use of composite actions that combine multiple keyboard and mouse inputs increases during RL. We demonstrate that learning from synthetic experience substantially improves game control beyond supervised initialization, with gains that generalize beyond the RL training suite.
- Abstract(参考訳): コンピュータ利用エージェントは、画面を解釈し、キーボードとマウスのアクションを実行する強力な能力を示している。
しかし、視覚的に豊かな世界と多様な仕組みを持つゲームは、依然として挑戦的であり、一般的なデジタルコントロールに向けた次のステップを要求される。
現在のゲームエージェント学習パイプラインは、動的ゲーム状態の限られた範囲で大規模なデモに頼っていることが多いが、インタラクティブなトレーニングのためのスケーラブルな環境は入手が困難である。
本稿では,実演以外のゲーム制御を合成体験で学習するための後学習フレームワークであるPlayer-1を紹介する。
コンピュータ利用行動空間を、相対的なポインター運動、持続的な入力、複合動作で拡張する。
教師付き初期化では、6,044個のゲームプレイトラジェクトリでコンピュータ使用モデルを微調整し、記録されたアクションとタスク命令と視覚的推論を組み合わせます。
ゲーム間で共有される制御要求を主軸とした,16種類の合成2Dおよび3D環境である Player-1-Gym を構築した。
プログラムで検証可能な報酬とランダムな観察と制御ダイナミクスは、PPOを用いたマルチ環境強化学習を支援する。
その結果、Player-1-9BとPlayer-1-35B-A3Bはそれぞれ27.8ポイント、MineDojo-300を17.7%改善した。
Player-1-9Bは最強評価ベースラインの12.63%に対して38.33%の成功を収め、ViZDoom-10とGameWorldではさらにSFTを上回った。
さらに分析した結果,複数のキーボードとマウスの入力を組み合わせた複合動作がRL中に増加する一方で,より広範な合成環境のカバレッジが伝達を改善することが示された。
合成経験から学習することで、教師付き初期化以上のゲーム制御が大幅に向上し、RLトレーニングスイート以上のゲインが一般化されることを実証する。
関連論文リスト
- Infinite Worlds with Versatile Interactions [72.56254206708059]
LingBot-World 2.0(LingBot-World-Infinity)は、LingBot-Worldの先進的なイテレーションである。
今回のアップデートでは、より広い範囲のアクションを含む、非常に多様なインタラクティブな要素が導入されている。
共有体験を容易にするために,複数のプレイヤーが同時にこの鮮やかな世界シミュレータに没入できるインタフェースを開発した。
論文 参考訳(メタデータ) (2026-07-08T15:33:25Z) - Multiplayer Interactive World Models with Representation Autoencoders [28.451678067070777]
複雑な物理的相互作用によって制御される高度に動的な環境に対する最初のマルチプレイヤー世界モデルを導入する。
我々は,この問題をRocket Leagueのゲームで研究し,高速で密結合したダイナミックスの下でプレイヤーが競争し,協力する。
論文 参考訳(メタデータ) (2026-07-06T17:31:52Z) - NitroGen: An Open Foundation Model for Generalist Gaming Agents [101.41866522979548]
NitroGenは、ジェネラリストゲームエージェントのためのビジョンアクション基盤モデルである。
1000以上のゲームで4万時間のゲームプレイビデオでトレーニングされている。
論文 参考訳(メタデータ) (2026-01-04T16:24:50Z) - Game-TARS: Pretrained Foundation Models for Scalable Generalist Multimodal Game Agents [56.25101378553328]
本稿では,汎用ゲームエージェントであるGame-TARSについて紹介する。
Game-TARSは500B以上のトークンで事前トレーニングされており、様々な軌跡とマルチモーダルデータがある。
実験により、Game-TARSは、オープンワールドMinecraftタスクにおける以前のソータモデルの約2倍の成功率を達成することが示された。
論文 参考訳(メタデータ) (2025-10-27T17:43:51Z) - Learning Representations in Video Game Agents with Supervised Contrastive Imitation Learning [0.6299766708197881]
本稿では,教師付きコントラスト学習(SupCon)のイミテーション学習(IL)への応用について紹介する。
目標は、アクション関連因子をよりよく捉えた観測結果の潜在表現を得ることである。
Astro BotとReturnalの3Dゲームおよび複数の2Dアタリゲームの実験では、表現品質の向上、学習収束の高速化、一般化の向上が示されている。
論文 参考訳(メタデータ) (2025-09-15T13:00:29Z) - SPIRAL: Self-Play on Zero-Sum Games Incentivizes Reasoning via Multi-Agent Multi-Turn Reinforcement Learning [27.20778530252474]
SPIRALは、モデルをマルチターン、ゼロサムゲームで学習し、自身のバージョンを継続的に改善するセルフプレイフレームワークである。
SPIRALを用いることで、ゼロサムゲーム上でのセルフプレイは、広く移動する推論能力を生み出す。
分析により, この伝達は, 系統的分解, 期待値計算, ケース・バイ・ケース分析という3つの認知的パターンを通じて起こることが明らかとなった。
論文 参考訳(メタデータ) (2025-06-30T17:58:13Z) - Vocal Sandbox: Continual Learning and Adaptation for Situated Human-Robot Collaboration [64.6107798750142]
Vocal Sandboxは、位置のある環境でシームレスな人間とロボットのコラボレーションを可能にするフレームワークである。
我々は,ロボットの能力に対する理解と協調をリアルタイムで構築できる軽量で解釈可能な学習アルゴリズムを設計する。
我々はVocal Sandboxを,コラボレーションギフトバッグアセンブリとLEGOストップモーションアニメーションの2つの設定で評価した。
論文 参考訳(メタデータ) (2024-11-04T20:44:40Z) - Disentangling Controllable Object through Video Prediction Improves
Visual Reinforcement Learning [82.25034245150582]
多くの視覚に基づく強化学習問題において、エージェントは視野内の可動物体を制御する。
制御可能なオブジェクトを観測信号から切り離すためのエンドツーエンド学習フレームワークを提案する。
不整合表現は、RLがエージェントに追加の観察チャネルとして有用であることが示されている。
論文 参考訳(メタデータ) (2020-02-21T05:43:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。