論文の概要: PureTD: Reinforcement Learning for Backgammon Money Games with No Evaluation-time Search
- arxiv url: http://arxiv.org/abs/2608.15146v1
- Date: Sat, 15 Aug 2026 09:46:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.210609
- Title: PureTD: Reinforcement Learning for Backgammon Money Games with No Evaluation-time Search
- Title(参考訳): PureTD: 評価時間のないバックギャモンマネーゲームのための強化学習
- Abstract要約: 評価時間検索なしの設定で,手三郎のTDGammonをバックギャモンマネーゲームとして再検討する。
チェッカープレイと立方体アクションは、手書きのロジックが最小限で、専門家の機能を持たないセルフプレイ強化学習(RL)によって、ゼロから学習される。
- 参考スコア(独自算出の注目度): 51.56484100374058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We revisit Tesauro's TD-Gammon for backgammon money games in the setting of no evaluation-time search. Both checker play and cube action (use of the doubling cube) are learned from scratch via self-play reinforcement learning (RL), with minimal hand-coded logic and no expert features. In this setting, we demonstrate that pure self-play RL suffices to train models that reach near-state-of-the-art playing strength. Specifically, for cubeful money games, our search-free model evaluates faster and is substantially stronger than the open-source engines GNU Backgammon and Open Sage running a one-move (1-ply) look-ahead search.
- Abstract(参考訳): 評価時間検索なしの設定で,手三郎のTD-Gammonをバックギャモンマネーゲームとして再検討する。
チェッカープレイと立方体アクション(二重立方体の使用)は、手書きのロジックが最小限で、専門家の機能を持たないセルフプレイ強化学習(RL)によってゼロから学習される。
この設定では、純粋な自己演奏RLが、ほぼ最先端の演奏強度に達するモデルを訓練するのに十分であることを示す。
具体的には、立方体マネーゲームの場合、検索不要のモデルの方が高速で、オープンソースのエンジンであるGNU BackgammonとOpen Sageが1モーブ(1-ply)のルックアヘッドサーチを実行しているのに対し、かなり強力である。
関連論文リスト
- Adversarial Learning in Games with Bandit Feedback: Logarithmic Pure-Strategy Maximin Regret [64.73231630190121]
ゼロサムゲームを学ぶことは、ゲーム理論と機械学習の基本的な問題である。
ビジットフィードバックによるゼロサムゲームにおける対戦学習について検討し,最大戦略に対する障害を最小限に抑えることを目的とした。
我々は,Tsallis-INFアルゴリズムがゲーム依存パラメータ$c$で$O(c log T)$インスタンス依存後悔を実現することを示す。
論文 参考訳(メタデータ) (2026-02-06T03:26:01Z) - Can Large Language Models Develop Strategic Reasoning? Post-training Insights from Learning Chess [54.5355907369231]
チェスにおける強化学習(RL)を通して,大規模言語モデル (LLM) が戦略的推論能力を発達させることができるかを検討する。
以上の結果から, 蒸留法に基づく高密度報酬は, 希少な二進報酬よりも優れていることが示唆された。
我々は、チェス推論訓練におけるSFTおよびRLの略語を提供し、この制限が、事前訓練されたモデルのチェスに対する内部理解の欠如に起因する証拠を見つける。
論文 参考訳(メタデータ) (2025-07-01T13:16:34Z) - Game-RL: Synthesizing Multimodal Verifiable Game Data to Boost VLMs' General Reasoning [89.93384726755106]
視覚言語強化学習(RL)は主に狭い領域に焦点を当てている。
ビデオゲームは本質的に、検証が容易なリッチなビジュアル要素とメカニクスを提供します。
ビデオゲームにおけるマルチモーダルかつ検証可能な報酬を完全に活用するために,Game-RLを提案する。
論文 参考訳(メタデータ) (2025-05-20T03:47:44Z) - Deep Reinforcement Learning for 5*5 Multiplayer Go [6.222520876209623]
本稿では,検索と深層強化学習(DRL)を用いた最新のアルゴリズムの利用と解析を提案する。
我々は,2人以上のプレイヤーがいても,検索とDRLによりプレイレベルを向上できたことを示す。
論文 参考訳(メタデータ) (2024-05-23T07:44:24Z) - Know your Enemy: Investigating Monte-Carlo Tree Search with Opponent
Models in Pommerman [14.668309037894586]
強化学習(Reinforcement Learning)と組み合わせて、モンテカルロ木探索(Monte-Carlo Tree Search)はChess、Shogi、Goといったゲームにおいて、人間のグランドマスターよりも優れていることを示した。
汎用マルチプレイヤーゲームからシングルプレイヤーゲームと2プレイヤーゲームに変換する手法について検討する。
論文 参考訳(メタデータ) (2023-05-22T16:39:20Z) - Targeted Search Control in AlphaZero for Effective Policy Improvement [93.30151539224144]
我々はAlphaZeroの新しい検索制御戦略であるGo-Exploitを紹介する。
Go-Exploitは、関心のある状態のアーカイブからセルフプレイトラジェクトリの開始状態をサンプリングする。
Go-Exploitは、標準のAlphaZeroよりも優れたサンプル効率で学習する。
論文 参考訳(メタデータ) (2023-02-23T22:50:24Z) - Gym-$\mu$RTS: Toward Affordable Full Game Real-time Strategy Games
Research with Deep Reinforcement Learning [0.0]
Gym-$mu$RTS をフルゲーム RTS 研究のための高速実行 RL 環境として紹介する。
DRLをスケールしてフルゲームの$mu$RTSをプレイするためのテクニックのコレクションを提示する。
論文 参考訳(メタデータ) (2021-05-21T20:13:35Z) - Minimax Strikes Back [3.860785927193332]
深層強化学習は多くの完全な情報ゲームにおいてレベルレベルに達する。
別のアプローチとして、Ath'enanは、Descentと呼ばれる、Minimaxベースの検索アルゴリズムを使っている。
複数のゲームにおいて、AlphaZero: Polygamesの再実装よりもはるかに効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-19T14:42:41Z) - The NetHack Learning Environment [79.06395964379107]
本稿では、強化学習研究のための手続き的に生成されたローグのような環境であるNetHack Learning Environment(NLE)を紹介する。
我々は,NetHackが,探索,計画,技術習得,言語条件付きRLといった問題に対する長期的な研究を促進するのに十分複雑であると主張している。
我々は,分散されたDeep RLベースラインとランダムネットワーク蒸留探索を用いて,ゲームの初期段階における実験的な成功を示す。
論文 参考訳(メタデータ) (2020-06-24T14:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。