論文の概要: From Imitation to Interaction: Mastering Game of Schnapsen with Shallow Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2605.17162v1
- Date: Sat, 16 May 2026 21:22:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:47.715603
- Title: From Imitation to Interaction: Mastering Game of Schnapsen with Shallow Reinforcement Learning
- Title(参考訳): 模倣から相互作用へ:シュナッペンと浅層強化学習のマスターゲーム
- Authors: Ján Klačan, Sizhong Zhang,
- Abstract要約: 本稿では,浅層ニューラルネットワークエージェントがカードゲームSchnapsenをマスターできるかどうかを検討する。
まず、リプレイデータで訓練された教師あり学習エージェントと、強化学習エージェントを評価した。
その結果、教師付き模倣は強力なRdeepBot相手を倒すには十分ではないことが示された。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper investigates whether shallow neural network agents can master the card game Schnapsen and challenge a strong search-based baseline, RdeepBot, which uses Monte Carlo sampling and lookahead search. Guided by a progressively more complex experimental design, we first evaluate a supervised learning agent (MLPBot) trained on replay data and then a reinforcement learning agent (RLBot) with the same shallow architecture trained through asynchronous Monte Carlo updates and experience replay. The results show that supervised imitation does not generalize well enough to defeat strong RdeepBot opponents, whereas reinforcement learning produces substantially stronger agents. In the setting that focuses on the depth parameter of RdeepBot, the best performance is achieved when the learned value function is combined with deeper lookahead during gameplay, allowing RLBot to achieve statistically significant higher winning rates against the strongest evaluated RdeepBot baseline. In the sample-based setting, the gains are more conditional: the strongest performance appears at a relatively lower training num_samples parameter rather than increasing uniformly with stronger sampling.
- Abstract(参考訳): 本稿では,モンテカルロサンプリングとルックアヘッド検索を用いて,浅層ニューラルネットワークエージェントがカードゲームSchnapsenをマスターし,強力な検索ベースラインであるRdeepBotに挑戦できるかどうかを検討する。
まず,教師付き学習エージェント(MLPBot)と,非同期モンテカルロ更新と経験リプレイによってトレーニングされた浅層アーキテクチャを用いた強化学習エージェント(RLBot)を評価した。
その結果、教師付き模倣は強力なRdeepBot相手を倒すには十分に一般化していないが、強化学習は実質的に強力なエージェントを生成することがわかった。
RdeepBotの深さパラメータに着目した設定では、学習した値関数とゲームプレイ中に深いルックアヘッドが組み合わされ、RLBotが最も評価の高いRdeepBotベースラインに対して統計的に有意な高い勝利率を達成することができる。
サンプルベース設定では、ゲインはより条件付きであり、より強いサンプリングで均一に増加するのではなく、比較的低いトレーニングのnum_samplesパラメータに最強のパフォーマンスが現れる。
関連論文リスト
- Higher Replay Ratio Empowers Sample-Efficient Multi-Agent Reinforcement Learning [47.17030172520195]
MARL(Multi-Agent Reinforcement Learning)のサンプル効率は、その固有の部分的可観測性、非定常トレーニング、および巨大な戦略空間のため、より困難である。
広く使われているエピソードトレーニング機構は、サンプル効率の低下の原因となる可能性があると論じる。
既に収集したデータをよりよく活用するために,環境相互作用毎の勾配更新の頻度を高めることを提案する。
論文 参考訳(メタデータ) (2024-04-15T12:18:09Z) - Synthetic Experience Replay [48.601879260071655]
エージェントの収集した経験を柔軟にアップサンプリングするための拡散に基づくアプローチであるSynthetic Experience Replay(SynthER)を提案する。
SynthERはオフラインおよびオンライン設定におけるRLエージェントのトレーニングに有効な方法であることを示す。
我々は、限られたデータからリプレイベースのRLアルゴリズムの深層学習の可能性を実現するために、合成トレーニングデータが扉を開くことができると信じている。
論文 参考訳(メタデータ) (2023-03-12T09:10:45Z) - Robust Deep Reinforcement Learning through Adversarial Loss [74.20501663956604]
近年の研究では、深層強化学習剤は、エージェントの入力に対する小さな逆方向の摂動に弱いことが示されている。
敵攻撃に対する堅牢性を向上した強化学習エージェントを訓練するための原則的フレームワークであるRADIAL-RLを提案する。
論文 参考訳(メタデータ) (2020-08-05T07:49:42Z) - Forgetful Experience Replay in Hierarchical Reinforcement Learning from
Demonstrations [55.41644538483948]
本稿では,複雑な視覚環境において,エージェントが低品質な実演を行えるようにするためのアプローチの組み合わせを提案する。
提案した目標指向のリプレイバッファ構築により,エージェントはデモにおいて複雑な階層的タスクを解くためのサブゴールを自動的に強調することができる。
私たちのアルゴリズムに基づくこのソリューションは、有名なMineRLコンペティションのすべてのソリューションを破り、エージェントがMinecraft環境でダイヤモンドをマイニングすることを可能にする。
論文 参考訳(メタデータ) (2020-06-17T15:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。