論文の概要: Unsound Search with Policy and Value Networks in Legends of Code and Magic
- arxiv url: http://arxiv.org/abs/2609.06816v1
- Date: Sun, 06 Sep 2026 20:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.309644
- Title: Unsound Search with Policy and Value Networks in Legends of Code and Magic
- Title(参考訳): コードとマジックの伝説におけるポリシーと価値ネットワークによる未知の探索
- Abstract要約: 検索はエージェントとByteRLのマッチングにおけるマイナーな要因ではありません。
我々はByteRLに対するベストレスポンスアタックを複製する。
LoCMの無音探索では、より強く、より回復力のあるエージェントが得られます。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Decision-time search in perfect and imperfect information games with enumerable belief states are effective methods for game AI. Collectible card games are imperfect information games with large belief states. Legends of Code and Magic is a collectible card game competition where the belief states are $2^{101}$. The Legends of Code and Magic (LoCM) champion, ByteRL, plays with no search. Other works claim sound enumeration-based search is unusable in the genre due to the number of belief states. We measured three previously defined properties that predict where theoretically unsound perfect information Monte Carlo's defects are cheap and found LoCM sits in the favorable region. Starting with imitation learning of the runner-up policy, NeteaseOPD, we created a policy and value feed-forward network. Our agent searches over worlds sampled from a prior over the opponent's deck built from the runner-up's drafts. Using our strictest configuration in the battle phase we beat ByteRL with a win percentage of 51.35% 95% CI [50.37, 52.33], over 10,000 pre-registered games using the LoCM official referee and time limit. Search is not a minor factor on the matchup between our agent and ByteRL. Without search this agent scores 26.8% and adding search adds +24.6 points. Unsound search in imperfect information games could be exploitable. We replicate a published best-response attack against ByteRL. We then apply the same attack protocol to two search configurations of our agent, and each one resists it better than ByteRL at every iteration. In LoCM unsound search gives us a stronger and more resilient agent.
- Abstract(参考訳): 完全かつ不完全な信念状態を持つ情報ゲームにおける決定時間探索は、ゲームAIの効果的な方法である。
集合カードゲームは、大きな信念状態を持つ不完全な情報ゲームである。
レジェンド・オブ・コード・アンド・マジック(Regends of Code and Magic)は、カードゲームコンペティションである。
The Legends of Code and Magic (LoCM)チャンピオンのByteRLは検索なしでプレイする。
他の著作では、音列挙に基づく探索は、信念状態の数のためにこのジャンルでは使用できないと主張している。
我々は、モンテカルロの欠陥が安価であり、LoCMが有利な領域にあるという理論的に不完全な情報を予測するために、事前に定義された3つの特性を測定した。
ランナアップポリシであるNeteaseOPDの模倣学習から始まり、ポリシとバリューフィードフォワードネットワークを作成しました。
我々のエージェントは、ランナーのドラフトから構築された相手のデッキ上の前者からサンプリングされた世界を探索する。
バトルフェイズで最も厳格な設定を用いて、我々は、LoCMの公式審判とタイムリミットを使用して1万以上の事前登録されたゲームで51.35%のCI[50.37,52.33]の勝利率でByteRLを破った。
検索はエージェントとByteRLのマッチングにおけるマイナーな要因ではありません。
検索無しでは26.8%、検索+24.6ポイントが加算される。
不完全な情報ゲームにおける難解な検索は、悪用される可能性がある。
我々はByteRLに対するベストレスポンスアタックを複製する。
次に、エージェントの2つの検索設定に同じアタックプロトコルを適用します。
LoCMの無音探索では、より強く、より回復力のあるエージェントが得られます。
関連論文リスト
- MINDGAMES: A Live Arena for Evaluating Social and Strategic Reasoning in Multi-Agent LLMs [54.81359054218573]
大規模言語モデル(LLM)のためのマルチゲームアリーナと評価プラットフォームであるMindgamesを紹介する。
Mindgamesは、統合されたインタラクションインターフェース、TrueSkillベースの評価、および4つのゲーム環境にわたる完全な軌跡ログを提供する。
我々は,決定論的オフライントーナメントプロトコルMG-Refとともに,ターンレベルの観察,アクション,報酬を含む29,571個のマルチエージェントゲームを分析した。
論文 参考訳(メタデータ) (2026-05-28T07:33:47Z) - Implicit Search via Discrete Diffusion: A Study on Chess [104.74301574891359]
本稿では,DiffuSearchを提案する。DiffuSearchは,離散拡散モデルを用いて未来を探索し,テキストをシンプルに検索するモデルである。
DiffuSearchをChessという古典的なボードゲームでインスタンス化する。
DiffuSearchは、検索不要と明示的な検索強化ポリシーの両方で優れていることを示す。
論文 参考訳(メタデータ) (2025-02-27T06:25:15Z) - Injecting Combinatorial Optimization into MCTS: Application to the Board Game boop [0.0]
Combinatorial OptimizationとMonte Carlo Tree Searchを効率的に組み合わせることができる。
我々の手法はモンテカルロ木探索アルゴリズムのベースラインの96%を上回りました。
我々は,ボードゲームアリーナプラットフォーム上での人間プレイヤーに対するAI手法に反対した。
論文 参考訳(メタデータ) (2024-06-13T02:55:08Z) - Learning to Beat ByteRL: Exploitability of Collectible Card Game Agents [3.5036467860577307]
本稿では,コードとマジックとヘースストーンの最先端エージェントであるByteRLの予備解析結果について述べる。
ByteRLは中国からトップ10のHarthstoneプレーヤーを打ち負かしているが、Legends of Code and Magicでのプレイは極めて悪用されている。
論文 参考訳(メタデータ) (2024-04-25T15:48:40Z) - Are AlphaZero-like Agents Robust to Adversarial Perturbations? [73.13944217915089]
AlphaZero(AZ)は、ニューラルネットワークベースのGo AIが人間のパフォーマンスを大きく上回ることを示した。
私たちは、Go AIが驚くほど間違った行動を起こさせる可能性のある、敵対的な状態が存在するかどうか尋ねる。
我々は、Go AIに対する最初の敵攻撃を開発し、探索空間を戦略的に減らし、効率よく敵の状態を探索する。
論文 参考訳(メタデータ) (2022-11-07T18:43:25Z) - Mastering the Game of No-Press Diplomacy via Human-Regularized
Reinforcement Learning and Planning [95.78031053296513]
ノープレス外交(No-press Diplomacy)は、協力と競争の両方を含む複雑な戦略ゲームである。
我々は、人間の模倣学習ポリシーに対する報酬最大化ポリシーを規則化する、DiL-piKLと呼ばれる計画アルゴリズムを導入する。
RL-DiL-piKLと呼ばれる自己再生強化学習アルゴリズムに拡張可能であることを示す。
論文 参考訳(メタデータ) (2022-10-11T14:47:35Z) - Developing a Successful Bomberman Agent [0.6606016007748989]
我々は,モンテカルロ木探索,ローリング水平展開,ビーム探索の3つの探索アルゴリズムの挙動を比較した。
本稿では,探索,対戦予測,ゲーム状態評価,ゲームエンジンエンコーディングに関するエージェントの強度向上に寄与する各種機能拡張を提案する。
論文 参考訳(メタデータ) (2022-03-17T20:47:52Z) - Learning to Stop: Dynamic Simulation Monte-Carlo Tree Search [66.34387649910046]
モンテカルロ木探索(MCTS)は、囲碁やアタリゲームなど多くの領域で最先端の結果を得た。
我々は,現在の検索状況の不確かさを予測し,その結果を用いて検索をやめるべきかどうかを判断することで,この目標を達成することを提案する。
論文 参考訳(メタデータ) (2020-12-14T19:49:25Z) - Single-Agent Optimization Through Policy Iteration Using Monte-Carlo
Tree Search [8.22379888383833]
モンテカルロ・ツリー・サーチ(MCTS)と深部強化学習の組み合わせは,2プレイヤー完全情報ゲームにおける最先端の手法である。
本稿では,MCTS の変種を利用した探索アルゴリズムについて述べる。1) 潜在的に有界な報酬を持つゲームに対する新たなアクション値正規化機構,2) 効果的な探索並列化を可能にする仮想損失関数の定義,3) 世代ごとのセルフプレイによって訓練されたポリシーネットワークについて述べる。
論文 参考訳(メタデータ) (2020-05-22T18:02:36Z) - Efficient exploration of zero-sum stochastic games [83.28949556413717]
ゲームプレイを通じて,ゲームの記述を明示せず,託宣のみにアクセス可能な,重要で一般的なゲーム解決環境について検討する。
限られたデュレーション学習フェーズにおいて、アルゴリズムは両方のプレイヤーのアクションを制御し、ゲームを学習し、それをうまくプレイする方法を学習する。
私たちのモチベーションは、クエリされた戦略プロファイルの支払いを評価するのにコストがかかる状況において、利用可能性の低い戦略を迅速に学習することにあります。
論文 参考訳(メタデータ) (2020-02-24T20:30:38Z) - Deep RL Agent for a Real-Time Action Strategy Game [0.3867363075280543]
1対1のアクション戦略ゲームであるHeroic-Magic Duelをベースとした強化学習環境を導入する。
私たちの主な貢献は、競争レベルでゲームをする深層強化学習エージェントです。
私たちの最高のセルフプレイエージェントは、既存のAIに対して約65%の勝利率と、トップヒューマンプレイヤーに対して50%以上の勝利率を得ることができます。
論文 参考訳(メタデータ) (2020-02-15T01:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。