論文の概要: A Minimal Approach for Natural Language Action Space in Text-based Games
- arxiv url: http://arxiv.org/abs/2305.04082v1
- Date: Sat, 6 May 2023 16:05:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-09 17:48:52.171617
- Title: A Minimal Approach for Natural Language Action Space in Text-based Games
- Title(参考訳): テキストベースゲームにおける自然言語行動空間に対する最小アプローチ
- Authors: Dongwon Kelvin Ryu, Meng Fang, Shirui Pan, Gholamreza Haffari, Ehsan
Shareghi
- Abstract要約: 本稿では,テキストベースのゲーム(TG)におけるアクション空間の探索という課題を再考する。
我々は,許容行動を利用する最小限のアプローチである$epsilon$-admissible Exploringをトレーニングフェーズに提案する。
本稿では,テキストベースのアクタ・クリティカル(TAC)エージェントを提案する。
- 参考スコア(独自算出の注目度): 74.86718586547555
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Text-based games (TGs) are language-based interactive environments for
reinforcement learning. While language models (LMs) and knowledge graphs (KGs)
are commonly used for handling large action space in TGs, it is unclear whether
these techniques are necessary or overused. In this paper, we revisit the
challenge of exploring the action space in TGs and propose $
\epsilon$-admissible exploration, a minimal approach of utilizing admissible
actions, for training phase. Additionally, we present a text-based actor-critic
(TAC) agent that produces textual commands for game, solely from game
observations, without requiring any KG or LM. Our method, on average across 10
games from Jericho, outperforms strong baselines and state-of-the-art agents
that use LM and KG. Our approach highlights that a much lighter model design,
with a fresh perspective on utilizing the information within the environments,
suffices for an effective exploration of exponentially large action spaces.
- Abstract(参考訳): text-based games (tgs) は強化学習のための言語ベースのインタラクティブ環境である。
言語モデル (LM) と知識グラフ (KG) は、TGにおける大きな行動空間を扱うために一般的に使われているが、これらの手法が必要か過剰に使用されるかは定かではない。
本稿では,tgsにおける行動空間を探索する課題を再検討し,訓練段階において許容行動を利用するための最小のアプローチである \epsilon$-admissible exploration を提案する。
さらに,KGやLMを必要とせずに,ゲーム観察のみでテキストコマンドを生成するテキストベースのアクタクリティカル(TAC)エージェントを提案する。
我々の手法は,Jerichoから平均10ゲームにわたって,LMとKGを使用した強力なベースラインと最先端のエージェントを上回ります。
我々のアプローチは、より軽量なモデル設計、環境内の情報を活用する新しい視点、指数関数的に大きなアクション空間を効果的に探索するために十分であることを強調する。
関連論文リスト
- SPRING: Studying the Paper and Reasoning to Play Games [102.5587155284795]
我々は,ゲーム本来の学術論文を読み取るための新しいアプローチ,SPRINGを提案し,大言語モデル(LLM)を通してゲームの説明とプレイの知識を利用する。
実験では,クラフトオープンワールド環境の設定下で,異なる形態のプロンプトによって引き起こされる文脈内「推論」の品質について検討した。
我々の実験は、LLMが一貫したチェーン・オブ・シークレットによって誘導されると、洗練された高レベル軌道の完成に大きな可能性があることを示唆している。
論文 参考訳(メタデータ) (2023-05-24T18:14:35Z) - Deep Reinforcement Learning with Stacked Hierarchical Attention for
Text-based Games [64.11746320061965]
自然言語の文脈におけるインタラクティブなシミュレーションであるテキストベースゲームの強化学習について検討する。
エージェントの動作が解釈可能な推論手順によって生成され、支援されるように、意思決定のための知識グラフを用いた明示的な推論を行うことを目指している。
提案手法を多数の人為的ベンチマークゲームで広範囲に評価し,本手法が既存のテキストベースエージェントよりも優れていることを示す実験結果を得た。
論文 参考訳(メタデータ) (2020-10-22T12:40:22Z) - Keep CALM and Explore: Language Models for Action Generation in
Text-based Games [27.00685301984832]
本研究では,各ゲーム状態におけるアクション候補のコンパクトなセットを生成するために,文脈行動言語モデル(CALM)を提案する。
我々はCALMと強化学習エージェントを組み合わせることで、生成したアクション候補を再ランクし、ゲーム内報酬を最大化する。
論文 参考訳(メタデータ) (2020-10-06T17:36:29Z) - Interactive Fiction Game Playing as Multi-Paragraph Reading
Comprehension with Reinforcement Learning [94.50608198582636]
対話型フィクション(IF)ゲームと実際の自然言語テキストは、言語理解技術に対する新たな自然な評価を提供する。
IFゲーム解決の新たな視点を捉え,MPRC(Multi-Passage Reading)タスクとして再フォーマットする。
論文 参考訳(メタデータ) (2020-10-05T23:09:20Z) - Learning Dynamic Belief Graphs to Generalize on Text-Based Games [55.59741414135887]
テキストベースのゲームをプレイするには、自然言語処理とシーケンシャルな意思決定のスキルが必要である。
本研究では,原文からエンドツーエンドに学習したグラフ構造化表現を用いて,エージェントがテキストベースのゲームでどのように計画・一般化できるかを検討する。
論文 参考訳(メタデータ) (2020-02-21T04:38:37Z) - Exploration Based Language Learning for Text-Based Games [72.30525050367216]
本研究は,テキストベースのコンピュータゲームにおいて,最先端の性能を発揮できる探索・模倣学習型エージェントを提案する。
テキストベースのコンピュータゲームは、自然言語でプレイヤーの世界を記述し、プレイヤーがテキストを使ってゲームと対話することを期待する。
これらのゲームは、言語理解、問題解決、および人工エージェントによる言語生成のためのテストベッドと見なすことができるため、興味がある。
論文 参考訳(メタデータ) (2020-01-24T03:03:51Z) - Graph Constrained Reinforcement Learning for Natural Language Action
Spaces [9.87327247830837]
インタラクティブ・フィクションゲーム(Interactive Fiction game)は、エージェントが自然言語を介して純粋に世界と対話するテキストベースのシミュレーションである。
KG-A2Cは、テンプレートベースのアクション空間を用いて、動的知識グラフを構築し、アクションを探索し、生成するエージェントである。
論文 参考訳(メタデータ) (2020-01-23T22:33:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。