論文の概要: Infusing Commonsense World Models with Graph Knowledge
- arxiv url: http://arxiv.org/abs/2301.05746v1
- Date: Fri, 13 Jan 2023 19:58:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-18 19:11:20.592354
- Title: Infusing Commonsense World Models with Graph Knowledge
- Title（参考訳）: グラフ知識を用いたコモンセンス世界モデルの導入
- Authors: Alexander Gurung, Mojtaba Komeili, Arthur Szlam, Jason Weston, and
Jack Urbanek
- Abstract要約: オープンワールドテキストアドベンチャーゲームにおける物語生成の設定について検討する。
基礎となるゲーム状態のグラフ表現は、接地グラフ表現と自然言語記述とアクションの両方を消費し出力するモデルを訓練するために使用することができる。
- 参考スコア（独自算出の注目度）: 89.27044249858332
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While language models have become more capable of producing compelling
language, we find there are still gaps in maintaining consistency, especially
when describing events in a dynamically changing world. We study the setting of
generating narratives in an open world text adventure game, where a graph
representation of the underlying game state can be used to train models that
consume and output both grounded graph representations and natural language
descriptions and actions. We build a large set of tasks by combining
crowdsourced and simulated gameplays with a novel dataset of complex actions in
order to to construct such models. We find it is possible to improve the
consistency of action narration models by training on graph contexts and
targets, even if graphs are not present at test time. This is shown both in
automatic metrics and human evaluations. We plan to release our code, the new
set of tasks, and best performing models.
- Abstract（参考訳）: 言語モデルは魅力的な言語を生成できるようになりましたが、特に動的に変化する世界でイベントを記述する場合、一貫性を維持することにはまだギャップがあります。
オープンワールドテキストアドベンチャーゲームにおける物語生成の設定について検討し、基礎となるゲーム状態のグラフ表現を用いて、接地グラフ表現と自然言語記述とアクションの両方を消費し出力するモデルを訓練する。
クラウドソースのゲームプレイとシミュレートされたゲームプレイと、複雑なアクションのデータセットを組み合わせることで、これらのモデルを構築する。
グラフがテスト時に存在しない場合でも,グラフコンテキストやターゲットをトレーニングすることで,アクションナレーションモデルの整合性を改善することが可能である。
これは自動測定と人的評価の両方で示される。
コード、新しいタスクセット、最高のパフォーマンスモデルをリリースする予定です。
関連論文リスト
- GraphDreamer: Compositional 3D Scene Synthesis from Scene Graphs [74.98581417902201]
シーングラフから合成3Dシーンを生成するための新しいフレームワークを提案する。
シーングラフにおけるノード情報とエッジ情報を活用することにより,事前学習したテキスト・画像拡散モデルをよりよく活用する。
GraphDreamerの有効性を検証するために,定性的および定量的な実験を行った。
論文 参考訳（メタデータ） (2023-11-30T18:59:58Z) - Visual Storytelling with Question-Answer Plans [70.89011289754863]
本稿では、事前訓練された言語モデルと計画に視覚表現を統合する新しいフレームワークを提案する。
我々のモデルは、画像列を視覚的な接頭辞、つまり言語モデルで解釈できる連続的な埋め込みの列に変換する。
また、一連の質問と回答のペアを青写真プランとして利用して、健全な視覚概念を選択し、物語にどのように組み立てるべきかを決定する。
論文 参考訳（メタデータ） (2023-10-08T21:45:34Z) - Using Large Language Models for Zero-Shot Natural Language Generation
from Knowledge Graphs [4.56877715768796]
我々は,ChatGPTがWebNLG 2020の課題に対して,最先端のパフォーマンスを達成していることを示す。
また、LLMが解析しているデータについて既に知っていることと、出力テキストの品質との間には大きな関連性があることも示している。
論文 参考訳（メタデータ） (2023-07-14T12:45:03Z) - Enhancing Dialogue Generation via Dynamic Graph Knowledge Aggregation [23.54754465832362]
従来のグラフニューラルネットワーク(GNN)では、グラフに渡すメッセージはテキストとは独立している。
このトレーニング体制は、グラフ知識とテキストの間に意味的なギャップをもたらす。
知識グラフ強化対話生成のための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2023-06-28T13:21:00Z) - Modeling Worlds in Text [16.67845396797253]
対話的な物語の知識グラフに基づく世界モデルを構築することができる学習エージェントの作成を可能にするデータセットを提供する。
我々のデータセットは、豊かな自然言語観測と知識グラフの間の24198のマッピングを提供する。
トレーニングデータは、複数のジャンルの27のゲームにまたがって収集され、さらに7836のホールトアウトインスタンスがテストセットに追加の9つのゲームに格納されている。
論文 参考訳（メタデータ） (2021-06-17T15:02:16Z) - GraphFormers: GNN-nested Transformers for Representation Learning on
Textual Graph [53.70520466556453]
階層的にGNNコンポーネントを言語モデルのトランスフォーマーブロックと一緒にネストするGraphFormerを提案する。
提案したアーキテクチャでは、テキストエンコーディングとグラフ集約を反復的なワークフローに融合する。
さらに、プログレッシブ・ラーニング・ストラテジーを導入し、そのモデルが操作されたデータと元のデータに基づいて連続的に訓練され、グラフ上の情報を統合する能力を強化する。
論文 参考訳（メタデータ） (2021-05-06T12:20:41Z) - Learning Chess Blindfolded: Evaluating Language Models on State Tracking [69.3794549747725]
私たちはチェスのゲームのための言語モデリングのタスクを検討します。
自然言語とは異なり、チェス表記法は単純で制約のある決定論的領域を記述する。
トランスフォーマー言語モデルでは,移動シーケンスのみを訓練することで,ピースの追跡や法的動作の予測を高精度に行うことができる。
論文 参考訳（メタデータ） (2021-02-26T01:16:23Z) - Topic Adaptation and Prototype Encoding for Few-Shot Visual Storytelling [81.33107307509718]
トピック間一般化の能力をモデル化するためのトピック適応型ストーリーテラを提案する。
また,アトピー内導出能力のモデル化を目的とした符号化手法の試作も提案する。
実験結果から,トピック適応とプロトタイプ符号化構造が相互に利益をもたらすことが明らかとなった。
論文 参考訳（メタデータ） (2020-08-11T03:55:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。