論文の概要: Building Knowledge-Grounded Dialogue Systems with Graph-Based Semantic Modeling
- arxiv url: http://arxiv.org/abs/2204.12681v2
- Date: Thu, 16 May 2024 15:00:38 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-17 20:01:05.371115
- Title: Building Knowledge-Grounded Dialogue Systems with Graph-Based Semantic Modeling
- Title(参考訳): グラフベースセマンティックモデリングを用いた知識包含対話システムの構築
- Authors: Yizhe Yang, Heyan Huang, Yang Gao, Jiawei Li and,
- Abstract要約: 知識基盤対話タスクは、与えられた知識文書から情報を伝える応答を生成することを目的としている。
対話と知識の両方のセマンティック構造をモデル化する新しいグラフ構造であるグラウンドドグラフを提案する。
また,知識接地応答生成を向上するグラウンドドグラフ認識変換器を提案する。
- 参考スコア(独自算出の注目度): 43.0554223015728
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The knowledge-grounded dialogue task aims to generate responses that convey information from given knowledge documents. However, it is a challenge for the current sequence-based model to acquire knowledge from complex documents and integrate it to perform correct responses without the aid of an explicit semantic structure. To address these issues, we propose a novel graph structure, Grounded Graph ($G^2$), that models the semantic structure of both dialogue and knowledge to facilitate knowledge selection and integration for knowledge-grounded dialogue generation. We also propose a Grounded Graph Aware Transformer ($G^2AT$) model that fuses multi-forms knowledge (both sequential and graphic) to enhance knowledge-grounded response generation. Our experiments results show that our proposed model outperforms the previous state-of-the-art methods with more than 10\% gains in response generation and nearly 20\% improvement in factual consistency. Further, our model reveals good generalization ability and robustness. By incorporating semantic structures as prior knowledge in deep neural networks, our model provides an effective way to aid language generation.
- Abstract(参考訳): 知識基盤対話タスクは、与えられた知識文書から情報を伝える応答を生成することを目的としている。
しかし、現在のシーケンスベースモデルでは、複雑な文書から知識を取得し、それを統合して、明示的な意味構造を使わずに正しい応答を実行することは困難である。
これらの問題に対処するために,対話と知識の両方の意味的構造をモデル化し,知識選択と知識接地対話生成の統合を促進する新しいグラフ構造(G^2$)を提案する。
また,複数形態の知識(シーケンシャルとグラフィックの両方)を融合させて知識接地応答生成を促進するグラウンドドグラフ認識変換器(G^2AT$)モデルを提案する。
実験の結果,提案手法は従来の最先端手法よりも10倍以上の応答生成率,20倍近い実際の整合性向上率で優れていた。
さらに,本モデルでは,優れた一般化能力とロバスト性を示す。
深層ニューラルネットワークにおいて,セマンティック構造を事前知識として組み込むことにより,我々のモデルは言語生成に有効な方法を提供する。
関連論文リスト
- G-SAP: Graph-based Structure-Aware Prompt Learning over Heterogeneous Knowledge for Commonsense Reasoning [8.02547453169677]
本稿では,G-SAP という名称のコモンセンス推論のためのグラフベース構造認識プロンプト学習モデルを提案する。
特にエビデンスグラフは、ConceptNet、Wikipedia、Cambridge Dictionaryといった複数の知識ソースを統合することで構築される。
その結果、既存のモデル、特にOpenbookQAデータセット上のSoTA LM+GNNsモデルよりも6.12%改善された。
論文 参考訳(メタデータ) (2024-05-09T08:28:12Z) - CADGE: Context-Aware Dialogue Generation Enhanced with Graph-Structured Knowledge Aggregation [25.56539617837482]
コンテキスト対応グラフアテンションモデル(Context-aware GAT)を提案する。
これは、コンテキスト強化された知識集約機構を通じて、関連する知識グラフからグローバルな特徴を同化する。
実験により,本フレームワークは従来のGNNベース言語モデルよりも性能が優れていることが示された。
論文 参考訳(メタデータ) (2023-05-10T16:31:35Z) - Joint Language Semantic and Structure Embedding for Knowledge Graph
Completion [66.15933600765835]
本稿では,知識三重項の自然言語記述と構造情報とを共同で組み込むことを提案する。
本手法は,学習済み言語モデルを微調整することで,完了作業のための知識グラフを埋め込む。
各種知識グラフベンチマーク実験により,本手法の最先端性能を実証した。
論文 参考訳(メタデータ) (2022-09-19T02:41:02Z) - Learning to Express in Knowledge-Grounded Conversation [62.338124154016825]
本稿では,知識表現の2つの側面,すなわち各部分における内容の応答構造とスタイルについて考察する。
本稿では, セグメンテーションに基づく生成モデルを提案し, 応答における知識表現の基盤となるパターンを発見するために, 変動的アプローチを用いてモデルを最適化する。
論文 参考訳(メタデータ) (2022-04-12T13:43:47Z) - Grounding Dialogue Systems via Knowledge Graph Aware Decoding with
Pre-trained Transformers [3.477557431978457]
知識グラフは、知識に基づく応答を生成するための対話システムを促進する可能性がある。
本稿では,BERTモデルをトレーニングすることで,KGを応答生成プロセスに統合する新しいアーキテクチャを提案する。
KGのkホップ部分グラフは、グラフラプラシアンのトレーニングと推論の間にモデルに組み込まれている。
論文 参考訳(メタデータ) (2021-03-30T12:36:00Z) - GraphDialog: Integrating Graph Knowledge into End-to-End Task-Oriented
Dialogue Systems [9.560436630775762]
エンドツーエンドのタスク指向対話システムは,平易なテキスト入力から直接システム応答を生成することを目的としている。
1つは、外部知識ベース(KB)を学習フレームワークに効果的に組み込む方法であり、もう1つは、対話履歴のセマンティクスを正確に捉える方法である。
この2つの課題は、知識ベースと対話の依存性解析ツリーにおけるグラフ構造情報を活用することで解決される。
論文 参考訳(メタデータ) (2020-10-04T00:04:40Z) - Language Generation with Multi-Hop Reasoning on Commonsense Knowledge
Graph [124.45799297285083]
知識グラフの構造的情報と意味的情報の両方を活用することで、コモンセンスを意識したテキスト生成が促進されると主張している。
本稿では,外部コモンセンス知識グラフから抽出したマルチリレーショナルパスに基づいて,動的マルチホップ推論を用いた事前学習モデルを実現するマルチホップ推論フロー(GRF)の生成を提案する。
論文 参考訳(メタデータ) (2020-09-24T13:55:32Z) - Exploiting Structured Knowledge in Text via Graph-Guided Representation
Learning [73.0598186896953]
本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。
エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。
既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
論文 参考訳(メタデータ) (2020-04-29T14:22:42Z) - Knowledge-graph based Proactive Dialogue Generation with Improved
Meta-Learning [0.0]
本稿では,知識グラフに基づく3つのコンポーネントを用いたプロアクティブ対話生成モデル(KgDg)を提案する。
知識三重項の埋め込みと選択については、文の埋め込みの問題として定式化し、意味情報をよりよく捉える。
改良されたMAMLアルゴリズムは,限られた知識グラフから一般的な特徴を学習することができる。
論文 参考訳(メタデータ) (2020-04-19T08:41:12Z) - Sequential Latent Knowledge Selection for Knowledge-Grounded Dialogue [51.513276162736844]
この問題に対する最初のアプローチとして,逐次潜在変数モデルを提案する。
シーケンシャル・ナレッジ・トランスフォーマー (SKT) という名前のモデルは、知識よりも先行と後続の分布を追跡することができる。
論文 参考訳(メタデータ) (2020-02-18T11:59:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。