論文の概要: Multi-hop Commonsense Knowledge Injection Framework for Zero-Shot Commonsense Question Answering

• arxiv url: http://arxiv.org/abs/2305.05936v1
• Date: Wed, 10 May 2023 07:13:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-11 14:07:50.723079
• Title: Multi-hop Commonsense Knowledge Injection Framework for Zero-Shot Commonsense Question Answering
• Title（参考訳）: Zero-Shot Commonsense Question Answeringのためのマルチホップコモンセンス知識注入フレームワーク
• Authors: Xin Guan, Biwei Cao, Qingqing Gao, Zheng Yin, Bo Liu, Jiuxin Cao
• Abstract要約: 本稿では,新しいマルチホップコモンセンス知識注入フレームワークを提案する。 本フレームワークは,5つの共通知識質問応答ベンチマークにおいて,最先端性能を実現する。
• 参考スコア（独自算出の注目度）: 6.086719709100659
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Commonsense question answering (QA) research requires machines to answer questions based on commonsense knowledge. However, this research requires expensive labor costs to annotate data as the basis of research, and models that rely on fine-tuning paradigms only apply to specific tasks, rather than learn a general commonsense reasoning ability. As a more robust method, zero-shot commonsense question answering shows a good prospect. The current zero-shot framework tries to convert triples in commonsense knowledge graphs (KGs) into QA-form samples as the pre-trained data source to incorporate commonsense knowledge into the model. However, this method ignores the multi-hop relationship in the KG, which is also an important central problem in commonsense reasoning. In this paper, we propose a novel multi-hop commonsense knowledge injection framework. Specifically, it explores multi-hop reasoning paradigm in KGs that conform to linguistic logic, and we further propose two multi-hop QA generation methods based on KGs. Then, we utilize contrastive learning to pre-train the model with the synthetic QA dataset to inject multi-hop commonsense knowledge. Extensive experiments on five commonsense question answering benchmarks demonstrate that our framework achieves state-of-art performance.
• Abstract（参考訳）: commonsense question answering(qa)研究では、機械がcommonsenseの知識に基づいて質問に答える必要がある。 しかし、この研究は研究の基礎としてデータに注釈をつけるのに高価な労力を必要とし、微調整パラダイムに依存するモデルは一般的な常識的推論能力を学ぶのではなく、特定のタスクにのみ適用される。 より堅牢な方法として、ゼロショットコモンセンス質問応答は良い見通しを示している。 現在のゼロショットフレームワークは、コモンセンス知識グラフ(KG)のトリプルを事前訓練されたデータソースとしてQA形式のサンプルに変換し、モデルにコモンセンス知識を組み込もうとしている。 しかし、この手法は、コモンセンス推論において重要な問題であるKGのマルチホップ関係を無視している。 本稿では,新しいコモンセンス知識注入フレームワークを提案する。 具体的には、言語論理に適合するKGにおけるマルチホップ推論パラダイムについて検討し、さらにKGに基づく2つのマルチホップQA生成手法を提案する。 そして,コントラスト学習を用いて合成QAデータセットを用いてモデルを事前学習し,マルチホップコモンセンス知識を注入する。 5つのコモンセンスな質問応答ベンチマークに関する大規模な実験は、我々のフレームワークが最先端のパフォーマンスを達成することを示す。

関連論文リスト

• UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question Answering Over Knowledge Graph [89.98762327725112]
  KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。 我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
  論文  参考訳（メタデータ） (2022-12-02T04:08:09Z)
• CIKQA: Learning Commonsense Inference with a Unified Knowledge-in-the-loop QA Paradigm [120.98789964518562]
  我々は,コモンセンス知識の大規模化により,すべてのコモンセンスをカバーできるような,各タスクに十分なトレーニングセットをアノテートすることは不可能である,と論じる。 モデルのコモンセンス推論能力について,2つの観点から検討する。 我々は、このベンチマークを知識-イン-ループ質問回答(CIKQA)を用いたCommonsense Inferenceと命名した。
  論文  参考訳（メタデータ） (2022-10-12T14:32:39Z)
• Modularized Transfer Learning with Multiple Knowledge Graphs for Zero-shot Commonsense Reasoning [22.443211209959497]
  ゼロショットQAシステムは、コモンセンス知識グラフ(KG)をモデルトレーニングのための合成QAフォームサンプルに変換する。 本稿では,異なる種類のコモンセンスKGを考慮し,ゼロショット転送学習シナリオを複数ソース設定に拡張することを目的とする。 本稿では,知識集約のモジュラー版を開発することにより,異なる知識ソース間の干渉による知識の喪失を軽減することを提案する。
  論文  参考訳（メタデータ） (2022-06-08T07:36:31Z)
• elBERto: Self-supervised Commonsense Learning for Question Answering [131.51059870970616]
  本稿では、市販QAモデルアーキテクチャと互換性のあるコモンセンスフレームワークの自己教師型双方向表現学習を提案する。 このフレームワークは5つの自己教師型タスクから構成されており、リッチコモンセンスを含むコンテキストから追加のトレーニング信号を完全に活用するようモデルに強制する。 elBERtoは、単純な語彙的類似性比較が役に立たないような、アウト・オブ・パラグラフや非エフェクトな問題に対して、大幅に改善されている。
  論文  参考訳（メタデータ） (2022-03-17T16:23:45Z)
• ArT: All-round Thinker for Unsupervised Commonsense Question-Answering [54.068032948300655]
  本稿では,知識生成における関連性を完全に取り除き,オールラウンド思考者(ArT)のアプローチを提案する。 我々は、COPA、SocialIQA、SCTの3つの共通センスQAベンチマークで評価した。
  論文  参考訳（メタデータ） (2021-12-26T18:06:44Z)
• Enhancing Question Generation with Commonsense Knowledge [33.289599417096206]
  質問生成プロセスにコモンセンス知識を導入するためのマルチタスク学習フレームワークを提案する。 SQuAD実験の結果,提案手法は自動評価と人的評価の両方でQG性能を著しく向上させることができることがわかった。
  論文  参考訳（メタデータ） (2021-06-19T08:58:13Z)
• Differentiable Open-Ended Commonsense Reasoning [80.94997942571838]
  我々は、自然言語で書かれたコモンセンス事実のコーパスのみを資源として、オープンエンドコモンセンス推論(OpenCSR)について研究する。 OpenCSRへのアプローチとして、知識ファクトに対するマルチホップ推論のための効率的な微分可能なモデルDrFactを提案する。
  論文  参考訳（メタデータ） (2020-10-24T10:07:00Z)
• Connecting the Dots: A Knowledgeable Path Generator for Commonsense Question Answering [50.72473345911147]
  本稿では、一般的な共通センスQAフレームワークを、知識のあるパスジェネレータで拡張する。 KGの既存のパスを最先端の言語モデルで外挿することで、ジェネレータはテキスト内のエンティティのペアを動的で、潜在的に新しいマルチホップリレーショナルパスに接続することを学びます。
  論文  参考訳（メタデータ） (2020-05-02T03:53:21Z)
• Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering [35.40919477319811]
  本稿では,事前学習された言語モデルにマルチホップ関係推論モジュールを組み込む新しい知識認識手法を提案する。 外部知識グラフから抽出したサブグラフに対して、マルチホップ、マルチリレーショナル推論を行う。 パスベースの推論手法とグラフニューラルネットワークを統合して、より優れた解釈性とスケーラビリティを実現する。
  論文  参考訳（メタデータ） (2020-05-01T23:10:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。