論文の概要: Differentiable Reasoning over a Virtual Knowledge Base

• arxiv url: http://arxiv.org/abs/2002.10640v1
• Date: Tue, 25 Feb 2020 03:13:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-28 20:33:53.723099
• Title: Differentiable Reasoning over a Virtual Knowledge Base
• Title（参考訳）: 仮想知識ベース上での微分可能な推論
• Authors: Bhuwan Dhingra, Manzil Zaheer, Vidhisha Balachandran, Graham Neubig, Ruslan Salakhutdinov, William W. Cohen
• Abstract要約: コーパスを仮想知識ベース(KB)として,複雑なマルチホップ質問に答えるタスクについて検討する。 特に、コーパス内のエンティティの参照間の関係の経路をソフトに追従し、KBのようにテキストデータをトラバースするDrKITについて述べる。 DrKITは非常に効率的で、既存のマルチホップシステムよりも毎秒10-100倍のクエリを処理する。
• 参考スコア（独自算出の注目度）: 156.94984221342716
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider the task of answering complex multi-hop questions using a corpus as a virtual knowledge base (KB). In particular, we describe a neural module, DrKIT, that traverses textual data like a KB, softly following paths of relations between mentions of entities in the corpus. At each step the module uses a combination of sparse-matrix TFIDF indices and a maximum inner product search (MIPS) on a special index of contextual representations of the mentions. This module is differentiable, so the full system can be trained end-to-end using gradient based methods, starting from natural language inputs. We also describe a pretraining scheme for the contextual representation encoder by generating hard negative examples using existing knowledge bases. We show that DrKIT improves accuracy by 9 points on 3-hop questions in the MetaQA dataset, cutting the gap between text-based and KB-based state-of-the-art by 70%. On HotpotQA, DrKIT leads to a 10% improvement over a BERT-based re-ranking approach to retrieving the relevant passages required to answer a question. DrKIT is also very efficient, processing 10-100x more queries per second than existing multi-hop systems.
• Abstract（参考訳）: コーパスを仮想知識ベース(KB)として,複雑なマルチホップ質問に答える作業を検討する。 特に、コーパス内のエンティティの言及間の関係の経路をソフトに追従して、kbのようなテキストデータをトラバースするニューラルネットワークであるdrkitについて述べる。 各ステップでは、モジュールはスパース行列TFIDFインデックスと、参照のコンテキスト表現の特別なインデックス上の最大内積探索(MIPS)の組み合わせを使用する。 このモジュールは微分可能なので、完全なシステムは、自然言語入力から始まり、勾配ベースのメソッドを使ってエンドツーエンドでトレーニングできる。 また,文脈表現エンコーダの事前学習方式を,既存の知識ベースを用いた強弱負例を生成することで記述する。 そこでDrKITは,MetaQAデータセットの3ホップ質問の精度を9ポイント向上し,テキストベースとKBベースの最先端のギャップを70%削減した。 HotpotQAでは、DrKITがBERTベースのリグレードアプローチよりも10%改善し、質問に答えるために必要なパスを検索する。 DrKITは非常に効率的で、既存のマルチホップシステムよりも毎秒10～100倍のクエリを処理する。

関連論文リスト

• HOLMES: Hyper-Relational Knowledge Graphs for Multi-hop Question Answering using LLMs [9.559336828884808]
  大規模言語モデル(LLM)は、単純な(シングルホップ)質問に答えるには適しています。 質問の複雑さが増すにつれて、LLMの性能は低下する。 最近の手法では、構造化知識三重項を原文に組み込むことで、この負担を軽減しようとしている。 本稿では,知識グラフ(KG)を用いてコンテキスト認識し,クエリ関連情報を含むように蒸留する手法を提案する。
  論文  参考訳（メタデータ） (2024-06-10T05:22:49Z)
• Hypergraph Enhanced Knowledge Tree Prompt Learning for Next-Basket Recommendation [50.55786122323965]
  次バスケットレコメンデーション(NBR)は、対応するバスケットシーケンスが与えられた次のバスケット内のアイテムを推論することを目的としている。 HEKP4NBRは知識グラフ(KG)をKTP(Knowledge Tree Prompt)と呼ばれるプロンプトに変換し、PLMがOOV(Out-Of-Vocabulary)アイテムIDをエンコードするのを助ける。 ハイパーグラフ畳み込みモジュールは、複数の側面からMoEモデルによって測定されたアイテム類似性に基づいてハイパーグラフを構築するように設計されている。
  論文  参考訳（メタデータ） (2023-12-26T02:12:21Z)
• UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question Answering Over Knowledge Graph [89.98762327725112]
  KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。 我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
  論文  参考訳（メタデータ） (2022-12-02T04:08:09Z)
• Knowledge Base Question Answering by Case-based Reasoning over Subgraphs [81.22050011503933]
  本モデルでは,既存のKG補完アルゴリズムよりも複雑な推論パターンを必要とする問合せに対して,より効果的に答えることを示す。 提案モデルは、KBQAベンチマークの最先端モデルよりも優れているか、競合的に動作する。
  論文  参考訳（メタデータ） (2022-02-22T01:34:35Z)
• SYGMA: System for Generalizable Modular Question Answering OverKnowledge Bases [57.89642289610301]
  SYGMAは、複数の知識ベースと複数のリアソニングタイプにまたがる汎用化を容易にするモジュラーアプローチである。 本システムの有効性を,DBpediaとWikidataの2つの異なる知識ベースに属するデータセットを用いて評価することで実証する。
  論文  参考訳（メタデータ） (2021-09-28T01:57:56Z)
• Efficient Contextualization using Top-k Operators for Question Answering over Knowledge Graphs [24.520002698010856]
  本研究は,KB対応信号を用いて検索空間の無関係な部分を抽出する効率的なECQAを提案する。 最近の2つのQAベンチマークによる実験では、解答の有無、検索空間のサイズ、ランタイムに関して、最先端のベースラインよりもECQAの方が優れていることが示されている。
  論文  参考訳（メタデータ） (2021-08-19T10:06:14Z)
• Answering Complex Open-Domain Questions with Multi-Hop Dense Retrieval [117.07047313964773]
  複雑なオープンドメインの質問に答えるために, 単純で効率的なマルチホップ高密度検索手法を提案する。 本手法では,文書間ハイパーリンクやアノテートされたエンティティマーカーなど,コーパス固有の情報へのアクセスは不要である。 提案システムでは,HotpotQA上でのベストパブリッシュ精度と,推論時の10倍の速度で,より優れた効率・精度のトレードオフも実現している。
  論文  参考訳（メタデータ） (2020-09-27T06:12:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。