論文の概要: A Systematic Investigation of KB-Text Embedding Alignment at Scale
- arxiv url: http://arxiv.org/abs/2106.01586v1
- Date: Thu, 3 Jun 2021 04:14:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-04 12:20:29.750581
- Title: A Systematic Investigation of KB-Text Embedding Alignment at Scale
- Title（参考訳）: KBテキストの大規模埋め込みアライメントの系統的研究
- Authors: Vardaan Pahuja, Yu Gu, Wenhu Chen, Mehdi Bahrami, Lei Liu, Wei-Peng
Chen and Yu Su
- Abstract要約: 知識ベース(KB)とテキストは相補的な知識を含むことが多い。
相補的な情報を完全に活用するために、両方の知識ソースと共同で埋め込み、推論する方法は、いまだに未解決の問題である。
共同推論のためのKBとテキストの埋め込みを協調する大規模かつ体系的な研究を行う。
- 参考スコア（独自算出の注目度）: 17.636921566637298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge bases (KBs) and text often contain complementary knowledge: KBs
store structured knowledge that can support long range reasoning, while text
stores more comprehensive and timely knowledge in an unstructured way.
Separately embedding the individual knowledge sources into vector spaces has
demonstrated tremendous successes in encoding the respective knowledge, but how
to jointly embed and reason with both knowledge sources to fully leverage the
complementary information is still largely an open problem. We conduct a
large-scale, systematic investigation of aligning KB and text embeddings for
joint reasoning. We set up a novel evaluation framework with two evaluation
tasks, few-shot link prediction and analogical reasoning, and evaluate an array
of KB-text embedding alignment methods. We also demonstrate how such alignment
can infuse textual information into KB embeddings for more accurate link
prediction on emerging entities and events, using COVID-19 as a case study.
- Abstract（参考訳）: KBは長い範囲の推論をサポートする構造化された知識を格納し、テキストはより包括的でタイムリーな知識を非構造化的に格納する。
個別の知識ソースをベクトル空間に別々に埋め込むことで、各知識のエンコーディングに多大な成功をおさめたが、補完的情報を完全に活用するために両方の知識ソースと協力して推論する方法は、いまだに未解決の問題である。
共同推論のためのKBとテキストの埋め込みに関する大規模かつ体系的な研究を行う。
我々は,2つの評価課題,少数ショットリンク予測とアナログ推論を備えた新しい評価フレームワークを構築し,KB-text 埋め込みアライメント手法の配列を評価する。
また、このようなアライメントがKB埋め込みにテキスト情報を注入し、新興企業やイベントのより正確なリンク予測を、COVID-19を事例として示す。
関連論文リスト
- Bridging the KB-Text Gap: Leveraging Structured Knowledge-aware
Pre-training for KBQA [28.642711264323786]
テキストと構造化KBのギャップを埋める構造化知識認識事前学習法(SKP)を提案する。
事前学習の段階では、複雑な部分グラフの暗黙的関係とより良い表現を効果的に学習するためにモデルを導くという、2つの新しい構造化された知識認識タスクを導入する。
下流KBQAタスクでは、より効率的な線形化戦略とインターバルアテンション機構を設計し、複雑なサブグラフの符号化を支援する。
論文 参考訳（メタデータ） (2023-08-28T09:22:02Z) - KnowledGPT: Enhancing Large Language Models with Retrieval and Storage
Access on Knowledge Bases [55.942342665806656]
KnowledGPTは、様々な知識ベースで大きな言語モデルをブリッジするための包括的なフレームワークである。
検索プロセスでは思考プロンプトプログラムを使用し,KBの検索言語をコード形式で生成する。
KnowledGPTは、個々のユーザ要求に合わせて、知識をパーソナライズされたKBに格納する機能を提供する。
論文 参考訳（メタデータ） (2023-08-17T13:07:00Z) - Mapping and Cleaning Open Commonsense Knowledge Bases with Generative
Translation [14.678465723838599]
特にオープン情報抽出(OpenIE)は、テキストから構造を誘導するためにしばしば用いられる。
OpenIEには、オープンエンドで非標準化された関係が含まれており、抽出された知識の下流での搾取を困難にしている。
本稿では,言語モデルを訓練し,オープンな言語から固定的なアサーションを生成することによって,生成的翻訳による問題にアプローチすることを提案する。
論文 参考訳（メタデータ） (2023-06-22T09:42:54Z) - Completeness, Recall, and Negation in Open-World Knowledge Bases: A
Survey [15.221057217833492]
KBにおける完全性、リコール、否定に関する知識をどのように表現し、抽出し、推論するかについて議論する。
本調査は,(1)KB品質の追跡,抽出作業の集中,下流アプリケーション構築に関心のある実践者,(2)オープンワールドの前提を超えた知識基盤技術の現状を理解したいと考えるデータ管理,知識ベース,セマンティックWeb研究者の2つのタイプを対象としている。
論文 参考訳（メタデータ） (2023-05-09T12:50:16Z) - QA Is the New KR: Question-Answer Pairs as Knowledge Bases [105.692569000534]
提案するKBの形式は,従来のシンボリックKBの重要な利点を多く備えている,と我々は主張する。
従来のKBとは異なり、この情報ストアは一般的なユーザ情報のニーズによく適合している。
論文 参考訳（メタデータ） (2022-07-01T19:09:08Z) - Relational world knowledge representation in contextual language models:
A review [19.176173014629185]
我々は自然言語処理の観点から知識ベース(kbs)の限界を考える
文脈言語モデル(LM)における関係知識表現のための新しい分類法を提案する。
論文 参考訳（メタデータ） (2021-04-12T21:50:55Z) - Contextualized Knowledge-aware Attentive Neural Network: Enhancing
Answer Selection with Knowledge [77.77684299758494]
ナレッジグラフ(KG)による外部知識による回答選択モデル向上のアプローチを幅広く検討しています。
まず、KGの外部知識とテキスト情報との密接な相互作用を考慮し、QA文表現を学習するコンテキスト知識相互作用学習フレームワークであるナレッジアウェアニューラルネットワーク(KNN)を紹介します。
KG情報の多様性と複雑性に対処するために, カスタマイズされたグラフ畳み込みネットワーク (GCN) を介して構造情報を用いた知識表現学習を改善し, コンテキストベースおよび知識ベースの文表現を総合的に学習する コンテキスト型知識認識型アテンシブニューラルネットワーク (CKANN) を提案する。
論文 参考訳（メタデータ） (2021-04-12T05:52:20Z) - Reasoning over Vision and Language: Exploring the Benefits of
Supplemental Knowledge [59.87823082513752]
本稿では,汎用知識基盤(KB)から視覚言語変換器への知識の注入について検討する。
我々は複数のタスクやベンチマークに対する様々なkbの関連性を実証的に研究する。
この技術はモデルに依存しず、最小限の計算オーバーヘッドで任意の視覚言語変換器の適用可能性を拡張することができる。
論文 参考訳（メタデータ） (2021-01-15T08:37:55Z) - Improving Machine Reading Comprehension with Contextualized Commonsense
Knowledge [62.46091695615262]
我々は、機械読解の理解を改善するために、常識知識を抽出することを目指している。
構造化知識を文脈内に配置することで,関係を暗黙的に表現することを提案する。
我々は,教師の学習パラダイムを用いて,複数種類の文脈的知識を学生機械読取機に注入する。
論文 参考訳（メタデータ） (2020-09-12T17:20:01Z) - A Survey on Complex Question Answering over Knowledge Base: Recent
Advances and Challenges [71.4531144086568]
知識ベース(KB)に対する質問回答(QA)は、自然言語の質問に自動的に答えることを目的としている。
研究者は、よりKBのトリプルと制約推論を必要とする単純な質問から複雑な質問へと注意を移した。
論文 参考訳（メタデータ） (2020-07-26T07:13:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。