論文の概要: UnifiedSKG: Unifying and Multi-Tasking Structured Knowledge Grounding
with Text-to-Text Language Models
- arxiv url: http://arxiv.org/abs/2201.05966v2
- Date: Thu, 20 Jan 2022 03:20:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-22 07:32:45.640261
- Title: UnifiedSKG: Unifying and Multi-Tasking Structured Knowledge Grounding
with Text-to-Text Language Models
- Title（参考訳）: UnifiedSKG:テキスト-テキスト言語モデルによる構造化知識の統一とマルチタスク化
- Authors: Tianbao Xie, Chen Henry Wu, Peng Shi, Ruiqi Zhong, Torsten Scholak,
Michihiro Yasunaga, Chien-Sheng Wu, Ming Zhong, Pengcheng Yin, Sida I. Wang,
Victor Zhong, Bailin Wang, Chengzu Li, Connor Boyle, Ansong Ni, Ziyu Yao,
Dragomir Radev, Caiming Xiong, Lingpeng Kong, Rui Zhang, Noah A. Smith, Luke
Zettlemoyer, Tao Yu
- Abstract要約: 本稿では,21のSKGタスクをテキスト・テキスト・フォーマットに統一するSKGフレームワークを提案する。
我々は,UnifiedSKGが21タスクのほぼすべてにおいて最先端のパフォーマンスを達成することを示す。
また、UnifiedSKGを用いて、SKGタスク間の変異をコードする構造化知識に関する一連の実験を行う。
- 参考スコア（独自算出の注目度）: 170.88745906220174
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Structured knowledge grounding (SKG) leverages structured knowledge to
complete user requests, such as semantic parsing over databases and question
answering over knowledge bases. Since the inputs and outputs of SKG tasks are
heterogeneous, they have been studied separately by different communities,
which limits systematic and compatible research on SKG. In this paper, we
overcome this limitation by proposing the SKG framework, which unifies 21 SKG
tasks into a text-to-text format, aiming to promote systematic SKG research,
instead of being exclusive to a single task, domain, or dataset. We use
UnifiedSKG to benchmark T5 with different sizes and show that T5, with simple
modifications when necessary, achieves state-of-the-art performance on almost
all of the 21 tasks. We further demonstrate that multi-task prefix-tuning
improves the performance on most tasks, largely improving the overall
performance. UnifiedSKG also facilitates the investigation of zero-shot and
few-shot learning, and we show that T0, GPT-3, and Codex struggle in zero-shot
and few-shot learning for SKG. We also use UnifiedSKG to conduct a series of
controlled experiments on structured knowledge encoding variants across SKG
tasks. UnifiedSKG is easily extensible to more tasks, and it is open-sourced at
https://github.com/hkunlp/unifiedskg Latest collections at
https://unifiedskg.com.
- Abstract（参考訳）: structured knowledge grounding (skg) は構造化知識を活用して、データベース上の意味解析や知識ベースに対する質問応答など、ユーザからの要求を完結させる。
SKGタスクの入力と出力は異種であるため、異なるコミュニティで個別に研究され、SKGの体系的および互換性のある研究が制限されている。
本稿では、21個のskgタスクをテキストからテキストへのフォーマットに統一するskgフレームワークを提案し、単一のタスク、ドメイン、データセットのみではなく、体系的なskg研究を促進することにより、この制限を克服する。
私たちはunifiedskgを使って、異なるサイズでt5をベンチマークし、必要に応じて簡単な修正を加えることで、t5が21のタスクのほとんどすべてで最先端のパフォーマンスを達成できることを示した。
さらにマルチタスクプレフィックスチューニングによって,ほとんどのタスクのパフォーマンスが向上し,全体的なパフォーマンスが向上することを示す。
また,UnifiedSKGはゼロショット学習や少数ショット学習にも役立ち,T0,GPT-3,Codexはゼロショット学習と少数ショット学習に苦戦していることを示す。
また,skgタスクにまたがる構造的知識エンコーディングの変種について,一連の制御実験を行うためにunifiedskgを用いる。
UnifiedSKGは、多くのタスクに対して容易に拡張可能であり、https://github.com/hkunlp/unifiedskgでオープンソース化されている。
関連論文リスト
- Exploiting Large Language Models Capabilities for Question Answer-Driven Knowledge Graph Completion Across Static and Temporal Domains [8.472388165833292]
本稿では,GS-KGC(Generative Subgraph-based KGC)と呼ばれる新しい生成完了フレームワークを提案する。
GS-KGCは、ターゲットエンティティを直接生成するために質問応答形式を採用し、複数の可能な答えを持つ質問の課題に対処する。
本手法は,新たな情報発見を容易にするために,既知の事実を用いて負のサンプルを生成する。
論文 参考訳（メタデータ） (2024-08-20T13:13:41Z) - KG-GPT: A General Framework for Reasoning on Knowledge Graphs Using
Large Language Models [18.20425100517317]
本稿では,知識グラフを用いたタスクに対して,大規模言語モデルを活用するフレームワークであるKG-GPTを提案する。
KG-GPTは文の分割、関連するグラフコンポーネントの検索、論理的結論の導出という3つのステップから構成される。
KGベースの事実検証とKGQAベンチマークを用いてKG-GPTを評価する。
論文 参考訳（メタデータ） (2023-10-17T12:51:35Z) - UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question
Answering Over Knowledge Graph [89.98762327725112]
KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。
我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
論文 参考訳（メタデータ） (2022-12-02T04:08:09Z) - Search to Pass Messages for Temporal Knowledge Graph Completion [97.40256786473516]
我々は、時間知識グラフ(TKG)の補完のために、NAS(Neural Architecture Search)を用いて、データ固有のメッセージパッシングアーキテクチャを設計することを提案する。
特に,TKGにおけるトポロジカルおよび時間的情報を探るための一般化されたフレームワークを開発する。
より低コストで効率的な探索のために単一経路をサンプリングし,スーパーネット構造を訓練する探索アルゴリズムを採用する。
論文 参考訳（メタデータ） (2022-10-30T04:05:06Z) - Reasoning over Multi-view Knowledge Graphs [59.99051368907095]
ROMAは、マルチビューKG上で論理クエリに応答する新しいフレームワークである。
大規模(数百万の事実など)のKGや粒度の細かいビューまでスケールする。
トレーニング中に観測されていない構造やKGビューのクエリを一般化する。
論文 参考訳（メタデータ） (2022-09-27T21:32:20Z) - Syntax Controlled Knowledge Graph-to-Text Generation with Order and
Semantic Consistency [10.7334441041015]
知識グラフ・トゥ・テキスト(KG-to-text)生成は、知識グラフから分かりやすい文章を生成することを目的としている。
本稿では,キャプションから抽出した注文監督の下での知識記述順序予測を最適化する。
我々は、KGの単語をコピーする位置を制限するために、POS構文タグを組み込んだ。
論文 参考訳（メタデータ） (2022-07-02T02:42:14Z) - Generalized Few-shot Semantic Segmentation [68.69434831359669]
本稿では,GFS-Seg(Generalized Few-Shot Semantic)と呼ばれる新しいベンチマークを導入する。
GFS-セグにおいて、先行する最先端の一般化が不足していることを示す最初の研究である。
本研究では,1)支援サンプルから共起前の知識を活用すること,2)各クエリ画像の内容に基づいて条件付き情報に動的に拡張することにより,性能を著しく向上するコンテキスト認識型プロトタイプ学習(CAPL)を提案する。
論文 参考訳（メタデータ） (2020-10-11T10:13:21Z) - Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer [43.453915033312114]
知識グラフ(KG)に欠けている事実を予測することは、知識ベースの構築と推論において重要なタスクである。
KEnSは、学習と知識のアンサンブルを複数の言語固有のKGに組み込むための新しいフレームワークである。
5つの実世界の言語固有のKGの実験により、KEnSはKG完了に関する最先端の手法を一貫して改善していることが示された。
論文 参考訳（メタデータ） (2020-10-07T04:54:03Z) - Cross-lingual Entity Alignment with Incidental Supervision [76.66793175159192]
本稿では,多言語KGとテキストコーパスを共通埋め込み方式で共同で表現する,偶発的に教師付きモデルであるJEANSを提案する。
ベンチマークデータセットの実験では、JEANSがエンティティアライメントとインシデントインシデントインシデントインスペクションの改善を期待できる結果となった。
論文 参考訳（メタデータ） (2020-05-01T01:53:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。