論文の概要: Joint Knowledge Base Completion and Question Answering by Combining Large Language Models and Small Language Models
- arxiv url: http://arxiv.org/abs/2604.05875v1
- Date: Tue, 07 Apr 2026 13:33:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.860283
- Title: Joint Knowledge Base Completion and Question Answering by Combining Large Language Models and Small Language Models
- Title(参考訳): 大規模言語モデルと小言語モデルを組み合わせた知識ベース補完と質問応答
- Authors: Yinan Liu, Dongying Lin, Sigang Luo, Xiaochun Yang, Bin Wang,
- Abstract要約: 知識ベース補完(KBC)と知識ベース質問応答(KBQA)は互いに密接に関連しており、本質的に相補的である。
既存の研究は通常、それらを共同で強化するために小さな言語モデル(SLM)に依存している。
本稿では,これら2つのタスクを反復的に拡張する新しいフレームワークJCQLを提案する。
- 参考スコア(独自算出の注目度): 8.701389378728427
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge Bases (KBs) play a key role in various applications. As two representative KB-related tasks, knowledge base completion (KBC) and knowledge base question answering (KBQA) are closely related and inherently complementary with each other. Thus, it will be beneficial to solve the task of joint KBC and KBQA to make them reinforce each other. However, existing studies usually rely on the small language model (SLM) to enhance them jointly, and the large language model (LLM)'s strong reasoning ability is ignored. In this paper, by combining the strengths of the LLM with the SLM, we propose a novel framework JCQL, which can make these two tasks enhance each other in an iterative manner. To make KBC enhance KBQA, we augment the LLM agent-based KBQA model's reasoning paths by incorporating an SLM-trained KBC model as an action of the agent, alleviating the LLM's hallucination and high computational costs issue in KBQA. To make KBQA enhance KBC, we incrementally fine-tune the KBC model by leveraging KBQA's reasoning paths as its supplementary training data, improving the ability of the SLM in KBC. Extensive experiments over two public benchmark data sets demonstrate that JCQL surpasses all baselines for both KBC and KBQA tasks.
- Abstract(参考訳): 知識ベース(KB)は、様々なアプリケーションにおいて重要な役割を果たす。
2つのKB関連タスクとして、知識ベース補完(KBC)と知識ベース質問応答(KBQA)が密接に関連しており、本質的に相補的である。
したがって、KBCとKBQAを連携させることで、相互に強化を施すことは有益である。
しかし、既存の研究は通常、それらを共同で強化するために小さな言語モデル(SLM)に依存しており、大きな言語モデル(LLM)の強い推論能力は無視されている。
本稿では,LLMの長所とSLMの長所を組み合わせることで,これら2つのタスクを反復的に拡張する新しいフレームワークJCQLを提案する。
KBCをKBQAを強化するために,SLM学習KBCモデルをエージェントの作用として組み込むことで,KBQAにおけるLLMの幻覚と高い計算コストの問題を緩和することにより,KBQAモデルに基づくKBQAモデルの推論経路を強化する。
KBQAがKBCを強化するために,KBQAの推論経路を補足学習データとして活用し,KBCにおけるSLMの能力を向上させることにより,KBCモデルを段階的に微調整する。
2つの公開ベンチマークデータセットに対する大規模な実験は、JCQLがKBCとKBQAタスクのベースラインを全て越えていることを示している。
関連論文リスト
- A Learn-Then-Reason Model Towards Generalization in Knowledge Base Question Answering [17.281005999581865]
FreebaseやWikidataのような大規模知識ベース(KB)には、数百万の構造化知識がある。
Knowledge Base Question Answering (KBQA)は、自然言語の質問を通じて、これらの貴重なKBにアクセスするためのユーザフレンドリな方法を提供する。
本稿では,KBLLaMAを開発した。KBLLaMAは,新しいKB知識を言語モデルに注入し,フレキシブルなエンドツーエンドKBQAを実現するためのフレームワークである。
論文 参考訳(メタデータ) (2024-06-20T22:22:41Z) - Few-shot Transfer Learning for Knowledge Base Question Answering: Fusing Supervised Models with In-Context Learning [20.80841972133938]
既存の知識ベース質問回答(KBQA)アーキテクチャは、注釈付きデータに飢えている。
KBQAでは,対象ドメインがラベル付きサンプルを少数提供している。
本稿では,複数のソース学習型検索器を用いてKB検索を行う新しいKBQAアーキテクチャFuSIC-KBQAを提案する。
論文 参考訳(メタデータ) (2023-11-15T11:56:56Z) - Two is Better Than One: Answering Complex Questions by Multiple
Knowledge Sources with Generalized Links [31.941956320431217]
複数KB間の全リンクと部分リンクを利用して正しい回答を導出する新しいMulti-KB-QAタスクを定式化する。
そこで本研究では,KB埋め込みのすべてのリンク関係を符号化して,候補解のスコアとランク付けを行うマルチKB-QAを提案する。
論文 参考訳(メタデータ) (2023-09-11T02:31:41Z) - Make a Choice! Knowledge Base Question Answering with In-Context
Learning [1.7827767384590838]
知識ベースに対する質問応答(KBQA)は、与えられた知識ベース(KB)でファクトイドな質問に答えることを目的としている。
KBの大規模化のため、注釈付きデータはKB内のすべてのファクトスキーマをカバーすることは不可能である。
ICL ベースの多重選択による KBQA 手法に LLM の少数ショット機能を組み込んだフレームワークである McL-KBQA を提案する。
論文 参考訳(メタデータ) (2023-05-23T11:56:03Z) - Cross-Lingual Question Answering over Knowledge Base as Reading
Comprehension [61.079852289005025]
知識ベース(xKBQA)に対する言語間質問応答は、提供された知識ベースとは異なる言語での質問に答えることを目的としている。
xKBQAが直面する大きな課題の1つは、データアノテーションのコストが高いことである。
読解パラダイムにおけるxKBQAの新しいアプローチを提案する。
論文 参考訳(メタデータ) (2023-02-26T05:52:52Z) - QA Is the New KR: Question-Answer Pairs as Knowledge Bases [105.692569000534]
提案するKBの形式は,従来のシンボリックKBの重要な利点を多く備えている,と我々は主張する。
従来のKBとは異なり、この情報ストアは一般的なユーザ情報のニーズによく適合している。
論文 参考訳(メタデータ) (2022-07-01T19:09:08Z) - SYGMA: System for Generalizable Modular Question Answering OverKnowledge
Bases [57.89642289610301]
SYGMAは、複数の知識ベースと複数のリアソニングタイプにまたがる汎用化を容易にするモジュラーアプローチである。
本システムの有効性を,DBpediaとWikidataの2つの異なる知識ベースに属するデータセットを用いて評価することで実証する。
論文 参考訳(メタデータ) (2021-09-28T01:57:56Z) - Reasoning Over Virtual Knowledge Bases With Open Predicate Relations [85.19305347984515]
Open Predicate Query Language (OPQL) を紹介します。
OPQLは、テキストから完全にトレーニングされた仮想知識ベース(VKB)を構築する方法である。
OPQLは2つの異なるKB推論タスクにおいて、以前のVKBメソッドよりも優れていることを示す。
論文 参考訳(メタデータ) (2021-02-14T01:29:54Z) - Beyond I.I.D.: Three Levels of Generalization for Question Answering on
Knowledge Bases [63.43418760818188]
GrailQA.comは64,331の質問で、新しい大規模で高品質なデータセットをリリースしました。
BERTベースのKBQAモデルを提案する。
データセットとモデルの組み合わせにより、KBQAの一般化におけるBERTのような事前学習されたコンテキスト埋め込みの重要な役割を、初めて徹底的に検証し、実証することが可能になります。
論文 参考訳(メタデータ) (2020-11-16T06:36:26Z) - A Survey on Complex Question Answering over Knowledge Base: Recent
Advances and Challenges [71.4531144086568]
知識ベース(KB)に対する質問回答(QA)は、自然言語の質問に自動的に答えることを目的としている。
研究者は、よりKBのトリプルと制約推論を必要とする単純な質問から複雑な質問へと注意を移した。
論文 参考訳(メタデータ) (2020-07-26T07:13:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。