論文の概要: Adapting Neural Link Predictors for Data-Efficient Complex Query
Answering
- arxiv url: http://arxiv.org/abs/2301.12313v3
- Date: Tue, 11 Jul 2023 15:48:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-12 18:59:39.406785
- Title: Adapting Neural Link Predictors for Data-Efficient Complex Query
Answering
- Title（参考訳）: データ効率の良い複雑問合せ解に対するニューラルネットワーク予測器の適用
- Authors: Erik Arakelyan, Pasquale Minervini, Daniel Daza, Michael Cochez,
Isabelle Augenstein
- Abstract要約: 本稿では,複雑な問合せタスクに対して,ニューラルネットワーク予測スコアを再校正するために最適化されたパラメータ効率のスコア強調モデルを提案する。
CQD$mathcalA$は現在の最先端手法よりもはるかに正確な結果が得られる。
- 参考スコア（独自算出の注目度）: 45.961111441411084
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Answering complex queries on incomplete knowledge graphs is a challenging
task where a model needs to answer complex logical queries in the presence of
missing knowledge. Prior work in the literature has proposed to address this
problem by designing architectures trained end-to-end for the complex query
answering task with a reasoning process that is hard to interpret while
requiring data and resource-intensive training. Other lines of research have
proposed re-using simple neural link predictors to answer complex queries,
reducing the amount of training data by orders of magnitude while providing
interpretable answers. The neural link predictor used in such approaches is not
explicitly optimised for the complex query answering task, implying that its
scores are not calibrated to interact together. We propose to address these
problems via CQD$^{\mathcal{A}}$, a parameter-efficient score \emph{adaptation}
model optimised to re-calibrate neural link prediction scores for the complex
query answering task. While the neural link predictor is frozen, the adaptation
component -- which only increases the number of model parameters by $0.03\%$ --
is trained on the downstream complex query answering task. Furthermore, the
calibration component enables us to support reasoning over queries that include
atomic negations, which was previously impossible with link predictors. In our
experiments, CQD$^{\mathcal{A}}$ produces significantly more accurate results
than current state-of-the-art methods, improving from $34.4$ to $35.1$ Mean
Reciprocal Rank values averaged across all datasets and query types while using
$\leq 30\%$ of the available training query types. We further show that
CQD$^{\mathcal{A}}$ is data-efficient, achieving competitive results with only
$1\%$ of the training complex queries, and robust in out-of-domain evaluations.
- Abstract（参考訳）: 不完全な知識グラフに複雑なクエリを答えることは、モデルが不足する知識が存在する場合、複雑な論理的クエリに答える必要があるという課題である。
文献の先行研究は、データとリソース集約的なトレーニングを必要とする一方で解釈が難しい推論プロセスで、複雑なクエリ応答タスクに対してエンドツーエンドでトレーニングされたアーキテクチャを設計することで、この問題に対処することを提案している。
他の研究では、複雑なクエリに対する単純なニューラルネットワーク予測器の再使用を提案し、解釈可能な回答を提供しながら、トレーニングデータの桁数を削減している。
このような手法で使用されるニューラルネットワーク予測器は、複雑なクエリ応答タスクに対して明示的に最適化されていない。
cqd$^{\mathcal{a}}$、パラメータ効率の高いスコア \emph{adaptation}モデルを用いて、複雑なクエリ応答タスクに対するニューラルネットワークの予測スコアを再調整することを提案する。
ニューラルネットワーク予測器は凍結されているが、モデルのパラメータの数を0.03\%$だけ増加させる適応コンポーネントは、下流の複雑なクエリ応答タスクでトレーニングされる。
さらに,キャリブレーションコンポーネントによって,従来リンク予測では不可能だったアトミックネグレーションを含むクエリの推論もサポートできる。
私たちの実験では、cqd$^{\mathcal{a}}$は現在の最先端のメソッドよりもかなり正確な結果をもたらし、利用可能なトレーニングクエリタイプのうち$\leq 30\%$を使いながら、すべてのデータセットとクエリタイプの平均的な相互ランク値34.4$から35.1$に改善しました。
さらに、CQD$^{\mathcal{A}}$はデータ効率が高く、トレーニング複雑なクエリのたった1\%の値で競合する結果が得られ、ドメイン外の評価が堅牢であることを示す。
関連論文リスト
- Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity [59.57065228857247]
Retrieval-augmented Large Language Models (LLMs) は、質問回答(QA)のようなタスクにおける応答精度を高めるための有望なアプローチとして登場した。
本稿では,クエリの複雑さに基づいて,LLMの最適戦略を動的に選択できる適応型QAフレームワークを提案する。
オープンドメインのQAデータセットを用いて、複数のクエリの複雑さを網羅し、QAシステムの全体的な効率性と精度を高めることを示す。
論文 参考訳（メタデータ） (2024-03-21T13:52:30Z) - Meta Operator for Complex Query Answering on Knowledge Graphs [58.340159346749964]
我々は、異なる複雑なクエリタイプではなく、異なる論理演算子型が一般化性を向上させる鍵であると主張する。
本稿では,メタ演算子を限られたデータで学習し,様々な複雑なクエリの演算子のインスタンスに適応するメタ学習アルゴリズムを提案する。
実験結果から,メタオペレータの学習は,従来のCQAモデルやメタCQAモデルよりも効果的であることが示唆された。
論文 参考訳（メタデータ） (2024-03-15T08:54:25Z) - Type-based Neural Link Prediction Adapter for Complex Query Answering [2.1098688291287475]
本稿では,タイプベースエンティティ関係グラフを構成する新しいモデルであるTypEベースのニューラルリンク予測アダプタ(TENLPA)を提案する。
型情報と複雑な論理的クエリを効果的に結合するために,適応学習機構を導入する。
3つの標準データセットの実験により、TENLPAモデルが複雑なクエリ応答における最先端のパフォーマンスを達成することが示された。
論文 参考訳（メタデータ） (2024-01-29T10:54:28Z) - Query2Triple: Unified Query Encoding for Answering Diverse Complex
Queries over Knowledge Graphs [29.863085746761556]
単純で複雑なクエリのトレーニングを分離する新しいアプローチであるQuery to Triple (Q2T)を提案する。
提案するQ2Tは, トレーニングだけでなく, モジュール性にも優れ, 様々なニューラルネットワーク予測器に容易に適応できる。
論文 参考訳（メタデータ） (2023-10-17T13:13:30Z) - Rethinking Complex Queries on Knowledge Graphs with Neural Link
Predictors [65.56849255423866]
本稿では,証明可能な推論能力を備えた複雑なクエリを用いたエンドツーエンド学習を支援するニューラルシンボリック手法を提案する。
これまでに検討されていない10種類の新しいクエリを含む新しいデータセットを開発する。
提案手法は,新しいデータセットにおいて先行手法を著しく上回り,既存データセットにおける先行手法を同時に上回っている。
論文 参考訳（メタデータ） (2023-04-14T11:35:35Z) - Toward Unsupervised Realistic Visual Question Answering [70.67698100148414]
現実的なVQA(RVQA)の問題について検討し、モデルが答えられない質問(UQ)を拒絶し、答えられる質問(AQ)に答えなければならない。
1)データセットには不整合UQが多すぎること,(2)多数の注釈付きUQがトレーニングに必要とされること,の2つの欠点を最初に指摘した。
我々は、既存のVQAデータセットのAQと約29万の人間の注釈付きUQを組み合わせた新しいテストデータセットRGQAを提案する。
これは、画像と質問をランダムにペアリングして得られる擬似UQと、それを結合する。
論文 参考訳（メタデータ） (2023-03-09T06:58:29Z) - Logical Message Passing Networks with One-hop Inference on Atomic
Formulas [57.47174363091452]
本稿では,ニューラルネットワーク演算子から知識グラフの埋め込みを分解する,複雑な問合せ応答のためのフレームワークを提案する。
クエリグラフの上に、局所的な原子式上のワンホップ推論とグローバル論理的推論を結びつける論理メッセージパッシングニューラルネットワーク(LMPNN)を提案する。
我々のアプローチは、最先端のニューラルCQAモデルをもたらす。
論文 参考訳（メタデータ） (2023-01-21T02:34:06Z) - Neural-Symbolic Entangled Framework for Complex Query Answering [22.663509971491138]
複雑な問合せ応答のためのニューラル・アンド・エンタングルド・フレームワーク(ENeSy)を提案する。
これにより、ニューラルネットワークとシンボリック推論が互いに強化され、カスケードエラーとKGの不完全性が軽減される。
ENeSyは、特にリンク予測タスクのみでトレーニングモデルの設定において、いくつかのベンチマークでSOTA性能を達成する。
論文 参考訳（メタデータ） (2022-09-19T06:07:10Z) - Complex Query Answering with Neural Link Predictors [13.872400132315988]
不完全な知識グラフ上で複雑なクエリを効率的に応答するフレームワークを提案する。
我々は、各クエリをエンドツーエンドの微分可能な目的に翻訳し、各原子の真理値が事前学習されたニューラルネットワーク予測器によって計算される。
実験では,提案手法は最先端手法よりも精度の高い結果が得られる。
論文 参考訳（メタデータ） (2020-11-06T16:20:49Z) - Less is More: Data-Efficient Complex Question Answering over Knowledge
Bases [26.026065844896465]
本稿では,複雑な質問応答のためのデータ効率向上学習フレームワークであるNS-CQAモデルを提案する。
我々のフレームワークはニューラルジェネレータとシンボリックエグゼキュータで構成されており、自然言語の質問を原始的なアクションのシーケンスに変換する。
近年の大規模質問応答データセットであるCQAと,マルチホップ質問応答データセットであるWebQuestionsSPの2つのデータセットで評価を行った。
論文 参考訳（メタデータ） (2020-10-29T18:42:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。