論文の概要: Time-aware Multiway Adaptive Fusion Network for Temporal Knowledge Graph
Question Answering
- arxiv url: http://arxiv.org/abs/2302.12529v1
- Date: Fri, 24 Feb 2023 09:29:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-27 14:04:12.082360
- Title: Time-aware Multiway Adaptive Fusion Network for Temporal Knowledge Graph
Question Answering
- Title(参考訳): 時間的知識グラフ質問応答のための時間的マルチウェイ適応核融合ネットワーク
- Authors: Yonghao Liu and Di Liang and Fang Fang and Sirui Wang and Wei Wu and
Rui Jiang
- Abstract要約: 我々は,新しい textbf Time-aware textbfMultiway textbfAdaptive (textbfTMA) 融合ネットワークを提案する。
それぞれの質問に対して、TMAはまずKGから関連する概念を抽出し、それから多方向適応モジュールに供給する。
この表現は、最終的な予測を生成するために、事前訓練されたKG埋め込みに組み込むことができる。
- 参考スコア(独自算出の注目度): 10.170042914522778
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge graphs (KGs) have received increasing attention due to its wide
applications on natural language processing. However, its use case on temporal
question answering (QA) has not been well-explored. Most of existing methods
are developed based on pre-trained language models, which might not be capable
to learn \emph{temporal-specific} presentations of entities in terms of
temporal KGQA task. To alleviate this problem, we propose a novel
\textbf{T}ime-aware \textbf{M}ultiway \textbf{A}daptive (\textbf{TMA}) fusion
network. Inspired by the step-by-step reasoning behavior of humans. For each
given question, TMA first extracts the relevant concepts from the KG, and then
feeds them into a multiway adaptive module to produce a
\emph{temporal-specific} representation of the question. This representation
can be incorporated with the pre-trained KG embedding to generate the final
prediction. Empirical results verify that the proposed model achieves better
performance than the state-of-the-art models in the benchmark dataset. Notably,
the Hits@1 and Hits@10 results of TMA on the CronQuestions dataset's complex
questions are absolutely improved by 24\% and 10\% compared to the
best-performing baseline. Furthermore, we also show that TMA employing an
adaptive fusion mechanism can provide interpretability by analyzing the
proportion of information in question representations.
- Abstract(参考訳): 知識グラフ(KG)は自然言語処理に広く応用されているため注目されている。
しかし、時間的質問応答(QA)に対するその使用例はよく研究されていない。
既存の手法のほとんどは、事前訓練された言語モデルに基づいて開発されており、時間的KGQAタスクの観点からエンティティのemph{temporal-specific}プレゼンテーションを学習することはできない。
この問題を緩和するために, 新規な \textbf{T}ime-aware \textbf{M}ultiway \textbf{A}daptive (\textbf{TMA}) 融合ネットワークを提案する。
人間の段階的な推論行動に触発された。
それぞれの質問に対して、TMAはまずKGから関連する概念を抽出し、それからそれらを多方向適応モジュールに供給し、問題の \emph{temporal-specific} 表現を生成する。
この表現は、最終的な予測を生成するために事前訓練されたkg埋め込みと組み込むことができる。
実験により,提案モデルがベンチマークデータセットの最先端モデルよりも優れた性能を実現することを確認した。
特に、cronquestionsデータセットにおけるtmaのhiss@1とhiss@10の結果は、最もパフォーマンスの高いベースラインと比較して、24\%と10\%完全に改善されている。
さらに, 適応融合機構を用いたTMAは, 問題表現における情報の比率を分析することで, 解釈可能性が得られることを示す。
関連論文リスト
- Long-Span Question-Answering: Automatic Question Generation and QA-System Ranking via Side-by-Side Evaluation [65.16137964758612]
大規模言語モデルにおける長文文の活用について検討し,本書全体の読解データを作成する。
我々の目的は、長いテキストの詳細な理解を必要とする問題を分析し、理解し、推論するLLMの能力をテストすることである。
論文 参考訳(メタデータ) (2024-05-31T20:15:10Z) - Question Calibration and Multi-Hop Modeling for Temporal Question
Answering [16.668509683238398]
複雑なマルチホップ質問応答を解決するために,質問・マルチホップモデリング(QC-MHM)手法を提案する。
具体的には、まず、KGにおける質問と時間制約概念を融合させて、質問表現を校正する。
我々は,マルチホップメッセージパッシングを完了させるためにGNN層を構築し,最後に,GNNの埋め込み出力と組み合わせて最終予測を生成する。
論文 参考訳(メタデータ) (2024-02-20T17:56:24Z) - Fusing Temporal Graphs into Transformers for Time-Sensitive Question
Answering [11.810810214824183]
長い文書から時間に敏感な質問に答えるには、質問や文書の時間的推論が必要である。
既存の時間情報抽出システムを用いて、質問や文書における事象、時間、時間関係の時間グラフを構築する。
実験結果から, 時間グラフを入力テキストに融合する手法は, トランスフォーマーモデルの時間的推論能力を大幅に向上させることが示された。
論文 参考訳(メタデータ) (2023-10-30T06:12:50Z) - RegaVAE: A Retrieval-Augmented Gaussian Mixture Variational Auto-Encoder
for Language Modeling [79.56442336234221]
可変オートエンコーダ(VAE)に基づく検索拡張言語モデルであるRegaVAEを紹介する。
テキストコーパスを潜在空間にエンコードし、ソースとターゲットの両方のテキストから現在と将来の情報をキャプチャする。
各種データセットに対する実験結果から,テキスト生成品質と幻覚除去の大幅な改善が示された。
論文 参考訳(メタデータ) (2023-10-16T16:42:01Z) - Jaeger: A Concatenation-Based Multi-Transformer VQA Model [0.13654846342364307]
文書に基づく視覚質問応答は,言語感覚の曖昧さと細粒度マルチモーダル検索の間に難しい課題を生じさせる。
本稿では,結合型マルチトランスVQAモデルであるJaegarを提案する。
我々のアプローチは、結合によってこれらのモデルの性能を増幅する可能性がある。
論文 参考訳(メタデータ) (2023-10-11T00:14:40Z) - Deep Bidirectional Language-Knowledge Graph Pretraining [159.9645181522436]
DRAGONは、テキストとKGを大規模に融合した言語知識基盤モデルを事前学習するための自己教師型アプローチである。
我々のモデルは、入力としてテキストセグメントと関連するKGサブグラフのペアを取り、両モードから情報を双方向に融合する。
論文 参考訳(メタデータ) (2022-10-17T18:02:52Z) - Complex Temporal Question Answering on Knowledge Graphs [22.996399822102575]
この研究は、複雑な時間的質問に答える最初のエンドツーエンドシステムであるEXAQTを提示する。
知識グラフ(KG)に関する自然言語の質問には、高いリコールを目標とし、上位ランクの精度を目標とする2つのステージで答える。
我々は、様々な汎用KG-QAベンチマークから収集された16kの時間的質問の大規模なデータセットであるTimeQuestionsのEXAQTを評価する。
論文 参考訳(メタデータ) (2021-09-18T13:41:43Z) - TAT-QA: A Question Answering Benchmark on a Hybrid of Tabular and
Textual Content in Finance [71.76018597965378]
TAT-QAと呼ばれるタブラデータとテクスチャデータの両方を含む新しい大規模な質問応答データセットを構築します。
本稿では,テーブルとテキストの両方を推論可能な新しいQAモデルであるTAGOPを提案する。
論文 参考訳(メタデータ) (2021-05-17T06:12:06Z) - Neural Retrieval for Question Answering with Cross-Attention Supervised
Data Augmentation [14.669454236593447]
質問と回答の埋め込みを独立に計算すると、回答に一致する質問に関連する情報の後期融合が生じる。
本稿では,正確な初期核融合モデルを用いた教師付きデータマイニング手法を提案し,効率的な後期核融合検索モデルのトレーニングを改善する。
論文 参考訳(メタデータ) (2020-09-29T07:02:19Z) - Template-Based Question Generation from Retrieved Sentences for Improved
Unsupervised Question Answering [98.48363619128108]
擬似学習データを用いてQAモデルを訓練するための教師なしアプローチを提案する。
関連した検索文に簡単なテンプレートを適用してQA学習のための質問を生成すると、元の文脈文よりも、下流QAのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2020-04-24T17:57:45Z) - AMR Parsing via Graph-Sequence Iterative Inference [62.85003739964878]
本稿では,AMR解析を入力シーケンスとインクリメンタルに構築されたグラフ上での2つの決定の連続として扱うエンド・ツー・エンドのモデルを提案する。
これら2つの質問に対する回答は相互因果関係であることを示す。
我々は、両方の視点でより良い回答を得るのに役立つ反復推論に基づくモデルを設計し、解析精度を大幅に改善する。
論文 参考訳(メタデータ) (2020-04-12T09:15:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。