論文の概要: Fusing Temporal Graphs into Transformers for Time-Sensitive Question Answering

• arxiv url: http://arxiv.org/abs/2310.19292v1
• Date: Mon, 30 Oct 2023 06:12:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-01 21:37:38.422545
• Title: Fusing Temporal Graphs into Transformers for Time-Sensitive Question Answering
• Title（参考訳）: 時間知覚質問応答のための変換器への時間グラフの融合
• Authors: Xin Su, Phillip Howard, Nagib Hakim, Steven Bethard
• Abstract要約: 長い文書から時間に敏感な質問に答えるには、質問や文書の時間的推論が必要である。 既存の時間情報抽出システムを用いて、質問や文書における事象、時間、時間関係の時間グラフを構築する。 実験結果から, 時間グラフを入力テキストに融合する手法は, トランスフォーマーモデルの時間的推論能力を大幅に向上させることが示された。
• 参考スコア（独自算出の注目度）: 11.810810214824183
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Answering time-sensitive questions from long documents requires temporal reasoning over the times in questions and documents. An important open question is whether large language models can perform such reasoning solely using a provided text document, or whether they can benefit from additional temporal information extracted using other systems. We address this research question by applying existing temporal information extraction systems to construct temporal graphs of events, times, and temporal relations in questions and documents. We then investigate different approaches for fusing these graphs into Transformer models. Experimental results show that our proposed approach for fusing temporal graphs into input text substantially enhances the temporal reasoning capabilities of Transformer models with or without fine-tuning. Additionally, our proposed method outperforms various graph convolution-based approaches and establishes a new state-of-the-art performance on SituatedQA and three splits of TimeQA.
• Abstract（参考訳）: 長い文書から時間に敏感な質問に答えるには、質問や文書の時間的推論が必要である。 重要な疑問は、大きな言語モデルが提供されたテキスト文書のみを使用してそのような推論を実行できるのか、それとも他のシステムから抽出された追加の時間情報から恩恵を受けられるのかである。 本研究では、既存の時間情報抽出システムを用いて、質問や文書における事象、時間、時間関係の時間グラフを構築する。 次に、これらのグラフをTransformerモデルに融合するための様々なアプローチを検討する。 実験結果から,入力テキストに時間グラフを融合する手法は,微調整の有無にかかわらずトランスフォーマーモデルの時間的推論能力を大幅に向上させることが示された。 さらに,提案手法はグラフ畳み込みに基づくアプローチよりも優れており,SituatedQAとTimeQAの3つの分割による新しい最先端性能を確立している。

関連論文リスト

• MTGER: Multi-view Temporal Graph Enhanced Temporal Reasoning over Time-Involved Document [26.26604509399347]
  MTGERは、時間に関連する文書に対する時間的推論のための新しいフレームワークである。 多視点時間グラフにより、事実間の時間的関係を明示的にモデル化する。 MTGERは質問の摂動下でより一貫した回答を与える。
  論文  参考訳（メタデータ） (2023-11-08T16:41:37Z)
• Time-aware Multiway Adaptive Fusion Network for Temporal Knowledge Graph Question Answering [10.170042914522778]
  我々は,新しい textbf Time-aware textbfMultiway textbfAdaptive (textbfTMA) 融合ネットワークを提案する。 それぞれの質問に対して、TMAはまずKGから関連する概念を抽出し、それから多方向適応モジュールに供給する。 この表現は、最終的な予測を生成するために、事前訓練されたKG埋め込みに組み込むことができる。
  論文  参考訳（メタデータ） (2023-02-24T09:29:40Z)
• Generic Temporal Reasoning with Differential Analysis and Explanation [61.96034987217583]
  時間差分解析でギャップを埋めるTODAYという新しいタスクを導入する。 TODAYは、システムがインクリメンタルな変化の効果を正しく理解できるかどうかを評価する。 共同学習においてTODAYの指導スタイルと説明アノテーションが有効であることを示す。
  論文  参考訳（メタデータ） (2022-12-20T17:40:03Z)
• HyperTime: Implicit Neural Representation for Time Series [131.57172578210256]
  暗黙の神経表現(INR)は、データの正確で解像度に依存しないエンコーディングを提供する強力なツールとして最近登場した。 本稿では、INRを用いて時系列の表現を分析し、再構成精度とトレーニング収束速度の点で異なるアクティベーション関数を比較した。 本稿では,INRを利用して時系列データセット全体の圧縮潜在表現を学習するハイパーネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-08-11T14:05:51Z)
• Temporal Knowledge Graph Reasoning with Low-rank and Model-agnostic Representations [1.8262547855491458]
  低ランクテンソル分解モデル LowFER のパラメータ効率および時間認識拡張系である Time-LowFER を導入する。 時間を表現するための現在のアプローチのいくつかの制限に留意し、時間特徴に対するサイクル対応の時間符号化方式を提案する。 我々は,時間に敏感なデータ処理に着目した統合時間知識グラフ埋め込みフレームワークに本手法を実装した。
  論文  参考訳（メタデータ） (2022-04-10T22:24:11Z)
• HETFORMER: Heterogeneous Transformer with Sparse Attention for Long-Text Extractive Summarization [57.798070356553936]
  HETFORMERはトランスフォーマーをベースとした事前学習モデルであり、抽出要約のための多粒度スパースアテンションを持つ。 単一文書と複数文書の要約タスクの実験から,HETFORMERがルージュF1の最先端性能を達成することが示された。
  論文  参考訳（メタデータ） (2021-10-12T22:42:31Z)
• A Dataset for Answering Time-Sensitive Questions [88.95075983560331]
  時間とは、我々の物理的世界において重要な次元である。多くの事実が時間に関して進化することができる。 時間次元を考慮し、既存のQAモデルに時間とともに推論する権限を与えることが重要です。 既存のQAデータセットには、時間に敏感な質問がほとんどないため、モデルの時間的推論能力の診断やベンチマークには適さない。
  論文  参考訳（メタデータ） (2021-08-13T16:42:25Z)
• Interpretable Feature Construction for Time Series Extrinsic Regression [0.028675177318965035]
  一部のアプリケーション領域では、対象変数が数値であり、その問題は時系列外部回帰(TSER)として知られている。 TSERの文脈における頑健で解釈可能な特徴構築と選択のためのベイズ法の拡張を提案する。 私たちのアプローチは、TSERに取り組むためのリレーショナルな方法を利用します:(i)、リレーショナルデータスキームに格納されている時系列の多様で単純な表現を構築し、(ii)二次テーブルからデータを「フラット化」するために解釈可能な機能を構築するためにプロポジション化技術を適用します。
  論文  参考訳（メタデータ） (2021-03-15T08:12:19Z)
• Software Engineering Event Modeling using Relative Time in Temporal Knowledge Graphs [15.22542676866305]
  GitHubのアーティファクト間の日々のインタラクションに基づいて,マルチリレーショナルな時間知識グラフを提案する。 補間時間条件リンク予測と,補間時間条件リンク/時間予測クエリの2つの新しいデータセットを提案する。 これらのデータセットに関する我々の実験は、幅広いソフトウェアエンジニアリングの質問に答えるために知識グラフを適用する可能性を浮き彫りにした。
  論文  参考訳（メタデータ） (2020-07-02T16:28:43Z)
• Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks [91.65637773358347]
  多変量時系列データに特化して設計された汎用グラフニューラルネットワークフレームワークを提案する。 グラフ学習モジュールを用いて,変数間の一方向関係を自動的に抽出する。 提案手法は,4つのベンチマークデータセットのうち3つにおいて,最先端のベースライン手法よりも優れている。
  論文  参考訳（メタデータ） (2020-05-24T04:02:18Z)
• Transformer Hawkes Process [79.16290557505211]
  本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。 THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。 本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
  論文  参考訳（メタデータ） (2020-02-21T13:48:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。