論文の概要: Set-Aligning Framework for Auto-Regressive Event Temporal Graph Generation

• arxiv url: http://arxiv.org/abs/2404.01532v1
• Date: Mon, 1 Apr 2024 23:46:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-03 18:27:47.634766
• Title: Set-Aligning Framework for Auto-Regressive Event Temporal Graph Generation
• Title（参考訳）: 自動回帰イベントテンポラルグラフ生成のためのセットアライティングフレームワーク
• Authors: Xingwei Tan, Yuxiang Zhou, Gabriele Pergola, Yulan He,
• Abstract要約: イベント時間グラフは、テキスト内のイベント間の複雑な時間関係の便利かつ効果的な表現として示されている。 近年, 事前学習した言語モデルを用いて, 事象時間グラフ構築のための線形化グラフを自動回帰生成する研究が, 有望な結果を示している。 しかし、これらの手法は、線形化されたグラフが代わりに言語モデルによって順次扱われるセット特性を示すため、しばしば準最適グラフ生成に繋がる。
• 参考スコア（独自算出の注目度）: 19.731605612333716
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Event temporal graphs have been shown as convenient and effective representations of complex temporal relations between events in text. Recent studies, which employ pre-trained language models to auto-regressively generate linearised graphs for constructing event temporal graphs, have shown promising results. However, these methods have often led to suboptimal graph generation as the linearised graphs exhibit set characteristics which are instead treated sequentially by language models. This discrepancy stems from the conventional text generation objectives, leading to erroneous penalisation of correct predictions caused by the misalignment of elements in target sequences. To address these challenges, we reframe the task as a conditional set generation problem, proposing a Set-aligning Framework tailored for the effective utilisation of Large Language Models (LLMs). The framework incorporates data augmentations and set-property regularisations designed to alleviate text generation loss penalties associated with the linearised graph edge sequences, thus encouraging the generation of more relation edges. Experimental results show that our framework surpasses existing baselines for event temporal graph generation. Furthermore, under zero-shot settings, the structural knowledge introduced through our framework notably improves model generalisation, particularly when the training examples available are limited.
• Abstract（参考訳）: イベント時間グラフは、テキスト内のイベント間の複雑な時間関係の便利かつ効果的な表現として示されている。 近年, 事前学習した言語モデルを用いて, 事象時間グラフ構築のための線形化グラフを自動回帰生成する研究が, 有望な結果を示している。 しかし、これらの手法は、線形化されたグラフが代わりに言語モデルによって順次扱われるセット特性を示すため、しばしば準最適グラフ生成に繋がる。 この相違は、従来のテキスト生成の目的に起因し、ターゲット配列の要素の不正な調整による正しい予測の誤ったペナル化につながる。 これらの課題に対処するため、我々は、大規模言語モデル(LLM)を効果的に活用するために、Set-aligning Frameworkを提案する条件セット生成問題としてタスクを再構成した。 このフレームワークは、線形化されたグラフエッジシーケンスに関連するテキスト生成損失のペナルティを軽減するために設計されたデータ拡張とセットプロパティ正規化を組み込んでおり、より多くの関係エッジの生成を促進する。 実験の結果,我々のフレームワークは事象時相グラフ生成のための既存のベースラインを超えていることがわかった。 さらに、ゼロショット設定下では、フレームワークを通じて導入された構造的知識は、特に利用可能なトレーニング例が限られている場合に、モデル一般化を著しく改善する。

関連論文リスト

• Towards Unbiased and Robust Spatio-Temporal Scene Graph Generation and Anticipation [10.678727237318503]
  Imparは、カリキュラム学習と損失マスキングを利用してバイアス発生と予測モデリングを緩和する新しいトレーニングフレームワークである。 本稿では,STSGモデルの分散シフトに対する堅牢性を評価するために,Robust Spatio-Temporal Scene Graph GenerationとRobust Scene Graph Precipationという2つの新しいタスクを導入する。
  論文  参考訳（メタデータ） (2024-11-20T06:15:28Z)
• CEGRL-TKGR: A Causal Enhanced Graph Representation Learning Framework for Improving Temporal Knowledge Graph Extrapolation Reasoning [1.6795461001108096]
  時間的知識グラフ推論(TKGR)のための革新的な因果拡張グラフ表現学習フレームワークを提案する。 まず、時間グラフ列における実体と関係の進化的表現を、2つの異なる成分、すなわち因果表現と共起表現に分解する。
  論文  参考訳（メタデータ） (2024-08-15T03:34:53Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• Explanation Graph Generation via Generative Pre-training over Synthetic Graphs [6.25568933262682]
  説明グラフの生成は,ユーザの入力に応じて説明グラフを作成することを目的とした重要なタスクである。 現在の研究では、ラベル付きグラフで注釈付けされた小さな下流データセット上で、テキストベースの事前学習言語モデルを微調整するのが一般的である。 本稿では,説明グラフ生成タスクのための新しい事前学習フレームワークEG3Pを提案する。
  論文  参考訳（メタデータ） (2023-06-01T13:20:22Z)
• Self-Supervised Relation Alignment for Scene Graph Generation [44.3983804479146]
  シーングラフ生成性能を改善するために,自己教師付きリレーショナルアライメントの正規化を導入する。 提案されたアライメントは一般的なもので、既存のシーングラフ生成フレームワークと組み合わせることができる。 本稿では,この自己教師付きリレーショナルアライメントと2つのシーングラフ生成アーキテクチャの有効性について述べる。
  論文  参考訳（メタデータ） (2023-02-02T20:34:13Z)
• Iterative Scene Graph Generation [55.893695946885174]
  シーングラフ生成は、オブジェクトエンティティとその対応する相互作用述語を所定の画像(またはビデオ)で識別する。 シーングラフ生成への既存のアプローチは、推定イテレーションの実現を可能にするために、関節分布の特定の因子化を前提としている。 本稿では,この制限に対処する新しいフレームワークを提案するとともに,画像に動的条件付けを導入する。
  論文  参考訳（メタデータ） (2022-07-27T10:37:29Z)
• Explanation Graph Generation via Pre-trained Language Models: An Empirical Study with Contrastive Learning [84.35102534158621]
  エンドツーエンドで説明グラフを生成する事前学習言語モデルについて検討する。 本稿では,ノードとエッジの編集操作によるグラフ摂動の簡易かつ効果的な方法を提案する。 提案手法は,説明グラフの構造的精度と意味的精度を両立させる。
  論文  参考訳（メタデータ） (2022-04-11T00:58:27Z)
• Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
  本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。 具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
  論文  参考訳（メタデータ） (2022-01-17T11:57:29Z)
• Promoting Graph Awareness in Linearized Graph-to-Text Generation [72.83863719868364]
  局所グラフ構造を符号化する線形化モデルの能力を検討する。 本研究は,モデルの暗黙のグラフ符号化の品質を高めるための解法である。 これらの消音足場は、低リソース設定における下流生成の大幅な改善につながることが分かりました。
  論文  参考訳（メタデータ） (2020-12-31T18:17:57Z)
• Neural Language Modeling for Contextualized Temporal Graph Generation [49.21890450444187]
  本稿では,大規模事前学習言語モデルを用いた文書のイベントレベル時間グラフの自動生成に関する最初の研究について述べる。
  論文  参考訳（メタデータ） (2020-10-20T07:08:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。