論文の概要: From the One, Judge of the Whole: Typed Entailment Graph Construction with Predicate Generation

• arxiv url: http://arxiv.org/abs/2306.04170v1
• Date: Wed, 7 Jun 2023 05:46:19 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-08 16:09:57.328511
• Title: From the One, Judge of the Whole: Typed Entailment Graph Construction with Predicate Generation
• Title（参考訳）: 一つから判断する: 述語生成を伴う型付き補足グラフの構成
• Authors: Zhibin Chen, Yansong Feng, Dongyan Zhao
• Abstract要約: Entailment Graphs (EG) は、自然言語における文脈に依存しないentailment関係を示すために構築される。 本稿では,この問題に対処する多段階型述語グラフ生成器(TP-EGG)を提案する。 ベンチマークデータセットの実験では、TP-EGGは高品質でスケール制御可能なエンターメントグラフを生成することができる。
• 参考スコア（独自算出の注目度）: 69.91691115264132
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Entailment Graphs (EGs) have been constructed based on extracted corpora as a strong and explainable form to indicate context-independent entailment relations in natural languages. However, EGs built by previous methods often suffer from the severe sparsity issues, due to limited corpora available and the long-tail phenomenon of predicate distributions. In this paper, we propose a multi-stage method, Typed Predicate-Entailment Graph Generator (TP-EGG), to tackle this problem. Given several seed predicates, TP-EGG builds the graphs by generating new predicates and detecting entailment relations among them. The generative nature of TP-EGG helps us leverage the recent advances from large pretrained language models (PLMs), while avoiding the reliance on carefully prepared corpora. Experiments on benchmark datasets show that TP-EGG can generate high-quality and scale-controllable entailment graphs, achieving significant in-domain improvement over state-of-the-art EGs and boosting the performance of down-stream inference tasks.
• Abstract（参考訳）: Entailment Graphs (EGs) は、自然言語における文脈に依存しないentailment関係を示す強力な説明可能な形式として抽出されたコーパスに基づいて構築されている。 しかし、従来の手法で構築されたEGは、限られているコーパスと、述語分布の長い尾現象のために、しばしば深刻な空間問題に悩まされる。 本稿では,この問題に対処するため,多段階のTyped Predicate-Entailment Graph Generator (TP-EGG)を提案する。 いくつかの種述語が与えられた後、TP-EGGは新しい述語を生成し、それら間の関係を検出することによってグラフを構築する。 TP-EGGの生成特性は,大規模事前学習言語モデル(PLM)の最近の進歩を生かし,慎重に準備されたコーパスへの依存を回避するのに役立つ。 ベンチマークデータセットの実験によると、TP-EGGは高品質でスケール制御可能なエンターテイメントグラフを生成し、最先端のEGよりもドメイン内で大幅に改善され、下流推論タスクのパフォーマンスが向上する。

関連論文リスト

• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• Robust Stochastic Graph Generator for Counterfactual Explanations [8.82587501822953]
  GCE(Graph Counterfactual Explanation)技術は,AIシステムに関わるユーザに洞察を提供する手段として注目されている。 GCEは、基礎となる予測モデルに基づいて、元のグラフに似た新しいグラフを生成する。 これらのGCE技術のうち、生成機構に根ざしたものは、他の領域での顕著な成果にもかかわらず、比較的限定的な調査を受けている。
  論文  参考訳（メタデータ） (2023-12-18T23:16:28Z)
• Graph-level Representation Learning with Joint-Embedding Predictive Architectures [43.89120279424267]
  JEPA(Joint-Embedding Predictive Architectures)は、自己指導型表現学習の斬新で強力な技術である。 グラフ結合埋め込み予測アーキテクチャ(Graph-JEPA)を提案することにより、このパラダイムを用いてグラフレベルの表現を効果的にモデル化できることを示す。 特に、マスク付きモデリングを採用し、コンテキストサブグラフの潜時表現から始まるマスク付きサブグラフの潜時表現を予測することに焦点をあてる。
  論文  参考訳（メタデータ） (2023-09-27T20:42:02Z)
• SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
  テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。 まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。 次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
  論文  参考訳（メタデータ） (2023-08-03T07:00:04Z)
• Explanation Graph Generation via Generative Pre-training over Synthetic Graphs [6.25568933262682]
  説明グラフの生成は,ユーザの入力に応じて説明グラフを作成することを目的とした重要なタスクである。 現在の研究では、ラベル付きグラフで注釈付けされた小さな下流データセット上で、テキストベースの事前学習言語モデルを微調整するのが一般的である。 本稿では,説明グラフ生成タスクのための新しい事前学習フレームワークEG3Pを提案する。
  論文  参考訳（メタデータ） (2023-06-01T13:20:22Z)
• SCGG: A Deep Structure-Conditioned Graph Generative Model [9.046174529859524]
  SCGGと呼ばれる条件付きディープグラフ生成法は、特定のタイプの構造条件を考える。 SCGGのアーキテクチャは、グラフ表現学習ネットワークと、エンドツーエンドで訓練された自己回帰生成モデルで構成されている。 合成と実世界の両方のデータセットに対する実験結果は,最先端のベースラインと比較して,本手法の優位性を示している。
  論文  参考訳（メタデータ） (2022-09-20T12:33:50Z)
• Entailment Graph Learning with Textual Entailment and Soft Transitivity [69.91691115264132]
  テキスト・エンタテインメント・トランジシティー(EGT2)を用いた2段階のエンタテインメント・グラフを提案する。 EGT2 は CCG パースした述語によって形成されるテンプレート文間のテキスト的含意を認識することにより、局所的含意関係を学習する。 生成した局所グラフに基づいて、EGT2は3つの新しいソフトな推移性制約を用いて、包含構造における論理的推移性を考える。
  論文  参考訳（メタデータ） (2022-04-07T08:33:06Z)
• A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
  本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。 AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。 本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
  論文  参考訳（メタデータ） (2021-05-22T07:05:48Z)
• Block-Approximated Exponential Random Graphs [77.4792558024487]
  指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。 本稿では,非自明なERGに対する近似フレームワークを提案する。 我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
  論文  参考訳（メタデータ） (2020-02-14T11:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。