論文の概要: Prompt-based Logical Semantics Enhancement for Implicit Discourse Relation Recognition

• arxiv url: http://arxiv.org/abs/2311.00367v1
• Date: Wed, 1 Nov 2023 08:38:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-02 14:19:45.136735
• Title: Prompt-based Logical Semantics Enhancement for Implicit Discourse Relation Recognition
• Title（参考訳）: 突発的談話関係認識のためのプロンプトに基づく論理セマンティックス強化
• Authors: Chenxu Wang, Ping Jian, Mu Huang
• Abstract要約: Inlicit Discourse Relation Recognition (IDRR) のための Prompt-based Logical Semantics Enhancement (PLSE) 法を提案する。 提案手法は,事前学習した言語モデルに対する対話関係に関する知識を,素早い接続予測によってシームレスに注入する。 PDTB 2.0 と CoNLL16 データセットによる実験結果から,本手法は現状の最先端モデルに対して優れた一貫した性能を発揮することが示された。
• 参考スコア（独自算出の注目度）: 4.7938839332508945
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Implicit Discourse Relation Recognition (IDRR), which infers discourse relations without the help of explicit connectives, is still a crucial and challenging task for discourse parsing. Recent works tend to exploit the hierarchical structure information from the annotated senses, which demonstrate enhanced discourse relation representations can be obtained by integrating sense hierarchy. Nevertheless, the performance and robustness for IDRR are significantly constrained by the availability of annotated data. Fortunately, there is a wealth of unannotated utterances with explicit connectives, that can be utilized to acquire enriched discourse relation features. In light of such motivation, we propose a Prompt-based Logical Semantics Enhancement (PLSE) method for IDRR. Essentially, our method seamlessly injects knowledge relevant to discourse relation into pre-trained language models through prompt-based connective prediction. Furthermore, considering the prompt-based connective prediction exhibits local dependencies due to the deficiency of masked language model (MLM) in capturing global semantics, we design a novel self-supervised learning objective based on mutual information maximization to derive enhanced representations of logical semantics for IDRR. Experimental results on PDTB 2.0 and CoNLL16 datasets demonstrate that our method achieves outstanding and consistent performance against the current state-of-the-art models.
• Abstract（参考訳）: 明示的な接続の助けなしに言論関係を推論するインプシット談話関係認識(IDRR)は、言論解析において依然として重要かつ困難な課題である。 近年の研究では、アノテーション付き感覚から階層構造情報を利用する傾向があり、センス階層の統合により、拡張された談話関係表現が得られる。 それにもかかわらず、IDRRの性能と堅牢性は、注釈付きデータの可用性によって著しく制限されている。 幸いなことに、有意な接続性を持つ無意味な発話が豊富にあり、リッチな談話関係の特徴を取得するために利用することができる。 このようなモチベーションを考慮して,IDRR のための Prompt-based Logical Semantics Enhancement (PLSE) 法を提案する。 本手法は,対話関係に関する知識を学習前の言語モデルにシームレスに注入する。 さらに,グローバルセマンティクスを捉える際に,マスキング言語モデル(mlm)の欠如による局所的依存を示すプロンプトベース結合予測を考慮し,相互情報最大化に基づく新しい自己教師あり学習目標を設計し,idrrのための論理セマンティクスの拡張表現を導出する。 PDTB 2.0 と CoNLL16 データセットによる実験結果から,本手法は現状の最先端モデルに対して優れた一貫した性能を発揮することが示された。

関連論文リスト

• Enhancing Low-Resource Relation Representations through Multi-View Decoupling [21.32064890807893]
  本稿では,MVREという新しいプロンプトに基づく関係表現手法を提案する。 MVREは、各関係を異なる視点に分離し、多視点関係表現を包含する。 提案手法は,低リソース環境下での最先端化を実現する。
  論文  参考訳（メタデータ） (2023-12-26T14:16:16Z)
• Modeling Hierarchical Reasoning Chains by Linking Discourse Units and Key Phrases for Reading Comprehension [80.99865844249106]
  本稿では,論理的推論の基盤として,対話レベルと単語レベルの両方の文脈を扱う総合グラフネットワーク(HGN)を提案する。 具体的には、ノードレベルの関係とタイプレベルの関係は、推論過程におけるブリッジと解釈できるが、階層的な相互作用機構によってモデル化される。
  論文  参考訳（メタデータ） (2023-06-21T07:34:27Z)
• Schema-aware Reference as Prompt Improves Data-Efficient Knowledge Graph Construction [57.854498238624366]
  本稿では,データ効率のよい知識グラフ構築のためのRAP(Schema-Aware Reference As Prompt)の検索手法を提案する。 RAPは、人間の注釈付きおよび弱教師付きデータから受け継いだスキーマと知識を、各サンプルのプロンプトとして動的に活用することができる。
  論文  参考訳（メタデータ） (2022-10-19T16:40:28Z)
• Prompt-based Connective Prediction Method for Fine-grained Implicit Discourse Relation Recognition [34.02125358302028]
  本稿では,IDRRのための新しいPrompt-based Connective Prediction (PCP)法を提案する。 提案手法は,大規模事前学習モデルに対して,談話関係に関する知識を利用するよう指示する。 実験の結果,本手法は現在の最先端モデルを上回ることがわかった。
  論文  参考訳（メタデータ） (2022-10-13T13:47:13Z)
• HiURE: Hierarchical Exemplar Contrastive Learning for Unsupervised Relation Extraction [60.80849503639896]
  非教師なし関係抽出は、関係範囲や分布に関する事前情報のない自然言語文からエンティティ間の関係を抽出することを目的としている。 本稿では,階層間注目を用いた階層的特徴空間から階層的信号を導出する機能を持つ,HiUREという新しいコントラスト学習フレームワークを提案する。 2つの公開データセットの実験結果は、最先端モデルと比較した場合の教師なし関係抽出におけるHiUREの有効性とロバスト性を示す。
  論文  参考訳（メタデータ） (2022-05-04T17:56:48Z)
• Imposing Relation Structure in Language-Model Embeddings Using Contrastive Learning [30.00047118880045]
  グラフ構造における関係をエンコードするために文埋め込みを訓練する新しいコントラスト学習フレームワークを提案する。 結果として得られた関係認識文の埋め込みは、関係抽出タスクにおける最先端の結果を得る。
  論文  参考訳（メタデータ） (2021-09-02T10:58:27Z)
• Leveraging Semantic Parsing for Relation Linking over Knowledge Bases [80.99588366232075]
  本稿では,AMRを用いた意味解析と遠隔監視を利用した関係リンクフレームワークであるSlingを提案する。 Slingは複数の関係リンクアプローチを統合し、言語的手がかり、豊かな意味表現、知識ベースからの情報などの補完的な信号をキャプチャする。 QALD-7, QALD-9, LC-QuAD 1.0という3つのKBQAデータセットを用いた関係リンク実験により, 提案手法が全てのベンチマークで最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2020-09-16T14:56:11Z)
• Probing Linguistic Features of Sentence-Level Representations in Neural Relation Extraction [80.38130122127882]
  ニューラルリレーション抽出(RE)に関連する言語特性を対象とした14の探索タスクを導入する。 私たちは、40以上の異なるエンコーダアーキテクチャと2つのデータセットでトレーニングされた言語的特徴の組み合わせによって学習された表現を研究するためにそれらを使用します。 アーキテクチャによって引き起こされるバイアスと言語的特徴の含意は、探索タスクのパフォーマンスにおいて明らかに表現されている。
  論文  参考訳（メタデータ） (2020-04-17T09:17:40Z)
• A Dependency Syntactic Knowledge Augmented Interactive Architecture for End-to-End Aspect-based Sentiment Analysis [73.74885246830611]
  エンドツーエンドABSAのためのマルチタスク学習を用いた対話型アーキテクチャを新たに提案する。 このモデルは、よく設計された依存性関係埋め込みグラフ畳み込みネットワーク(DreGcn)を活用することで、構文知識(依存性関係と型)を完全に活用することができる。 3つのベンチマークデータセットの大規模な実験結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2020-04-04T14:59:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。