論文の概要: Auxiliary Tasks to Boost Biaffine Semantic Dependency Parsing
- arxiv url: http://arxiv.org/abs/2402.07682v1
- Date: Mon, 12 Feb 2024 14:42:33 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-13 14:06:53.836640
- Title: Auxiliary Tasks to Boost Biaffine Semantic Dependency Parsing
- Title（参考訳）: ビファインセマンティック依存関係解析を強化する補助的タスク
- Authors: Marie Candito
- Abstract要約: DozatとManningの分岐はセマンティック依存性解析(SDP)にまで拡張された
本稿では,アーク間の相互依存性を導入するための単純な補助的タスクを提案する。
これにより、SDPの性能を高めるためのシンプルで堅牢な方法が提供される。
- 参考スコア（独自算出の注目度）: 2.7195102129095003
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The biaffine parser of Dozat and Manning (2017) was successfully extended to
semantic dependency parsing (SDP) (Dozat and Manning, 2018). Its performance on
graphs is surprisingly high given that, without the constraint of producing a
tree, all arcs for a given sentence are predicted independently from each other
(modulo a shared representation of tokens). To circumvent such an independence
of decision, while retaining the O(n^2) complexity and highly parallelizable
architecture, we propose to use simple auxiliary tasks that introduce some form
of interdependence between arcs. Experiments on the three English acyclic
datasets of SemEval 2015 task 18 (Oepen et al., 2015), and on French deep
syntactic cyclic graphs (Ribeyre et al., 2014) show modest but systematic
performance gains on a near state-of-the-art baseline using transformer-based
contextualized representations. This provides a simple and robust method to
boost SDP performance.
- Abstract（参考訳）: Dozat and Manning (2017)は、セマンティック依存性解析(SDP)にまで拡張された(Dozat and Manning, 2018)。
グラフ上のその性能は、木の生成の制約がなければ、与えられた文のすべての弧が互いに独立に予測される(トークンの共有表現を実行する)ため、驚くほど高い。
このような決定の独立を回避するため、O(n^2)複雑性と高度に並列化可能なアーキテクチャを維持しながら、アーク間の何らかの相互依存性を導入する単純な補助的タスクを提案する。
SemEval 2015 Task 18 (Oepen et al., 2015) とフランスのディープシンタクティック・サイクリックグラフ (Ribeyre et al., 2014) の3つのイングランドの非循環データセットに対する実験は、トランスフォーマーベースの文脈化表現を用いて、ほぼ最先端のベースライン上で、系統的なパフォーマンス向上を示す。
これにより、SDPの性能を高めるためのシンプルで堅牢な方法が提供される。
関連論文リスト
- Alleviating Over-smoothing for Unsupervised Sentence Representation [96.19497378628594]
本稿では,この問題を緩和するために,SSCL(Self-Contrastive Learning)というシンプルな手法を提案する。
提案手法は非常に単純で,様々な最先端モデルに拡張して,性能向上を図ることができる。
論文 参考訳（メタデータ） (2023-05-09T11:00:02Z) - Systematic Investigation of Strategies Tailored for Low-Resource
Settings for Sanskrit Dependency Parsing [14.416855042499945]
Sanskrit Dependency Parsing (SDP) の既存の手法は、本質的にハイブリッドである。
純粋にデータ駆動アプローチは、ラベル付きデータ間隔によるハイブリッドアプローチのパフォーマンスにマッチしない。
我々は、データ強化、シーケンシャルトランスファーラーニング、クロスランガル/モノランガル事前学習、マルチタスク学習、自己学習の5つの戦略を実験した。
提案するアンサンブルシステムは, 純粋にデータ駆動状態よりも2.8/3.9ポイント(Unlabelled Attachment Score (UAS)/Labelled Attachment Score (LAS))の絶対ゲインに優れる。
論文 参考訳（メタデータ） (2022-01-27T08:24:53Z) - Convergent Boosted Smoothing for Modeling Graph Data with Tabular Node
Features [46.052312251801]
本稿では,グラフ伝播ステップでブースティングを反復するフレームワークを提案する。
我々のアプローチは、原則化されたメタロス関数に固定されている。
様々な非イドグラフデータセットに対して,本手法は同等あるいは優れた性能を実現する。
論文 参考訳（メタデータ） (2021-10-26T04:53:12Z) - Learning to Ask Conversational Questions by Optimizing Levenshtein
Distance [83.53855889592734]
明示的な編集動作によって最小レベンシュテイン距離(MLD)を最適化する強化反復シーケンス編集(RISE)フレームワークを導入する。
RISEは会話の特徴に関連するトークンに注意を払うことができる。
2つのベンチマークデータセットの実験結果から、RISEは最先端の手法を大幅に上回っていることがわかった。
論文 参考訳（メタデータ） (2021-06-30T08:44:19Z) - Pareto Probing: Trading Off Accuracy for Complexity [87.09294772742737]
我々は,プローブの複雑性と性能の基本的なトレードオフを反映したプローブ計量について論じる。
係り受け解析による実験により,文脈表現と非文脈表現の統語的知識の幅広いギャップが明らかとなった。
論文 参考訳（メタデータ） (2020-10-05T17:27:31Z) - Span-based Semantic Parsing for Compositional Generalization [53.24255235340056]
SpanBasedSPは入力発話上のスパンツリーを予測し、部分的なプログラムが入力内のスパンをどのように構成するかを明示的に符号化する。
GeoQuery、SCAN、CLOSUREでは、SpanBasedSPはランダムスプリットの強いseq2seqベースラインと似ているが、構成一般化を必要とするスプリットのベースラインに比べて劇的に性能が向上する。
論文 参考訳（メタデータ） (2020-09-13T16:42:18Z) - A Simple Global Neural Discourse Parser [61.728994693410954]
本稿では,手作業で構築した特徴を必要とせず,学習したスパン表現のみに基づく簡易なグラフベースニューラル談話を提案する。
我々は,我々のモデルが世界規模で最高の性能を達成し,最先端の欲求に匹敵する性能を実証的に示す。
論文 参考訳（メタデータ） (2020-09-02T19:28:40Z) - Transition-based Semantic Dependency Parsing with Pointer Networks [0.34376560669160383]
本稿では,ラベル付き非巡回グラフを容易に生成し,セマンティック依存解析を行う遷移システムを提案する。
BERTから抽出した深層文脈化単語埋め込みによるアプローチを強化する。
結果として得られたシステムは、既存のトランジションベースモデルをすべて上回るだけでなく、SemEval 2015 18の英語データセットでこれまでで最高の完全教師付き精度を達成している。
論文 参考訳（メタデータ） (2020-05-27T13:18:27Z) - pyBART: Evidence-based Syntactic Transformations for IE [52.93947844555369]
pyBARTは、英語のUD木を拡張UDグラフに変換するためのオープンソースのPythonライブラリである。
パターンに基づく関係抽出のシナリオで評価すると、より少ないパターンを必要としながら、より高精細なUDよりも高い抽出スコアが得られる。
論文 参考訳（メタデータ） (2020-05-04T07:38:34Z) - Discontinuous Constituent Parsing with Pointer Networks [0.34376560669160383]
不連続な構成木は、ドイツ語のような言語の文法的な現象を表現するのに不可欠である。
係り受け解析の最近の進歩は、ポインタネットワークが文中の単語間の構文関係を効率的に解析することに優れていることを示している。
本稿では,最も正確な不連続な構成表現を生成するニューラルネットワークアーキテクチャを提案する。
論文 参考訳（メタデータ） (2020-02-05T15:12:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。