論文の概要: Order-sensitive Neural Constituency Parsing
- arxiv url: http://arxiv.org/abs/2211.00421v1
- Date: Tue, 1 Nov 2022 12:31:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-02 12:39:37.960075
- Title: Order-sensitive Neural Constituency Parsing
- Title(参考訳): 順序に敏感な神経構成解析
- Authors: Zhicheng Wang, Tianyu Shi, Liyin Xiao, Cong Liu
- Abstract要約: 本稿では, 従来のニューラルスパンベースCKYデコーダの改良手法を提案する。
従来のスパンベースの復号法とは対照的に、スパンの組み合わせスコアが順序に敏感なベースからより慎重に導出される、順序に敏感な戦略を導入する。
我々のデコーダは,低レベルスパンを高レベルスパンに組み合わせるための細粒度スコアリング方式を決定する際に,既存のスパンベースデコーダの一般化と見なすことができる。
- 参考スコア(独自算出の注目度): 9.858565876426411
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a novel algorithm that improves on the previous neural span-based
CKY decoder for constituency parsing. In contrast to the traditional span-based
decoding, where spans are combined only based on the sum of their scores, we
introduce an order-sensitive strategy, where the span combination scores are
more carefully derived from an order-sensitive basis. Our decoder can be
regarded as a generalization over existing span-based decoder in determining a
finer-grain scoring scheme for the combination of lower-level spans into
higher-level spans, where we emphasize on the order of the lower-level spans
and use order-sensitive span scores as well as order-sensitive combination
grammar rule scores to enhance prediction accuracy. We implement the proposed
decoding strategy harnessing GPU parallelism and achieve a decoding speed on
par with state-of-the-art span-based parsers. Using the previous
state-of-the-art model without additional data as our baseline, we outperform
it and improve the F1 score on the Penn Treebank Dataset by 0.26% and on the
Chinese Treebank Dataset by 0.35%.
- Abstract(参考訳): 本稿では,従来のニューラルスパンベースckyデコーダによる構成解析を改良した新しいアルゴリズムを提案する。
従来のスパンベースのデコードとは対照的に,スパンがスコアの和のみに基づいて結合される場合,スパンの組み合わせスコアが順序に敏感なベースからより注意深く導出される順序に敏感な戦略を導入する。
このデコーダは,低レベルスパンと高レベルスパンの組み合わせに対する粒度スコアリングスキームの決定において,既存のスパンベースのデコーダに対する一般化と見なすことができ,低レベルスパンの順序を重視し,順序に敏感なスパンスコアと順序に敏感な組合せ文法規則スコアを用いて予測精度を向上させる。
我々は,GPU並列性を利用した復号化戦略を実装し,最先端のスパンベースパーサと同等の復号化速度を実現する。
これまでの最先端モデルをベースラインとして追加データなしで使用することにより,penn treebankデータセットのf1スコアを0.26%,china treebankデータセットを0.35%改善した。
関連論文リスト
- Learning-to-Rank Meets Language: Boosting Language-Driven Ordering
Alignment for Ordinal Classification [60.28913031192201]
順序分類のための新しい言語駆動順序付け手法を提案する。
事前学習された視覚言語モデルの最近の発展は、人間の言語におけるリッチな順序性を活用するきっかけとなった。
顔の年齢推定,ヒストリカルカラーイメージ(HCI)分類,美的評価を含む3つの日常的分類課題の実験は,その有望な性能を示す。
論文 参考訳(メタデータ) (2023-06-24T04:11:31Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - Fast Rule-Based Decoding: Revisiting Syntactic Rules in Neural
Constituency Parsing [9.858565876426411]
従来の研究では、構文規則に基づく確率論的統計手法が特に選挙区解析に有効であることが示されている。
本稿では,GPUアクセラレーションを利用した高速なCKY復号法を最初に実装し,さらに構文規則に基づく(ルール制約付き)CKY復号法を導出する。
論文 参考訳(メタデータ) (2022-12-16T13:07:09Z) - A Character-level Span-based Model for Mandarin Prosodic Structure
Prediction [36.90699361223442]
最適な韻律構造木を得るために,スパンに基づくマンダリン韻律構造予測モデルを提案する。
リッチ言語的特徴は漢字レベルのBERTによって提供され、自己注意型アーキテクチャでエンコーダに送信される。
提案手法は,異なるレベルの韻律ラベルを同時に予測し,その処理を漢字から直接行うことができる。
論文 参考訳(メタデータ) (2022-03-31T09:47:08Z) - Speaker Embedding-aware Neural Diarization: a Novel Framework for
Overlapped Speech Diarization in the Meeting Scenario [51.5031673695118]
重なり合う音声のダイアリゼーションを単一ラベル予測問題として再構成する。
話者埋め込み認識型ニューラルダイアリゼーション(SEND)システムを提案する。
論文 参考訳(メタデータ) (2022-03-18T06:40:39Z) - GNNRank: Learning Global Rankings from Pairwise Comparisons via Directed
Graph Neural Networks [68.61934077627085]
本稿では,グラフ埋め込みを学習可能なGNNと互換性のあるモデリングフレームワークであるGNNRankを紹介する。
既存の手法と比較して,我々の手法が競争力があり,しばしば優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2022-02-01T04:19:50Z) - Reinforcement Learning Based Query Vertex Ordering Model for Subgraph
Matching [58.39970828272366]
グラフマッチングアルゴリズムは、クエリグラフの埋め込みをデータグラフGに列挙する。
マッチング順序は、これらのバックトラックに基づくサブグラフマッチングアルゴリズムの時間効率において重要な役割を果たす。
本稿では,Reinforcement Learning (RL) と Graph Neural Networks (GNN) 技術を適用して,グラフマッチングアルゴリズムの高品質なマッチング順序を生成する。
論文 参考訳(メタデータ) (2022-01-25T00:10:03Z) - Headed Span-Based Projective Dependency Parsing [24.337440797369702]
本稿では,プロジェクティブ依存関係解析のための階層型スパンベース手法を提案する。
我々はニューラルネットワークを使って、グローバルトレーニングと正確な推論を可能にする、新しい$O(n3)$の動的プログラミングアルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-08-10T15:27:47Z) - Deep Diacritization: Efficient Hierarchical Recurrence for Improved
Arabic Diacritization [0.0]
本稿では,Tashkeela Arabic diacritizationベンチマークにおいて,文字列のラベル付けのための新しいアーキテクチャを提案する。
コアは2段階の繰り返し階層であり、単語レベルと文字レベルを別々に操作する。
クロスレベルアテンションモジュールは、さらにこの2つを接続し、ネットワーク解釈性のための扉を開く。
論文 参考訳(メタデータ) (2020-11-01T15:33:43Z) - Span-based Semantic Parsing for Compositional Generalization [53.24255235340056]
SpanBasedSPは入力発話上のスパンツリーを予測し、部分的なプログラムが入力内のスパンをどのように構成するかを明示的に符号化する。
GeoQuery、SCAN、CLOSUREでは、SpanBasedSPはランダムスプリットの強いseq2seqベースラインと似ているが、構成一般化を必要とするスプリットのベースラインに比べて劇的に性能が向上する。
論文 参考訳(メタデータ) (2020-09-13T16:42:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。