論文の概要: Neural Unsupervised Semantic Role Labeling
- arxiv url: http://arxiv.org/abs/2104.09047v1
- Date: Mon, 19 Apr 2021 04:50:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-20 14:04:17.982845
- Title: Neural Unsupervised Semantic Role Labeling
- Title(参考訳): ニューラルネットワークによる意味的役割のラベル付け
- Authors: Kashif Munir, Hai Zhao, Zuchao Li
- Abstract要約: セマンティックロールラベリングのための最初の神経教師なしモデルを提案する。
タスクを2つの引数関連サブタスク、識別とクラスタリングとして分解する。
CoNLL-2009英語データセットの実験では、我々のモデルは過去の最先端のベースラインよりも優れていた。
- 参考スコア(独自算出の注目度): 48.69930912510414
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The task of semantic role labeling (SRL) is dedicated to finding the
predicate-argument structure. Previous works on SRL are mostly supervised and
do not consider the difficulty in labeling each example which can be very
expensive and time-consuming. In this paper, we present the first neural
unsupervised model for SRL. To decompose the task as two argument related
subtasks, identification and clustering, we propose a pipeline that
correspondingly consists of two neural modules. First, we train a neural model
on two syntax-aware statistically developed rules. The neural model gets the
relevance signal for each token in a sentence, to feed into a BiLSTM, and then
an adversarial layer for noise-adding and classifying simultaneously, thus
enabling the model to learn the semantic structure of a sentence. Then we
propose another neural model for argument role clustering, which is done
through clustering the learned argument embeddings biased towards their
dependency relations. Experiments on CoNLL-2009 English dataset demonstrate
that our model outperforms previous state-of-the-art baseline in terms of
non-neural models for argument identification and classification.
- Abstract(参考訳): セマンティック・ロール・ラベリング(SRL)の課題は述語句構造を見つけることにある。
SRLの以前の研究はほとんどが監督されており、非常に高価で時間を要する各例のラベル付けの難しさを考慮していない。
本稿では,SRLのための最初の神経教師なしモデルを提案する。
タスクを2つの引数関連サブタスク、識別とクラスタリングとして分解するために、2つのニューラルネットワークモジュールからなるパイプラインを提案する。
まず,2つの構文を考慮した統計的ルールに基づいてニューラルモデルを訓練する。
ニューラルモデルは、文中の各トークンの関連信号を取得し、BiLSTMに入力した後、ノイズ付加と分類のための逆層を同時に取得することにより、モデルの文の意味構造を学習することができる。
次に,学習された引数の組込みを依存関係に偏ってクラスタリングすることで,引数ロールクラスタリングのための新たなニューラルモデルを提案する。
conll-2009 英語データセットにおける実験により,本モデルは,議論の識別と分類のための非ニューラルモデルの観点から,これまでの最先端のベースラインよりも優れていることが示された。
関連論文リスト
- Provable Identifiability of Two-Layer ReLU Neural Networks via LASSO
Regularization [15.517787031620864]
LASSOの領域は、ファッショナブルで強力な非線形回帰モデルである2層ReLUニューラルネットワークに拡張される。
LASSO推定器はニューラルネットワークを安定的に再構築し,サンプル数が対数的にスケールする場合に$mathcalSstar$を識別可能であることを示す。
我々の理論は、2層ReLUニューラルネットワークのための拡張Restricted Isometry Property (RIP)ベースの分析フレームワークにある。
論文 参考訳(メタデータ) (2023-05-07T13:05:09Z) - Dependency-based Mixture Language Models [53.152011258252315]
依存性に基づく混合言語モデルを紹介する。
より詳しくは、依存関係モデリングの新たな目的により、まずニューラルネットワークモデルを訓練する。
次に、前回の依存性モデリング確率分布と自己意図を混合することにより、次の確率を定式化する。
論文 参考訳(メタデータ) (2022-03-19T06:28:30Z) - End-to-end Semantic Role Labeling with Neural Transition-based Model [25.921541005563856]
エンドツーエンドのセマンティックロールラベリング(SRL)が注目されています。
最近の研究は主にグラフベースのニューラルモデルに焦点を当てている。
本稿では,エンドツーエンドSRLのための遷移型ニューラルモデルについて紹介する。
論文 参考訳(メタデータ) (2021-01-02T07:35:54Z) - High-order Semantic Role Labeling [86.29371274587146]
本稿では,ニューラルセマンティックロールラベリングモデルのための高階グラフ構造を提案する。
これにより、モデルは孤立述語-引数対だけでなく、述語-引数対間の相互作用も明示的に考慮することができる。
CoNLL-2009ベンチマークの7つの言語に対する実験結果から、高次構造学習技術は強力なSRLモデルに有益であることが示された。
論文 参考訳(メタデータ) (2020-10-09T15:33:54Z) - Syntax Role for Neural Semantic Role Labeling [77.5166510071142]
意味的役割ラベリング(SRL)は、文の意味的述語・代名詞構造を認識することを目的としている。
従来のモデルでは、構文情報はSRLのパフォーマンスに顕著な貢献をする可能性がある。
最近の神経SRL研究は、構文情報は神経意味的役割のラベル付けにおいてはるかに重要でないことを示している。
論文 参考訳(メタデータ) (2020-09-12T07:01:12Z) - Closed Loop Neural-Symbolic Learning via Integrating Neural Perception,
Grammar Parsing, and Symbolic Reasoning [134.77207192945053]
従来の手法は強化学習アプローチを用いてニューラルシンボリックモデルを学ぶ。
我々は,脳神経知覚と記号的推論を橋渡しする前に,textbfgrammarモデルをテキストシンボリックとして導入する。
本稿では,トップダウンのヒューマンライクな学習手順を模倣して誤りを伝播する新しいtextbfback-searchアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-11T17:42:49Z) - Multi-Step Inference for Reasoning Over Paragraphs [95.91527524872832]
テキスト上の複雑な推論には、自由形式の述語と論理的な連結体を理解し、連鎖する必要がある。
本稿では,ニューラルネットワークを連想させる構成モデルを提案する。
論文 参考訳(メタデータ) (2020-04-06T21:12:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。