論文の概要: Semantic Parsing in Task-Oriented Dialog with Recursive Insertion-based
Encoder
- arxiv url: http://arxiv.org/abs/2109.04500v1
- Date: Thu, 9 Sep 2021 18:23:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-14 05:14:32.000755
- Title: Semantic Parsing in Task-Oriented Dialog with Recursive Insertion-based
Encoder
- Title(参考訳): Recursive Insertion-based Encoder を用いたタスク指向対話における意味解析
- Authors: Elman Mansimov and Yi Zhang
- Abstract要約: 本稿では,タスク指向対話における意味解析のための再帰型Insertion-based entity recognition(RINE)手法を提案する。
RINEは,対話型セマンティック解析ベンチマークTOPの低リソース版と高リソース版において,最先端のマッチング精度を実現する。
提案手法は推論時のシーケンス・ツー・シーケンス・モデルよりも2-3.5倍高速である。
- 参考スコア(独自算出の注目度): 6.507504084891086
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce a Recursive INsertion-based Encoder (RINE), a novel approach for
semantic parsing in task-oriented dialog. Our model consists of an encoder
network that incrementally builds the semantic parse tree by predicting the
non-terminal label and its positions in the linearized tree. At the generation
time, the model constructs the semantic parse tree by recursively inserting the
predicted non-terminal labels at the predicted positions until termination.
RINE achieves state-of-the-art exact match accuracy on low- and high-resource
versions of the conversational semantic parsing benchmark TOP (Gupta et al.,
2018; Chen et al., 2020), outperforming strong sequence-to-sequence models and
transition-based parsers. We also show that our model design is applicable to
nested named entity recognition task, where it performs on par with
state-of-the-art approach designed for that task. Finally, we demonstrate that
our approach is 2-3.5 times faster than the sequence-to-sequence model at
inference time.
- Abstract(参考訳): 本稿では,タスク指向対話における意味解析の新しいアプローチであるRecursive INsertion-based Encoder (RINE)を紹介する。
本モデルは,非終端ラベルとその線形化木の位置を予測して意味構文解析木を漸進的に構築するエンコーダネットワークからなる。
生成時には、予測された非終端ラベルを予測された位置に再帰的に挿入して意味構文解析木を構築する。
rineは、conversational semantic parsing benchmark top(gupta et al., 2018; chen et al., 2020)の低リソースバージョンにおいて、最先端の正確なマッチング精度を実現し、強いシーケンスからシーケンスへのモデルとトランジッションベースのパーサよりも優れている。
また、このモデル設計はネストした名前付きエンティティ認識タスクに適用可能であり、そのタスク用に設計された最先端のアプローチと同等の性能を発揮することを示した。
最後に,提案手法は推定時のシーケンシャル・ツー・シーケンスモデルよりも2~3.5倍高速であることを示す。
関連論文リスト
- PosFormer: Recognizing Complex Handwritten Mathematical Expression with Position Forest Transformer [51.260384040953326]
手書き数学的表現認識(HMER)は、人間と機械の相互作用シナリオに広く応用されている。
本稿では,HMERのための位置フォレスト変換器(PosFormer)を提案する。
PosFormerは、最先端のメソッドである2.03%/1.22%/2、1.83%、および4.62%を一貫して上回っている。
論文 参考訳(メタデータ) (2024-07-10T15:42:58Z) - Pushdown Layers: Encoding Recursive Structure in Transformer Language
Models [86.75729087623259]
再帰は人間の言語の特徴であり、本質的には自己注意に挑戦する。
この作業では、新しいセルフアテンション層であるPushdown Layersを導入している。
プッシュダウン層を備えたトランスフォーマーは、劇的に改善され、3.5倍の高効率な構文一般化を実現した。
論文 参考訳(メタデータ) (2023-10-29T17:27:18Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - Compositional Generalization without Trees using Multiset Tagging and
Latent Permutations [121.37328648951993]
まず、各入力トークンに複数の出力トークンをタグ付けします。
次に、新しいパラメータ化法と置換予測法を用いて、トークンを出力シーケンスに配置する。
我々のモデルは、事前訓練されたセq2seqモデルと、現実的なセマンティック解析タスクに関する先行研究より優れている。
論文 参考訳(メタデータ) (2023-05-26T14:09:35Z) - Lexicon-injected Semantic Parsing for Task-Oriented Dialog [31.42253032456493]
本稿では,木表現のスロットラベルをレキシコンとして収集し,木ノードのスパン表現に語彙的特徴を注入する新規なレキシコン意味注入法を提案する。
我々の最良の結果はTOPデータセット上で新しい最先端結果(87.62%)を生成し、実際のタスク指向ダイアログにおける頻繁な更新スロット辞書エントリへの適応性を示す。
論文 参考訳(メタデータ) (2022-11-26T07:59:20Z) - Hierarchical Phrase-based Sequence-to-Sequence Learning [94.10257313923478]
本稿では、学習中の帰納バイアスの源として階層的フレーズを取り入れ、推論中の明示的な制約として、標準的なシーケンス・ツー・シーケンス(seq2seq)モデルの柔軟性を維持するニューラルトランスデューサについて述べる。
本手法では,木が原文と対象句を階層的に整列するブラケット文法に基づく識別的導出法と,整列した句を1対1で翻訳するニューラルネットワークセク2セックモデルという2つのモデルを訓練する。
論文 参考訳(メタデータ) (2022-11-15T05:22:40Z) - Compositional Task-Oriented Parsing as Abstractive Question Answering [25.682923914685063]
タスク指向構文解析は、自然言語をアラームの設定など特定のタスクの機械可読表現に変換することを目的としている。
TOP に対する一般的なアプローチは、線形化されたパースツリーを生成するために seq2seq モデルを適用することである。
より最近の研究は、事前訓練されたSeq2seqモデルは、それ自体が自然言語である出力を生成するのに優れており、線形化されたパースツリーを標準自然言語のパラフレーズに置き換えていると主張している。
論文 参考訳(メタデータ) (2022-05-04T14:01:08Z) - X2Parser: Cross-Lingual and Cross-Domain Framework for Task-Oriented
Compositional Semantic Parsing [51.81533991497547]
タスク指向コンポジションセマンティックパーシング(TCSP)は複雑なネストされたユーザクエリを処理する。
本報告では,TCSPの変換可能なクロスランガルとクロスドメインを比較した。
本稿では,フラット化意図とスロット表現を別々に予測し,両方の予測タスクをシーケンスラベリング問題にキャストすることを提案する。
論文 参考訳(メタデータ) (2021-06-07T16:40:05Z) - Top-down Discourse Parsing via Sequence Labelling [33.46519116869276]
本稿では,前者よりも概念的にシンプルである談話解析へのトップダウンアプローチを提案する。
タスクをシーケンスラベリング問題としてフレーミングすることにより、デコーダを排除し、分割点の探索スペースを削減できる。
提案するLSTMモデルでは, フルメトリックに基づいて, RST解析のための新しい最先端モデルを構築した。
論文 参考訳(メタデータ) (2021-02-03T14:30:21Z) - Generating Synthetic Data for Task-Oriented Semantic Parsing with
Hierarchical Representations [0.8203855808943658]
本研究では,ニューラルセマンティック解析のための合成データ生成の可能性を検討する。
具体的には、まず既存のラベル付き発話からマスク付きテンプレートを抽出し、次に微調整BARTを用いて合成発話条件を生成する。
ナビゲーション領域のためのFacebook TOPデータセットを評価する際に、我々のアプローチの可能性を示す。
論文 参考訳(メタデータ) (2020-11-03T22:55:40Z) - Hierarchical Pre-training for Sequence Labelling in Spoken Dialog [10.216901061363641]
音声対話に適応した汎用表現を学習するための新しい手法を提案する。
変換器アーキテクチャに基づく階層エンコーダを用いて表現を得る。
プレトレーニングはOpenSubtitles(英語版)で行われ、2.3億ドル以上のトークンを含む対話ダイアログの大規模なコーパスである。
論文 参考訳(メタデータ) (2020-09-23T13:54:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。