論文の概要: A Co-Interactive Transformer for Joint Slot Filling and Intent Detection
- arxiv url: http://arxiv.org/abs/2010.03880v3
- Date: Mon, 8 Mar 2021 05:44:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-09 12:06:16.431802
- Title: A Co-Interactive Transformer for Joint Slot Filling and Intent Detection
- Title(参考訳): ジョイントスロット充填用共動変圧器とインテント検出
- Authors: Libo Qin, Tailu Liu, Wanxiang Che, Bingbing Kang, Sendong Zhao, Ting
Liu
- Abstract要約: 音声言語理解システム(SLU)を構築する上では,インテント検出とスロットフィリングが主要な2つのタスクである。
以前の研究では、2つのタスクを個別にモデル化するか、インテントからスロットへの単一の情報フローのみを考慮していた。
本稿では,2つのタスク間の相互影響を同時に検討するコ・インターアクティブ・トランスフォーマーを提案する。
- 参考スコア(独自算出の注目度): 61.109486326954205
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Intent detection and slot filling are two main tasks for building a spoken
language understanding (SLU) system. The two tasks are closely related and the
information of one task can be utilized in the other task. Previous studies
either model the two tasks separately or only consider the single information
flow from intent to slot. None of the prior approaches model the bidirectional
connection between the two tasks simultaneously. In this paper, we propose a
Co-Interactive Transformer to consider the cross-impact between the two tasks.
Instead of adopting the self-attention mechanism in vanilla Transformer, we
propose a co-interactive module to consider the cross-impact by building a
bidirectional connection between the two related tasks. In addition, the
proposed co-interactive module can be stacked to incrementally enhance each
other with mutual features. The experimental results on two public datasets
(SNIPS and ATIS) show that our model achieves the state-of-the-art performance
with considerable improvements (+3.4% and +0.9% on overall acc). Extensive
experiments empirically verify that our model successfully captures the mutual
interaction knowledge.
- Abstract(参考訳): 音声言語理解システム(SLU)を構築する上で,インテント検出とスロット充填が主な課題である。
2つのタスクは密接に関連しており、1つのタスクの情報は他のタスクで利用することができる。
以前の研究では、2つのタスクを別々にモデル化するか、インテントからスロットへの単一の情報フローのみを考慮していた。
どちらの手法も同時に2つのタスク間の双方向接続をモデル化していない。
本稿では,2つのタスク間の相互影響を考慮したコ・インターアクティブ・トランスフォーマを提案する。
バニラ変圧器の自己保持機構を採用する代わりに,2つのタスク間の双方向接続を構築することにより,相互影響を考慮した相互対応モジュールを提案する。
さらに、提案された協調モジュールを積み重ねることで、相互機能によって相互に拡張することができる。
2つの公開データセット(snipsとatis)における実験結果から,本モデルの性能は大幅に向上した(acc全体で+3.4%,+0.9%)。
広範な実験により,モデルが相互インタラクションの知識をうまく捉えていることが実証された。
関連論文リスト
- Co-guiding for Multi-intent Spoken Language Understanding [53.30511968323911]
本稿では,2つのタスク間の相互指導を実現するための2段階のフレームワークを実装した,コガイドネットと呼ばれる新しいモデルを提案する。
第1段階では,単一タスクによる教師付きコントラスト学習を提案し,第2段階ではコガイドによる教師付きコントラスト学習を提案する。
マルチインテリジェントSLU実験の結果,我々のモデルは既存のモデルよりも大きなマージンで優れていることがわかった。
論文 参考訳(メタデータ) (2023-11-22T08:06:22Z) - Towards a Unified Transformer-based Framework for Scene Graph Generation
and Human-object Interaction Detection [116.21529970404653]
本稿では,Transformerアーキテクチャに基づく一段階統一モデルであるSG2HOI+を紹介する。
本手法では,SGGとHOI検出のタスクをシームレスに統一する2つの対話型階層変換器を用いる。
提案手法は最先端のHOI法と比較して競争性能が向上する。
論文 参考訳(メタデータ) (2023-11-03T07:25:57Z) - Joint Multiple Intent Detection and Slot Filling with Supervised
Contrastive Learning and Self-Distillation [4.123763595394021]
複数の意図の検出とスロットフィリングは、音声言語理解における基本的かつ重要なタスクである。
インテントを同時に検出し、スロットを抽出できるジョイントモデルが好ましい。
本稿では,これらの課題に対処して複数の意図の検出とスロットフィリングを行う手法を提案する。
論文 参考訳(メタデータ) (2023-08-28T15:36:33Z) - Multi-Grained Multimodal Interaction Network for Entity Linking [65.30260033700338]
マルチモーダルエンティティリンクタスクは、マルチモーダル知識グラフへの曖昧な言及を解決することを目的としている。
MELタスクを解決するための新しいMulti-Grained Multimodal InteraCtion Network $textbf(MIMIC)$ frameworkを提案する。
論文 参考訳(メタデータ) (2023-07-19T02:11:19Z) - A Partition Filter Network for Joint Entity and Relation Extraction [24.177745696948744]
本稿では,タスク間の双方向相互作用を適切にモデル化する分割フィルタネットワークを提案する。
エンコーダでは、エンティティとリレーショナルゲートという2つのゲートを利用して、ニューロンを2つのタスクパーティションと1つの共有パーティションに分割する。
5つの公開データセットの実験結果から,我々のモデルは従来の手法よりもはるかに優れた性能を示した。
論文 参考訳(メタデータ) (2021-08-27T09:44:23Z) - DCR-Net: A Deep Co-Interactive Relation Network for Joint Dialog Act
Recognition and Sentiment Classification [77.59549450705384]
ダイアログシステムでは、ダイアログアクト認識と感情分類は2つの相関タスクである。
既存のシステムのほとんどは、それらを別々のタスクとして扱うか、単に2つのタスクを一緒にモデル化するだけです。
本稿では,2つのタスク間の相互作用をモデル化するディープ・コ・インタラクティブ・リレーショナル・ネットワーク(DCR-Net)を提案する。
論文 参考訳(メタデータ) (2020-08-16T14:13:32Z) - Asynchronous Interaction Aggregation for Action Detection [43.34864954534389]
本稿では,異なるインタラクションを活用して動作検出を促進する非同期インタラクション集約ネットワーク(AIA)を提案する。
ひとつはインタラクション集約構造(IA)で、複数のタイプのインタラクションをモデル化し統合するための一様パラダイムを採用し、もうひとつはパフォーマンス向上を実現するための非同期メモリ更新アルゴリズム(AMU)です。
論文 参考訳(メタデータ) (2020-04-16T07:03:20Z) - Cascaded Human-Object Interaction Recognition [175.60439054047043]
マルチステージで粗大なHOI理解のためのカスケードアーキテクチャを提案する。
各段階で、インスタンスローカライゼーションネットワークは、HOI提案を段階的に洗練し、インタラクション認識ネットワークにフィードする。
慎重に設計された人間中心の関係機能により、これらの2つのモジュールは効果的な相互作用理解に向けて協調的に機能する。
論文 参考訳(メタデータ) (2020-03-09T17:05:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。