論文の概要: Group is better than individual: Exploiting Label Topologies and Label
Relations for Joint Multiple Intent Detection and Slot Filling
- arxiv url: http://arxiv.org/abs/2210.10369v1
- Date: Wed, 19 Oct 2022 08:21:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 12:51:03.100387
- Title: Group is better than individual: Exploiting Label Topologies and Label
Relations for Joint Multiple Intent Detection and Slot Filling
- Title(参考訳): 集団は個人より優れている:複数意図検出とスロット充填のためのラベルトポロジーとラベル関係の活用
- Authors: Bowen Xing and Ivor W. Tsang
- Abstract要約: 我々は2種類のトポロジーを含む異種ラベルグラフ(HLG)を構築した。
ラベル相関を利用してセマンティック・ラベルの相互作用を強化する。
また,ラベルに依存しないデコード機構を提案し,デコードのためのラベル相関をさらに活用する。
- 参考スコア(独自算出の注目度): 39.76268402567324
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent joint multiple intent detection and slot filling models employ label
embeddings to achieve the semantics-label interactions. However, they treat all
labels and label embeddings as uncorrelated individuals, ignoring the
dependencies among them. Besides, they conduct the decoding for the two tasks
independently, without leveraging the correlations between them. Therefore, in
this paper, we first construct a Heterogeneous Label Graph (HLG) containing two
kinds of topologies: (1) statistical dependencies based on labels'
co-occurrence patterns and hierarchies in slot labels; (2) rich relations among
the label nodes. Then we propose a novel model termed ReLa-Net. It can capture
beneficial correlations among the labels from HLG. The label correlations are
leveraged to enhance semantic-label interactions. Moreover, we also propose the
label-aware inter-dependent decoding mechanism to further exploit the label
correlations for decoding. Experiment results show that our ReLa-Net
significantly outperforms previous models. Remarkably, ReLa-Net surpasses the
previous best model by over 20\% in terms of overall accuracy on MixATIS
dataset.
- Abstract(参考訳): 最近のジョイント多重インテント検出とスロット充填モデルは、意味論とラベルの相互作用を達成するためにラベル埋め込みを用いる。
しかし、それらはすべてのラベルとラベル埋め込みを無相関な個人として扱い、それらの間の依存関係を無視している。
さらに、両者の相関を生かさずに、2つのタスクを独立してデコードする。
そこで本稿では,(1)ラベルの共起パターンとスロットラベルの階層に基づく統計的依存関係,(2)ラベルノード間のリッチな関係,という2種類のトポロジを含む不均質ラベルグラフ(hlg)を構築した。
次に、ReLa-Netと呼ばれる新しいモデルを提案する。
HLGからラベル間の有益な相関を捉えることができる。
ラベル相関を利用して意味-ラベル相互作用を強化する。
また,ラベルに依存しないデコード機構を提案し,デコードのためのラベル相関をさらに活用する。
実験の結果、ReLa-Netは従来のモデルよりも大幅に優れていた。
驚くべきことに、rela-netはmixatisデータセットの全体的な正確性の観点から、以前のベストモデルを20%以上上回っている。
関連論文リスト
- Bridging the Gap between Model Explanations in Partially Annotated
Multi-label Classification [85.76130799062379]
偽陰性ラベルがモデルの説明にどのように影響するかを考察する。
本稿では,部分ラベルで学習したモデルの属性スコアを向上し,その説明をフルラベルで学習したモデルと類似させる。
論文 参考訳(メタデータ) (2023-04-04T14:00:59Z) - Pairwise Instance Relation Augmentation for Long-tailed Multi-label Text
Classification [38.66674700075432]
Pairwise Instance Relation Augmentation Network (PIRAN) を提案する。
PIRANはSOTA法を一貫して上回り、テールラベルの性能を劇的に向上させる。
論文 参考訳(メタデータ) (2022-11-19T12:45:54Z) - Multi-label Classification with High-rank and High-order Label
Correlations [62.39748565407201]
従来の手法では, ラベル行列を低ランク行列係数化した潜在ラベル空間に変換することにより, 高階ラベル相関を捕えることができた。
本稿では,高次ラベル相関を明示的に記述する簡易かつ効果的な手法を提案し,同時にラベル行列の高次値を維持する。
12個のベンチマークデータセットの比較研究により,マルチラベル分類における提案アルゴリズムの有効性が検証された。
論文 参考訳(メタデータ) (2022-07-09T05:15:31Z) - Enhancing Label Correlation Feedback in Multi-Label Text Classification
via Multi-Task Learning [6.1538971100140145]
ラベル相関フィードバックを高めるために,マルチタスク学習を用いた新しい手法を提案する。
本稿では,ラベル相関学習を強化するための2つの補助ラベル共起予測タスクを提案する。
論文 参考訳(メタデータ) (2021-06-06T12:26:14Z) - A Study on the Autoregressive and non-Autoregressive Multi-label
Learning [77.11075863067131]
本稿では,ラベルとラベルの依存関係を共同で抽出する自己アテンションに基づく変分エンコーダモデルを提案する。
したがって、ラベルラベルとラベル機能の両方の依存関係を保ちながら、すべてのラベルを並列に予測することができる。
論文 参考訳(メタデータ) (2020-12-03T05:41:44Z) - Knowledge-Guided Multi-Label Few-Shot Learning for General Image
Recognition [75.44233392355711]
KGGRフレームワークは、ディープニューラルネットワークと統計ラベル相関の事前知識を利用する。
まず、統計ラベルの共起に基づいて異なるラベルを相関させる構造化知識グラフを構築する。
次に、ラベルセマンティクスを導入し、学習セマンティクス固有の特徴をガイドする。
グラフノードの相互作用を探索するためにグラフ伝搬ネットワークを利用する。
論文 参考訳(メタデータ) (2020-09-20T15:05:29Z) - Few-shot Slot Tagging with Collapsed Dependency Transfer and
Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。
実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-10T07:50:44Z) - Multi-Label Text Classification using Attention-based Graph Neural
Network [0.0]
ラベル間の注意的依存構造を捉えるために,グラフアテンションネットワークに基づくモデルを提案する。
提案モデルでは, 従来の最先端モデルと比較して, 類似あるいは良好な性能が得られた。
論文 参考訳(メタデータ) (2020-03-22T17:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。