論文の概要: A Fast Attention Network for Joint Intent Detection and Slot Filling on
Edge Devices
- arxiv url: http://arxiv.org/abs/2205.07646v1
- Date: Mon, 16 May 2022 13:06:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-17 17:40:41.288002
- Title: A Fast Attention Network for Joint Intent Detection and Slot Filling on
Edge Devices
- Title(参考訳): エッジデバイスにおけるジョイントインテント検出とスロットフィリングのための高速注意ネットワーク
- Authors: Liang Huang, Senjie Liang, Feiyang Ye, Nan Gao
- Abstract要約: 本稿では,FAN(Fast Attention Network)を提案する。
FANは異なるエンコーダで実装でき、各速度レベルでより正確なモデルを提供する。
我々のJetson Nanoプラットフォームにおける実験により,FANは1秒あたり15発の発話を少ない精度で推定し,エッジデバイス上での有効性と効率性を示した。
- 参考スコア(独自算出の注目度): 5.982036462074887
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Intent detection and slot filling are two main tasks in natural language
understanding and play an essential role in task-oriented dialogue systems. The
joint learning of both tasks can improve inference accuracy and is popular in
recent works. However, most joint models ignore the inference latency and
cannot meet the need to deploy dialogue systems at the edge. In this paper, we
propose a Fast Attention Network (FAN) for joint intent detection and slot
filling tasks, guaranteeing both accuracy and latency. Specifically, we
introduce a clean and parameter-refined attention module to enhance the
information exchange between intent and slot, improving semantic accuracy by
more than 2%. FAN can be implemented on different encoders and delivers more
accurate models at every speed level. Our experiments on the Jetson Nano
platform show that FAN inferences fifteen utterances per second with a small
accuracy drop, showing its effectiveness and efficiency on edge devices.
- Abstract(参考訳): インテント検出とスロット充填は、自然言語理解における2つの主なタスクであり、タスク指向対話システムにおいて重要な役割を果たす。
両タスクの合同学習により推論精度が向上し,最近の研究で人気がある。
しかし、ほとんどのジョイントモデルでは推論遅延を無視し、エッジに対話システムをデプロイする必要性を満たせない。
本稿では,FAN(Fast Attention Network)を用いて,接続意図検出とスロット充足処理を行い,精度とレイテンシの両立を保証した。
具体的には,インテントとスロット間の情報交換を強化し,セマンティクスの精度を2%以上向上させる,クリーンでパラメータ改良されたアテンションモジュールを提案する。
FANは異なるエンコーダで実装でき、各速度レベルでより正確なモデルを提供する。
我々のJetson Nanoプラットフォームにおける実験により,FANは1秒あたり15発の発話を少ない精度で推定し,エッジデバイス上での有効性と効率性を示した。
関連論文リスト
- A Point-Based Approach to Efficient LiDAR Multi-Task Perception [49.91741677556553]
PAttFormerは、ポイントクラウドにおける共同セマンティックセグメンテーションとオブジェクト検出のための効率的なマルチタスクアーキテクチャである。
他のLiDARベースのマルチタスクアーキテクチャとは異なり、提案したPAttFormerはタスク固有のポイントクラウド表現のために別の機能エンコーダを必要としない。
マルチタスク学習では,mIouでは+1.7%,mAPでは3Dオブジェクト検出では+1.7%,LiDARセマンティックセマンティックセグメンテーションは+1.7%向上した。
論文 参考訳(メタデータ) (2024-04-19T11:24:34Z) - Joint Multiple Intent Detection and Slot Filling with Supervised
Contrastive Learning and Self-Distillation [4.123763595394021]
複数の意図の検出とスロットフィリングは、音声言語理解における基本的かつ重要なタスクである。
インテントを同時に検出し、スロットを抽出できるジョイントモデルが好ましい。
本稿では,これらの課題に対処して複数の意図の検出とスロットフィリングを行う手法を提案する。
論文 参考訳(メタデータ) (2023-08-28T15:36:33Z) - Task Conditioned BERT for Joint Intent Detection and Slot-filling [4.564638655448509]
本稿では,これらの課題を一つの統一モデルとして解決することで,異なるタスク間でパラメータ支援データの転送が可能になるという仮説を考察する。
提案した原理モデルはTransformerエンコーダに基づいており、複数のタスクで訓練され、ターゲットの推論にモデルを条件付けるリッチな入力によって活用される。
論文 参考訳(メタデータ) (2023-08-11T14:47:27Z) - Multi-view Point Cloud Registration based on Evolutionary Multitasking
with Bi-Channel Knowledge Sharing Mechanism [29.232021965321408]
本稿ではマルチタスク最適化として登録問題をモデル化する。
効率的かつ効率的な問題解決のための新しい双方向知識共有機構を提案する。
論文 参考訳(メタデータ) (2022-05-06T03:26:16Z) - Decoupled and Memory-Reinforced Networks: Towards Effective Feature
Learning for One-Step Person Search [65.51181219410763]
歩行者検出と識別サブタスクを1つのネットワークで処理するワンステップ方式を開発しました。
現在のワンステップアプローチには2つの大きな課題があります。
本稿では,これらの問題を解決するために,分離メモリ強化ネットワーク(DMRNet)を提案する。
論文 参考訳(メタデータ) (2021-02-22T06:19:45Z) - AFD-Net: Adaptive Fully-Dual Network for Few-Shot Object Detection [8.39479809973967]
Few-shot Object Detection (FSOD) は、未確認の物体に迅速に適応できる検出器の学習を目的としている。
既存の方法では、共有コンポーネントを用いて分類と局所化のサブタスクを実行することで、この問題を解決している。
本稿では,2つのサブタスクの明示的な分解を考慮し,両者の情報を活用して特徴表現の強化を図ることを提案する。
論文 参考訳(メタデータ) (2020-11-30T10:21:32Z) - Discriminative Nearest Neighbor Few-Shot Intent Detection by
Transferring Natural Language Inference [150.07326223077405]
データ不足を緩和するためには、ほとんどショットラーニングが注目を集めている。
深部自己注意を伴う識別的近傍分類を提示する。
自然言語推論モデル(NLI)を変換することで識別能力を高めることを提案する。
論文 参考訳(メタデータ) (2020-10-25T00:39:32Z) - A Co-Interactive Transformer for Joint Slot Filling and Intent Detection [61.109486326954205]
音声言語理解システム(SLU)を構築する上では,インテント検出とスロットフィリングが主要な2つのタスクである。
以前の研究では、2つのタスクを個別にモデル化するか、インテントからスロットへの単一の情報フローのみを考慮していた。
本稿では,2つのタスク間の相互影響を同時に検討するコ・インターアクティブ・トランスフォーマーを提案する。
論文 参考訳(メタデータ) (2020-10-08T10:16:52Z) - FairMOT: On the Fairness of Detection and Re-Identification in Multiple
Object Tracking [92.48078680697311]
マルチオブジェクトトラッキング(MOT)はコンピュータビジョンにおいて重要な問題である。
本稿では,FairMOTと呼ばれる,アンカーフリーなオブジェクト検出アーキテクチャCenterNetをベースとした,シンプルかつ効果的なアプローチを提案する。
このアプローチは、検出と追跡の両方において高い精度を達成する。
論文 参考訳(メタデータ) (2020-04-04T08:18:00Z) - Depthwise Non-local Module for Fast Salient Object Detection Using a
Single Thread [136.2224792151324]
本稿では,高速な物体検出のための新しいディープラーニングアルゴリズムを提案する。
提案アルゴリズムは,1つのCPUスレッドと同時に,競合精度と高い推論効率を実現する。
論文 参考訳(メタデータ) (2020-01-22T15:23:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。