論文の概要: Elastic CRFs for Open-ontology Slot Filling
- arxiv url: http://arxiv.org/abs/1811.01331v2
- Date: Wed, 29 May 2024 22:21:38 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-02 14:47:20.263714
- Title: Elastic CRFs for Open-ontology Slot Filling
- Title(参考訳): オープンオントロジースロット充填のための弾性CRF
- Authors: Yinpei Dai, Yichi Zhang, Hong Liu, Zhijian Ou, Yi Huang, Junlan Feng,
- Abstract要約: スロットフィリングはタスク指向の対話システムにおいて重要なコンポーネントであり、(ユーザ)発話をスロットと呼ばれるセマンティックな概念にパースするために使用される。
本稿では,各スロットが自然言語記述の埋め込みによって表現される弾性条件乱数場(eCRF)という新しいモデルを提案する。
スロットに対する言語記述が利用可能であれば、eCRFによって新しいスロット値を検出することができる。
- 参考スコア(独自算出の注目度): 32.17803768259441
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Slot filling is a crucial component in task-oriented dialog systems that is used to parse (user) utterances into semantic concepts called slots. An ontology is defined by the collection of slots and the values that each slot can take. The most widely used practice of treating slot filling as a sequence labeling task suffers from two main drawbacks. First, the ontology is usually pre-defined and fixed and therefore is not able to detect new labels for unseen slots. Second, the one-hot encoding of slot labels ignores the correlations between slots with similar semantics, which makes it difficult to share knowledge learned across different domains. To address these problems, we propose a new model called elastic conditional random field (eCRF), where each slot is represented by the embedding of its natural language description and modeled by a CRF layer. New slot values can be detected by eCRF whenever a language description is available for the slot. In our experiment, we show that eCRFs outperform existing models in both in-domain and cross-domain tasks, especially in predicting unseen slots and values.
- Abstract(参考訳): スロットフィリングはタスク指向の対話システムにおいて重要なコンポーネントであり、(ユーザ)発話をスロットと呼ばれるセマンティックな概念にパースするために使用される。
オントロジーはスロットの集合と各スロットが取ることのできる値によって定義される。
スロットフィリングをシーケンスラベリングタスクとして扱う最も広く使われているプラクティスは、2つの主な欠点に悩まされている。
まず、オントロジーは通常事前に定義され、固定されているため、目に見えないスロットの新しいラベルを検出できない。
第二に、スロットラベルのワンホット符号化は、スロットと類似のセマンティクスとの相関を無視するので、異なるドメインで学んだ知識を共有することは困難である。
これらの問題に対処するために,各スロットは自然言語記述の埋め込みによって表現され,CRF層でモデル化される弾性条件付きランダムフィールド(eCRF)と呼ばれる新しいモデルを提案する。
スロットに対する言語記述が利用可能であれば、eCRFによって新しいスロット値を検出することができる。
実験の結果,eCRFはドメイン内タスクとクロスドメインタスクの両方において既存のモデルよりも優れており,特に未確認スロットや値の予測において優れていることがわかった。
関連論文リスト
- OpenSlot: Mixed Open-set Recognition with Object-centric Learning [21.933996792254998]
オープンセット認識(OSR)研究は通常、各画像は1つのクラスラベルしか持たず、未知のテストセット(負)は既知のテストセット(正)から切り離されたラベル空間を持つと仮定する。
本稿では、テスト画像が複数のクラスセマンティクスを含み、既知のクラスと未知のクラスが負に共起する混合OSR問題を紹介する。
オブジェクト指向学習に基づくOpenSlotフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-02T16:00:55Z) - Adaptive Slot Attention: Object Discovery with Dynamic Slot Number [64.45419820717754]
スロットアテンションを含むほとんどのオブジェクト中心モデルの大きな欠点は、スロットの数を事前に定義することに依存することである。
本フレームワークでは,最適スロット数を動的に決定するアダプティブスロットアテンション(AdaSlot)機構を導入する。
我々のフレームワークは、さまざまなデータセットでオブジェクト発見タスクを広範囲にテストし、パフォーマンスの整合性を示すか、上位の固定スロットモデルを超えるかを示す。
論文 参考訳(メタデータ) (2024-06-13T14:55:11Z) - Semantic Connectivity-Driven Pseudo-labeling for Cross-domain
Segmentation [89.41179071022121]
自己学習はドメイン間セマンティックセグメンテーションにおいて一般的なアプローチである。
本稿ではセマンティック・コネクティビティ駆動の擬似ラベル方式を提案する。
このアプローチは、接続レベルにおいて擬似ラベルを定式化し、構造的および低雑音のセマンティクスの学習を容易にする。
論文 参考訳(メタデータ) (2023-12-11T12:29:51Z) - HierarchicalContrast: A Coarse-to-Fine Contrastive Learning Framework
for Cross-Domain Zero-Shot Slot Filling [4.1940152307593515]
ドメイン間のゼロショットスロットフィリングは、モデルを学ぶためにソースドメイン知識を活用する上で重要な役割を果たす。
既存のゼロショットスロット充填法では、ターゲット領域での一般化能力が制限されている。
ゼロショットスロットフィリングのための新しい階層型コントラスト学習フレームワーク(HiCL)を提案する。
論文 参考訳(メタデータ) (2023-10-13T14:23:33Z) - Description-Enhanced Label Embedding Contrastive Learning for Text
Classification [65.01077813330559]
モデル学習プロセスにおける自己監督型学習(SSL)と新しい自己監督型関係関係(R2)分類タスクの設計
テキスト分類とR2分類を最適化対象として扱うテキスト分類のための関係学習ネットワーク(R2-Net)の関係について検討する。
ラベルセマンティックラーニングのためのマルチアスペクト記述を得るためのWordNetからの外部知識。
論文 参考訳(メタデータ) (2023-06-15T02:19:34Z) - Linguistically-Enriched and Context-Aware Zero-shot Slot Filling [6.06746295810681]
スロット充填は、現代のタスク指向ダイアログシステムの最も重要な課題の1つです。
新たなドメイン(すなわち、トレーニングの見当たらない)がデプロイ後に出現する可能性がある。
モデルがシームレスに適応し、見えないドメインと見えないドメインの両方からスロットを埋めることは必須である。
論文 参考訳(メタデータ) (2021-01-16T20:18:16Z) - Constrained Decoding for Computationally Efficient Named Entity
Recognition Taggers [15.279850826041066]
現在の研究は、スパン符号化方式がどのように機能するかについての事前知識を導き、遷移が違法であり、グローバルコヒーレンスを促進することができない条件付きランダムフィールド(CRF)学習に依存している。
不正な遷移を抑制するために出力を制限することにより、統計的に重要でないF1の違いでCRFの2倍の速度で、クロスエントロピー損失のタガーを訓練できることがわかった。
論文 参考訳(メタデータ) (2020-10-09T04:07:52Z) - Few-shot Slot Tagging with Collapsed Dependency Transfer and
Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。
実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-10T07:50:44Z) - Coach: A Coarse-to-Fine Approach for Cross-domain Slot Filling [65.09621991654745]
クロスドメインスロットフィリングはタスク指向ダイアログシステムにおいて重要なタスクである。
クロスドメインスロットフィリングのための粗粒度アプローチ(Coach)を提案する。
実験結果から,本モデルはスロット充填における最先端手法よりも優れていた。
論文 参考訳(メタデータ) (2020-04-24T13:07:12Z) - Prior Knowledge Driven Label Embedding for Slot Filling in Natural
Language Understanding [28.71402670240912]
本稿では,新しいラベル埋め込み型スロットフィリングフレームワークを提案する。
スロットに関する様々な事前知識を組み込むために,3つの符号化手法について検討した。
単一ドメインおよびドメイン適応タスクの実験は、ラベルの埋め込みが大幅なパフォーマンス向上を実現することを示している。
論文 参考訳(メタデータ) (2020-03-22T07:27:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。