論文の概要: Revisit Out-Of-Vocabulary Problem for Slot Filling: A Unified
Contrastive Frameword with Multi-level Data Augmentations
- arxiv url: http://arxiv.org/abs/2302.13584v1
- Date: Mon, 27 Feb 2023 08:42:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-28 16:24:47.852819
- Title: Revisit Out-Of-Vocabulary Problem for Slot Filling: A Unified
Contrastive Frameword with Multi-level Data Augmentations
- Title(参考訳): スロット充填のボキャブラリー問題の再検討:マルチレベルデータ拡張を用いたコントラスト・フレームワードの統一
- Authors: Daichi Guo and Guanting Dong and Dayuan Fu and Yuxiang Wu and Chen
Zeng and Tingfeng Hui and Liwen Wang and Xuefeng Li and Zechen Wang and
Keqing He and Xinyue Cui and Weiran Xu
- Abstract要約: マルチレベルデータ拡張に基づくOOVロバストスロット充足モデルを提案する。
本稿では,原点サンプルと増補サンプルをまとめて表現する,一貫したコントラスト学習フレームワークを提案する。
2つのデータセットに対する実験により,従来のソタ手法よりもOOVスロットとワードの両面で優れていたことが判明した。
- 参考スコア(独自算出の注目度): 25.58584022851584
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In real dialogue scenarios, the existing slot filling model, which tends to
memorize entity patterns, has a significantly reduced generalization facing
Out-of-Vocabulary (OOV) problems. To address this issue, we propose an OOV
robust slot filling model based on multi-level data augmentations to solve the
OOV problem from both word and slot perspectives. We present a unified
contrastive learning framework, which pull representations of the origin sample
and augmentation samples together, to make the model resistant to OOV problems.
We evaluate the performance of the model from some specific slots and carefully
design test data with OOV word perturbation to further demonstrate the
effectiveness of OOV words. Experiments on two datasets show that our approach
outperforms the previous sota methods in terms of both OOV slots and words.
- Abstract(参考訳): 実対話シナリオでは、既存のスロットフィリングモデルはエンティティパターンを記憶する傾向があり、外語彙(OOV)問題に直面する一般化を著しく減少させる。
この問題に対処するために,複数レベルのデータ拡張に基づくOOVロバストスロット充填モデルを提案し,単語とスロットの両面からOOV問題を解決する。
本稿では,モデルがOOV問題に耐性を持つように,原点サンプルと増補サンプルの表現を併用したコントラスト学習フレームワークを提案する。
特定のスロットからモデルの性能を評価し、OOV単語摂動を用いたテストデータを慎重に設計し、OOV単語の有効性をさらに実証する。
2つのデータセットに対する実験により,従来のソタ手法よりもOOVスロットとワードの両面で優れていることが示された。
関連論文リスト
- How to Evaluate the Generalization of Detection? A Benchmark for
Comprehensive Open-Vocabulary Detection [25.506346503624894]
我々は,9つのサブタスクを含むOVDEvalという新しいベンチマークを提案し,コモンセンス知識の評価を導入する。
データセットは、モデルによる視覚的および言語的入力の真の理解に挑戦する強烈なネガティブを提供するために、慎重に作成されます。
論文 参考訳(メタデータ) (2023-08-25T04:54:32Z) - Towards General Visual-Linguistic Face Forgery Detection [95.73987327101143]
ディープフェイクは現実的な顔操作であり、セキュリティ、プライバシー、信頼に深刻な脅威をもたらす可能性がある。
既存の方法は、このタスクを、デジタルラベルまたはマスク信号を使用して検出モデルをトレーニングするバイナリ分類として扱う。
本稿では, 微粒な文レベルのプロンプトをアノテーションとして用いた, VLFFD (Visual-Linguistic Face Forgery Detection) という新しいパラダイムを提案する。
論文 参考訳(メタデータ) (2023-07-31T10:22:33Z) - Improving the Robustness of Summarization Systems with Dual Augmentation [68.53139002203118]
頑健な要約システムは、入力中の特定の単語の選択やノイズに関わらず、文書のギストをキャプチャできるべきである。
まず,単語レベルの同義語置換や雑音を含む摂動に対する要約モデルの頑健性について検討する。
SummAttackerを提案する。これは言語モデルに基づく対数サンプルを生成するための効率的な手法である。
論文 参考訳(メタデータ) (2023-06-01T19:04:17Z) - Deep Incomplete Multi-view Clustering with Cross-view Partial Sample and
Prototype Alignment [50.82982601256481]
深層不完全なマルチビュークラスタリングのためのクロスビュー部分サンプルとプロトタイプアライメントネットワーク(CPSPAN)を提案する。
従来のコントラストベースの手法とは異なり、インスタンスとインスタンスの対応構築を導くために、ペア観測データアライメントを「プロキシ監視信号」として採用する。
論文 参考訳(メタデータ) (2023-03-28T02:31:57Z) - Cluster-level pseudo-labelling for source-free cross-domain facial
expression recognition [94.56304526014875]
表情認識のためのSFUDA法を提案する。
本手法は,自己教師付き事前学習を利用して,対象データから優れた特徴表現を学習する。
提案手法の有効性を4つの適応方式で検証し,FERに適用した場合,既存のSFUDA法より一貫して優れていることを示す。
論文 参考訳(メタデータ) (2022-10-11T08:24:50Z) - UBARv2: Towards Mitigating Exposure Bias in Task-Oriented Dialogs [28.051423938045843]
トレーニング中にダイアログコンテキストのサンプル生成内容にモデルを明示的に公開するセッションレベルサンプリングを提案する。
我々は,マスク戦略R-Maskを用いたドロップアウト型整合性正規化を用いて,モデルの堅牢性と性能をさらに向上する。
UBARv2は、標準化された評価ベンチマークMultiWOZ上で最先端の性能を実現する。
論文 参考訳(メタデータ) (2022-09-15T12:14:46Z) - Discrete Auto-regressive Variational Attention Models for Text Modeling [53.38382932162732]
変分オートエンコーダ(VAE)はテキストモデリングに広く応用されている。
情報不足と後部崩壊という2つの課題に悩まされている。
本稿では,自己回帰変動注意モデル(DAVAM)を提案する。
論文 参考訳(メタデータ) (2021-06-16T06:36:26Z) - A Variational Information Bottleneck Approach to Multi-Omics Data
Integration [98.6475134630792]
本稿では,不完全な多視点観測のための深い変動情報ボトルネック (IB) 手法を提案する。
本手法は,対象物に関連のある視点内および視点間相互作用に焦点をあてるために,観測された視点の辺縁および結合表現にISBフレームワークを適用した。
実世界のデータセットの実験から、我々の手法はデータ統合から常に利益を得て、最先端のベンチマークより優れています。
論文 参考訳(メタデータ) (2021-02-05T06:05:39Z) - Learning Robust Representation for Clustering through Locality
Preserving Variational Discriminative Network [16.259673823482665]
Variational Deep Embeddingは、さまざまなクラスタリングタスクで大きな成功を収めます。
VaDEは,1)入力ノイズに弱い,2)隣接するデータポイント間の局所性情報を無視する,という2つの問題に悩まされている。
強固な埋め込み判別器と局所構造制約によりvadeを改善する共同学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-12-25T02:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。