論文の概要: Vector Projection Network for Few-shot Slot Tagging in Natural Language
Understanding
- arxiv url: http://arxiv.org/abs/2009.09568v2
- Date: Tue, 22 Sep 2020 07:48:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-16 04:40:52.626890
- Title: Vector Projection Network for Few-shot Slot Tagging in Natural Language
Understanding
- Title(参考訳): 自然言語理解におけるFew-shot Slot Taggingのためのベクトル投影ネットワーク
- Authors: Su Zhu, Ruisheng Cao, Lu Chen and Kai Yu
- Abstract要約: 数ショットスロットタギングのためのベクトル投影ネットワークを提案する。
我々は,単語ラベルの類似性として,各ラベルベクトル上の文脈的単語埋め込みのプロジェクションを利用する。
- 参考スコア(独自算出の注目度): 38.31964812751151
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot slot tagging becomes appealing for rapid domain transfer and
adaptation, motivated by the tremendous development of conversational dialogue
systems. In this paper, we propose a vector projection network for few-shot
slot tagging, which exploits projections of contextual word embeddings on each
target label vector as word-label similarities. Essentially, this approach is
equivalent to a normalized linear model with an adaptive bias. The contrastive
experiment demonstrates that our proposed vector projection based similarity
metric can significantly surpass other variants. Specifically, in the five-shot
setting on benchmarks SNIPS and NER, our method outperforms the strongest
few-shot learning baseline by $6.30$ and $13.79$ points on F$_1$ score,
respectively. Our code will be released at
https://github.com/sz128/few_shot_slot_tagging_and_NER.
- Abstract(参考訳): 対話型対話システムの飛躍的な発展を契機に,ドメイン転送と適応が急速に進んでいる。
本稿では,各ラベルベクトル上の文脈的単語埋め込みの投影を単語ラベルの類似性として活用する,少数ショットスロットタギングのためのベクトル投影ネットワークを提案する。
本質的にこのアプローチは、適応バイアスを持つ正規化線形モデルと同値である。
比較実験は,提案するベクトル射影に基づく類似度計量が,他の変種を大きく超えることを実証する。
具体的には、SNIPSとNERのベンチマークでの5ショット設定において、F$_1$スコアで6.30$と13.79$ポイントの差で最強の少ショット学習ベースラインを上回っている。
私たちのコードはhttps://github.com/sz128/few_shot_slot_tagging_and_NERでリリースされます。
関連論文リスト
- Object Recognition as Next Token Prediction [99.40793702627396]
オブジェクト認識を次のトークン予測として提案する。
その考え方は、画像埋め込みからフォームラベルへのテキストトークンの自動回帰予測を行う言語デコーダを適用することである。
論文 参考訳(メタデータ) (2023-12-04T18:58:40Z) - Backpack Language Models [108.65930795825416]
Backpacksは、強力なモデリング性能と、解釈可能性と制御のためのインターフェースを組み合わせた、新しいニューラルアーキテクチャである。
学習のあと、感覚ベクトルが特殊化され、それぞれが単語の異なる側面を符号化することがわかった。
本稿では,感覚ベクトルに介入し,制御可能なテキスト生成とデバイアスを行うシンプルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-05-26T09:26:23Z) - Compare learning: bi-attention network for few-shot learning [6.559037166322981]
距離学習と呼ばれる数ショットの学習手法の1つは、画像のペアが同じカテゴリに属しているかどうかを判断するために、まず遠距離計量を学習することで、この課題に対処する。
本稿では, インスタンスの埋め込みの類似性を正確に, グローバルかつ効率的に測定できる, Bi-attention Network という新しい手法を提案する。
論文 参考訳(メタデータ) (2022-03-25T07:39:10Z) - Speaker Embedding-aware Neural Diarization: a Novel Framework for
Overlapped Speech Diarization in the Meeting Scenario [51.5031673695118]
重なり合う音声のダイアリゼーションを単一ラベル予測問題として再構成する。
話者埋め込み認識型ニューラルダイアリゼーション(SEND)システムを提案する。
論文 参考訳(メタデータ) (2022-03-18T06:40:39Z) - Hyperdimensional Feature Fusion for Out-Of-Distribution Detection [5.514061718048807]
我々は超次元コンピューティングの強力なアイデアを、アウト・オブ・ディストリビューション(OOD)検出の挑戦分野に導入する。
類似性保存半直交射影行列を用いて、複数の層から共通ベクトル空間へ特徴写像を射影する。
テスト時に、記述子ベクトル間の単純で効率的なコサイン類似性計算は、現在の最先端技術よりも優れた性能を持つOODサンプルを一貫して識別する。
論文 参考訳(メタデータ) (2021-12-10T05:21:18Z) - APANet: Adaptive Prototypes Alignment Network for Few-Shot Semantic
Segmentation [56.387647750094466]
Few-shotのセマンティックセマンティックセマンティクスは、指定されたクエリイメージに、ラベル付きサポートイメージのみで、新規クラスのオブジェクトをセグメントすることを目的としている。
ほとんどの高度なソリューションは、各クエリ機能を学習したクラス固有のプロトタイプにマッチさせることでセグメンテーションを実行するメトリクス学習フレームワークを利用している。
本稿では,クラス固有およびクラス非依存のプロトタイプを導入することで,適応型プロトタイプ表現を提案する。
論文 参考訳(メタデータ) (2021-11-24T04:38:37Z) - Logic Constrained Pointer Networks for Interpretable Textual Similarity [11.142649867439406]
本稿では, セシネルゲーティング機能を備えた新しいポインターネットワークモデルを導入し, 構成チャンクを整列させる。
両文の相違を等しく補償し、アライメントが双方向であることを保証するために、損失関数によるこのベースモデルを改善する。
このモデルは、チャンクアライメントタスクのためのベンチマークSemEvalデータセットにおいて、97.73と96.32のF1スコアを達成する。
論文 参考訳(メタデータ) (2020-07-15T13:01:44Z) - Few-shot Slot Tagging with Collapsed Dependency Transfer and
Label-enhanced Task-adaptive Projection Network [61.94394163309688]
本稿では,現在最先端の少数ショット分類モデルであるTapNetに基づくラベル強化タスク適応プロジェクションネットワーク(L-TapNet)を提案する。
実験結果から,本モデルは1ショット設定で14.64点のF1スコアで最強の少ショット学習ベースラインを著しく上回っていることがわかった。
論文 参考訳(メタデータ) (2020-06-10T07:50:44Z) - Discovering linguistic (ir)regularities in word embeddings through
max-margin separating hyperplanes [0.0]
単語埋め込み空間において,関係する単語の相対的な位置を学習するための新しい手法を示す。
私たちのモデルであるSVMCosは、単語埋め込みのトレーニングにおいて、さまざまな実験的な選択に対して堅牢です。
論文 参考訳(メタデータ) (2020-03-07T20:21:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。