Fugu-MT 論文翻訳(概要): Adversarial Alignment of Multilingual Models for Extracting Temporal Expressions from Text

論文の概要: Adversarial Alignment of Multilingual Models for Extracting Temporal Expressions from Text

arxiv url: http://arxiv.org/abs/2005.09392v1
Date: Tue, 19 May 2020 12:37:04 GMT
ステータス: 処理完了
システム内更新日: 2022-12-01 13:13:05.353507
Title: Adversarial Alignment of Multilingual Models for Extracting Temporal Expressions from Text
Title（参考訳）: テキストから時間表現を抽出する多言語モデルの逆アライメント
Authors: Lukas Lange, Anastasiia Iurshina, Heike Adel, Jannik Str\"otgen
Abstract要約: 本稿では,テキストから時間表現を抽出する手法について検討し,埋め込み空間を1つの共通空間に整列させるための対角訓練について検討する。単一の多言語モデルを作成し、未知の言語に変換し、これらの言語間移動実験において、新しい技術状態を設定する。
参考スコア（独自算出の注目度）: 10.666619768801302
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Although temporal tagging is still dominated by rule-based systems, there have been recent attempts at neural temporal taggers. However, all of them focus on monolingual settings. In this paper, we explore multilingual methods for the extraction of temporal expressions from text and investigate adversarial training for aligning embedding spaces to one common space. With this, we create a single multilingual model that can also be transferred to unseen languages and set the new state of the art in those cross-lingual transfer experiments.
Abstract（参考訳）: 時間的タギングは依然としてルールに基づくシステムで支配されているが、近年はニューラルネットワークによる時間的タギングが試みられている。しかし、いずれも単言語的設定に特化している。本稿では,テキストから時間表現を抽出する多言語手法について検討し,埋め込み空間を1つの共通空間に整列させるための対角訓練について検討する。これにより,未熟な言語にも変換可能な単一多言語モデルを作成し,それらの言語間伝達実験における新たな技術状態を設定する。

関連論文リスト

Exploring syntactic information in sentence embeddings through multilingual subject-verb agreement [1.4335183427838039]
我々は,特定の特性を持つ大規模でキュレートされた合成データを開発するためのアプローチを採っている。我々は、ブラックバード言語行列(Blackbird Language Matrices)と呼ばれる新しい複数選択タスクとデータセットを使用して、特定の文法構造現象に焦点を当てる。多言語テキストを一貫した方法で訓練したにもかかわらず、多言語事前学習言語モデルには言語固有の違いがあることが示される。
論文参考訳（メタデータ） (2024-09-10T14:58:55Z)
MENTOR: Multilingual tExt detectioN TOward leaRning by analogy [59.37382045577384]
本研究では,シーンイメージ内の視覚領域と見えない言語領域の両方を検出し,識別するフレームワークを提案する。 mentOR」は、ゼロショット学習と少数ショット学習の学習戦略を多言語シーンテキスト検出のために実現した最初の作品である。
論文参考訳（メタデータ） (2024-03-12T03:35:17Z)
Discovering Low-rank Subspaces for Language-agnostic Multilingual Representations [38.56175462620892]
ML-LM(ML-LM)は,ゼロショット言語間移動の顕著な能力を示す。多言語埋め込み空間から言語固有の要素を投影する新しい視点を提案する。本手法を適用すれば,ML-LMよりも一貫した改善が期待できることを示す。
論文参考訳（メタデータ） (2024-01-11T09:54:11Z)
Multilingual Text Representation [3.4447129363520337]
現代のNLPのブレークスルーには、100以上の言語でタスクを実行できる大規模な多言語モデルが含まれている。最先端の言語モデルは、単語の単純な1ホット表現から始まり、長い道のりを歩んだ。我々は、言語民主化の潜在能力が、既知の限界を超えてどのように得られるかについて論じる。
論文参考訳（メタデータ） (2023-09-02T14:21:22Z)
Enhancing Cross-lingual Natural Language Inference by Soft Prompting with Multilingual Verbalizer [52.46740830977898]
言語間自然言語推論は言語間言語理解の基本的な問題である。我々は,XNLIのためのマルチリンガル・バーバリザ(SoftMV)を用いたソフトプロンプト学習フレームワークを提案する。
論文参考訳（メタデータ） (2023-05-22T06:31:29Z)
Generalising Multilingual Concept-to-Text NLG with Language Agnostic Delexicalisation [0.40611352512781856]
概念からテキストへの自然言語生成は、自然言語で入力の意味を表現するタスクである。多言語事前学習型埋め込みを用いた新しいデレクサライズ手法であるLanguage Agnostic Delexicalizationを提案する。 5つのデータセットと5つの言語で実験した結果、多言語モデルは概念対テキストで単言語モデルよりも優れていることがわかった。
論文参考訳（メタデータ） (2021-05-07T17:48:53Z)
Improving the Lexical Ability of Pretrained Language Models for Unsupervised Neural Machine Translation [127.81351683335143]
クロスリンガルプリトレーニングは、2つの言語の語彙的表現と高レベル表現を整列させるモデルを必要とする。これまでの研究では、これは表現が十分に整合していないためです。本稿では,語彙レベルの情報で事前学習するバイリンガルマスク言語モデルを,型レベルのクロスリンガルサブワード埋め込みを用いて強化する。
論文参考訳（メタデータ） (2021-03-18T21:17:58Z)
Unsupervised Domain Adaptation of a Pretrained Cross-Lingual Language Model [58.27176041092891]
最近の研究は、大規模未ラベルテキストに対する言語間言語モデルの事前学習が、大幅な性能向上をもたらすことを示唆している。本稿では,絡み合った事前学習した言語間表現からドメイン固有の特徴を自動的に抽出する,教師なし特徴分解手法を提案する。提案モデルでは、相互情報推定を利用して、言語間モデルによって計算された表現をドメイン不変部分とドメイン固有部分に分解する。
論文参考訳（メタデータ） (2020-11-23T16:00:42Z)
Finding Universal Grammatical Relations in Multilingual BERT [47.74015366712623]
mBERT表現のサブスペースは、英語以外の言語で構文木の距離を回復することを示す。我々は,mBERTが構文依存ラベルの表現を学習する証拠を提供する教師なし解析手法を提案する。
論文参考訳（メタデータ） (2020-05-09T20:46:02Z)
On the Language Neutrality of Pre-trained Multilingual Representations [70.93503607755055]
語彙意味論に関して,多言語文脈埋め込みの言語中立性を直接的に検討する。その結果、文脈埋め込みは言語ニュートラルであり、概して静的な単語型埋め込みよりも情報的であることがわかった。本稿では,言語識別における最先端の精度に到達し,並列文の単語アライメントのための統計的手法の性能を一致させる方法について述べる。
論文参考訳（メタデータ） (2020-04-09T19:50:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。