論文の概要: Combining Static and Contextualised Multilingual Embeddings

• arxiv url: http://arxiv.org/abs/2203.09326v1
• Date: Thu, 17 Mar 2022 13:53:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-18 14:46:24.334040
• Title: Combining Static and Contextualised Multilingual Embeddings
• Title（参考訳）: 静的および文脈的多言語埋め込みの組み合わせ
• Authors: Katharina H\"ammerl, Jind\v{r}ich Libovick\'y, Alexander Fraser
• Abstract要約: 静的モデルと文脈モデルの長所を組み合わせることで、多言語表現を改善する。 我々はXLM-Rから40言語に対する静的な埋め込みを抽出し、言語間単語検索でそれらの埋め込みを検証する。 これにより、高品質で多言語な静的埋め込みが実現される。
• 参考スコア（独自算出の注目度）: 70.12036693730919
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Static and contextual multilingual embeddings have complementary strengths. Static embeddings, while less expressive than contextual language models, can be more straightforwardly aligned across multiple languages. We combine the strengths of static and contextual models to improve multilingual representations. We extract static embeddings for 40 languages from XLM-R, validate those embeddings with cross-lingual word retrieval, and then align them using VecMap. This results in high-quality, highly multilingual static embeddings. Then we apply a novel continued pre-training approach to XLM-R, leveraging the high quality alignment of our static embeddings to better align the representation space of XLM-R. We show positive results for multiple complex semantic tasks. We release the static embeddings and the continued pre-training code. Unlike most previous work, our continued pre-training approach does not require parallel text.
• Abstract（参考訳）: 静的および文脈的多言語埋め込みは相補的な強みを持つ。 静的埋め込みは、文脈言語モデルよりも表現力に乏しいが、複数の言語にまたがって簡単に整列できる。 静的モデルと文脈モデルの強みを組み合わせて多言語表現を改善する。 我々はXLM-Rから40言語に対する静的な埋め込みを抽出し、言語間単語検索でそれらの埋め込みを検証する。 これにより、高品質で多言語な静的埋め込みが得られる。 そこで我々は,XLM-Rの表現空間の整合性を向上するために,静的埋め込みの高品質なアライメントを活用する,新しい事前学習手法をXLM-Rに適用した。 複数の複雑な意味課題に対する肯定的な結果を示す。 静的埋め込みとトレーニング前のコードを引き続きリリースします。 これまでのほとんどの作業とは異なり、継続する事前学習アプローチは並列テキストを必要としない。

関連論文リスト

• MoSECroT: Model Stitching with Static Word Embeddings for Crosslingual Zero-shot Transfer [50.40191599304911]
  クロスリンガルゼロショット転送のための静的単語埋め込みを用いたMoSECroTモデルスティッチについて紹介する。 本稿では,ソースコードPLMの埋め込みと対象言語の静的単語埋め込みのための共通空間を構築するために,相対表現を利用した最初のフレームワークを提案する。 提案するフレームワークは,MoSECroTに対処する際,弱いベースラインと競合するが,強いベースラインに比べて競合する結果が得られないことを示す。
  論文  参考訳（メタデータ） (2024-01-09T21:09:07Z)
• Optimal Transport Posterior Alignment for Cross-lingual Semantic Parsing [68.47787275021567]
  言語間のセマンティックパーシングは、高いソース言語(例えば英語)から少ないトレーニングデータを持つ低リソース言語へのパーシング能力を伝達する。 そこで本稿では,最適輸送を用いた係り受け変数間の言語間相違を明示的に最小化することで,言語間セマンティック解析のための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-07-09T04:52:31Z)
• Multilingual Sentence Transformer as A Multilingual Word Aligner [15.689680887384847]
  多言語文 Transformer LaBSE が強い多言語単語アライメント器であるかどうかを検討する。 7つの言語対の実験結果から、最も優れたコーディネータは、すべての品種の過去の最先端モデルよりも優れていることが示された。 コーディネータは1つのモデルで異なる言語ペアをサポートし、ファインタニングプロセスに現れないゼロショット言語ペア上で新しい最先端の言語ペアを実現する。
  論文  参考訳（メタデータ） (2023-01-28T09:28:55Z)
• Cross-lingual alignments of ELMo contextual embeddings [0.0]
  言語間埋め込みは、低リソース言語から高リソース言語への単語の埋め込みをマッピングする。 最近の文脈埋め込みの言語間マッピングを作成するには、埋め込み空間間のアンカーポイントは、同じ文脈における単語でなければならない。 ELMo埋め込みのための新しい言語間マッピング手法を提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:26:43Z)
• UNKs Everywhere: Adapting Multilingual Language Models to New Scripts [103.79021395138423]
  マルチリンガルBERT(mBERT)やXLM-Rのような多言語言語モデルは、様々なNLPタスクに対して最先端の言語間転送性能を提供する。 キャパシティの制限と事前トレーニングデータの大きな差のため、リソース豊富な言語とリソースを対象とする言語には大きなパフォーマンスギャップがある。 本稿では,事前学習した多言語モデルの低リソース言語や未知のスクリプトへの高速かつ効果的な適応を可能にする新しいデータ効率手法を提案する。
  論文  参考訳（メタデータ） (2020-12-31T11:37:28Z)
• Learning Contextualised Cross-lingual Word Embeddings and Alignments for Extremely Low-Resource Languages Using Parallel Corpora [63.5286019659504]
  そこで本稿では,小さな並列コーパスに基づく文脈型言語間単語埋め込み学習手法を提案する。 本手法は,入力文の翻訳と再構成を同時に行うLSTMエンコーダデコーダモデルを用いて単語埋め込みを実現する。
  論文  参考訳（メタデータ） (2020-10-27T22:24:01Z)
• On the Language Neutrality of Pre-trained Multilingual Representations [70.93503607755055]
  語彙意味論に関して,多言語文脈埋め込みの言語中立性を直接的に検討する。 その結果、文脈埋め込みは言語ニュートラルであり、概して静的な単語型埋め込みよりも情報的であることがわかった。 本稿では,言語識別における最先端の精度に到達し,並列文の単語アライメントのための統計的手法の性能を一致させる方法について述べる。
  論文  参考訳（メタデータ） (2020-04-09T19:50:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。