論文の概要: ALEE: Any-Language Evaluation of Embeddings via English-Centric Minimal Pairs
- arxiv url: http://arxiv.org/abs/2607.00171v1
- Date: Tue, 30 Jun 2026 20:45:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.636499
- Title: ALEE: Any-Language Evaluation of Embeddings via English-Centric Minimal Pairs
- Title(参考訳): ALEE:英語中心の最小ペアによる埋め込みの任意の言語評価
- Abstract要約: ALEEはSentence Smithを言語横断レベルと段落レベルまで拡張するフレームワークである。
様々な埋め込みモデルと275以上の言語をまたいだ大規模な実証的研究を行う。
ALEEでは、パフォーマンスは言語、テキストの長さ、言語現象によって大きく異なる。
- 参考スコア(独自算出の注目度): 31.61859333702968
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Text embeddings are standard for semantic similarity tasks, yet their evaluation remains an open challenge. Current benchmarks are static, cover only a limited set of languages, are often domain-specific, susceptible to overfitting, and poorly representative of low-resource languages. To address these limitations, we introduce ALEE, a framework that extends Sentence Smith (Li et al., 2025) to the cross-lingual and paragraph level. ALEE uses Abstract Meaning Representations (AMR) to generate English minimal pairs with controlled, fine-grained semantic shifts, which are paired with translations in target languages. This approach enables targeted diagnostics for models in any language with English parallel data. We conduct a large-scale empirical study across a diverse set of embedding models and 275+ languages spanning three parallel datasets. On ALEE, performance varies substantially across languages, text lengths, and linguistic phenomena, exposing persistent gaps in cross-lingual semantic representation that track language prevalence in training resources and subword tokenization. We release ALEE at https://github.com/Andrian0s/any-lang-embed-eval
- Abstract(参考訳): テキスト埋め込みは意味的類似性タスクの標準であるが、その評価は依然としてオープンな課題である。
現在のベンチマークは静的で、限られた言語のみをカバーし、多くの場合ドメイン固有であり、過度に適合する可能性があり、低リソース言語を代表していない。
これらの制限に対処するため、私たちはSentence Smith(Li et al , 2025)を言語横断レベルと段落レベルまで拡張するフレームワークであるALEEを紹介します。
ALEEは抽象意味表現 (Abstract Meaning Representations, AMR) を使用して、制御されたきめ細かいセマンティックシフトを持つ英語の最小ペアを生成し、ターゲット言語の翻訳とペアリングする。
このアプローチは、英語の並列データを持つ任意の言語におけるモデルのターゲット診断を可能にする。
我々は,3つの並列データセットにまたがる多種多様な埋め込みモデルと275以上の言語を対象に,大規模な実証的研究を行った。
ALEEでは、パフォーマンスは言語、テキストの長さ、言語現象によって大きく異なり、トレーニングリソースやサブワードトークン化における言語の普及状況を追跡する言語間セマンティック表現において、永続的なギャップを露呈する。
ALEEはhttps://github.com/Andrian0s/any-lang-embed-evalでリリースします。
関連論文リスト
- What Language is This? Ask Your Tokenizer [32.28976119949841]
言語識別(LID)は多くの多言語自然言語処理パイプラインの重要なコンポーネントである。
我々は,UnigramLMトークン化アルゴリズムに基づくシンプルで効率的なLID手法UniLIDを紹介する。
我々の定式化は、データと計算効率が良く、既存のモデルを再訓練することなく、新しい言語の漸進的な追加をサポートしています。
論文 参考訳(メタデータ) (2026-02-19T18:58:39Z) - How Good is BLI as an Alignment Measure: A Study in Word Embedding Paradigm [1.4712349476860904]
2つの埋め込み空間のアライメントの程度を評価する尺度として,BLIの強度と限界について検討する。
我々は,従来の埋め込みアライメント技術,新しい多言語モデル,複合アライメント技術がいかにBLIタスクを実行するかを評価する。
そこで本研究では,入力された言語の性質を考慮に入れた2つの組込み空間を評価するための,新しいステムベースBLI手法を提案する。
論文 参考訳(メタデータ) (2025-11-17T06:41:41Z) - Cross-Lingual Word Alignment for ASEAN Languages with Contrastive Learning [5.5119571570277826]
言語間単語アライメントは、自然言語処理タスクにおいて重要な役割を果たす。
近年,BiLSTMを用いたエンコーダデコーダモデルを提案する。
本稿では,BiLSTMに基づくエンコーダデコーダフレームワークにコントラスト学習を取り入れることを提案する。
論文 参考訳(メタデータ) (2024-07-06T11:56:41Z) - Crosslingual Capabilities and Knowledge Barriers in Multilingual Large Language Models [62.91524967852552]
大規模言語モデル(LLM)は、多言語コーパスの事前訓練のため、一般的に多言語である。
しかし、これらのモデルは言語間の対応する概念、すなわち言語を横断的に関連付けることができるだろうか?
本研究は,言語横断的タスクにおける最先端LLMの評価である。
論文 参考訳(メタデータ) (2024-06-23T15:15:17Z) - Efficiently Aligned Cross-Lingual Transfer Learning for Conversational
Tasks using Prompt-Tuning [98.60739735409243]
英語のような高リソース言語で訓練された言語モデルの言語間移動は、多くのNLPタスクのために広く研究されている。
並列および大規模多言語会話データセットである言語間アライメント事前学習のためのXSGDを導入する。
協調的な言語間表現を容易にするために,アライメントプロンプトを学習するための効率的なプロンプトチューニング手法を開発した。
論文 参考訳(メタデータ) (2023-04-03T18:46:01Z) - EASE: Entity-Aware Contrastive Learning of Sentence Embedding [37.7055989762122]
EASEは文とその関連エンティティ間の対照的な学習を通して文の埋め込みを学習する新しい方法である。
EASEは英語のセマンティックテキスト類似性(STS)と短いテキストクラスタリング(STC)タスクにおいて、競合的あるいはより良いパフォーマンスを示す。
論文 参考訳(メタデータ) (2022-05-09T13:22:44Z) - Exposing Cross-Lingual Lexical Knowledge from Multilingual Sentence
Encoders [85.80950708769923]
本稿では,多言語言語モデルを用いて,それらのパラメータに格納された言語間語彙の知識量を探索し,元の多言語LMと比較する。
また、この知識を付加的に微調整した多言語モデルにより公開する新しい手法も考案した。
標準ベンチマークの大幅な向上を報告します。
論文 参考訳(メタデータ) (2022-04-30T13:23:16Z) - AM2iCo: Evaluating Word Meaning in Context across Low-ResourceLanguages
with Adversarial Examples [51.048234591165155]
本稿では, AM2iCo, Adversarial and Multilingual Meaning in Contextを提案する。
言語間文脈における単語の意味の同一性を理解するために、最先端(SotA)表現モデルを忠実に評価することを目的としている。
その結果、現在のSotAプリトレーニングエンコーダは人間のパフォーマンスにかなり遅れていることが明らかとなった。
論文 参考訳(メタデータ) (2021-04-17T20:23:45Z) - UNKs Everywhere: Adapting Multilingual Language Models to New Scripts [103.79021395138423]
マルチリンガルBERT(mBERT)やXLM-Rのような多言語言語モデルは、様々なNLPタスクに対して最先端の言語間転送性能を提供する。
キャパシティの制限と事前トレーニングデータの大きな差のため、リソース豊富な言語とリソースを対象とする言語には大きなパフォーマンスギャップがある。
本稿では,事前学習した多言語モデルの低リソース言語や未知のスクリプトへの高速かつ効果的な適応を可能にする新しいデータ効率手法を提案する。
論文 参考訳(メタデータ) (2020-12-31T11:37:28Z) - Learning Contextualised Cross-lingual Word Embeddings and Alignments for
Extremely Low-Resource Languages Using Parallel Corpora [63.5286019659504]
そこで本稿では,小さな並列コーパスに基づく文脈型言語間単語埋め込み学習手法を提案する。
本手法は,入力文の翻訳と再構成を同時に行うLSTMエンコーダデコーダモデルを用いて単語埋め込みを実現する。
論文 参考訳(メタデータ) (2020-10-27T22:24:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。