Fugu-MT 論文翻訳(概要): A Bit of a Problem: Measurement Disparities in Dataset Sizes Across Languages

論文の概要: A Bit of a Problem: Measurement Disparities in Dataset Sizes Across Languages

arxiv url: http://arxiv.org/abs/2403.00686v1
Date: Fri, 1 Mar 2024 17:20:11 GMT
ステータス: 処理完了
システム内更新日: 2024-03-05 16:45:40.336049
Title: A Bit of a Problem: Measurement Disparities in Dataset Sizes Across Languages
Title（参考訳）: 問題:言語間のデータセットサイズにおけるばらつきの測定
Authors: Catherine Arnett, Tyler A. Chang, Benjamin K. Bergen
Abstract要約: 我々は,2言語間のバイトプレミアムを,それらの言語におけるコンテンツマッチングテキストのエンコードに使用されるバイトの比率として定義する。 1155言語のバイトプレミアムを計算し、線形回帰を用いて他の言語のバイトプレミアムを推定する。
参考スコア（独自算出の注目度）: 4.7936447642295406
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: How should text dataset sizes be compared across languages? Even for content-matched (parallel) corpora, UTF-8 encoded text can require a dramatically different number of bytes for different languages. In our work, we define the byte premium between two languages as the ratio of bytes used to encode content-matched text in those languages. We compute byte premiums for 1155 languages, and we use linear regressions to estimate byte premiums for other languages. We release a tool to obtain byte premiums for any two languages, enabling comparisons of dataset sizes across languages for more equitable multilingual model development and data practices.
Abstract（参考訳）: 言語間でテキストデータセットのサイズを比較するには? コンテントマッチング(並列)コーパスであっても、utf-8エンコードされたテキストは、異なる言語で劇的に異なるバイト数を必要とする。本研究では,2言語間のバイトプレミアムを,コンテンツマッチングテキストのエンコードに使用するバイトの比率として定義する。 1155言語でバイトプレミアムを計算し,線形回帰を用いて他の言語でバイトプレミアムを推定する。我々は、任意の2つの言語のバイトプレミアムを取得するツールをリリースし、より公平な多言語モデル開発とデータプラクティスのために、言語間のデータセットサイズの比較を可能にする。

関連論文リスト

MYTE: Morphology-Driven Byte Encoding for Better and Fairer Multilingual Language Modeling [70.34758460372629]
多様な言語にまたがる一貫した大きさのセグメントで同一情報をエンコードする新しいパラダイムを導入する。 MYTEは99の言語すべてに対して短いエンコーディングを生成する。これにより、多言語LMの性能が向上し、多言語間でのパープレキシティギャップが減少する。
論文参考訳（メタデータ） (2024-03-15T21:21:11Z)
The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants [80.4837840962273]
私たちは122の言語変種にまたがるデータセットであるBelebeleを紹介します。このデータセットは、高、中、低リソース言語におけるテキストモデルの評価を可能にする。
論文参考訳（メタデータ） (2023-08-31T17:43:08Z)
Soft Language Clustering for Multilingual Model Pre-training [57.18058739931463]
本稿では,インスタンスを条件付きで符号化するためのフレキシブルガイダンスとして,コンテキスト的にプロンプトを検索するXLM-Pを提案する。我々のXLM-Pは、(1)言語間における言語不変および言語固有知識の軽量なモデリングを可能にし、(2)他の多言語事前学習手法との容易な統合を可能にする。
論文参考訳（メタデータ） (2023-06-13T08:08:08Z)
Taxi1500: A Multilingual Dataset for Text Classification in 1500 Languages [40.01333053375582]
我々は、多数の言語を含むテキスト分類データセットを作成することを目指している。我々は、このようなデータセットを構築するために聖書の平行翻訳を利用する。データの英語側をアノテートし、アライメントされた節を通してラベルを他の言語に投影することにより、1500以上の言語に対してテキスト分類データセットを生成する。
論文参考訳（メタデータ） (2023-05-15T09:43:32Z)
Romanization-based Large-scale Adaptation of Multilingual Language Models [124.57923286144515]
大規模多言語事前学習言語モデル (mPLMs) は,NLPにおける多言語間移動のデファクトステートとなっている。我々は、mPLMをローマン化および非ロマン化した14の低リソース言語コーパスに適用するためのデータとパラメータ効率の戦略を多数検討し、比較した。以上の結果から, UROMAN をベースとしたトランスリテラルは,多くの言語で高い性能を達成できることがわかった。
論文参考訳（メタデータ） (2023-04-18T09:58:34Z)
MultiSpider: Towards Benchmarking Multilingual Text-to-SQL Semantic Parsing [48.216386761482525]
英語、ドイツ語、フランス語、スペイン語、日本語、中国語、ベトナム語)をカバーする最大多言語テキストスキーマデータセットであるMultiSpiderを提案する。 3つの典型的な設定(ゼロショット、モノリンガル、マルチリンガル)の下での実験結果から、非英語言語では6.1%の精度の低下が見られる。また、単純なフレームワーク拡張フレームワークであるSAVe(Augmentation-with-Verification)を提案する。これは、全体的なパフォーマンスを約1.8%向上させ、言語間の29.5%のパフォーマンスギャップを埋める。
論文参考訳（メタデータ） (2022-12-27T13:58:30Z)
Multi-lingual Evaluation of Code Generation Models [82.7357812992118]
本稿では,MBXPとMultilingual HumanEval,MathQA-Xという,評価コード生成モデルに関する新しいベンチマークを提案する。これらのデータセットは10以上のプログラミング言語をカバーする。コード生成モデルの性能を多言語で評価することができる。
論文参考訳（メタデータ） (2022-10-26T17:17:06Z)
Examining Cross-lingual Contextual Embeddings with Orthogonal Structural Probes [0.2538209532048867]
オルソゴン構造プローブ(Limisiewicz and Marevcek, 2021)では、特定の言語的特徴についてこの疑問に答えることができる。 InmBERTの文脈表現を符号化した構文(UD)と語彙(WordNet)構造情報を9つの多言語で評価した。ゼロショットと少数ショットのクロスランガル構文解析にこの結果を適用した。
論文参考訳（メタデータ） (2021-09-10T15:03:11Z)
Language Embeddings for Typology and Cross-lingual Transfer Learning [11.647285195114256]
我々はデノナイズドオートエンコーダを用いて29言語に対して高密度な埋め込みを生成する。言語構造学の世界アトラス(World Atlas of Language Structures)を用いて埋め込みを評価する。
論文参考訳（メタデータ） (2021-06-03T19:00:02Z)
Learning to Scale Multilingual Representations for Vision-Language Tasks [51.27839182889422]
SMALRの有効性は、これまでビジョン言語タスクでサポートされた2倍以上の10の多言語で実証されている。単語の埋め込み手法と比較して,訓練パラメータの1/5以下で,複数言語による画像文検索と先行作業の3～4%の性能評価を行った。
論文参考訳（メタデータ） (2020-04-09T01:03:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。