論文の概要: Translation as a Computationally Efficient Bridge: Feasibility of English BERT for Low-Resource Languages

• arxiv url: http://arxiv.org/abs/2607.12612v1
• Date: Tue, 14 Jul 2026 10:44:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-15 17:08:30.119482
• Title: Translation as a Computationally Efficient Bridge: Feasibility of English BERT for Low-Resource Languages
• Title（参考訳）: 計算効率の良い橋梁としての翻訳:低リソース言語に対する英語BERTの有用性
• Abstract要約: BERTモデルは、さまざまなドメインにわたる非構造化テキストを処理する能力を通じて、自然言語処理(NLP)に革命をもたらした。 非英語言語向けの高品質BERTモデルは、限られた注釈付きデータと高い計算要求のために依然として困難である。 本研究では,翻訳に基づく微調整とタスクや言語間のネイティブ言語BERT性能を比較した。
• 参考スコア（独自算出の注目度）: 1.3899485276817554
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: BERT models have revolutionised Natural Language Processing (NLP) through their ability to process unstructured text across diverse domains. However, developing high-quality BERT models for non-English languages remains challenging due to limited annotated data and high computational demands. Translating non-English data into English and fine-tuning existing English BERT models offers a resource-efficient alternative, yet few studies have structurally compared translation-based fine-tuning with native-language BERT performance across tasks and languages. This study provides such a comparison, evaluating the feasibility of translation-based fine-tuning across six NLP tasks: Sentiment Analysis, Hate Speech Detection, Question Answering, Named Entity Recognition, Part-of-Speech Tagging, and Natural Language Inference, using datasets translated from Bulgarian, Chinese, Dutch, Italian, and Russian. Across all settings, the translation-based approach was comparable or superior in 53.3 percent of cases. Gains were most frequent in Question Answering, Part-of-Speech Tagging, and Natural Language Inference, while performance declines were common in Named Entity Recognition and Hate Speech Detection. The results show that translation-based fine-tuning is most effective for tasks relying on syntactic or structural patterns and for languages typologically close to English, such as Dutch, but less effective for token-level or culturally nuanced tasks, particularly in Chinese. Overall, this study demonstrates that translation-based fine-tuning offers a scalable, resource-efficient, and empirically validated path for extending NLP to low-resource languages while advancing linguistic inclusivity and sustainability in artificial intelligence.
• Abstract（参考訳）: BERTモデルは、さまざまなドメインにわたる非構造化テキストを処理する能力を通じて、自然言語処理(NLP)に革命をもたらした。 しかし、注釈付きデータと高い計算要求のため、非英語言語向けの高品質BERTモデルの開発は依然として困難である。 非英語データを英語に翻訳し、既存の英語を微調整するBERTモデルはリソース効率の良い代替手段を提供するが、翻訳に基づく微調整と、タスクや言語間でのネイティブ言語BERTのパフォーマンスを構造的に比較する研究はほとんどない。 本研究では, ブルガリア語, 中国語, オランダ語, イタリア語, ロシア語から翻訳されたデータセットを用いて, 感情分析, ヘイトスピーチ検出, 質問応答, 名前付きエンティティ認識, パート・オブ・スポーチ・タギング, 自然言語推論の6つのNLPタスクを対象とした翻訳ベース微調整の実現可能性を評価する。 すべての設定において、翻訳ベースのアプローチは53.3%のケースで同等か優れている。 質問応答,パート・オブ・Speech Tagging,自然言語推論では獲得率が高かったが,固有認識やヘイト音声検出では性能低下が多かった。 その結果, 翻訳に基づく微調整は, 構文的・構造的パターンに依存したタスクや, オランダ語などの英語に類型的に近い言語に最も効果的であるが, トークンレベルや文化的にニュアンスなタスク, 特に中国語では効果が低かった。 本研究は,翻訳に基づく微調整によって,NLPを低リソース言語に拡張し,言語的傾きと人工知能の持続可能性を高めつつ,スケーラブルで資源効率が高く,実証的に検証された経路が提供されることを示す。

関連論文リスト

• Equity with Efficiency: An Empirical Study of Tokenizers for Multilingual Large Language Models [30.7730386396743]
  バイトレベルのByte-Pairトークンは、構造的に高ソース言語とラテン文字を好んでいる。 表現不足の言語話者にとって、このバイアスは推論コストを膨らませ、言語間能力ギャップを拡大する。 東南アジアの11言語にまたがるベンチマークにおいて, 等価なトークン化剤の最初の体系的比較を行った。
  論文  参考訳（メタデータ） (2026-06-13T01:10:42Z)
• Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation? [49.7935995447581]
  我々は,低リソース機械翻訳が言語解析と文法推論の中間段階の構造化の恩恵を受けるか検討する。 本稿では,Universal Dependencies Treebank,Dictionary,Gram-rule Bankから,ステップバイステップの言語推論トレースを自動的に生成するパイプラインを提案する。 その結果,言語的推論の痕跡は推論時ガイダンスとして最も有効であることが示唆された。
  論文  参考訳（メタデータ） (2026-06-02T15:36:12Z)
• Semi-Synthetic Parallel Data for Translation Quality Estimation: A Case Study of Dataset Building for an Under-Resourced Language Pair [0.0]
  本研究は、英語からヘブライ語へのQEのための半合成並列データセットを提案する。 専門的に翻訳された英語・ヘブライ語セグメントを、我々の資源から取り入れ、最高品質スコアを付与した。 言語的問題、特に性別と数字の合意に関する問題に対処するために、制御された翻訳エラーが導入された。
  論文  参考訳（メタデータ） (2026-03-12T09:48:34Z)
• Low-Resource English-Tigrinya MT: Leveraging Multilingual Models, Custom Tokenizers, and Clean Evaluation Benchmarks [6.177998679139308]
  ニューラルネットワーク翻訳(NMT)の進歩にもかかわらず、Tigrinyaのような低リソース言語はいまだに保存されていない。 本稿では,多言語事前学習モデルを用いた翻訳学習手法について検討し,形態的に豊かな低リソース言語に対する翻訳品質を向上させる。
  論文  参考訳（メタデータ） (2025-09-24T15:02:57Z)
• A Data Selection Approach for Enhancing Low Resource Machine Translation Using Cross-Lingual Sentence Representations [0.4499833362998489]
  本研究は,既存のデータセットが特に騒々しい英語-マラティー語対の事例に焦点を当てた。 データ品質問題の影響を軽減するために,言語間文表現に基づくデータフィルタリング手法を提案する。 その結果,IndicSBERTによるベースラインポストフィルタよりも翻訳品質が大幅に向上した。
  論文  参考訳（メタデータ） (2024-09-04T13:49:45Z)
• Natural Language Processing for Dialects of a Language: A Survey [56.93337350526933]
  最先端自然言語処理(NLP)モデルは、大規模なトレーニングコーパスでトレーニングされ、評価データセットで最上位のパフォーマンスを報告します。 この調査は、これらのデータセットの重要な属性である言語の方言を掘り下げる。 方言データセットにおけるNLPモデルの性能劣化と言語技術のエクイティへのその影響を動機として,我々はデータセットやアプローチの観点から,方言に対するNLPの過去の研究を調査した。
  論文  参考訳（メタデータ） (2024-01-11T03:04:38Z)
• NusaWrites: Constructing High-Quality Corpora for Underrepresented and Extremely Low-Resource Languages [54.808217147579036]
  インドネシアの地方言語について事例研究を行う。 データセット構築におけるオンラインスクラップ,人文翻訳,および母語話者による段落作成の有効性を比較した。 本研究は,母語話者による段落作成によって生成されたデータセットが,語彙的多様性と文化的内容の点で優れた品質を示すことを示す。
  論文  参考訳（メタデータ） (2023-09-19T14:42:33Z)
• CROP: Zero-shot Cross-lingual Named Entity Recognition with Multilingual Labeled Sequence Translation [113.99145386490639]
  言語間NERは、整列した言語間表現や機械翻訳結果を通じて、言語間で知識を伝達することができる。 ゼロショット言語間NERを実現するために,クロスランガル・エンティティ・プロジェクション・フレームワーク(CROP)を提案する。 多言語ラベル付きシーケンス翻訳モデルを用いて、タグ付けされたシーケンスをターゲット言語に投影し、ターゲットの原文にラベル付けする。
  論文  参考訳（メタデータ） (2022-10-13T13:32:36Z)
• BERT for Sentiment Analysis: Pre-trained and Fine-Tuned Alternatives [0.0]
  BERTは、大きな言語モデルで伝達学習を可能にすることで、NLP分野に革命をもたらした。 本稿では、BERT出力層が提供する異なる埋め込みと、多言語モデルの代わりに言語固有の使用について、よりよく対処する方法について研究する。
  論文  参考訳（メタデータ） (2022-01-10T15:05:05Z)
• Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural Machine Translation [53.22775597051498]
  我々は,mbart を未熟な言語に効果的に適用するための,継続的な事前学習フレームワークを提案する。 その結果,mBARTベースラインの微調整性能を一貫して改善できることが示された。 私たちのアプローチは、両方の言語が元のmBARTの事前トレーニングで見られる翻訳ペアのパフォーマンスを高めます。
  論文  参考訳（メタデータ） (2021-05-09T14:49:07Z)
• ERICA: Improving Entity and Relation Understanding for Pre-trained Language Models via Contrastive Learning [97.10875695679499]
  そこで本研究では, ERICA という新たなコントラスト学習フレームワークを提案し, エンティティとその関係をテキストでより深く理解する。 実験の結果,提案する erica フレームワークは文書レベルの言語理解タスクにおいて一貫した改善を実現することがわかった。
  論文  参考訳（メタデータ） (2020-12-30T03:35:22Z)
• A Study of Cross-Lingual Ability and Language-specific Information in Multilingual BERT [60.9051207862378]
  Multilingual BERTは、言語間転送タスクで驚くほどうまく機能します。 データサイズとコンテキストウィンドウサイズは、転送可能性にとって重要な要素です。 多言語BERTの言語間能力を改善するために、計算的に安価だが効果的なアプローチがある。
  論文  参考訳（メタデータ） (2020-04-20T11:13:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。