論文の概要: AMALIA Technical Report: A Fully Open Source Large Language Model for European Portuguese
- arxiv url: http://arxiv.org/abs/2603.26511v1
- Date: Fri, 27 Mar 2026 15:22:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.565607
- Title: AMALIA Technical Report: A Fully Open Source Large Language Model for European Portuguese
- Title(参考訳): AMALIA Technical Report: ヨーロッパポルトガル語のための完全なオープンソース大規模言語モデル
- Authors: Afonso Simplício, Gonçalo Vinagre, Miguel Moura Ramos, Diogo Tavares, Rafael Ferreira, Giuseppe Attanasio, Duarte M. Alves, Inês Calvo, Inês Vieira, Rui Guerra, James Furtado, Beatriz Canaverde, Iago Paulo, Vasco Ramos, Diogo Glória-Silva, Miguel Faria, Marcos Treviso, Daniel Gomes, Pedro Gomes, David Semedo, André Martins, João Magalhães,
- Abstract要約: AMALIAはPT-PTを優先する完全にオープンなLCMで、中・後両方の段階でより高品質なpt-PTデータを使用する。
我々は、翻訳された標準タスクと、pt-PT生成、言語能力、pt-PT/pt-BRバイアスをターゲットとした4つの新しいデータセットを含むpt-PTベンチマークスイートをリリースする。
実験により、AMALIAは変換されたベンチマークで強いベースラインと一致し、pt-PT固有の評価では性能が大幅に向上した。
- 参考スコア(独自算出の注目度): 12.322686257512428
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite rapid progress in open large language models (LLMs), European Portuguese (pt-PT) remains underrepresented in both training data and native evaluation, with machine-translated benchmarks likely missing the variant's linguistic and cultural nuances. We introduce AMALIA, a fully open LLM that prioritizes pt-PT by using more high-quality pt-PT data during both the mid- and post-training stages. To evaluate pt-PT more faithfully, we release a suite of pt-PT benchmarks that includes translated standard tasks and four new datasets targeting pt-PT generation, linguistic competence, and pt-PT/pt-BR bias. Experiments show that AMALIA matches strong baselines on translated benchmarks while substantially improving performance on pt-PT-specific evaluations, supporting the case for targeted training and native benchmarking for European Portuguese.
- Abstract(参考訳): オープンな大規模言語モデル (LLM) の急速な進歩にもかかわらず、ヨーロッパのポルトガル語 (pt-PT) は、訓練データとネイティブ評価の両方において不足している。
AMALIAはPT-PTを優先する完全にオープンなLCMで、中・後両方の段階でより高品質なpt-PTデータを使用する。
pt-PTをより忠実に評価するために、翻訳された標準タスクと、pt-PT生成、言語能力、pt-PT/pt-BRバイアスをターゲットとした4つの新しいデータセットを含むpt-PTベンチマークスイートをリリースする。
実験の結果、AMALIAは翻訳されたベンチマークの強いベースラインと一致し、pt-PT固有の評価のパフォーマンスを大幅に向上し、ターゲットトレーニングと欧州ポルトガル語のネイティブベンチマークのケースをサポートすることが示された。
関連論文リスト
- ALBA: A European Portuguese Benchmark for Evaluating Language and Linguistic Dimensions in Generative LLMs [6.876400358750551]
ヨーロッパポルトガル語(pt-PT)における言語関連タスクの習熟度を評価するためのベンチマークであるALBAを紹介する。
ALBAは言語の専門家によって手動で構築され、pt-PT生成言語のスケーラブルな評価のためのLLM-as-a-judgeフレームワークと組み合わせられる。
さまざまなモデルのモデルに対する実験は、言語的側面にわたるパフォーマンスの変動を明らかにし、包括的な多彩なベンチマークの必要性を強調している。
論文 参考訳(メタデータ) (2026-03-27T15:25:44Z) - EstLLM: Enhancing Estonian Capabilities in Multilingual LLMs via Continued Pretraining and Post-Training [8.56742227411733]
大きな言語モデル(LLM)は、主に英語中心のデータに基づいて訓練されており、その結果、より小さな言語では不均一なパフォーマンスが得られる。
プレトレーニング付き多言語LLMにおいて,継続事前訓練(CPT)がエストニアの能力を大幅に向上するか否かを検討した。
論文 参考訳(メタデータ) (2026-03-02T16:24:36Z) - Recovered in Translation: Efficient Pipeline for Automated Translation of Benchmarks and Datasets [2.0199251985015434]
データセットとベンチマークのスケーラブルで高品質な翻訳を可能にするために,完全に自動化されたフレームワークを提案する。
このアプローチを適用して、人気のあるベンチマークとデータセットを8つの東欧と南欧の言語に翻訳します。
論文 参考訳(メタデータ) (2026-02-25T18:58:25Z) - PEGRL: Improving Machine Translation by Post-Editing Guided Reinforcement Learning [54.19784655270799]
textbfPEGRLは、後編集を補助タスクとして用い、トレーニングを安定させ、全体的な最適化を導く2段階のRLフレームワークである。
英語$to$Finnish、英語$to$Turkish、英語$leftrightarrow$ Chineseでの実験は、RLベースラインよりも一貫した利得を示している。
論文 参考訳(メタデータ) (2026-02-03T10:22:55Z) - Data Augmentation With Back translation for Low Resource languages: A case of English and Luganda [0.0]
本稿では,英語とルガンダ語を併用したニューラル機械翻訳モデルを構築するための半教師付き手法として,バック翻訳の適用について検討する。
提案手法では,公開データとウェブクローリングデータの両方を用いて独自のNMTモデルを構築し,反復および増分バック翻訳手法を適用した。
その結果,英ラガンダ対の翻訳性能は,全翻訳方向の10点以上のBLEUスコアユニットで過去のベンチマークを上回った。
論文 参考訳(メタデータ) (2025-05-05T08:47:52Z) - Adapting Large Language Models for Document-Level Machine Translation [46.370862171452444]
大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクを大幅に進歩させた。
近年の研究では、中程度のLLMはタスク固有の微調整後、より大きなLLMよりも優れていることが示されている。
本研究では,特定の言語対に対する文書レベルの機械翻訳(DocMT)にLLMを適用することに焦点を当てた。
論文 参考訳(メタデータ) (2024-01-12T09:29:13Z) - LLaMA Beyond English: An Empirical Study on Language Capability Transfer [49.298360366468934]
我々は、言語生成の能力と指示を英語以外の言語に効果的に伝達する方法に焦点をあてる。
本稿では,語彙拡張や事前学習,トランスファーに対する指導指導などの重要な要因が与える影響について分析する。
C-Eval、MMLU、AGI-Eval、GAokao-Benchの4つの広く使われている標準テストベンチマークを採用しています。
論文 参考訳(メタデータ) (2024-01-02T06:29:02Z) - Extrapolating Large Language Models to Non-English by Aligning Languages [109.09051737966178]
既存の大きな言語モデルは、異なる言語間で異なる能力を示す。
本稿では,言語間のセマンティックアライメントを構築することで,英語以外の言語に事前学習したLLMを強化する。
論文 参考訳(メタデータ) (2023-08-09T13:32:06Z) - Alibaba-Translate China's Submission for WMT 2022 Quality Estimation
Shared Task [80.22825549235556]
我々は、UniTEという品質評価共有タスクにおいて、文レベルのMQMベンチマークを提出する。
具体的には、トレーニング中に3種類の入力形式と事前学習された言語モデルを組み合わせたUniTEのフレームワークを用いる。
その結果,我々のモデルは多言語・英語・ロシア語設定では第1位,英語・ドイツ語・中国語設定では第2位に達した。
論文 参考訳(メタデータ) (2022-10-18T08:55:27Z) - Improving Multilingual Translation by Representation and Gradient
Regularization [82.42760103045083]
表現レベルと勾配レベルの両方でNMTモデルを正規化するための共同手法を提案する。
提案手法は,オフターゲット翻訳の発生率の低減とゼロショット翻訳性能の向上に有効であることを示す。
論文 参考訳(メタデータ) (2021-09-10T10:52:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。