論文の概要: Wolof-Adapted Industry-Ready Open-Weight Language Models
- arxiv url: http://arxiv.org/abs/2610.20824v1
- Date: Wed, 14 Oct 2026 19:10:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.032772
- Title: Wolof-Adapted Industry-Ready Open-Weight Language Models
- Title(参考訳): 産業対応型オープンウェイト言語モデル
- Abstract要約: Wolofは、主にセネガルで2300万人が話しているが、依然としてオープンウェイトな言語モデルによって弱い支持を受けている。
We present 0.6B-14B open-weight model to Wolof through instruction tuning, preference alignment and model merging。
- 参考スコア(独自算出の注目度): 2.868857883972859
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Wolof is spoken by 23M people, mostly in Senegal, but remains weakly supported by open-weight language models, while API models raise cost, governance, and sovereignty constraints for local deployments. In this paper, we present 0.6B-14B open-weight models adapted to Wolof through instruction tuning, preference alignment, and model merging. After presenting the pipeline and data, extensive experiments on 63~public and in-house tasks show good performance on Wolof understanding and generation while remaining effective on other languages and cross-lingual skills, with the 8B and 14B models being particularly competitive with substantially larger commercial systems. The models are currently being evaluated in internal customer-care pilots and are publicly available at https://huggingface.co/collections/Orange/wolof-lm .
- Abstract(参考訳): Wolofは、主にセネガルの2300万人の人々によって話されているが、依然としてオープンウェイトな言語モデルによって弱い支持を受けており、一方でAPIモデルは、ローカルデプロイメントのコスト、ガバナンス、主権の制約を高めている。
本稿では,Wolofに適応した0.6B-14Bのオープンウェイトモデルを提案する。
パイプラインとデータを提示した後、63~公開タスクと社内タスクの広範な実験は、Wolofの理解と生成に優れた性能を示しながら、他の言語や言語間のスキルを保ちながら、8Bと14Bモデルはより大規模な商用システムと特に競合している。
モデルは現在、社内のカスタマーケアパイロットで評価されており、https://huggingface.co/collections/Orange/wolof-lm で公開されている。
関連論文リスト
- Apertus 1.5: From Open Text Models to Open Multimodal Reasoners [148.09760591577466]
Apertus 1.5は、完全にオープンなApertusファミリーをテキストからマルチモーダル推論まで拡張している。
マルチモーダリティはトークン化子を通して入力され、言語モデルヘッドはテキストに制限され、アーキテクチャは変わらない。
論文 参考訳(メタデータ) (2026-10-11T11:34:43Z) - Dicta-LM 3.0: Advancing The Frontier of Hebrew Sovereign LLMs [5.753786926820733]
Dicta-LM 3.0はヘブライ語と英語のテキストのコーパスに基づいて訓練された大規模言語モデルのオープンウェイトコレクションである。
本モデルを評価するため,ヘブライ語チャット-LLMの評価のためのベンチマークスイートを新たに導入した。
論文 参考訳(メタデータ) (2026-02-02T13:47:54Z) - MiniLingua: A Small Open-Source LLM for European Languages [47.78284815754002]
MiniLinguaは、13のヨーロッパ言語でスクラッチからトレーニングされた10億のパラメータからなる、多言語でオープンソースのLLMである。
データ処理やモデルのトレーニングに使用されるモデルウェイト、トークン、ソースコードをリリースします。
論文 参考訳(メタデータ) (2025-12-15T13:12:42Z) - Benchmarking the Performance of Pre-trained LLMs across Urdu NLP Tasks [0.9786690381850356]
本研究では、22のデータセットと13.8時間の発話をゼロショット環境で使用し、17のタスクにまたがる7つの顕著なLarge Language Model (LLM)を詳細に検討し、その性能を最先端(SOTA)モデルと比較した。
この結果から,Llama 3.1-8Bのようなより少ないパラメータを持つモデルでは,GPT-3.5のような言語多様性の低いモデルよりも,よりリッチな言語特化データの方が優れていることが示唆された。
論文 参考訳(メタデータ) (2024-05-24T11:30:37Z) - Poro 34B and the Blessing of Multilinguality [3.270981284471548]
Poro 34Bは、フィンランド語、英語、プログラミング言語の1兆トークンのために訓練された34億のパラメータモデルである。
フィンランド語における既存モデルの能力を大幅に向上するモデルを,多言語学習アプローチにより生成できることが示される。
論文 参考訳(メタデータ) (2024-04-02T11:34:12Z) - SeaLLMs -- Large Language Models for Southeast Asia [76.50157503379086]
東南アジア(SEA)言語に焦点を当てた,革新的な言語モデルであるSeaLLMを紹介した。
SeaLLMはLlama-2モデルに基づいて構築され、さらに拡張語彙、特殊命令、アライメントチューニングによる事前訓練が継続されている。
包括的評価により,SeaLLM-13bモデルは言語タスクやアシスタントスタイルの指示追従能力に優れた性能を示した。
論文 参考訳(メタデータ) (2023-12-01T17:17:56Z) - Baichuan 2: Open Large-scale Language Models [51.34140526283222]
我々は、70億と13億のパラメータを含む大規模な多言語言語モデルであるBaichuan 2を、2.6兆のトークン上でスクラッチからトレーニングする。
Baichuan 2は、MMLU、CMMLU、GSM8K、HumanEvalなどの公開ベンチマークで、同様のサイズの他のオープンソースモデルにマッチするか、より優れています。
論文 参考訳(メタデータ) (2023-09-19T04:13:22Z) - GreenPLM: Cross-Lingual Transfer of Monolingual Pre-Trained Language
Models at Almost No Cost [7.510253441699812]
本研究では,両言語レキシコンを用いて事前学習した言語モデルを直接他の言語に翻訳するGreenPLMというフレームワークを提案する。
このアプローチを18言語のBERTモデルで検証し、このフレームワークが、トレーニングコストの高い他のフレームワークに匹敵するものであることを示す。
7つのテスト言語のうち6つで、このフレームワークは、トレーニング前の最大200倍の労力で、元のモノリンガル言語モデルより優れています。
論文 参考訳(メタデータ) (2022-11-13T18:59:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。