論文の概要: Jais 2: A Family of Arabic-Centric Open Large Language Models
- arxiv url: http://arxiv.org/abs/2608.13580v1
- Date: Tue, 07 Jul 2026 13:54:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.206899
- Title: Jais 2: A Family of Arabic-Centric Open Large Language Models
- Title(参考訳): Jais 2: アラビア語中心のオープン言語モデルのファミリー。
- Abstract要約: Jais 2は、MBzuAI、Cerebras、Inceptionと共同で開発されたアラビア語中心の大規模言語モデルのファミリーである。
Jais 2は、このレポートで考慮されたベンチマークと競合する英語の結果に対して、強いアラビアのパフォーマンスを達成する。
We release the model in HuggingFace under a commercially permissive license。
- 参考スコア(独自算出の注目度): 63.04528207880757
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Jais 2 is a family of Arabic-centric large language models developed jointly by MBZUAI, Cerebras, and Inception, designed to advance Arabic-centric language modeling, with strong performance across the Arabic and culturally grounded benchmarks evaluated in this report. The family includes, to our knowledge, the largest open Arabic-centric LLM trained from scratch at 70B parameters, and a competitive 8B-parameter variant among the evaluated open models. A custom Arabic-centric vocabulary enables efficient training and inference. In addition, an optimized architecture and training recipe yield highly compute-efficient training. With a substantially smaller token budget than comparable models, Jais 2 achieves strong Arabic performance on the benchmarks considered in this report and competitive English results. The models obtain leading results among the evaluated open models on OALL2 and AraGen. They also perform strongly on several culturally grounded Arabic benchmarks, including poetry, religion, cuisine, and dream interpretation, as well as in general tasks such as translation and summarization. We release the models in HuggingFace under a commercially permissive license. Jais 2 70B is also released as a chat app on the Web, iOS, and Android; it runs on Cerebras hardware, delivering up to 2,000 tokens per second, and enabling high-throughput Arabic-centric chat serving in our deployment setting. By uniting scale, linguistic diversity, cultural fidelity, openness, and speed, Jais 2 provides an open-weight foundation intended to support further research and development in Arabic-centric LLMs.
- Abstract(参考訳): Jais 2 は、MBzuAI、Cerebras、Inception が共同で開発した、アラビア語中心の言語モデルである。
このファミリーには、私たちの知る限り、70Bパラメータでスクラッチからトレーニングされた最大オープンアラビア中心のLLMと、評価されたオープンモデルの中で8Bパラメータの競合モデルが含まれている。
アラビア語中心の独自の語彙は、効率的な訓練と推論を可能にする。
さらに、最適化されたアーキテクチャとトレーニングレシピは、高い計算効率のトレーニングをもたらす。
トークンの予算が同等のモデルよりも大幅に小さいため、Jais 2は、このレポートで考慮されたベンチマークと競合する英語の結果に対して、強いアラビアのパフォーマンスを達成する。
これらのモデルは、OALL2 と AraGen で評価されたオープンモデルのうち、主要な結果を得る。
彼らはまた、詩、宗教、料理、夢の解釈など、いくつかの文化的に根ざしたアラビア語のベンチマークや、翻訳や要約といった一般的なタスクにも力を入れている。
We release the model in HuggingFace under a commercially permissive license。
Jais 2 70BはWeb、iOS、Androidのチャットアプリとしてもリリースされており、Cerebrasハードウェア上で動作し、毎秒2,000トークンを配信し、当社のデプロイメント環境で高スループットのアラビア中心のチャットサービスを可能にする。
ジャイズ2は、規模、言語多様性、文化的忠実性、オープン性、スピードを統一することで、アラビア語中心のLLMのさらなる研究と開発を支援することを目的としたオープンウェイトな基盤を提供する。
関連論文リスト
- Hala Technical Report: Building Arabic-Centric Instruction & Translation Models at Scale [51.41777906371754]
私たちはHalaを紹介します。これはアラビア語中心の命令と翻訳モデルのファミリーで、私たちのトランスレーショナル・トゥン・パイプラインで構築されています。
軽量言語モデル LFM2-1.2B は、このデータに基づいて微調整され、高品質の英語の命令セットをアラビア語に翻訳するために使用される。
我々は、Halaモデルを350M、700M、1.2B、9Bパラメータでトレーニングし、アラビア語の特殊化とベースモデルの強度のバランスをとるためにスラープマージを適用します。
論文 参考訳(メタデータ) (2025-09-17T14:19:28Z) - CamelEval: Advancing Culturally Aligned Arabic Language Models and Benchmarks [19.403924294587043]
本稿では、アラビア語話者の価値観や好みに合わせて特別に設計されたアラビア語と英語のバイリンガルなLLMであるJuhainaを紹介する。
私たちのモデルは924億のパラメータを含み、最大8,192トークンのコンテキストウィンドウでトレーニングされています。
論文 参考訳(メタデータ) (2024-09-19T09:52:35Z) - ALLaM: Large Language Models for Arabic and English [9.881560166505452]
アラビア語技術(ALT)のエコシステムを支える一連の大規模言語モデルであるアラビア大言語モデル(ALaM: Arabic Large Language Model)を提示する。
我々の自己回帰デコーダのみのアーキテクチャモデルは、語彙拡張と事前訓練による第二言語習得が、原語(英語)で破滅的な忘れをすることなく、新しい言語(アラビア語)へのモデルを操る方法を示している。
人間の嗜好と広範囲なアライメントは,品質アライメントの低い大規模モデルと比較して言語モデルの性能を著しく向上させることができることを示す。
論文 参考訳(メタデータ) (2024-07-22T05:35:17Z) - AceGPT, Localizing Large Language Models in Arabic [73.39989503874634]
本稿では,アラビア語のテキストによる事前学習,ネイティブなアラビア語命令を利用したSFT(Supervised Fine-Tuning),アラビア語のGPT-4応答を含む総合的なソリューションを提案する。
目標は、文化的に認知され、価値に整合したアラビア語のLLMを、多様で応用特有のアラビア語コミュニティのニーズに適応させることである。
論文 参考訳(メタデータ) (2023-09-21T13:20:13Z) - Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open
Generative Large Language Models [57.76998376458017]
私たちはJaisとJais-chatを紹介します。これは、最先端のアラビア中心の新たな基礎であり、命令で調整されたオープンな生成型大言語モデル(LLMs)です。
モデルはGPT-3デコーダのみのアーキテクチャに基づいており、アラビア語と英語のテキストが混在している。
本稿では、トレーニング、チューニング、安全性アライメント、モデルの評価について詳述する。
論文 参考訳(メタデータ) (2023-08-30T17:07:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。