論文の概要: Fanar: An Arabic-Centric Multimodal Generative AI Platform

• arxiv url: http://arxiv.org/abs/2501.13944v1
• Date: Sat, 18 Jan 2025 05:35:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-02 08:21:52.293391
• Title: Fanar: An Arabic-Centric Multimodal Generative AI Platform
• Title（参考訳）: Fanar: アラビア語中心のマルチモーダル生成AIプラットフォーム
• Authors: Fanar Team, Ummar Abbas, Mohammad Shahmeer Ahmad, Firoj Alam, Enes Altinisik, Ehsannedin Asgari, Yazan Boshmaf, Sabri Boughorbel, Sanjay Chawla, Shammur Chowdhury, Fahim Dalvi, Kareem Darwish, Nadir Durrani, Mohamed Elfeky, Ahmed Elmagarmid, Mohamed Eltabakh, Masoomali Fatehkia, Anastasios Fragkopoulos, Maram Hasanain, Majd Hawasly, Mus'ab Husaini, Soon-Gyo Jung, Ji Kim Lucas, Walid Magdy, Safa Messaoud, Abubakr Mohamed, Tasnim Mohiuddin, Basel Mousi, Hamdy Mubarak, Ahmad Musleh, Zan Naeem, Mourad Ouzzani, Dorde Popovic, Amin Sadeghi, Husrev Taha Sencar, Mohammed Shinoy, Omar Sinan, Yifan Zhang, Ahmed Ali, Yassine El Kheir, Xiaosong Ma, Chaoyi Ruan,
• Abstract要約: Fanarは、アラビア語中心のマルチモーダル生成AIシステムのためのプラットフォームである。 ファナーの中心にはファナー・スターとファナー・プライムがある。 Fanarは、社内のバイリンガル音声認識を含む追加の認知機能を提供する。
• 参考スコア（独自算出の注目度）: 43.949498804697754
• License:
• Abstract: We present Fanar, a platform for Arabic-centric multimodal generative AI systems, that supports language, speech and image generation tasks. At the heart of Fanar are Fanar Star and Fanar Prime, two highly capable Arabic Large Language Models (LLMs) that are best in the class on well established benchmarks for similar sized models. Fanar Star is a 7B (billion) parameter model that was trained from scratch on nearly 1 trillion clean and deduplicated Arabic, English and Code tokens. Fanar Prime is a 9B parameter model continually trained on the Gemma-2 9B base model on the same 1 trillion token set. Both models are concurrently deployed and designed to address different types of prompts transparently routed through a custom-built orchestrator. The Fanar platform provides many other capabilities including a customized Islamic Retrieval Augmented Generation (RAG) system for handling religious prompts, a Recency RAG for summarizing information about current or recent events that have occurred after the pre-training data cut-off date. The platform provides additional cognitive capabilities including in-house bilingual speech recognition that supports multiple Arabic dialects, voice and image generation that is fine-tuned to better reflect regional characteristics. Finally, Fanar provides an attribution service that can be used to verify the authenticity of fact based generated content. The design, development, and implementation of Fanar was entirely undertaken at Hamad Bin Khalifa University's Qatar Computing Research Institute (QCRI) and was sponsored by Qatar's Ministry of Communications and Information Technology to enable sovereign AI technology development.
• Abstract（参考訳）: 本稿では、アラビア語中心の多モード生成AIシステムのためのプラットフォームであるFanarを紹介し、言語、音声、画像生成タスクをサポートする。 ファナーの中心にファナー・スターとファナー・プライムがあり、2つの高い能力を持つアラビア大言語モデル(LLM)があり、同様のサイズのモデルのための確立されたベンチマークでクラスでベストである。 Fanar Starは7B(ビリオン)パラメータモデルで、ほぼ1兆のクリーンで重複したアラビア語、英語、コードトークンでスクラッチから訓練された。 Fanar Primeは、Gemma-2 9Bベースモデル上で1兆のトークンセットで継続的に訓練された9Bパラメータモデルである。 どちらのモデルも同時にデプロイされ、カスタム構築のオーケストレータを通じて透過的にルーティングされるさまざまなタイプのプロンプトに対応するように設計されている。 Fanarプラットフォームには、宗教的なプロンプトを処理するためのカスタマイズされたISIS(ISIS Retrieval Augmented Generation)システムや、事前トレーニング後のデータ遮断後に発生した現在の出来事や最近の出来事に関する情報を要約するRecency RAGなど、多くの機能がある。 このプラットフォームは、複数のアラビア方言をサポートする社内のバイリンガル音声認識、地域特性をよりよく反映するように微調整された音声および画像生成など、さらなる認知機能を提供する。 最後にFanarは、事実に基づく生成されたコンテンツの信頼性を検証するために使用できる属性サービスを提供している。 Fanarの設計、開発、実装は、ハマド・ビン・ハリファ大学のカタール・コンピューティング・リサーチ・インスティチュート(QCRI)で完全に実施され、カタールの通信・情報技術省(英語版)が支援し、独自のAI技術開発を可能にした。

関連論文リスト

• ALLaM: Large Language Models for Arabic and English [9.881560166505452]
  アラビア語技術(ALT)のエコシステムを支える一連の大規模言語モデルであるアラビア大言語モデル(ALaM: Arabic Large Language Model)を提示する。 我々の自己回帰デコーダのみのアーキテクチャモデルは、語彙拡張と事前訓練による第二言語習得が、原語(英語)で破滅的な忘れをすることなく、新しい言語(アラビア語)へのモデルを操る方法を示している。 人間の嗜好と広範囲なアライメントは,品質アライメントの低い大規模モデルと比較して言語モデルの性能を著しく向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-07-22T05:35:17Z)
• AlcLaM: Arabic Dialectal Language Model [2.8477895544986955]
  ソーシャルメディアプラットフォームから収集した340万文からなるアラビア語方言コーパスを構築した。 我々はこのコーパスを用いて語彙を拡大し、BERTベースのモデルをスクラッチから再訓練する。 AlcLaMという名前の私たちのモデルは、既存のモデルで使われているデータのごく一部を表す、わずか13GBのテキストで訓練された。
  論文  参考訳（メタデータ） (2024-07-18T02:13:50Z)
• Arabic Tweet Act: A Weighted Ensemble Pre-Trained Transformer Model for Classifying Arabic Speech Acts on Twitter [0.32885740436059047]
  本稿では,トランスフォーマー深層学習ニューラルネットワークに基づくTwitter方言のアラビア音声行為分類手法を提案する。 本研究では,BERTに基づく重み付きアンサンブル学習手法を提案する。 その結果,最高のBERTモデルは平均F1スコアと0.73と0.84の精度を持つaraBERTv2-Twitterモデルであることが判明した。
  論文  参考訳（メタデータ） (2024-01-30T19:01:24Z)
• YAYI 2: Multilingual Open-Source Large Language Models [53.92832054643197]
  我々は,300億のパラメータを持つベースモデルとチャットモデルを含むYAYI 2を提案する。 YAYI 2は、トレーニング済みのデータ処理パイプラインによってフィルタされた2.65兆のトークンを含む多言語コーパス上で、スクラッチから事前トレーニングされる。 ベースモデルは、数百万の指示による教師付き微調整と、人間のフィードバックからの強化学習によって、人間の価値と整合する。
  論文  参考訳（メタデータ） (2023-12-22T17:34:47Z)
• Qwen Technical Report [132.54304067403922]
  当社の大規模言語モデルシリーズの最初のインストールであるQwenを紹介します。 Qwenはトレーニング済みの言語モデルの基本であり、Qwen-Chatは人間のアライメント技術で微調整されたチャットモデルである。 また、コーディング特化モデルであるCode-QwenとCode-Qwen-Chatも開発し、数学に焦点を当てたMath-Qwen-Chatも開発しました。
  論文  参考訳（メタデータ） (2023-09-28T17:07:49Z)
• AceGPT, Localizing Large Language Models in Arabic [73.39989503874634]
  本稿では,アラビア語のテキストによる事前学習,ネイティブなアラビア語命令を利用したSFT(Supervised Fine-Tuning),アラビア語のGPT-4応答を含む総合的なソリューションを提案する。 目標は、文化的に認知され、価値に整合したアラビア語のLLMを、多様で応用特有のアラビア語コミュニティのニーズに適応させることである。
  論文  参考訳（メタデータ） (2023-09-21T13:20:13Z)
• Jais and Jais-chat: Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models [57.76998376458017]
  私たちはJaisとJais-chatを紹介します。これは、最先端のアラビア中心の新たな基礎であり、命令で調整されたオープンな生成型大言語モデル(LLMs)です。 モデルはGPT-3デコーダのみのアーキテクチャに基づいており、アラビア語と英語のテキストが混在している。 本稿では、トレーニング、チューニング、安全性アライメント、モデルの評価について詳述する。
  論文  参考訳（メタデータ） (2023-08-30T17:07:17Z)
• PAGnol: An Extra-Large French Generative Model [53.40189314359048]
  本稿では,フランスのGPTモデルのコレクションであるPAGnolを紹介する。 スケーリング法則を用いて,CamemBERTと同じ計算予算でPAGnol-XLを効率的に訓練する。
  論文  参考訳（メタデータ） (2021-10-16T11:44:23Z)
• AraGPT2: Pre-Trained Transformer for Arabic Language Generation [0.0]
  我々は,インターネットテキストとニュース記事の巨大なアラビア語コーパスをスクラッチから学習した,最初の先進アラビア語言語生成モデルであるalagpt2を開発した。 当社の最大のモデルであるAraGPT2-megaは、1.46億のパラメータを持ち、アラビア言語モデルとして最大です。 テキスト生成では、wikipediaの記事に29.8のパープレキシティを達成する。
  論文  参考訳（メタデータ） (2020-12-31T09:48:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。