Fugu-MT 論文翻訳(概要): DaG LLM ver 1.0: Pioneering Instruction-Tuned Language Modeling for Korean NLP

論文の概要: DaG LLM ver 1.0: Pioneering Instruction-Tuned Language Modeling for Korean NLP

arxiv url: http://arxiv.org/abs/2311.13784v1
Date: Thu, 23 Nov 2023 03:03:54 GMT
ステータス: 処理完了
システム内更新日: 2023-11-28 00:46:25.419830
Title: DaG LLM ver 1.0: Pioneering Instruction-Tuned Language Modeling for Korean NLP
Title（参考訳）: DaG LLM ver 1.0: 韓国NLPのための命令調整言語モデリングのパイオニア化
Authors: Dongjun Jang, Sangah Lee, Sungjoo Byun, Jinwoong Kim, Jean Seo, Minseok Kim, Soyeon Kim, Chaeyoung Oh, Jaeyoon Kim, Hyemi Jo, Hyopil Shin
Abstract要約: 本稿では,韓国語に特化した言語モデルであるDaG LLM(David and Goliath Large Language Model)について述べる。
参考スコア（独自算出の注目度）: 3.6469080199462702
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper presents the DaG LLM (David and Goliath Large Language Model), a language model specialized for Korean and fine-tuned through Instruction Tuning across 41 tasks within 13 distinct categories.
Abstract（参考訳）: 本稿では,韓国語に特化した言語モデルであるDaG LLM(David and Goliath Large Language Model)について述べる。

関連論文リスト

Evaluating Tokenizer Performance of Large Language Models Across Official Indian Languages [0.0]
本稿では,12の大規模言語モデル (LLM) が使用するトークンの包括的評価を行った。 SUTRAトークンライザは、いくつかのIndic特化モデルを含む他のモデルよりも優れており、14言語で優れている。本研究は,多言語およびインデックス中心モデルを対象としたトークン化戦略の開発において重要であることを示す。
論文参考訳（メタデータ） (2024-11-19T05:37:17Z)
Pangea: A Fully Open Multilingual Multimodal LLM for 39 Languages [55.36534539177367]
本稿では,39言語にまたがる多様な6M命令データセットに基づいて訓練された多言語多言語多言語大言語モデル(MLLM)であるPangeaを紹介する。 P Pangeaは、多言語設定や多様な文化的コンテキストにおいて、既存のオープンソースモデルよりも大幅に優れています。我々は、包括的で堅牢な多言語MLLMの開発を容易にするために、データ、コード、訓練されたチェックポイントを完全にオープンソースにしています。
論文参考訳（メタデータ） (2024-10-21T16:19:41Z)
Navigating Text-to-Image Generative Bias across Indic Languages [53.92640848303192]
本研究ではインドで広く話されているIndic言語に対するテキスト・ツー・イメージ(TTI)モデルのバイアスについて検討する。これらの言語における主要なTTIモデルの生成的パフォーマンスと文化的関連性を評価し,比較する。
論文参考訳（メタデータ） (2024-08-01T04:56:13Z)
KIT-19: A Comprehensive Korean Instruction Toolkit on 19 Tasks for Fine-Tuning Korean Large Language Models [0.0]
textitKIT-19は、韓国のNLPタスクのための19の既存のオープンソースデータセットからなる、命令フォーマットで作成されたデータセットである。実験の結果,textitKIT-19で訓練したモデルは,既存の韓国のLLMよりも有意に優れていた。
論文参考訳（メタデータ） (2024-03-25T06:15:21Z)
Efficient and Effective Vocabulary Expansion Towards Multilingual Large Language Models [9.359647125218359]
本報告では,韓国語による大規模言語モデルの適応である texttEEVE-Korean-v1.0 を紹介する。我々の手法は、わずか20億のトークンで非英語の習熟度を大幅に向上させることができる。
論文参考訳（メタデータ） (2024-02-22T17:12:39Z)
SeaLLMs -- Large Language Models for Southeast Asia [76.50157503379086]
東南アジア(SEA)言語に焦点を当てた,革新的な言語モデルであるSeaLLMを紹介した。 SeaLLMはLlama-2モデルに基づいて構築され、さらに拡張語彙、特殊命令、アライメントチューニングによる事前訓練が継続されている。包括的評価により,SeaLLM-13bモデルは言語タスクやアシスタントスタイルの指示追従能力に優れた性能を示した。
論文参考訳（メタデータ） (2023-12-01T17:17:56Z)
Assessing Translation capabilities of Large Language Models involving English and Indian Languages [4.067706269490143]
機械翻訳を英語と22のインド語を含む課題として用いて,大規模言語モデルの多言語的機能について検討する。パラメータ効率のよいLoRAなどの微調整手法と,さらに完全な微調整を併用して,これらの大規模言語モデルを微調整する。その結果,平均BLEUスコアは13.42,15.93,12.13,12.30,12.07,CHRFスコアは43.98,46.99,42.55,42.42,45.39であった。
論文参考訳（メタデータ） (2023-11-15T18:58:19Z)
Okapi: Instruction-tuned Large Language Models in Multiple Languages with Reinforcement Learning from Human Feedback [61.83548032416181]
複数の言語を対象としたRLHFに基づく命令調整型LLMシステムであるOkapiを提案する。オカピは26の多言語言語でインストラクションと応答ランクデータを導入し、将来の多言語LLM研究の促進と開発に役立てている。
論文参考訳（メタデータ） (2023-07-29T18:01:46Z)
A Technical Report for Polyglot-Ko: Open-Source Large-Scale Korean Language Models [6.907247943327277]
Polyglotは多言語モデルの非英語のパフォーマンス向上を目的とした先駆的なプロジェクトである。多言語韓国語モデルは、自然界において多言語的ではなく、特定の焦点を表わすものである。
論文参考訳（メタデータ） (2023-06-04T04:04:04Z)
BigTranslate: Augmenting Large Language Models with Multilingual Translation Capability over 100 Languages [47.99695189331567]
我々は,LLaMAを20言語に限定し,100言語以上で多言語翻訳機能を備えたBigTranslateを提案する。 BigTranslateは,LLaMA-13B上に構築されており,3つのステップで最適化されている。まず,大規模な中国語単言語データを用いてLLaMAのトレーニングを継続する。次に,102の自然言語をカバーする大規模並列データセットを用いてモデルをトレーニングする。第3に,基礎モデルを多言語翻訳命令で指導し,BigTranslateモデルを導出する。
論文参考訳（メタデータ） (2023-05-29T14:07:52Z)
Enhancing Translation for Indigenous Languages: Experiments with Multilingual Models [57.10972566048735]
本稿では,3つの方法のシステム記述について述べる。 M2M-100とmBART50という2つの多言語モデルと1つのバイリンガル(1対1)-ヘルシンキNLPスペイン語翻訳モデルを使いました。アメリカから11の言語を実験し、使用したセットアップと、達成した成果を報告しました。
論文参考訳（メタデータ） (2023-05-27T08:10:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。