論文の概要: Multi-SFT: Permissively-Licensed Multilingual Instruction-Following
- arxiv url: http://arxiv.org/abs/2610.22086v1
- Date: Thu, 15 Oct 2026 15:39:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.164388
- Title: Multi-SFT: Permissively-Licensed Multilingual Instruction-Following
- Title(参考訳): Multi-SFT: Permissively-Licensed Multilingual Instruction-Following
- Abstract要約: 5つのヨーロッパ言語にまたがる502,818の命令応答対の商業的許容コレクションであるMulti-SFTを紹介する。
3つのファインチューニングされた9つのモデルは、Multi-SFTだけで、より大きな拡張ミックスと公式のインストラクションチューニングリリースと競合していることを示している。
- 参考スコア(独自算出の注目度): 1.2217220679167586
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supervised fine-tuning datasets remain overwhelmingly English-centric and commercially restricted, as their content is frequently generated by proprietary models whose terms of service forbid training competing systems. We introduce Multi-SFT, a commercially permissive collection of 502,818 instruction-response pairs across five European languages, built via translation and regeneration pipelines for tasks where translation is insufficient. Human evaluation yields inter-annotator agreement of at least 0.87 across all datasets and languages. Fine-tuning nine models from three different families (EuroLLM, OLMo 2, Qwen3; 1B-32B) and evaluating them on 13 benchmarks shows that Multi-SFT alone is competitive with larger augmented mixes and official instruction-tuned releases, with decisive advantages on safety tasks.
- Abstract(参考訳): 監視された微調整データセットは、競合システムのトレーニングを禁止しているプロプライエタリなモデルによってしばしば生成されるため、圧倒的に英語中心で商業的に制限されたままである。
5つのヨーロッパ言語にまたがる502,818の命令応答対の商業的に許容されるコレクションであるMulti-SFTを導入する。
人間の評価は、すべてのデータセットと言語で少なくとも0.87のアノテーション間の合意を得る。
3つの異なるファミリー(EuroLLM、OLMo 2、Qwen3、QB-32B)から9つのモデルを微調整し、13のベンチマークで評価すると、Multi-SFT単独はより大きな拡張ミックスと公式の命令調整リリースと競合し、安全タスクに決定的なアドバンテージを持つことを示している。
関連論文リスト
- MultiSynt/MT: Trillion-Token Multi-Parallel Pre-Training Data Translated Across 36 Languages [30.09756627209374]
MultiSynt/MTは、36の言語で約4.8兆の目標トークンを持つオープンな合成並列コーパスである。
多くの中・低リソースのヨーロッパの言語では、これはオープンソースで利用可能なトレーニング済みリソースとしては最大である。
論文 参考訳(メタデータ) (2026-07-01T12:55:58Z) - Multi-IF: Benchmarking LLMs on Multi-Turn and Multilingual Instructions Following [51.18383180774354]
Multi-IFは,大規模言語モデルの習熟度を多元的および多言語的指示に従って評価するための新しいベンチマークである。
Multi-IF 上での14の最先端 LLM の評価結果から,既存のベンチマークよりもはるかに難しい課題であることが判明した。
非ラテン文字(ヒンディー語、ロシア語、中国語)を持つ言語は一般的に高いエラー率を示し、モデルの多言語能力の潜在的な制限を示唆している。
論文 参考訳(メタデータ) (2024-10-21T00:59:47Z) - FuxiTranyu: A Multilingual Large Language Model Trained with Balanced Data [39.54285525397304]
We present FuxiTranyu, a open-source multilingual model for large language model (LLMs)。
ベースモデルであるFuxiTranyu-8Bは80億のパラメータを持ち、微妙にバランスの取れた多言語データに基づいてスクラッチから訓練されている。
幅広い多言語ベンチマークの実験は、フキシトラユの競争性能を実証している。
論文 参考訳(メタデータ) (2024-08-12T16:34:56Z) - Breaking Language Barriers in Multilingual Mathematical Reasoning: Insights and Observations [59.056367787688146]
本稿では, マルチリンガル数学推論 (xMR) LLM の探索と学習の先駆者である。
我々は10の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
翻訳を利用して、10個の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
論文 参考訳(メタデータ) (2023-10-31T08:09:20Z) - Towards Making the Most of Multilingual Pretraining for Zero-Shot Neural
Machine Translation [74.158365847236]
SixT++は、100のソース言語をサポートする強力な多言語NMTモデルであるが、たった6つのソース言語からの並列データセットで一度トレーニングされている。
CRISSとm2m-100は、それぞれ7.2と5.0BLEUの2つの強い多言語NMTシステムより大幅に優れていた。
論文 参考訳(メタデータ) (2021-10-16T10:59:39Z) - Knowledge Distillation for Multilingual Unsupervised Neural Machine
Translation [61.88012735215636]
unsupervised neural machine translation (UNMT) は、最近、いくつかの言語対に対して顕著な結果を得た。
UNMTは単一の言語ペア間でのみ翻訳することができ、同時に複数の言語ペアに対して翻訳結果を生成することはできない。
本稿では,1つのエンコーダと1つのデコーダを用いて13言語間を翻訳する簡単な手法を実証的に紹介する。
論文 参考訳(メタデータ) (2020-04-21T17:26:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。