Fugu-MT 論文翻訳(概要): Qwen3 Technical Report

論文の概要: Qwen3 Technical Report

arxiv url: http://arxiv.org/abs/2505.09388v1
Date: Wed, 14 May 2025 13:41:34 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-15 21:44:09.476942
Title: Qwen3 Technical Report
Title（参考訳）: Qwen3テクニカルレポート
Authors: An Yang, Anfeng Li, Baosong Yang, Beichen Zhang, Binyuan Hui, Bo Zheng, Bowen Yu, Chang Gao, Chengen Huang, Chenxu Lv, Chujie Zheng, Dayiheng Liu, Fan Zhou, Fei Huang, Feng Hu, Hao Ge, Haoran Wei, Huan Lin, Jialong Tang, Jian Yang, Jianhong Tu, Jianwei Zhang, Jianxin Yang, Jiaxi Yang, Jing Zhou, Jingren Zhou, Junyang Lin, Kai Dang, Keqin Bao, Kexin Yang, Le Yu, Lianghao Deng, Mei Li, Mingfeng Xue, Mingze Li, Pei Zhang, Peng Wang, Qin Zhu, Rui Men, Ruize Gao, Shixuan Liu, Shuang Luo, Tianhao Li, Tianyi Tang, Wenbiao Yin, Xingzhang Ren, Xinyu Wang, Xinyu Zhang, Xuancheng Ren, Yang Fan, Yang Su, Yichang Zhang, Yinger Zhang, Yu Wan, Yuqiong Liu, Zekun Wang, Zeyu Cui, Zhenru Zhang, Zhipeng Zhou, Zihan Qiu,
Abstract要約: Qwenモデルファミリの最新バージョンであるQwen3を紹介します。 Qwen3は、性能、効率、多言語機能を向上させるために設計された一連の大規模言語モデル(LLM)から構成されている。
参考スコア（独自算出の注目度）: 137.96804244102205
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In this work, we present Qwen3, the latest version of the Qwen model family. Qwen3 comprises a series of large language models (LLMs) designed to advance performance, efficiency, and multilingual capabilities. The Qwen3 series includes models of both dense and Mixture-of-Expert (MoE) architectures, with parameter scales ranging from 0.6 to 235 billion. A key innovation in Qwen3 is the integration of thinking mode (for complex, multi-step reasoning) and non-thinking mode (for rapid, context-driven responses) into a unified framework. This eliminates the need to switch between different models--such as chat-optimized models (e.g., GPT-4o) and dedicated reasoning models (e.g., QwQ-32B)--and enables dynamic mode switching based on user queries or chat templates. Meanwhile, Qwen3 introduces a thinking budget mechanism, allowing users to allocate computational resources adaptively during inference, thereby balancing latency and performance based on task complexity. Moreover, by leveraging the knowledge from the flagship models, we significantly reduce the computational resources required to build smaller-scale models, while ensuring their highly competitive performance. Empirical evaluations demonstrate that Qwen3 achieves state-of-the-art results across diverse benchmarks, including tasks in code generation, mathematical reasoning, agent tasks, etc., competitive against larger MoE models and proprietary models. Compared to its predecessor Qwen2.5, Qwen3 expands multilingual support from 29 to 119 languages and dialects, enhancing global accessibility through improved cross-lingual understanding and generation capabilities. To facilitate reproducibility and community-driven research and development, all Qwen3 models are publicly accessible under Apache 2.0.
Abstract（参考訳）: 本稿では、Qwenモデルファミリの最新バージョンであるQwen3を紹介する。 Qwen3は、性能、効率、多言語機能を向上させるために設計された一連の大規模言語モデル(LLM)から構成されている。 Qwen3シリーズには、密度とMixture-of-Expert(MoE)アーキテクチャの両方のモデルが含まれており、パラメータスケールは0.6から235億である。 Qwen3における重要なイノベーションは、思考モード(複雑で多段階の推論のための)と非思考モード(迅速なコンテキスト駆動応答のための)を統一されたフレームワークに統合することである。これにより、チャット最適化モデル(例:GPT-4o)や専用推論モデル(例:QwQ-32B)など、さまざまなモデル間の切り替えが不要になり、ユーザクエリやチャットテンプレートに基づいた動的モード切り替えが可能になる。一方、Qwen3は思考予算機構を導入し、ユーザーは推論中に計算リソースを適応的に割り当て、タスクの複雑さに基づいてレイテンシとパフォーマンスのバランスをとることができる。さらに, フラッグシップモデルからの知識を活用することで, 小型モデル構築に必要な計算資源を大幅に削減し, 高い競争性能を確保した。実証的な評価では、Qwen3はコード生成、数学的推論、エージェントタスクなど様々なベンチマークで最先端の結果を達成し、より大きなMoEモデルやプロプライエタリモデルと競合することを示している。以前のQwen2.5と比較して、Qwen3は29から119の言語と方言への多言語サポートを拡張し、言語間理解と生成能力の改善を通じてグローバルアクセシビリティを向上させる。再現性とコミュニティ主導のリサーチと開発を容易にするため、すべてのQwen3モデルはApache 2.0で公開されている。

論文の概要: Qwen3 Technical Report

関連論文リスト