論文の概要: Laguna M.1/XS.2 Technical Report

• arxiv url: http://arxiv.org/abs/2605.27605v1
• Date: Tue, 26 May 2026 19:23:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.47972
• Title: Laguna M.1/XS.2 Technical Report
• Title（参考訳）: ラグナM.1/XS.2技術報告
• Authors: Julien Abadji, Marah Abdin, Connor Adams, Eric Alcaide, Mustafa Altun, Michele Artoni, Junze Bao, Uday Barar, Vassilis Bekiaris, Arkadii Bessonov, Benjamin Bütikofer, Jonathan Chang, Yen-Chun Chen, Dmitry Chernenkov, Yang Chi, Filippos Christianos, Fenia Christopoulou, Razvan-Andrei Ciocoiu, Tzachi Cohen, Yohann Coppel, Dmitrii Emelianenko, Brandon Fergerson, Brian Fitzgerald, Matthias Gallé, Alex Golonzovskyi, George Grigorev, Yiyang Hao, Christian Hensel, Jan Huenermann, Ye Ji, Sarthak Joshi, Eiso Kant, Kabir Khandpur, Seonghyeon Kim, Vladimir Kirichenko, Umut Kocasarac, Ilya Kochik, Ivan Komarov, Chaerin Kong, Anurag Koul, François-Joseph Lacroix, Sergei Laktionov, Waren Long, Quentin Malartic, Vadim Markovtsev, Afonso Marques, Robert McHardy, Carlos Mocholí, Dmitry Monakhov, Adam Morris, Martin Muller, Christian Mürtz, Robin Nabel, Thien Nguyen, Rok Novosel, Szymon Ozog, Aalhad Patankar, Aleksei Petrov, Alexandre Piché, Arthur Pignet, Teodor Poncu, Phil Potter, Alexander Rakowski, Pierre-Yves Ritschard, Jay Roberts, Joe Rowell, Piotr Sarna, Pierre-André Savalle, Uladzislau Sazanovich, Nikita Shapovalov, Arsenii Shevchenko, Mikhail Shilkov, Andrei Sokol, Mohamed Soliman, Jack Stephenson, Victor Storchan, Dragos-Constantin Tantaru, Artem Tyurin, Adrian Wälchli, Pengming Wang, Jianxiao Yang, Renat Zayashnikov, Alexander Zelenka Martin, Nikolay Zinov, Caroline Bercier, José Caldeira, Margarida Garcia, Tom George, Kabeer Gharzai, Glenn Hitchcock, Carson Klingenberg, Ivo Pinto, Varun Randery, Noah Smith, Arina Sugako, Jason Warner,
• Abstract要約: ラグナ M.1とラグナ XS.2は、2つのMixture-of-Expertsの基礎モデルであり、長距離のエージェントコーディングのために作られた。 M.1は25.8ドルBの合計パラメータ(トークン当たり23.4ドルB)、XS.2は33.4ドルBの合計パラメータ(3.3ドルB) どちらのモデルも、私たちがモデルファクトリと呼ぶものと同じ内部システム内で、エンドツーエンドのスクラッチからトレーニングされました。
• 参考スコア（独自算出の注目度）: 66.65159476476967
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We present Laguna M.1 and Laguna XS.2, two Mixture-of-Experts foundation models built for long-horizon, agentic coding: M.1 has $225.8$B total parameters ($23.4$B activated per token) and XS.2 has $33.4$B total ($3$B activated). Both models were trained from scratch end-to-end inside the same internal system that we refer to as our Model Factory: a tightly-integrated stack of versioned data, training, evaluation, and inference components that turn model development into an industrial process. We describe the principles and design choices of the Model Factory and also detail the end-to-end training process of our models, throughout pre-training data and architecture, post-training stages, evaluation, and quantization. On agentic software engineering and terminal benchmarks (SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, and Terminal-Bench 2.0) M.1 and XS.2 are competitive with state-of-the-art open models in their respective weight classes. Laguna XS.2 weights are released under Apache~2.0 at https://huggingface.co/collections/poolside/laguna-xs2.
• Abstract（参考訳）: 我々はLaguna M.1とLaguna XS.2を提示する:M.1は225.8ドルB(トークン当たり23.4ドルB)、XS.2は33.4ドルB(3.4ドルB)。 モデルファクトリは、バージョン管理されたデータの密に統合されたスタックであり、トレーニング、評価、推論コンポーネントで、モデル開発を産業プロセスに変換するものです。 モデルファクトリの原則と設計選択について説明するとともに、事前トレーニングデータとアーキテクチャ、トレーニング後の段階、評価、定量化を通じて、モデルのエンドツーエンドのトレーニングプロセスについて詳述する。 エージェントソフトウェアエンジニアリングと端末ベンチマーク(SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, Terminal-Bench 2.0)では、M.1とXS.2はそれぞれの重みクラスで最先端のオープンモデルと競合する。 Laguna XS.2 は Apache~2.0 の https://huggingface.co/collections/poolside/laguna-xs2 でリリースされている。

関連論文リスト

• Matryoshka Model Learning for Improved Elastic Student Models [62.154536258259384]
  MatTAは、新しいTeacher-TA-Studentレシピを使用して、複数の正確な学生モデルをトレーニングするためのフレームワークである。 本手法はパブリックモデルであるGPT-2 Medium上で実証し,SAT Mathで24%,LAMBADAベンチマークで10%以上の相対的な改善を実現した。
  論文  参考訳（メタデータ） (2025-05-29T10:54:58Z)
• 2 OLMo 2 Furious [154.15728448754854]
  我々は、私たちの完全にオープンな言語の次世代モデルであるOLMo 2を紹介します。 OLMo 2は、7B、13B、32Bスケールの高密度な自己回帰言語モデルを含む。 修正されたモデルアーキテクチャとトレーニングレシピについて説明する。
  論文  参考訳（メタデータ） (2024-12-31T21:55:10Z)
• Xmodel-2 Technical Report [4.0069773933776665]
  Xmodel-2は、推論タスク用に特別に設計された大きな言語モデルである。 トレーニング効率と安定性を最大化するために、MiniCPMのWSD学習率スケジューラを使用している。 Xmodel-2は、訓練コストを低く抑えながら、複雑な推論やエージェントベースのタスクにおいて最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-12-27T13:32:10Z)
• Stable LM 2 1.6B Technical Report [7.78806287439495]
  本報告では,StableLM 2 1.6Bのベースおよび命令調整版へのデータおよびトレーニング手順について述べる。 両方のモデルの重量はHugging Faceで誰でもダウンロードできる。 本報告の公開時点では、StableLM 2 1.6Bは2Bパラメータによる最先端のオープンモデルであった。
  論文  参考訳（メタデータ） (2024-02-27T19:00:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。