論文の概要: Laguna M.1/XS.2 Technical Report

• arxiv url: http://arxiv.org/abs/2605.27605v1
• Date: Tue, 26 May 2026 19:23:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.47972
• Title: Laguna M.1/XS.2 Technical Report
• Title（参考訳）: ラグナM.1/XS.2技術報告
• Abstract要約: ラグナ M.1とラグナ XS.2は、2つのMixture-of-Expertsの基礎モデルであり、長距離のエージェントコーディングのために作られた。 M.1は25.8ドルBの合計パラメータ(トークン当たり23.4ドルB)、XS.2は33.4ドルBの合計パラメータ(3.3ドルB) どちらのモデルも、私たちがモデルファクトリと呼ぶものと同じ内部システム内で、エンドツーエンドのスクラッチからトレーニングされました。
• 参考スコア（独自算出の注目度）: 66.65159476476967
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We present Laguna M.1 and Laguna XS.2, two Mixture-of-Experts foundation models built for long-horizon, agentic coding: M.1 has $225.8$B total parameters ($23.4$B activated per token) and XS.2 has $33.4$B total ($3$B activated). Both models were trained from scratch end-to-end inside the same internal system that we refer to as our Model Factory: a tightly-integrated stack of versioned data, training, evaluation, and inference components that turn model development into an industrial process. We describe the principles and design choices of the Model Factory and also detail the end-to-end training process of our models, throughout pre-training data and architecture, post-training stages, evaluation, and quantization. On agentic software engineering and terminal benchmarks (SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, and Terminal-Bench 2.0) M.1 and XS.2 are competitive with state-of-the-art open models in their respective weight classes. Laguna XS.2 weights are released under Apache~2.0 at https://huggingface.co/collections/poolside/laguna-xs2.
• Abstract（参考訳）: 我々はLaguna M.1とLaguna XS.2を提示する:M.1は225.8ドルB(トークン当たり23.4ドルB)、XS.2は33.4ドルB(3.4ドルB)。 モデルファクトリは、バージョン管理されたデータの密に統合されたスタックであり、トレーニング、評価、推論コンポーネントで、モデル開発を産業プロセスに変換するものです。 モデルファクトリの原則と設計選択について説明するとともに、事前トレーニングデータとアーキテクチャ、トレーニング後の段階、評価、定量化を通じて、モデルのエンドツーエンドのトレーニングプロセスについて詳述する。 エージェントソフトウェアエンジニアリングと端末ベンチマーク(SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, Terminal-Bench 2.0)では、M.1とXS.2はそれぞれの重みクラスで最先端のオープンモデルと競合する。 Laguna XS.2 は Apache~2.0 の https://huggingface.co/collections/poolside/laguna-xs2 でリリースされている。

関連論文リスト

• Nemotron Elastic: Towards Efficient Many-in-One Reasoning LLMs [80.72350166388601]
  Nemotron Elasticは推論指向のLLMを構築するためのフレームワークである。 ネストしたサブモデルを単一の親モデルに組み込む。 これらのサブモデルはそれぞれ、親モデルと重みを共有し、デプロイ中にゼロショットを抽出できる。
  論文  参考訳（メタデータ） (2025-11-20T18:59:21Z)
• F2LLM Technical Report: Matching SOTA Embedding Performance with 6 Million Open-Source Data [19.088644745246373]
  F2LLMは,0.6B,1.7B,4Bの3種類の最先端埋め込みモデルである。 F2LLMは、オープンソースの非合成データセットからキュレートされた600万のクエリドキュメント陰性に関する基礎モデルから直接微調整される。 MTEBの英語リーダーボードでは、F2LLM-4Bは約4Bパラメーターと7番目のモデルで2位、F2LLM-1.7Bは1B-2Bサイズ範囲で1位である。
  論文  参考訳（メタデータ） (2025-10-02T17:58:49Z)
• LimiX: Unleashing Structured-Data Modeling Capability for Generalist Intelligence [61.46575527504109]
  LimiX-16MとLimiX-2Mは、構造化されたデータを変数と欠落に対する共同分布として扱う。 サンプルサイズ,特徴次元,クラス数,カテゴリ間特徴比,欠落度,サンプル-特徴比の広い11種類の大規模構造化データベンチマークを対象としたLimiXモデルの評価を行った。
  論文  参考訳（メタデータ） (2025-09-03T17:39:08Z)
• Matryoshka Model Learning for Improved Elastic Student Models [62.154536258259384]
  MatTAは、新しいTeacher-TA-Studentレシピを使用して、複数の正確な学生モデルをトレーニングするためのフレームワークである。 本手法はパブリックモデルであるGPT-2 Medium上で実証し,SAT Mathで24%,LAMBADAベンチマークで10%以上の相対的な改善を実現した。
  論文  参考訳（メタデータ） (2025-05-29T10:54:58Z)
• 2 OLMo 2 Furious [154.15728448754854]
  我々は、私たちの完全にオープンな言語の次世代モデルであるOLMo 2を紹介します。 OLMo 2は、7B、13B、32Bスケールの高密度な自己回帰言語モデルを含む。 修正されたモデルアーキテクチャとトレーニングレシピについて説明する。
  論文  参考訳（メタデータ） (2024-12-31T21:55:10Z)
• Xmodel-2 Technical Report [4.0069773933776665]
  Xmodel-2は、推論タスク用に特別に設計された大きな言語モデルである。 トレーニング効率と安定性を最大化するために、MiniCPMのWSD学習率スケジューラを使用している。 Xmodel-2は、訓練コストを低く抑えながら、複雑な推論やエージェントベースのタスクにおいて最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2024-12-27T13:32:10Z)
• Stable LM 2 1.6B Technical Report [7.78806287439495]
  本報告では,StableLM 2 1.6Bのベースおよび命令調整版へのデータおよびトレーニング手順について述べる。 両方のモデルの重量はHugging Faceで誰でもダウンロードできる。 本報告の公開時点では、StableLM 2 1.6Bは2Bパラメータによる最先端のオープンモデルであった。
  論文  参考訳（メタデータ） (2024-02-27T19:00:07Z)
• Ensemble Distillation for Robust Model Fusion in Federated Learning [72.61259487233214]
  Federated Learning(FL)は、多くのデバイスが機械学習モデルを協調的にトレーニングする機械学習環境である。 現在のトレーニングスキームのほとんどでは、サーバモデルのパラメータと更新されたパラメータをクライアント側から平均化することで、中央モデルを洗練します。 本研究では,モデル融合のためのアンサンブル蒸留法を提案する。
  論文  参考訳（メタデータ） (2020-06-12T14:49:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。