論文の概要: ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search

• arxiv url: http://arxiv.org/abs/2609.13356v1
• Date: Fri, 11 Sep 2026 17:18:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.243548
• Title: ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search
• Title（参考訳）: ZGCM-1: 数学とエージェント検索のための完全オープンかつ極端に効率的な基礎モデル
• Abstract要約: ZGCM-1は、極端なデータ、システム、アルゴリズムの効率でゼロから訓練された、完全にオープンな7Bファンデーションモデルである。 エージェントがクラスタ操作を自律的に管理する、AIネイティブなR&Dワークフローを確立します。 ZGCM-1-7Bは一般的なベンチマークで7Bモデルファミリ間で競合する。
• 参考スコア（独自算出の注目度）: 54.43696074323815
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we present ZGCM-1, a fully open 7B dense foundation model trained from scratch with extreme data, system, and algorithmic efficiency. ZGCM-1 is founded on a core premise: compact models cannot passively memorize the open web, but can overcome parametric capacity limits by coupling deliberate internal thinking with active external tool use. To support this paradigm across a 256K context, we develop an end-to-end, high-efficiency open training recipe: Architecture & System Co-design: interleaved gated sliding-window and full attention, and a stable FP8 Muon optimizer; Progressive Curriculum & MDP Mid-Training: context scaling across 16K, 64K, and 256K, and the reformulation of interaction traces into Markov Decision Processes. Furthermore, we establish an AI-native R&D workflow where agent swarms autonomously manage cluster operations, data curation, and rapid diagnostic evaluation. Extensive evaluations show that ZGCM-1-7B is competitive across 7B model family on general benchmarks. On several challenging mathematical reasoning and agentic search suites, it remains competitive with frontier models orders of magnitude larger, such as Qwen3-235B-A22B and GLM-5.1. We also show that our pre-training design offers a ~4.2x efficiency improvement in 16K pre-training time-to-loss. Across the full development lifecycle, we distill eight actionable empirical findings-spanning architectural scaling, SFT quality pruning, long-context generalization, and agentic co-training dynamics. To facilitate community research, we open-source model weights from the pre-training, mid-training, and post-training stages, intermediate checkpoints, training code, per-stage data and data recipes, and W&B logs.
• Abstract（参考訳）: 本研究では,ゼロから学習した完全オープンな7B密度基礎モデルであるZGCM-1を,極端なデータ,システム,アルゴリズムの効率で提示する。 コンパクトモデルはオープンウェブを受動的に記憶することはできないが、アクティブな外部ツールの使用と意図的に内部思考を結合することでパラメトリック容量制限を克服することができる。 このパラダイムを256Kコンテキストでサポートするために、アーキテクチャとシステムの共同設計:インターリーブドゲートのスライドウインドウとフルアテンション、安定したFP8 Muonオプティマイザ、プログレッシブカリキュラムとMDP ミッドトレーニング:コンテキストスケーリング:16K、64K、256K、インタラクションの改革はマルコフ決定プロセスに遡る。 さらに,エージェントがクラスタ操作,データキュレーション,迅速な診断評価を自律的に管理する,AIネイティブなR&Dワークフローを構築した。 総合評価の結果, ZGCM-1-7B は一般ベンチマークで 7B モデルファミリ間で競合することが示された。 いくつかの挑戦的な数学的推論とエージェント検索スイートでは、Qwen3-235B-A22BやGLM-5.1のようなフロンティアモデルと競合する。 また,プレトレーニング設計では,16Kの事前トレーニング時間において,約4.2倍の効率向上を実現していることを示す。 本研究は, フル開発ライフサイクルにおいて, 8つの実行可能な実験結果-アーキテクチャスケーリング, SFT品質プルーニング, 長いコンテキストの一般化, エージェント的協調学習のダイナミクスを蒸留する。 コミュニティ調査を容易にするため,事前トレーニング,中級トレーニング,後訓練段階,中間チェックポイント,トレーニングコード,ステージごとのデータおよびデータレシピ,W&Bログから,モデルウェイトをオープンソース化した。

関連論文リスト

• Embodied-R1.5: Evolving Physical Intelligence via Embodied Foundation Models [63.96252564303143]
  Embodied-R1.5は統合されたEmbodied Foundation Model(EFM)であり、包括的エンボディド推論機能を統合する。 我々は15B以上のトークンからなる大規模データシステムを構築し、マルチタスクバランスのRLレシピを設計する。 8Bパラメータしか持たず、Embodied-R1.5 SOTAは24のVLMベンチマークのうち16で、Gemini-Robotics-ER-1.5やGPT-5.4といった主要なモデルを上回った。
  論文  参考訳（メタデータ） (2026-06-09T18:07:50Z)
• CoVe: Training Interactive Tool-Use Agents via Constraint-Guided Verification [17.56502992098113]
  textbfCoVe(textbfConstraint-textbfVerification)は、対話型ツール使用エージェントのトレーニング用に設計されたトレーニング後のデータ合成フレームワークである。 それらは、複雑な軌跡の生成をガイドし、軌道品質を評価するための決定論的検証器として機能する。
  論文  参考訳（メタデータ） (2026-03-02T14:56:35Z)
• daVinci-Dev: Agent-native Mid-training for Software Engineering [22.845876048950483]
  本稿では,エージェント・ミドルトレーニングの体系的な研究を行い,大規模エージェント開発のためのデータ合成の原則と訓練方法を確立する。 私たちは、トレーニング後の2つの設定の下で、以前のオープンソースエンジニアリングのミッドトレーニングレシピであるKimi-Devよりも、整列ベースモデルとエージェントスキャフォールドの方が優れていることを実証します。
  論文  参考訳（メタデータ） (2026-01-26T12:20:18Z)
• Parameter-Efficient Domain Adaption for CSI Crowd-Counting via Self-Supervised Learning with Adapter Modules [11.651086215885735]
  WiFi Channel State Information(CSI)を使用したデバイスフリーのクラウドカウントは、新しい世代のプライバシ保護用IoT(Internet of Things)アプリケーションを可能にする重要な技術である。 本稿では,CSI-ResNet-Aアーキテクチャを中心とした新しい2段階フレームワークを提案する。 このモデルは、自己教師付きコントラスト学習を通じてドメイン不変表現を学習し、軽量なAdapterモジュールを活用して高効率な微調整を行う。 私たちのフレームワークは、98.8%の精度で、最先端のパブリックWiARベンチマークを新たに設定しています。
  論文  参考訳（メタデータ） (2026-01-05T15:27:04Z)
• LoCoBench-Agent: An Interactive Benchmark for LLM Agents in Long-Context Software Engineering [90.84806758077536]
  textbfLoCoBench-Agentは,大規模言語モデル(LLM)エージェントを現実的,長期的ソフトウェア工学で評価するための総合的な評価フレームワークである。 我々のフレームワークは、LoCoBenchの8000のシナリオを対話型エージェント環境に拡張し、マルチターン会話の体系的評価を可能にする。 我々のフレームワークは,8つの特殊なツール(ファイル操作,検索,コード解析)をエージェントに提供し,それを10Kから1Mトークンの範囲で評価する。
  論文  参考訳（メタデータ） (2025-11-17T23:57:24Z)
• Revolutionizing Reinforcement Learning Framework for Diffusion Large Language Models [49.911784762244814]
  TraceRLは拡散言語モデル(DLM)のための軌道対応強化学習フレームワークである 我々は最先端の拡散言語モデル、すなわち TraDo を導出する。 TraDo-8B-InstructはQwen2.5-7B-Instructで6.1%、Llama3.1-8B-Instructで51.3%の精度向上を実現している。
  論文  参考訳（メタデータ） (2025-09-08T17:58:06Z)
• InternBootcamp Technical Report: Boosting LLM Reasoning with Verifiable Task Scaling [71.37579508777843]
  大規模言語モデル(LLM)は、複雑な推論機能を実現することによって、人工知能に革命をもたらした。 このギャップに対処するため、1000以上のドメイン分散タスク環境からなるオープンソースのフレームワークであるInternBootcampを紹介します。
  論文  参考訳（メタデータ） (2025-08-12T05:00:00Z)
• Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
  本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。 既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。 この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-04T02:41:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。