論文の概要: Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering
- arxiv url: http://arxiv.org/abs/2607.28568v1
- Date: Thu, 30 Jul 2026 17:34:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.69278
- Title: Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering
- Title(参考訳): Frontis-MA1: 機械学習工学における再帰的自己改善に向けたAI4AIモデルのトレーニング
- Abstract要約: 再帰的自己改善(RSI)はAI構築プロセスを改善するAIシステムを必要とする(AI4AI)。
機械学習工学におけるRSI研究のためのオープンフルスタックシステムOpenMLEを紹介する。
We post-trainis-MA1 (35B) as a meta-evolution agent for MLE,aligneding post-training and inference around four atomic program-evolution operator。
- 参考スコア(独自算出の注目度): 35.612030655034104
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recursive self-improvement (RSI) requires AI systems that improve the process of building AI (i.e., AI4AI); machine learning engineering (MLE) offers a concrete, executable testbed for studying this capability. We introduce OpenMLE, an open full-stack system for RSI research in MLE, spanning verifiable task environments with execution feedback (OpenMLE-Gym), operator learning (OpenMLE-RL), and long-horizon search (OpenMLE-Evo). On this stack we post-train Frontis-MA1 (35B) as a meta-evolution agent for MLE, aligning post-training and inference around four atomic program-evolution operators (Draft, Improve, Debug, Crossover): the same operators are trained via execution-grounded SFT and RL on data deduplicated against all evaluation benchmarks, then composed into long-horizon search, coupling learning and evolution in a single loop. On MLE-Bench Lite under a 12-hour per-task budget on one RTX 4090 capped at 12 GB VRAM, Frontis-MA1 (35B) improves Medal Average from 39.39% to 60.61% over its base model with OpenMLE-Evo, and reaches 71.21% with OpenMLE-Evo-Max (benchmark-independent experience priors and asynchronous search), exceeding GPT-5.5 + Codex and approaching GPT-5.6 Sol and the 2.8T Kimi K3. On held-out NatureBench Lite, both components transfer: with the framework fixed, swapping in the trained model raises Match-SOTA from 50% to 70%; with the model fixed, swapping in OpenMLE-Evo raises it from 20% to 50%. We release the model weights and the full OpenMLE stack to enable reproducible research on executable AI4AI toward RSI. Code: https://github.com/FrontisAI/OpenRSI
- Abstract(参考訳): 再帰的自己改善(RSI)には、AI構築プロセスを改善するAIシステム(AI4AI)が必要である。
我々は、MLEにおけるRSI研究のためのオープンフルスタックシステムOpenMLEを紹介し、実行フィードバック(OpenMLE-Gym)、演算子学習(OpenMLE-RL)、長期探索(OpenMLE-Evo)を備えた検証可能なタスク環境にまたがる。
このスタックでは、Frontis-MA1 (35B) をMLEのメタ進化エージェントとしてポストトレーニングし、4つのアトミックプログラム進化演算子(Draft, Improve, Debug, Crossover): 同じ演算子は、すべての評価ベンチマークに対して重複したデータに対して実行地上のSFTとRLを介してトレーニングされ、長い水平探索、結合学習、単一ループでの進化に構成されます。
MLE-Bench Liteは12 GB VRAMに収められたRTX 4090の12時間予算で、Frontis-MA1 (35B) はメダル平均値を 39.39% から 60.61% に改善し、OpenMLE-Evo で 71.21% に達し、GPT-5.5 + Codex を上回り GPT-5.6 Sol と 2.8T Kimi K3 に接近した。
NatureBench Liteでは、両方のコンポーネントが転送される: フレームワークが修正され、トレーニングされたモデルのスワップがMatch-SOTAが50%から70%に上昇し、モデルが修正され、OpenMLE-Evoでスワップが20%から50%に上昇する。
モデルウェイトと完全なOpenMLEスタックをリリースし、RSIに向けた実行可能なAI4AIの再現可能な研究を可能にする。
コード:https://github.com/FrontisAI/OpenRSI
関連論文リスト
- Instella-MoE Technical Report [22.767094992305257]
Instella-MoEはMixture-of-Experts(MoE)言語モデルで、16億の総パラメータと280億のアクティブパラメータを持つ。
Instella-MoEはAMD Instinct MI300XとMI325Xのグラフィックカードで完全にスクラッチから訓練されている。
論文 参考訳(メタデータ) (2026-09-01T06:38:17Z) - MolmoAct2: Action Reasoning Models for Real-world Deployment [67.6315757474802]
MolmoAct2は、実用的なデプロイメントのために構築された、完全にオープンなアクション推論モデルである。
空間的および具体的推論に特化した VLM バックボーンである MolmoER を紹介する。
低コストプラットフォームにまたがる3つの新しいデータセットをリリースする。
論文 参考訳(メタデータ) (2026-05-04T17:51:21Z) - Synthetic Sandbox for Training Machine Learning Engineering Agents [26.34347159807133]
SandMLEは、少数のシードタスクから検証可能な合成MLE環境を生成するマルチエージェントフレームワークである。
我々は,SandMLEが13回以上実行時間を短縮し,MLEドメインで初めて大規模かつオン・ポリティクスなRLを実現することを示す。
論文 参考訳(メタデータ) (2026-04-06T17:19:29Z) - Uni-MoE-2.0-Omni: Scaling Language-Centric Omnimodal Large Model with Advanced MoE, Training and Data [55.65426108082807]
Uni-MoE-2.0-Omniをスクラッチから3つのコアコントリビューションで構築しています。
雑用的な理解や、画像、テキスト、音声を生成することができる。
論文 参考訳(メタデータ) (2025-11-16T14:10:55Z) - GLM-4.5: Agentic, Reasoning, and Coding (ARC) Foundation Models [194.64264251080454]
GLM-4.5はオープンソースのMixture-of-Experts(MoE)大言語モデルであり,総パラメータは355B,アクティベートパラメータは32Bである。
23Tトークンのマルチステージトレーニングと、エキスパートモデルのイテレーションと強化学習による総合的なポストトレーニングを通じて、GLM-4.5はエージェント、推論、コーディングタスクにわたって強力なパフォーマンスを実現している。
GLM-4.5(355Bパラメータ)とGLM-4.5-Air(106Bパラメータ)をそれぞれリリースし、推論とエージェントAIシステムの研究を進めた。
論文 参考訳(メタデータ) (2025-08-08T17:21:06Z) - MiroMind-M1: An Open-Source Advancement in Mathematical Reasoning via Context-Aware Multi-Stage Policy Optimization [74.04867639197445]
MiroMind-M1 は Qwen-2.5 ベースのベンチマーク上に構築された完全なオープンソース RLM のセットである。
我々のモデルは2つの段階で訓練されている: SFT on a carefully curated corpus of 719K math-reasoning problem with confirmed CoT trajectories, then RLVR on 62K challenge and verible problem。
論文 参考訳(メタデータ) (2025-07-19T16:21:23Z) - EmbedAgent: Benchmarking Large Language Models in Embedded System Development [41.849233931919265]
大規模言語モデル(LLM)は様々なタスクにおいて有望であるが、組み込みシステム開発におけるその能力を評価するベンチマークは少ない。
組込みシステム開発における現実の役割をシミュレートするパラダイムである EmbedAgent を紹介する。
組込みシステムプログラミング、回路設計、クロスプラットフォームマイグレーションのための最初の包括的なベンチマークであるEmbedbenchを提案する。
論文 参考訳(メタデータ) (2025-04-19T12:51:24Z) - START: Self-taught Reasoner with Tools [51.38785489790888]
ツール統合長チェーン・オブ・シークレット(CoT)推論LSMであるSTART(Self-Taught Reasoner with Tools)を紹介する。
STARTは複雑な計算、自己チェック、多様な方法の探索、そして自己老化を行うことができる。
基礎となるQwQ-32Bを著しく上回り、最先端のオープンウェイトモデルR1-Distill-Qwen-32Bに匹敵する性能を達成する。
論文 参考訳(メタデータ) (2025-03-06T17:11:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。