論文の概要: MindForge: Teaching Small Language Models Whole-Life-Cycle Software Engineering via Source-Free Program Synthesis
- arxiv url: http://arxiv.org/abs/2607.27146v1
- Date: Wed, 29 Jul 2026 17:23:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-30 21:06:25.761966
- Title: MindForge: Teaching Small Language Models Whole-Life-Cycle Software Engineering via Source-Free Program Synthesis
- Title(参考訳): MindForge: ソースフリープログラム合成によるライフサイクルソフトウェアエンジニアリングを実践する小さな言語モデル
- Abstract要約: 我々はオープンソースのコマンドラインプログラムをソースフリー環境に変換する自動パイプラインであるMindForgeを紹介した。
ProgramBenchとは相容れないリポジトリからトレーニング環境を構築し,高品質なデータレシピをキュレートする。
これらの軌道上の微調整Qwen3.6-27Bは、ProgramBenchの平均テストパスレートを37.98%から49.51%に引き上げている。
- 参考スコア(独自算出の注目度): 17.260324148993046
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Coding agents have made substantial progress on software engineering tasks that modify existing codebases, including bug fixing and feature implementation. However, constructing a complete program from scratch remains a major challenge: even the frontier models evaluated on ProgramBench fully resolve fewer than 1% of tasks. One obstacle is the lack of scalable training environments for this from-scratch setting, spanning the whole software engineering life cycle, as existing environment-construction frameworks focus only on a single phase in software development. To address this gap, we introduce MindForge, an automated pipeline that converts open-source command-line programs into source-free environments that expose only a compiled reference executable and its documentation. Using MindForge, we construct training environments from repositories disjoint from those in ProgramBench, and curate a high-quality data recipe consisting of program synthesis trajectories using GLM-5.2 as the teacher agent. Fine-tuning Qwen3.6-27B on these trajectories increases its ProgramBench average test pass rate from 37.98% to 49.51%, achieving performance comparable to substantially larger frontier models. Moreover, the fine-tuned model consistently improves over the base model across all seven unseen software engineering benchmarks, spanning long-horizon repository generation and translation, bug fixing, feature implementation, and cross-language issue resolution, with absolute gains of 31.00 points on RepoZero-C2Rust, 14.16 on DeepSWE, 10.70/4.56 on NL2Repo-Bench (with/without tests), 5.04 on SWE-bench Verified, 5.93 on SWE-bench Pro, 5.22 on SWE-bench Multilingual, and 4.94 on FeatBench.
- Abstract(参考訳): コーディングエージェントは、バグ修正や機能実装を含む既存のコードベースを変更するソフトウェアエンジニアリングタスクに大きく進歩した。
しかし、完全なプログラムをゼロから構築することは大きな課題であり、ProgramBenchで評価されたフロンティアモデルでさえタスクの1%以下を完全に解決する。
既存の環境構築フレームワークがソフトウェア開発の単一フェーズのみに焦点を当てているため、ソフトウェアエンジニアリングライフサイクル全体にわたって、このゼロスクラッチ設定のためのスケーラブルなトレーニング環境が欠如している、という障害があります。
このギャップに対処するために、オープンソースのコマンドラインプログラムを、コンパイルされた参照実行ファイルとそのドキュメントのみを公開する、ソースのない環境に変換する自動化パイプラインであるMindForgeを紹介します。
MindForgeを用いて,ProgramBenchとは相容れないリポジトリからトレーニング環境を構築し,GLM-5.2を教師エージェントとして使用したプログラム合成トラジェクトリからなる高品質なデータレシピをキュレートする。
これらの軌道上で微調整されたQwen3.6-27Bは、ProgramBenchの平均テストパスレートを37.98%から49.51%に引き上げ、かなり大きなフロンティアモデルに匹敵する性能を達成した。
さらに、細調整されたモデルは、長い水平リポジトリの生成と変換、バグ修正、機能実装、言語間の問題解決にまたがって、DeepSWEで31.00ポイント、NL2Repo-Benchで10.70/4.56、SWE-benchで5.04、SWE-bench Proで5.93、SWE-bench Multilingualで5.22、FeatBenchで4.94の絶対ゲインを得た。
関連論文リスト
- UI-Mate: Advancing Open-Weight Foundation GUI Agents with In-Context Demonstrations [68.29650478987561]
UI-Mateは、環境に根ざしたトレーニングスタックとコンテキスト内の実演学習を統合する基盤GUIエージェントである。
OSWorldでは77.0%、WindowsAgentArenaでは66.2%と評価された。
論文 参考訳(メタデータ) (2026-08-16T20:59:59Z) - LoopsBench: From Harness Engineering to Loop Engineering in Benchmarking Coding Agent [60.27239351179265]
LOOPSBENCHは、符号化エージェント評価におけるループエンジニアリングのベンチマークである。
8つのプログラミング言語と9つのドメインにまたがる、本物のソースからの112のタスクで構成されている。
フロー対応ランタイムは、準備されたフロンティアに沿ってテストをリリースし、レグレッション義務として完了したノードを保持します。
論文 参考訳(メタデータ) (2026-07-31T20:18:25Z) - KAT-Coder-V2.5 Technical Report [61.907486544595336]
KAT-Coder-V2.5は、実際の実行可能リポジトリ内で自律的に動作するよう訓練されたコーディング中心のエージェントモデルである。
マルチ言語リポジトリをサンドボックス環境に再構築し、フェイル・ツー・パスとパス・ツー・パスの検証を大規模に行う。
我々はさらに、ハーネスランダム化による強化学習、信頼性の強化されたサンドボックス、非対称なアクター-クリティックPPO、およびハイチ指向の報酬フレームワークをスケールする。
論文 参考訳(メタデータ) (2026-07-06T08:14:02Z) - ProCUA-SFT Technical Report [80.97543110323542]
コンピュータ使用エージェント(CUA)の訓練には、全デスクトップ環境で収集された大規模で多様な軌跡データが必要である。
93Kの合成軌道から抽出した3.1MステップレベルのSFTサンプルのデータセットであるProCUA-SFTについて述べる。
ProCUA-SFTの微調整UI-TARS 7Bは、OSWorldで45.0%、ベースモデルよりも18.7ポイント改善されている。
論文 参考訳(メタデータ) (2026-06-15T22:04:11Z) - Open-SWE-Traces: Advancing Dual-Mode Multilingual Distillation for Software Engineering Agents [42.7127695634038]
私たちのデータセットは 9つのプログラミング言語にまたがる 207,489のエージェント・トラジェクトリのデータセットです
このデータは、長距離推論が可能なモデルのトレーニングを容易にする。
最高の性能モデルは、SWEベンチ検証で61.7%、SWEベンチ多言語で57.1%、SWEベンチProで36.8%である。
論文 参考訳(メタデータ) (2026-06-14T22:10:06Z) - Fine-Tuning GPT-5 for GPU Kernel Generation [5.109141377873154]
本稿では,フロンティアモデルの強化学習のための環境とツールについて述べる。
単一触覚設定では、微調整されたモデルにより、カーネルの正しさが43.7%から77.0%に向上する。
完全なコーディングエージェントに統合されると、拡張されたKernelBenchスイートで97.4%の問題を解決することができる。
論文 参考訳(メタデータ) (2026-02-11T16:22:54Z) - SWE-World: Building Software Engineering Agents in Docker-Free Environments [91.17484806743641]
SWE-Worldは、物理的な実行環境を、ソフトウェアエンジニアリングエージェントのトレーニングと評価のための学習的なサロゲートに置き換える、Dockerフリーのフレームワークである。
我々は,SWE-WorldがQwen2.5-Coder-32Bを,DockerフリーのSFTで6.2%から52.0%,DockerフリーのRLで55.0%,さらにTSで68.2%に引き上げたことを示す。
論文 参考訳(メタデータ) (2026-02-03T11:44:39Z) - SWE-Bench++: A Framework for the Scalable Generation of Software Engineering Benchmarks from Open-Source Repositories [2.951332247539421]
オープンソースGitHubプロジェクトからリポジトリレベルのコーディングタスクを生成する自動フレームワークであるSWE-Bench++を紹介します。
合成アプローチとは異なり、パイプラインは11言語にわたるバグ修正と機能要求の両方をカバーするために、ライブプルリクエストを収集します。
最初のベンチマークは11言語にわたる3,971リポジトリから11,133インスタンスで構成されています。
論文 参考訳(メタデータ) (2025-12-19T10:16:51Z) - Lifecycle-Aware code generation: Leveraging Software Engineering Phases in LLMs [12.70863561286374]
トレーニング段階と推論段階の両方に中間アーティファクトを組み込んだライフサイクル対応フレームワークを導入する。
実験によると、ライフサイクルレベルの微調整は、微調整の前に同じモデルで最大75%の精度でコードの正しさを向上させる。
オープンソース LLM は、かつて私たちのフレームワークの下で微調整され、コードで事前訓練されたモデルにマッチするか、わずかに優れています。
論文 参考訳(メタデータ) (2025-10-28T02:54:02Z) - Web-Bench: A LLM Code Benchmark Based on Web Standards and Frameworks [6.303398878886812]
我々は、50のプロジェクトを含む新しいベンチマークであるWeb-Benchを提案し、それぞれが連続的な依存関係を持つ20のタスクで構成されている。
Web 開発の基本要素である Web 標準と Web フレームワークをカバーすることを目指しています。
ベンチマークエージェント(Web-Agent)では、SOTA(Claude 3.7 Sonnet)が25.1%のPass@1しか達成せず、SWE-Benchの検証(65.4%)とFull(33.8%)のスコアよりも大幅に低い(ベター)。
論文 参考訳(メタデータ) (2025-05-12T12:06:23Z) - Lingma SWE-GPT: An Open Development-Process-Centric Language Model for Automated Software Improvement [62.94719119451089]
Lingma SWE-GPTシリーズは、現実世界のコード提出活動から学び、シミュレーションする。
Lingma SWE-GPT 72BはGitHubの30.20%の問題を解決する。
論文 参考訳(メタデータ) (2024-11-01T14:27:16Z) - Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。
既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。
この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-04T02:41:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。