論文の概要: MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery

• arxiv url: http://arxiv.org/abs/2606.06473v1
• Date: Thu, 04 Jun 2026 17:55:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:45.025109
• Title: MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery
• Title（参考訳）: MLEvolve: 自動機械学習アルゴリズム発見のための自己進化フレームワーク
• Authors: Shangheng Du, Xiangchao Yan, Jinxin Shi, Zongsheng Cao, Shiyang Feng, Zichen Liang, Boyuan Sun, Tianshuo Peng, Yifan Zhou, Xin Li, Jie Zhou, Liang He, Bo Zhang, Lei Bai,
• Abstract要約: 大規模言語モデル(LLM)エージェントは、科学的な発見や機械学習工学のような長期的タスクにますます応用されている。 エンド・ツー・エンドの機械学習アルゴリズム発見のための,LLMベースの自己進化型マルチエージェントフレームワークであるMLEvolveを提案する。
• 参考スコア（独自算出の注目度）: 36.12600393708582
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM) agents are increasingly applied to long-horizon tasks such as scientific discovery and machine learning engineering (MLE), where sustained self-evolution becomes a key capability. However, existing MLE agents suffer from inter-branch information isolation, memoryless search, and lack of hierarchical control, which together hinder long-horizon optimization. We present MLEvolve, an LLM-based self-evolving multi-agent framework for end-to-end machine learning algorithm discovery. By extending tree search to Progressive MCGS, MLEvolve enables cross-branch information flow through graph-based reference edges and gradually shifts the search from broad exploration to focused exploitation with an entropy-inspired progressive schedule. To allow the agent to evolve with accumulated experience, we introduce Retrospective Memory, which combines a cold-start domain knowledge base with a dynamic global memory for task-specific experience retrieval and reuse. For stable long-horizon iteration, we further decouple strategic planning from code generation with adaptive coding modes. Evaluation on MLE-Bench shows that MLEvolve achieves state-of-the-art performance across multiple dimensions including average medal rate and valid submission rate under a 12-hour budget (half the standard runtime). Moreover, MLEvolve also outperforms specialized algorithm discovery methods including AlphaEvolve on mathematical algorithm optimization tasks, demonstrating strong cross-domain generalization. Our code is available at https://github.com/InternScience/MLEvolve.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、科学的な発見や機械学習工学(MLE)といった長期的なタスクにますます適用され、持続的な自己進化が重要な能力となっている。 しかし、既存のMLEエージェントは、ブランチ間の情報分離、メモリレス検索、階層制御の欠如に悩まされ、長期の最適化を妨げている。 エンド・ツー・エンドの機械学習アルゴリズム発見のための,LLMベースの自己進化型マルチエージェントフレームワークであるMLEvolveを提案する。 木探索をプログレッシブMCGSに拡張することにより、グラフベースの参照エッジを流れるクロスブランチ情報を可能にし、より広い探索からエントロピーにインスパイアされたプログレッシブスケジュールによる集中的な搾取へと徐々にシフトする。 エージェントが経験を蓄積して進化できるように,冷間開始ドメイン知識ベースと動的グローバルメモリを組み合わせてタスク固有の経験検索と再利用を行うRetrospective Memoryを導入する。 安定なロングホライズンイテレーションでは、適応的な符号化モードを持つコード生成から戦略的計画をさらに切り離す。 MLE-Benchの評価は、MLEvolveが12時間の予算(標準ランタイムの半分)で平均メダル率や有効応募率を含む複数の次元にわたる最先端のパフォーマンスを達成することを示している。 さらに、MLEvolveは数学的なアルゴリズム最適化タスクにおいてAlphaEvolveを含む特別なアルゴリズム発見手法よりも優れており、強いクロスドメインの一般化を示している。 私たちのコードはhttps://github.com/InternScience/MLEvolve.comから入手可能です。

関連論文リスト

• Memory-Augmented LLM-based Multi-Agent System for Automated Feature Generation on Tabular Data [52.80567461420316]
  メモリ拡張LPMに基づくマルチエージェントシステム(textbfMALMAS)を提案する。 MALMASは生成プロセスを独立した責任を持つエージェントに分解し、ルータエージェントはイテレーション毎にエージェントの適切なサブセットを起動する。 さらに、手続きメモリ、フィードバックメモリ、概念記憶を含むメモリモジュールを統合し、その後の特徴生成を適応的に導く反復的改善を可能にする。
  論文  参考訳（メタデータ） (2026-04-22T07:09:30Z)
• CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery [67.47220507982522]
  大規模言語モデル(LLM)ベースの進化は、オープンな発見のための有望なアプローチである。 オープンエンド問題における自律的マルチエージェント進化のための最初のフレームワークであるCORALを紹介する。 コーラルは、厳格な制御を長期にわたるエージェントに置き換え、探索し、反射し、協力する。
  論文  参考訳（メタデータ） (2026-04-02T05:59:06Z)
• Towards AGI A Pragmatic Approach Towards Self Evolving Agent [0.0]
  大規模言語モデル(LLM)ベースのエージェントは、デプロイ後、強力だが基本的に静的である。 本研究では,Base LLM,運用SLMエージェント,Code-Generation LLM,Teacher-LLMを統合した階層的自己進化型マルチエージェントフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-15T20:43:44Z)
• AutoMLGen: Navigating Fine-Grained Optimization for Coding Agents [27.864519204078004]
  大規模言語モデル(LLM)は、一般的なプログラミングタスクにおいて印象的なパフォーマンスを示している。 我々は、高品質な事前ガイダンスのためのドメイン知識ベースを統合するLLMベースのコーディングエージェントであるAutoMLGenを紹介する。 以上の結果から,AutoMLGenは平均メダル率や有効な応募率など,数多くの分野で最先端のパフォーマンスを実現していることがわかった。
  論文  参考訳（メタデータ） (2025-10-09T17:45:05Z)
• MaskSearch: A Universal Pre-Training Framework to Enhance Agentic Search Capability [106.35604230971396]
  最近のエージェント技術の進歩により、大規模言語モデル(LLM)は、検索、計画、推論のためのツールを自律的に活用することができる。 エージェントの普遍的な検索能力を高めるために,新しい事前学習フレームワークMaskSearchを提案する。 事前学習の段階では、検索ツールを用いてマスク付きスパンを埋めるRetrieval Augmented Mask Prediction (RAMP)タスクを導入する。 その後、モデルは下流のタスクでトレーニングされ、さらなる改善が達成されます。
  論文  参考訳（メタデータ） (2025-05-26T17:58:50Z)
• R&D-Agent: An LLM-Agent Framework Towards Autonomous Data Science [70.1638335489284]
  高レベルの機械学習エンジニアリングタスクは、労働集約的で反復的である。 機械学習プロセスを形式化する包括的で分離されたフレームワークであるR&D-Agentを紹介します。 R&D-AgentはMLEを2つのフェーズと6つのコンポーネントに定義し、MLEのエージェント設計を原則としてテスト可能なプロセスに変える。
  論文  参考訳（メタデータ） (2025-05-20T06:07:00Z)
• I-MCTS: Enhancing Agentic AutoML via Introspective Monte Carlo Tree Search [10.718560472954644]
  イントロスペクティブモンテカルロ木探索(Introspective Monte Carlo Tree Search, I-MCTS)は、イントロスペクティブプロセスを通じてツリーノードを反復的に拡張する新しいアプローチである。 我々は,各ノードの解の直接評価を容易にするために,LLM(Large Language Model)ベースの値モデルを統合する。 当社のアプローチでは,強力なオープンソースAutoMLエージェントと比較して,パフォーマンスが6%向上している。
  論文  参考訳（メタデータ） (2025-02-20T16:19:09Z)
• A Survey on Self-Evolution of Large Language Models [116.54238664264928]
  大規模言語モデル(LLM)は、様々な分野やインテリジェントエージェントアプリケーションにおいて大きく進歩している。 この問題に対処するために、LLMが自律的に獲得し、洗練し、モデル自身によって生成された経験から学ぶことができる自己進化的アプローチが急速に成長している。
  論文  参考訳（メタデータ） (2024-04-22T17:43:23Z)
• Reinforcement Learning for Branch-and-Bound Optimisation using Retrospective Trajectories [72.15369769265398]
  機械学習は分岐のための有望なパラダイムとして登場した。 分岐のための単純かつ効果的なRLアプローチであるレトロ分岐を提案する。 我々は現在最先端のRL分岐アルゴリズムを3～5倍に上回り、500の制約と1000の変数を持つMILP上での最高のILメソッドの性能の20%以内である。
  論文  参考訳（メタデータ） (2022-05-28T06:08:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。