論文の概要: MLE-World: Predicting Machine Learning Experiment Outcomes with a Learned World Model
- arxiv url: http://arxiv.org/abs/2610.37175v1
- Date: Tue, 27 Oct 2026 13:01:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.630173
- Title: MLE-World: Predicting Machine Learning Experiment Outcomes with a Learned World Model
- Title(参考訳): MLE-World: 学習された世界モデルによる機械学習実験の結果を予測する
- Abstract要約: MLE-Worldは、プログラムの端末出力を実行せずに予測する世界モデルである。
予測にはトレーニング実行ではなく1回の推論コールがかかるため、MLE-WorldはAI研究エージェントに対して、テスト時間のスケーリングを手頃な価格で実現している。
17のMLE-bench Liteタスクでは、MLE-Worldは77.9%の保留プログラムで実際の端末出力と一致し、41.1%はより大きなプロンプトモデルで一致した。
- 参考スコア(独自算出の注目度): 18.427408376522575
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI research agents can propose, execute, and improve programs that solve machine learning tasks. However, executing each candidate program requires training and evaluating ML models, limiting how many candidates an agent can explore at each step. We introduce MLE-World, a world model finetuned from Qwen3.5-4B that predicts a program's terminal output (error traces, training logs, and validation scores) from its code and data description without executing it, together with a confidence score estimating the prediction's correctness. Because a prediction costs one inference call rather than a training run, MLE-World makes test time scaling (TTS) affordable for these agents. We build five TTS policies, guided by MLE-World, that compare several candidates per step by their predicted outputs: Sequential revision, Best-of-N, Pairwise judging, Fusion, and a UCB style rule that also adds an exploration bonus from this confidence score. Since predictions can be wrong, we run a candidate for real only when its confidence score is low. On 17 MLE-bench Lite tasks, MLE-World matches the real terminal output on 77.9% of held out programs, versus 41.1% for much larger prompted models. MLE-World guided TTS achieves up to 22.1% higher observed mean performance than the agent without a world model, with less real execution. Project webpage: https://mle-world.github.io/.
- Abstract(参考訳): AI研究エージェントは、機械学習タスクを解決するプログラムを提案し、実行し、改善することができる。
しかしながら、各候補プログラムの実行には、各ステップでエージェントが探索できる候補数を制限する、MLモデルのトレーニングと評価が必要である。
プログラムの終端出力(エラートレース、トレーニングログ、バリデーションスコア)をコードやデータ記述から予測するQwen3.5-4Bから微調整された世界モデルであるMLE-Worldと、予測の正しさを推定する信頼性スコアを紹介する。
予測にはトレーニング実行ではなく1回の推論コールがかかるため、MLE-Worldはこれらのエージェントに対してテスト時間スケーリング(TTS)を手頃な価格で実現している。
我々は、MLE-Worldが導いた5つのTSポリシーを構築し、予測されたアウトプットによってステップ毎に複数の候補を比較します。
予測が間違っている可能性があるので、信頼スコアが低い場合にのみ、現実の候補を実行します。
17のMLE-bench Liteタスクでは、MLE-Worldは77.9%の保留プログラムで実際の端末出力と一致し、41.1%はより大きなプロンプトモデルで一致した。
MLE-World Guided TTSは、世界モデルを持たないエージェントよりも22.1%高い平均性能を実現し、実際の実行は少ない。
プロジェクトWebページ: https://mle-world.github.io/.com
関連論文リスト
- Meta Models: Models that Model Learning [21.49349810955267]
他モデルの学習行動を予測するメタモデルについて検討する。
実言語モデルトレーニングレコードをネイティブ数値データとして扱う。
既製のインコンテキスト学習者であるTabPFNは、微調整されたLLMメタモデルにマッチまたは性能を向上することができる。
論文 参考訳(メタデータ) (2026-10-27T10:47:17Z) - LAW: Unifying Language, Action, and World Modeling for Agentic Physical Intelligence [52.14897623664594]
本稿では,言語推論,アクション生成,世界モデリングを統合した閉ループVLM--WAMフレームワークであるLAWを紹介する。
LAWは50のRoboTwinタスクで平均94.21%の成功を達成した。
論文 参考訳(メタデータ) (2026-10-16T11:39:21Z) - Do World Models Make Better Robots? A Survey of Evaluation Benchmarks for Predictive Embodied Intelligence [20.90457097908955]
世界モデリングは直接的な政策よりも測定可能なクローズドループの優位性を得るだろうか?
この分野はまだこの問題に答えられず、理由はモデル自体ではなく、その測定方法のギャップである、と我々は主張する。
2017年から2026年にかけて、160のWeb検証ベンチマークをカタログ化し、評価モード、ロボット機能、モデルファミリーを4車線にまとめました。
論文 参考訳(メタデータ) (2026-08-30T11:36:32Z) - Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering [35.612030655034104]
再帰的自己改善(RSI)はAI構築プロセスを改善するAIシステムを必要とする(AI4AI)。
機械学習工学におけるRSI研究のためのオープンフルスタックシステムOpenMLEを紹介する。
We post-trainis-MA1 (35B) as a meta-evolution agent for MLE,aligneding post-training and inference around four atomic program-evolution operator。
論文 参考訳(メタデータ) (2026-07-30T17:34:01Z) - Synthetic Sandbox for Training Machine Learning Engineering Agents [26.34347159807133]
SandMLEは、少数のシードタスクから検証可能な合成MLE環境を生成するマルチエージェントフレームワークである。
我々は,SandMLEが13回以上実行時間を短縮し,MLEドメインで初めて大規模かつオン・ポリティクスなRLを実現することを示す。
論文 参考訳(メタデータ) (2026-04-06T17:19:29Z) - WorldPrediction: A Benchmark for High-level World Modeling and Long-horizon Procedural Planning [52.36434784963598]
我々は、異なるAIモデルのワールドモデリングと手続き計画能力を評価するためのビデオベースのベンチマークであるWorldPredictionを紹介する。
現在のフロンティアモデルでは,WorldPrediction-WMでは57%,WorldPrediction-PPでは38%の精度しか達成できないが,人間は両タスクを完璧に解くことができる。
論文 参考訳(メタデータ) (2025-06-04T18:22:40Z) - Fully Autonomous Programming using Iterative Multi-Agent Debugging with Large Language Models [8.70160958177614]
大言語モデル(LLM)を用いたプログラム合成は「ニアミス症候群」に苦しむ
我々は、SEIDR(Synthesize, Execute, Instruct, Debug and repair)と呼ばれるマルチエージェントフレームワークでこの問題に対処する。
代替に焦点を当てた、修復に焦点を当てた、ハイブリッドなデバッグ戦略を比較することで、これらのトレードオフを実証的に探求します。
論文 参考訳(メタデータ) (2025-03-10T16:56:51Z) - Self-Exploring Language Models: Active Preference Elicitation for Online Alignment [88.56809269990625]
本研究では, 分布域外領域を積極的に探索するために, 潜在的に高次応答に対して楽観的に偏りを呈する2段階的客観性を提案する。
実験の結果,Zephyr-7B-SFTとLlama-3-8B-Instructモデルで微調整した場合,SELM(Self-Exploring Language Models)は命令追従ベンチマークの性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-05-29T17:59:07Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳(メタデータ) (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。