論文の概要: AutoTrainess: Teaching Language Models to Improve Language Models Autonomously
- arxiv url: http://arxiv.org/abs/2606.31551v1
- Date: Tue, 30 Jun 2026 12:09:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.205963
- Title: AutoTrainess: Teaching Language Models to Improve Language Models Autonomously
- Title(参考訳): AutoTrainess: 言語モデルに自律的な改善を教える
- Abstract要約: 訓練言語モデル(LM)は、非常に人間中心のプロセスである。
本稿では、これらの操作を、計画、データ準備、トレーニング、評価、ロギングのためのエージェント・コンピュータ・インタフェースのリポジトリとして公開するLMエージェントであるAutoTrainessを紹介する。
PostBenchでは、AutoTrainessはCLIのみのベースラインを一貫して上回り、GPT-5.4 (Codex)で26.94点、CLIのみでは23.21点を記録した。
- 参考スコア(独自算出の注目度): 18.706079441467992
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training language models (LMs) remains a highly human-intensive process, even as frontier language model agents become increasingly capable at software engineering and other long-horizon tasks. A central challenge is that autonomous post-training is not just a coding problem: it requires the agent to repeatedly plan iterations, construct benchmark-aligned data, run stable training jobs, evaluate checkpoints, and preserve experiment state across many hours of interaction. We present AutoTrainess, a LM agent that exposes these operations as a repository of agent-computer interfaces for planning, data preparation, training, evaluation, and logging. Rather than leaving the agent to operate in a raw CLI environment with an underspecified action space, AutoTrainess externalizes prior human experience as explicit workflows, rules, and execution constraints that guide the agent toward effective and reliable training behavior. On PostTrainBench, AutoTrainess consistently outperforms CLI-only baselines, achieving 26.94 average score with GPT-5.4 (Codex) versus 23.21 for CLI-only. It also generalizes across models and harnesses, improving DeepSeek-V4-Flash (OpenCode) from 12.13 to 19.58.
- Abstract(参考訳): モデリング言語モデル(LM)は、ソフトウェア工学やその他の長期的タスクにおいて、フロンティア言語モデルエージェントがますます能力を持つようになりつつも、非常に人間中心のプロセスのままである。
エージェントは繰り返しイテレーションを計画し、ベンチマークに準拠したデータを構築し、安定したトレーニングジョブを実行し、チェックポイントを評価し、何時間ものインタラクションで実験状態を保存する必要がある。
本稿では、これらの操作を、計画、データ準備、トレーニング、評価、ロギングのためのエージェント・コンピュータ・インタフェースのリポジトリとして公開するLMエージェントであるAutoTrainessを紹介する。
AutoTrainessは、エージェントを未特定のアクションスペースで生のCLI環境に残すのではなく、人間の経験を明示的なワークフロー、ルール、実行制約として外部化し、エージェントを効果的で信頼性の高いトレーニング行動へと導く。
PostTrainBenchでは、AutoTrainessはCLIのみのベースラインを一貫して上回り、GPT-5.4 (Codex)で26.94点、CLIのみでは23.21点を記録した。
また、モデルとハーネスをまたいで一般化し、DeepSeek-V4-Flash(OpenCode)を12.13から19.58に改善した。
関連論文リスト
- AutoOR: Scalably Post-training LLMs to Autoformalize Operations Research Problems [54.593031581486116]
本稿では,拡張性のある合成データ生成および強化学習パイプラインであるAutoORについて述べる。
AutoORは、標準最適化フォームから検証済みのトレーニングデータを生成し、RL後トレーニングの報奨信号としてソルバ実行フィードバックを使用する。
我々は、AutoORのような手法がAIによる工業的意思決定を著しく加速できると考えている。
論文 参考訳(メタデータ) (2026-04-18T03:24:54Z) - daVinci-Dev: Agent-native Mid-training for Software Engineering [22.845876048950483]
本稿では,エージェント・ミドルトレーニングの体系的な研究を行い,大規模エージェント開発のためのデータ合成の原則と訓練方法を確立する。
私たちは、トレーニング後の2つの設定の下で、以前のオープンソースエンジニアリングのミッドトレーニングレシピであるKimi-Devよりも、整列ベースモデルとエージェントスキャフォールドの方が優れていることを実証します。
論文 参考訳(メタデータ) (2026-01-26T12:20:18Z) - Agent2World: Learning to Generate Symbolic World Models via Adaptive Multi-Agent Feedback [51.22403664895878]
Agent2Worldは、強力な推論時ワールドモデル生成を実現するツール拡張マルチエージェントフレームワークである。
また、マルチエージェントフィードバックの生成を基盤にすることで、教師付き微調整のためのデータエンジンとしても機能する。
論文 参考訳(メタデータ) (2025-12-26T18:54:14Z) - Toward Training Superintelligent Software Agents through Self-Play SWE-RL [66.11447353341926]
セルフプレイSWE-RLは、超知能ソフトウェアエージェントのトレーニングパラダイムに向けた第一歩である。
当社のアプローチでは,ソースコードとインストール済みの依存関係を備えたサンドボックスリポジトリへのアクセスのみを必要としています。
我々の成果は、早い段階で、エージェントが現実世界のソフトウェアリポジトリから広範囲にわたる学習経験を自律的に収集する道のりを示唆している。
論文 参考訳(メタデータ) (2025-12-21T00:49:40Z) - APTBench: Benchmarking Agentic Potential of Base LLMs During Pre-Training [48.20667772172573]
APTBenchは、現実世界のエージェントタスクと成功した軌道を多重選択やテキスト補完の質問に変換するフレームワークである。
中心となるエージェント能力、例えば計画と行動に焦点を当て、主要なエージェントシナリオ、ソフトウェア工学、深層研究をカバーしている。
既存の汎用ベンチマークと比較すると、APTBenchはモデル下流のパフォーマンスをエージェントとしてより予測的な信号を提供する。
論文 参考訳(メタデータ) (2025-10-28T13:11:22Z) - Efficient Multi-turn RL for GUI Agents via Decoupled Training and Adaptive Data Curation [65.3648667980258]
視覚言語モデル(VLM)に基づくGUIエージェントは複雑なタスクの自動化を約束するが、強化学習(RL)の適用において大きな課題に直面している。
異種モジュールを高度に非結合的に協調するGUIエージェントのための非結合エージェントRLトレーニングフレームワークであるDARTを提案する。
OSWorldのベンチマークでは、DART-GUI-7Bは42.13%のタスク成功率、14.61%の絶対ゲイン、オープンソースSOTAよりも7.34%高い。
論文 参考訳(メタデータ) (2025-09-28T13:19:20Z) - DPO Learning with LLMs-Judge Signal for Computer Use Agents [9.454381108993832]
コンピュータ・ユース・エージェント(CUA)は、グラフィカル・ユーザー・インタフェース(GUI)と自動的に対話してタスクを完了させるシステムである。
ローカルマシン上で完全に動作する軽量な視覚言語モデルを開発した。
論文 参考訳(メタデータ) (2025-06-03T17:27:04Z) - LANGTRAJ: Diffusion Model and Dataset for Language-Conditioned Trajectory Simulation [102.1527101235251]
LangTrajは、トラフィックシナリオにおけるすべてのエージェントの共同動作をシミュレートする、言語条件のシーン拡散モデルである。
自然言語入力を条件付けすることで、LangTrajはインタラクティブな振る舞いを柔軟かつ直感的に制御できる。
LangTraj氏は、リアリズム、言語制御性、言語条件の安全クリティカルなシミュレーションにおいて、強力なパフォーマンスを示している。
論文 参考訳(メタデータ) (2025-04-15T17:14:06Z) - STEVE: A Step Verification Pipeline for Computer-use Agent Training [84.24814828303163]
STEVEは、コンピュータ使用エージェントトレーニングのためのステップ検証パイプラインである。
GPT-4oは、動作実行前後の画面に基づいて、軌跡の各ステップの正当性を検証するために使用される。
我々のエージェントは、軌道内での正と負の両方の作用を利用して微調整を監督する。
論文 参考訳(メタデータ) (2025-03-16T14:53:43Z) - AutoAct: Automatic Agent Learning from Scratch for QA via Self-Planning [54.47116888545878]
AutoActはQAのための自動エージェント学習フレームワークである。
大規模アノテートデータやクローズドソースモデルからの合成計画軌道は依存していない。
論文 参考訳(メタデータ) (2024-01-10T16:57:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。