論文の概要: VibeTraining-Bench: Data-Trainer-Harness Co-Design for Iterative System Improvement
- arxiv url: http://arxiv.org/abs/2610.26342v1
- Date: Mon, 19 Oct 2026 13:10:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.344677
- Title: VibeTraining-Bench: Data-Trainer-Harness Co-Design for Iterative System Improvement
- Title（参考訳）: VibeTraining-Bench: 反復的なシステム改善のためのデータトレーナーとハーネスの共同設計
- Abstract要約: 再帰的自己改善(RSI)は、エージェントがシステムのボトルネックを診断し、トレーニングと推論の間で改善を調整する必要がある。
我々は、訓練データ、トレーナー、推論ハーネスをクロスコンポーネント共同設計として共同で最適化するエージェントの能力について言及する。
VibeTraining-Benchは、端末操作、ソフトウェア工学、マルチターンツールの使用、数学的推論といったタスクにまたがる機能を評価するベンチマークである。
- 参考スコア（独自算出の注目度）: 21.209502591196514
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recursive self-improvement (RSI) requires agents to diagnose system bottlenecks and coordinate improvements across training and inference. We refer to the agents' capability to jointly optimize training data, the trainer, and the inference harness as cross-component co-design. We introduce VibeTraining-Bench, a benchmark for evaluating this capability across tasks spanning terminal operation, software engineering, multi-turn tool use, and mathematical reasoning. Within each task, research agents start from an identical initial agent system under a fixed resource budget. Guided by validation feedback, they iteratively refine data, trainers, and inference harnesses, then select and submit a final agent system for evaluation on the test set. To prevent reward hacking, we enforce three safeguards: test data isolation, separate research and grading containers, and network restrictions for research agents. Our evaluation results show that frontier research agents substantially improve target agent systems. For example, on SWE-bench Verified, GPT-6-Astra raises the target agent system's performance from 32.9% to 53.7%, comparable to the human-developed instruct model's 55.4%. However, there is still room to improve their ability to co-design and iteratively refine data, trainer, and harness to achieve cumulative performance gains. We hope that VibeTraining-Bench will serve as a unified platform for advancing RSI, deepening our understanding of cross-component optimization for agent systems. Code and data are available at https://github.com/D2I-ai/VibeTrainingBench.
- Abstract（参考訳）: 再帰的自己改善(RSI)では、エージェントがシステムのボトルネックを診断し、トレーニングと推論の間で改善を調整する必要がある。
我々は、訓練データ、トレーナー、推論ハーネスをクロスコンポーネント共同設計として共同で最適化するエージェントの能力について言及する。
VibeTraining-Benchは、端末操作、ソフトウェア工学、マルチターンツールの使用、数学的推論といったタスクにまたがる機能を評価するベンチマークである。
各タスク内では、調査エージェントは、固定リソース予算の下で同じ初期エージェントシステムから開始される。
検証フィードバックによってガイドされ、データ、トレーナー、推論ハーネスを反復的に洗練し、テストセットの評価のための最終エージェントシステムを選択して提出する。
報酬のハッキングを防ぐために、テストデータ分離、研究とグレーディングコンテナの分離、研究エージェントのネットワーク制限という3つのセーフガードを実行します。
評価の結果,フロンティア研究エージェントはターゲットエージェントシステムを大幅に改善した。
例えば、SWE-bench Verifiedでは、GPT-6-Astraはターゲットエージェントシステムの性能を32.9%から53.7%に引き上げている。
しかし、累積的なパフォーマンス向上を達成するために、データ、トレーナー、ハーネスを共同設計し、反復的に洗練する能力を改善する余地は依然として残っている。
私たちは、VibeTraining-BenchがRSIを前進させるための統一プラットフォームとして機能し、エージェントシステムにおけるクロスコンポーネント最適化の理解を深めることを期待しています。
コードとデータはhttps://github.com/D2I-ai/VibeTrainingBench.comで公開されている。
関連論文リスト
- DataSense-Bench: The First Step Toward an AI Scientist [33.53152581612297]
フロンティアAIモデルは、トレーニング用の適切なデータ、すなわち、確実に選択できるデータを持っているか?
我々は,機械学習におけるデータ選択と性能予測の根本的な問題を通じて,この能力を研究するためにDataSense-Benchを紹介した。
論文 参考訳（メタデータ） (2026-10-08T15:50:57Z) - UnifiedPlayers: Enhance Tool-Integrated Reasoning in Agentic Reinforcement Learning [10.82443398666203]
自己進化的手法は、ツール使用エージェントが独自のトレーニングデータを生成することによって、人間に注釈をつけた軌道の必要性を減らす。
計画、実行、評価を共同で適応させることは、有望な代替手段を提供するが、基本的な調整課題を導入する。
この課題に対処するために、textbfUnifiedPlayers、タスクを生成するPlanning Player、Pythonツールコールでマルチターントラジェクトリを生成するExecution Player、実行可能なバリデーションを構築するAudiment Playerという協調的なフレームワークを使います。
論文 参考訳（メタデータ） (2026-09-17T11:49:31Z) - RSIBench-Data: Benchmarking Data-Centric Research for Recursive Self-Improvement [27.641105176473136]
既存のベンチマークは、最適化、サービス、評価、システム実装と研究上の決定を結びつける。
我々は、LLMエージェントのベンチマークであるRSIBench-Dataを、固定された後学習スタックを持つデータ中心の研究者として紹介する。
ソフトウェア工学,端末利用,科学的質問応答,数学の6つのベンチマークで,フロンティアエージェントを4つ評価した。
論文 参考訳（メタデータ） (2026-07-28T15:46:41Z) - Evolving Agents in the Dark: Retrospective Harness Optimization via Self-Preference [51.55077364626896]
本稿では,過去の軌道のみを用いたエージェント・ハーネスを最適化する自己教師型手法であるRetrospective Harness Optimization (RHO)を紹介する。
RHOは、過去の軌跡から様々な課題のコアセットを選択し、それらを並列に解決する。
1回の最適化ラウンドでは、SWE-Bench Proのパスレートが59%から78%に向上する。
論文 参考訳（メタデータ） (2026-06-04T09:26:00Z) - Retrieval, Reward, and Training Protocols: What Matters in Training Search Agents? [15.605151408619895]
本稿では,探索エージェント訓練の3つの未探索次元を分離する制御的実証的研究について述べる。
まず、広く使われているWikipedia 2018コーパスにおける重要なデータカバレッジの問題を特定し、それを修正するだけで、トレーニングアルゴリズムの違いよりも大きな利益が得られることを示す。
第2に、結果に基づく報酬法とプロセスに基づく報酬法を3つのベースモデルで体系的に比較し、最も単純な結果に基づくアプローチが、ほとんどの設定において、競争力や優れたパフォーマンスを達成することを発見した。
第三に、トレーニングデータの多様性、非政治データ利用、検索予算のスケーリングを分析し、効果的な検索エージェントの訓練のための実践的ガイドラインを精査する。
論文 参考訳（メタデータ） (2026-05-27T03:04:36Z) - KARL: Knowledge Agents via Reinforcement Learning [63.627906947205624]
本稿では,強化学習による企業検索エージェントの訓練システムを提案する。
KARLBenchは、6つの異なる検索レギュレーションにまたがる多機能評価スイートである。
異種探索行動で訓練されたモデルは、どのベンチマークにも最適化されたモデルよりもかなりよく一般化されていることを示す。
論文 参考訳（メタデータ） (2026-03-05T14:30:25Z) - SWE-RM: Execution-free Feedback For Software Engineering Agents [61.86380395896069]
実行ベースフィードバックは、テストタイムスケーリング(TTS)と強化学習(RL)を通じて、コーディングエージェントの開発に広く利用されている。
対照的に、報酬モデルによる実行不要なフィードバックは、単体テストケースに依存することなく、よりきめ細かい信号を提供することができる。
SWE-RMは,30Bの合計パラメータと3Bのアクティベートされた3Bの混合実験アーキテクチャを採用した,正確で堅牢な報酬モデルである。
論文 参考訳（メタデータ） (2025-12-26T08:26:18Z) - Boosting Virtual Agent Learning and Reasoning: A Step-Wise, Multi-Dimensional, and Generalist Reward Model with Benchmark [72.46357004059661]
Generalist Virtual Agents (GVA) は自律的なタスク実行において大きな可能性を示している。
これらの課題に対処するため,ステップワイズ多次元ジェネラリスト・リワードモデルを提案する。
同様に、エージェントトレーニング用のきめ細かい信号を提供し、推論時間スケーリングのためのより良いアクションを選択することができる。
論文 参考訳（メタデータ） (2025-03-24T13:30:47Z) - Retrieval-Augmented Reinforcement Learning [63.32076191982944]
過去の経験のデータセットを最適な行動にマップするために、ネットワークをトレーニングします。
検索プロセスは、現在のコンテキストで有用なデータセットから情報を取得するために訓練される。
検索強化R2D2はベースラインR2D2エージェントよりもかなり高速に学習し,より高いスコアを得ることを示す。
論文 参考訳（メタデータ） (2022-02-17T02:44:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。