論文の概要: ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
- arxiv url: http://arxiv.org/abs/2610.00906v1
- Date: Thu, 01 Oct 2026 01:36:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.841523
- Title: ActiveSaddler: Automated Curriculum Learning for Agent Harness Optimization
- Title(参考訳): ActiveSaddler:エージェントハーネス最適化のための自動カリキュラム学習
- Abstract要約: 既存のメソッドは、主にハーネスの更新方法を最適化し、どのトレーニングシナリオがこれらの更新を駆動するフィードバックを生成するかを主に修正する。
ハーネスが進化するにつれて、さらなる最適化に最も有用なシナリオが変更され、トレーニングカリキュラム自体がハーネスに合わせて適応することが示唆される。
自動カリキュラム学習問題として、この欠落次元のハーネス最適化を定式化し、ActiveSaddlerを導入する。
- 参考スコア(独自算出の注目度): 49.998743946324424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated harness optimization can substantially improve LLM agents by iteratively updating their prompts, tool interfaces, and control logic from execution feedback. However, existing methods primarily optimize how the harness is updated while largely fixing which training scenarios generate the feedback that drives those updates. As the harness evolves, the scenarios most useful for further optimization can change, suggesting that the training curriculum itself should adapt alongside the harness. We formulate this missing dimension of harness optimization as an automated curriculum learning problem and introduce ActiveSaddler. ActiveSaddler models the evolving curriculum as a non-stationary bandit with dynamically instantiated optimization targets. It abstracts recurring failures into reusable failure-pattern arms, estimates the potential learning progress from further targeting each pattern, and adaptively balances revisiting known weaknesses with exploring unseen scenarios for new ones. Optimization outcomes continually update both the set of discovered failure patterns and their priorities, allowing the curriculum to co-evolve with the harness. Experiments on GAIA2 and Terminal-Bench 2.0 show that ActiveSaddler consistently discovers stronger harnesses, improving test Pass@1 by 4.4 and 7.5 percentage points over the same harness optimizer using a scenario order fixed before optimization, respectively. Ablations further show that these gains depend on dynamically constructing optimization targets, estimating their evolving utility, and balancing continued optimization with new failure discovery. Together, these results establish automated curriculum learning as a new crucial optimization dimension for harness optimization.
- Abstract(参考訳): 自動ハーネス最適化は、実行フィードバックからプロンプト、ツールインターフェース、制御ロジックを反復的に更新することで、LLMエージェントを大幅に改善することができる。
しかし、既存のメソッドは主にハーネスの更新方法を最適化し、どのトレーニングシナリオがこれらの更新を駆動するフィードバックを生成するかを主に修正する。
ハーネスが進化するにつれて、さらなる最適化に最も有用なシナリオが変更され、トレーニングカリキュラム自体がハーネスに合わせて適応することが示唆される。
自動カリキュラム学習問題として、この欠落次元のハーネス最適化を定式化し、ActiveSaddlerを導入する。
ActiveSaddlerは、進化するカリキュラムを、動的にインスタンス化された最適化ターゲットを持つ非定常的バンディットとしてモデル化する。
繰り返し発生する障害を再利用可能な障害パターンのアームに抽象化し、各パターンのさらなるターゲットから潜在的な学習進捗を見積もり、既知の弱点を再検討し、新しいパターンの予期せぬシナリオを探索することで、適応的にバランスを取る。
最適化の結果は、発見された障害パターンのセットとその優先順位の両方を継続的に更新し、カリキュラムがハーネスと共同開発できるようにします。
GAIA2 と Terminal-Bench 2.0 の実験では、ActiveSaddler が常に強いハーネスを発見し、最適化前に固定されたシナリオ順序を使用して、同じハーネスオプティマイザ上でテストPass@1 を 4.4 と 7.5 のパーセンテージで改善している。
さらに、これらの利得は、動的に最適化ターゲットを構築し、その進化するユーティリティを推定し、新しい障害発見と継続的な最適化のバランスをとることに依存することを示している。
これらの結果と合わせて,自動カリキュラム学習を最適化のための新たな重要な最適化次元として確立する。
関連論文リスト
- AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces [61.51487329124135]
AutoSaddlerは、オフラインの学習問題として改善を活用するフレームワークである。
ミニバッチからの障害信号を使用して、ハーネスを反復的に更新する。
GAIA2, SWE-Bench Pro, Terminal-Bench 2.0 の実験により, AutoSaddler はエージェント性能を大幅に向上することが示された。
論文 参考訳(メタデータ) (2026-08-24T09:45:08Z) - Evolving Agents in the Dark: Retrospective Harness Optimization via Self-Preference [51.55077364626896]
本稿では,過去の軌道のみを用いたエージェント・ハーネスを最適化する自己教師型手法であるRetrospective Harness Optimization (RHO)を紹介する。
RHOは、過去の軌跡から様々な課題のコアセットを選択し、それらを並列に解決する。
1回の最適化ラウンドでは、SWE-Bench Proのパスレートが59%から78%に向上する。
論文 参考訳(メタデータ) (2026-06-04T09:26:00Z) - Towards Direct Evaluation of Harness Optimizers via Priority Ranking [18.644878456671886]
ハーネス最適化がエージェントの情報更新アクションによって駆動されるのか、単にトライ・アンド・エラーであるのかは不明だ。
ハーネスを直接評価するのは簡単ではなく、オラクルハーネスが不足しているためコストがかかる。
評価を行うための簡易で低コストな設計、すなわち優先順位付けを提示する。
論文 参考訳(メタデータ) (2026-05-21T13:55:02Z) - Learning to Optimize for Reinforcement Learning [58.01132862590378]
強化学習(Reinforcement Learning, RL)は、教師付き学習とは本質的に異なり、実際、これらの学習は単純なRLタスクでもうまく機能しない。
エージェント勾配分布は非独立で同一分布であり、非効率なメタトレーニングをもたらす。
おもちゃのタスクでしか訓練されていないが、我々の学習はブラックスの目に見えない複雑なタスクを一般化できることを示した。
論文 参考訳(メタデータ) (2023-02-03T00:11:02Z) - A Closer Look at Learned Optimization: Stability, Robustness, and
Inductive Biases [44.01339030872185]
ブラックボックスは、しばしば、メタトレーニングセットのタスクと異なり、安定性と一般化に苦しむ。
最適化アルゴリズムの帰納バイアスと安定性特性について検討し、結果として得られる知見をブラックボックスの帰納バイアスの設計に適用する。
私たちはさまざまなニューラルネットワークトレーニングタスクを学び、そこで学んだ技術の現状を上回ります。
論文 参考訳(メタデータ) (2022-09-22T17:47:21Z) - Reverse engineering learned optimizers reveals known and novel
mechanisms [50.50540910474342]
学習は最適化問題を解決するために自らを訓練できるアルゴリズムである。
実験の結果は,学習の動作方法に関するそれまでの曖昧な理解を解明し,今後の学習を解釈するためのツールを確立するのに役立つ。
論文 参考訳(メタデータ) (2020-11-04T07:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。