論文の概要: ParetoSaddler: Pareto-Guided Optimization of Agent Harnesses for Quality and Cost
- arxiv url: http://arxiv.org/abs/2611.02079v1
- Date: Sun, 01 Nov 2026 17:36:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.525734
- Title: ParetoSaddler: Pareto-Guided Optimization of Agent Harnesses for Quality and Cost
- Title(参考訳): ParetoSaddler:Pareto-Guided Optimization of Agent Harnesss for Quality and Cost
- Abstract要約: 我々は,LLMエージェントの品質・コスト最適化手法を開発した。
中間候補プロモーション展開選択を分離する。
デプロイメントの好みで破棄された候補を保持できるが、その後の改善をサポートすることができる。
- 参考スコア(独自算出の注目度): 44.53879806398516
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Harness optimization can substantially improve LLM agents without modifying model weights, but existing methods primarily optimize response quality. Extending them to joint quality--cost optimization introduces a challenge: applying the deployment preference during intermediate updates can prematurely reject candidates that are valuable for later improvements. We introduce ParetoSaddler, which addresses this mismatch by separating intermediate candidate promotion from final deployment selection. At each iteration, an optimizer updates a parent harness to produce a candidate, and then compares the two over repeated executions and uses Bayesian bootstrap Pareto support to promote candidates showing credible progress in either quality or cost. Promoted candidates receive broader development evaluation and remain available as parents for later optimization steps. We evaluate ParetoSaddler on ClawMark and GAIA2 using domain-disjoint splits. On ClawMark, ParetoSaddler improves quality from 70.86\% to 81.35\% while reducing cost from \$1.17 to \$1.01 per task; on GAIA2, it improves quality from 56.22\% to 62.89\% while reducing cost from \$0.78 to \$0.45 per task. The Pareto-selected harnesses also achieve higher quality at lower cost than quality-only harness optimization. Analysis shows that Pareto-aware optimization retains intermediate candidates that would be discarded by deployment preference but can support later improvements, while Bayesian bootstrap screening filters out candidates whose gains are weakly supported across runs.
- Abstract(参考訳): ハーネス最適化はモデル重みを変更することなくLLMエージェントを大幅に改善するが、既存の手法は主に応答品質を最適化する。
共同品質-コスト最適化の拡張には、次のような課題が伴う。 中間更新中にデプロイメントの優先順位を適用することで、その後の改善に価値のある候補を早期に拒否することができる。
最終デプロイメント選択から中間候補のプロモーションを分離することで、このミスマッチに対処するParetoSaddlerを紹介します。
各イテレーションでは、オプティマイザが親ハーネスを更新して候補を生成し、繰り返し実行される2つを比較し、ベイジアンブートストラップのParetoサポートを使用して、品質とコストのどちらにおいても信頼できる進歩を示す候補を宣伝する。
昇進した候補者は幅広い開発評価を受け、後続の最適化手順で親として利用することができる。
ClawMark と GAIA2 を用いた ParetoSaddler の評価を行った。
ClawMarkでは、ParetoSaddlerは品質を70.86\%から81.35\%に改善し、コストは1.17ドルから1.01ドルに削減し、GAIA2では56.22\%から62.89\%に改善し、コストは0.78ドルから0.45ドルに削減した。
パレート選択されたハーネスは、品質のみのハーネス最適化よりも低コストで高い品質を実現する。
解析によると、Pareto-awareの最適化では、デプロイメントの好みによって破棄される中間候補を保持できるが、その後の改善をサポートすることができる。
関連論文リスト
- Batching the Reflective Optimization Loop: Parallel Proposals Make GEPA Faster and Better [43.42663595740343]
本稿では,各最適化ステップにおいて,1つの候補ではなく,複数の候補を同時に提案し,評価する。
ほとんどのバッチ実行はウォールクロック時間の半分以下で完了し、約4分の1から3分の1で最速となった。
私たちは、反射的最適化ステップが並列にスケール可能な軸をフレーム化し、それらをまたいだ固定された最適化予算の割り当てを初めて検討します。
論文 参考訳(メタデータ) (2026-10-27T07:41:40Z) - Mara Chain: Rethinking Failure as a Stepping Stone for AI System Auto-Evolution [7.503165028439351]
提案手法は, 拒否された候補者を踏み石に変えた改良手法であるマラ・チェインを紹介する。
マラ・チェインは拒否された候補者を捨てるのではなく、前回の試みで蓄積された証拠を使ってそれを繰り返し洗練する。
論文 参考訳(メタデータ) (2026-09-25T11:05:41Z) - COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization [55.60171725587438]
大規模言語モデル(LLM)エージェントは、以前のタスク経験から抽出した再利用可能なスキルの恩恵を受けることができる。
既存のスキル最適化手法は、コストのかかる実行ベースの評価と実質的なタスクデータに依存していることが多い。
動的に進化する候補空間上での予算付き逐次最適化としてスキル最適化を定式化する効率的なフレームワークである textbfCOBRA-Skills を導入する。
論文 参考訳(メタデータ) (2026-09-10T15:12:24Z) - Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization [60.89431018071735]
グループ相対的な優位性を持つ強化学習は、訓練後の言語モデル推論のデファクトスタンダードとなっている。
異なる報酬プロファイルを持つロールアウトは、同じ利点を享受でき、現在の飽和度に関わらず、全ての目的が固定相対重みで最適化されることを示す。
本研究では,各報酬目標を独立に標準化し,目標飽和度をバッチレベルで推定した値に従って貢献を適応的に割引する飽和度認識再重み付けを導入する。
論文 参考訳(メタデータ) (2026-08-17T04:07:50Z) - Do Agent Optimizers Compound? A Continual-Learning Evaluation on Terminal-Bench 2.0 [53.71882250666667]
エージェント最適化法で報告されているほとんどの利得はワンショットである。
これは、デプロイされたエージェントにとって重要な設定をテストするものではない。
エージェントハーネス最適化に対する3つのアプローチを比較する。
論文 参考訳(メタデータ) (2026-07-15T16:36:04Z) - Towards Direct Evaluation of Harness Optimizers via Priority Ranking [18.644878456671886]
ハーネス最適化がエージェントの情報更新アクションによって駆動されるのか、単にトライ・アンド・エラーであるのかは不明だ。
ハーネスを直接評価するのは簡単ではなく、オラクルハーネスが不足しているためコストがかかる。
評価を行うための簡易で低コストな設計、すなわち優先順位付けを提示する。
論文 参考訳(メタデータ) (2026-05-21T13:55:02Z) - QUIVER: Cost-Aware Adaptive Preference Querying in Surrogate-Assisted Evolutionary Multi-Objective Optimization [0.0]
本稿では、客観評価と嗜好クエリを適応的に選択する、代理支援型進化的多目的言語であるQUIVERを紹介する。
我々はQUIVERがWFG問題に挑戦する上で最下位のユーティリティ後悔を達成していることを示す。
この適応的モダリティ選択は、行動におけるコストアウェアな嗜好学習を示す。
論文 参考訳(メタデータ) (2026-05-05T20:02:35Z) - Cost-aware Stopping for Bayesian Optimization [46.95172329282389]
本稿では,様々な評価コストに適応し,チューニングが不要なベイズ最適化のためのコスト対応停止則を提案する。
我々は,最先端の取得関数と組み合わせた場合,停止規則によって得られる期待累積評価コストを拘束する理論的な保証を証明した。
論文 参考訳(メタデータ) (2025-07-16T17:54:14Z) - Overcoming Reward Overoptimization via Adversarial Policy Optimization with Lightweight Uncertainty Estimation [46.61909578101735]
AdvPO(Adversarial Policy Optimization)は、人間からの強化学習における報酬過度最適化の問題に対する新しい解決策である。
本稿では,報酬モデルの最後の層埋め込みにのみ依存して,報酬の不確実性を定量化する軽量な手法を提案する。
論文 参考訳(メタデータ) (2024-03-08T09:20:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。