論文の概要: Cross-Benchmark Generalization in Long-Horizon Agents
- arxiv url: http://arxiv.org/abs/2608.00181v1
- Date: Fri, 31 Jul 2026 18:05:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 15:26:28.290578
- Title: Cross-Benchmark Generalization in Long-Horizon Agents
- Title(参考訳): 長距離エージェントにおけるクロスベンチマーク一般化
- Abstract要約: 我々は,27のカテゴリにわたる363の長距離モデルコンテキストプロトコル(MCP)タスク上で,オープンウェイト・ミックス・オブ・エキスパート・モデルを構築した。
トレーニングには外部ベンチマークタスクやグレーダが入らず、報酬、ハイパーパラメータのトレーニング、トレーニングされたチェックポイントの選択、停止を外部スコアが知らせなかった。
両方のソフトウェアベンチマークは、ソフトウェアエンジニアリングタスクを含まないトレーニングコレクションにもかかわらず改善されている。
- 参考スコア(独自算出の注目度): 1.0742728354283815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: For reinforcement learning (RL) in self-contained environments, a policy can get rewards by exploiting environment-specific regularities (tool schemas, grader parsing, task templates) rather than by acquiring transferable skill, and an in-distribution holdout shares those regularities. We argue that the discriminating question is behavioral, namely how a trained agent acts, and that cross-benchmark transfer is the right place to look for it. We post-train an open-weight mixture-of-experts model (Qwen3.5-122B-A10B) on 363 long-horizon Model Context Protocol (MCP) tasks across 27 categories, using a two-stage SFT-then-RL pipeline. Toolathlon performance informed the initial base-family and SFT-teacher choices, but no external-benchmark task or grader entered training and no external score informed the reward, training hyperparameters, trained-checkpoint selection, or stopping. At greedy pass@1, the trained model improves over the base on five reported external evaluations: Toolathlon (+9.6 pp), $τ^2$-Bench (+5.3 pp), BFCL-V4 (+3.5 pp), SWE-Bench Pro (+5.8 pp), and Terminal-Bench 2 (+2.8 pp). Both software-engineering benchmarks improve despite the training collection containing no software-engineering tasks. An exploratory paired-trajectory analysis identifies four recurring behavioral differences (more careful local-goal formation, building goal-relevant working state, keeping parent goals stable through local repairs, and verifying completion) that appear in analogous forms across office workflows and code. These results provide descriptive evidence that long-horizon multi-tool post-training can change ways of working that transfer beyond its training domain.
- Abstract(参考訳): 自己完結型環境における強化学習(RL)のために、ポリシーは、転送可能なスキルを得るのではなく、環境固有の規則(ツールスキーマ、グレーダパース、タスクテンプレート)を活用することで報酬を得ることができる。
我々は、差別された質問は行動的であり、すなわち、訓練されたエージェントがどのように振る舞うか、そして、クロスベンチマークの転送がそれを探すのに正しい場所であると論じる。
2段階のSFT-then-RLパイプラインを用いて、363の長距離モデルコンテキストプロトコル(MCP)上のオープンウェイト混合(Qwen3.5-122B-A10B)モデル(Qwen3.5-122B-A10B)のポストトレーニングを行った。
ツールスロンのパフォーマンスは、最初のベースファミリーとSFT-Teacherの選択を知らせるが、外部のベンチマークタスクやグレーダーは入力されず、報酬、ハイパーパラメータのトレーニング、トレーニングされたチェックポイントの選択、停止を知らせる外部スコアもなかった。
greedy pass@1では、トレーニングされたモデルは5つの外部評価に基づいて改善されている: Toolathlon (+9.6 pp), $τ^2$-Bench (+5.3 pp), BFCL-V4 (+3.5 pp), SWE-Bench Pro (+5.8 pp), Terminal-Bench 2 (+2.8 pp)。
両方のソフトウェアエンジニアリングベンチマークは、ソフトウェアエンジニアリングタスクを含まないトレーニングコレクションにもかかわらず改善されている。
探索的対軌道分析では、オフィスのワークフローやコードに類似した形で現れる4つの反復的な行動差(より注意深い局所ゴール形成、目標関連作業状態の構築、局所的な修復を通じて親の目標の安定維持、完了の検証)を識別する。
これらの結果は、長期のマルチツールポストトレーニングが、トレーニングドメインを超えて移行する作業方法を変える可能性があるという記述的な証拠を提供する。
関連論文リスト
- T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks [27.750923745153145]
T1は、強化学習で訓練された122BのMixture-of-Expertsモデルである。
実際のシェルをクラウドサンドボックスで運用し、タスク毎に最大300以上のツールコールを回し、各タスク独自の検証を実行することで報酬を得る。
Terminal-Bench 2.1では、最初のベースモデルを43.8%からT1に引き上げ、64.0%が解決した。
論文 参考訳(メタデータ) (2026-09-10T03:42:01Z) - NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。
本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
論文 参考訳(メタデータ) (2026-09-08T03:14:54Z) - TRACE: A Self-Evolving Skill Bank for Consistent, Limit-Aware LLM Agents [41.82249291285459]
TRACEは、モデルウェイトを変更することなく、スキルベースのエージェントの行動知識を反復的に改善する。
GPT-5.5では、TRACEは一貫性(Pass3)を34.6ポイント改善し、59.9%から94.5%に改善した。
これらの結果から,TRACEは高モデルポテンシャルを安定かつ一貫した性能向上に変換することを示した。
論文 参考訳(メタデータ) (2026-08-24T04:36:03Z) - LEGO-RL: Harness-Native Reinforcement Learning for Coding Agents [56.902747731541695]
LEGO-RLは、ネイティブコーディングエージェントハーネスをスケーラブルなポリシ-グラディエント最適化でブリッジするフレームワークです。
我々は、3つのネイティブコーディングエージェントハーネスにまたがるGSPOを用いて、疎いMoEモデルQwen3.5-35B-A3BをトレーニングすることでLEGO-RLを評価する。
論文 参考訳(メタデータ) (2026-08-18T05:34:35Z) - Post-Training on Office Work Improves Software Engineering: A Behavioral Account of Cross-Domain Transfer [1.0742728354283815]
長い水平タスクでは、エージェントはネストされた作業と分岐された作業のコヒーレントな状態と目標を維持する必要がある。
この能力目標実行(GDE)とは,目標の選択,タスク関連状態の構築,高レベルな目標への忠実性の維持,環境に対する完成性の検証という,4つの行動の繰り返し適用である。
オフィスから引き出されたLHMTA(Long-Horizon Multi-Tool Agent)タスクでQwen3.5-122B-A10Bを訓練した後でテストした。このコレクションにはソフトウェア指向タスクは含まれなかったが、SWE-Bench Proでは5.8ポイント改善された。
論文 参考訳(メタデータ) (2026-08-03T02:22:02Z) - TRACE: Turn-level Reward Assignment via Credit Estimation for Long-Horizon Agents [51.523913302114266]
TRACE(Turn-level Reward Assignment via Credit Estimation)は、エージェント強化学習のための高密度クレジットアサインメント手法である。
ツールコール境界における状態遷移としてロールアウトを表現し、凍結参照モデルからゴールド・アンサー・ログ確率を取得し、それらをログ比の状態値に変換し、それらの値の時間差変化としてアクション毎の報酬を導出する。
純粋なRLを用いたベースモデルツール使用能力を大幅に向上させ、冷間開始制御された微調整ステージ、エージェント訓練ステージ、ライブWebデータによるトレーニングを不要とした。
論文 参考訳(メタデータ) (2026-07-15T16:16:42Z) - KAT-Coder-V2.5 Technical Report [61.907486544595336]
KAT-Coder-V2.5は、実際の実行可能リポジトリ内で自律的に動作するよう訓練されたコーディング中心のエージェントモデルである。
マルチ言語リポジトリをサンドボックス環境に再構築し、フェイル・ツー・パスとパス・ツー・パスの検証を大規模に行う。
我々はさらに、ハーネスランダム化による強化学習、信頼性の強化されたサンドボックス、非対称なアクター-クリティックPPO、およびハイチ指向の報酬フレームワークをスケールする。
論文 参考訳(メタデータ) (2026-07-06T08:14:02Z) - What Makes Interaction Trajectories Effective for Training Terminal Agents? [55.62817294510983]
Terminal-Legoは、現実世界の問題を環境検証されたエージェントタスクに変換するスケーラブルなパイプラインである。
下着剤であるDeepSeek-V3.2の軌跡を微調整した学生は、はるかに強力な一般化を示している。
Qwen3-32Bは15.3kの終端レゴ軌道しか持たず、終端ベンチ2.0で24.3%のスコアを獲得し、データボリュームの30倍以上で確立された以前のSOTAのパフォーマンスと競合する。
論文 参考訳(メタデータ) (2026-06-02T10:37:47Z) - SWE-QA-Pro: A Representative Benchmark and Scalable Training Recipe for Repository-Level Code Understanding [41.98672557723593]
SWEQA-Proは,多種多様な長期リポジトリと実行可能な環境から構築されたベンチマークである。
さらに,2段階のトレーニングレシピであるSupervised Fine-Tuning(SFT)とReinforcement Learning from AI Feedback(RLAIF)という,スケーラブルな合成データパイプラインを提案する。
SWE-QA-ProのGPT-4oを2.3ポイント超え、最先端モデルとのギャップを大幅に狭める。
論文 参考訳(メタデータ) (2026-03-17T05:12:48Z) - EnterpriseBench Corecraft: Training Generalizable Agents on High-Fidelity RL Environments [0.10934862523101825]
我々は,高忠実度強化学習環境におけるAIエージェントの訓練が,トレーニング分布を超えて一般化する能力を生み出すことを示す。
私たちは、Surge AIのエージェントRL環境スイートであるEnterpriseBenchの最初の環境であるCoreCraftを紹介します。
論文 参考訳(メタデータ) (2026-02-18T04:35:46Z) - Efficient Multi-turn RL for GUI Agents via Decoupled Training and Adaptive Data Curation [65.3648667980258]
視覚言語モデル(VLM)に基づくGUIエージェントは複雑なタスクの自動化を約束するが、強化学習(RL)の適用において大きな課題に直面している。
異種モジュールを高度に非結合的に協調するGUIエージェントのための非結合エージェントRLトレーニングフレームワークであるDARTを提案する。
OSWorldのベンチマークでは、DART-GUI-7Bは42.13%のタスク成功率、14.61%の絶対ゲイン、オープンソースSOTAよりも7.34%高い。
論文 参考訳(メタデータ) (2025-09-28T13:19:20Z) - Agentic Reinforcement Learning with Implicit Step Rewards [92.26560379363492]
大規模言語モデル (LLMs) は強化学習 (agentic RL) を用いた自律的エージェントとして発展している。
我々は,標準RLアルゴリズムとシームレスに統合された一般的なクレジット割り当て戦略であるエージェントRL(iStar)について,暗黙的なステップ報酬を導入する。
我々は,WebShopとVisualSokobanを含む3つのエージェントベンチマークと,SOTOPIAにおける検証不可能な報酬とのオープンなソーシャルインタラクションについて評価した。
論文 参考訳(メタデータ) (2025-09-23T16:15:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。