論文の概要: SWE-Trail: History-Guided Trajectory Collection for Coding Agent Training
- arxiv url: http://arxiv.org/abs/2611.02074v1
- Date: Sun, 01 Nov 2026 17:26:42 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:27:38.556929
- Title: SWE-Trail: History-Guided Trajectory Collection for Coding Agent Training
- Title（参考訳）: SWE-Trail: コーディングエージェント訓練のための歴史誘導軌道収集
- Abstract要約: 我々はSWE-Trailを紹介した。SWE-Trailは、初期のトラジェクトリを使ってその後のコレクションをガイドするトラジェクトリコレクタである。
本研究は,学生が生成する軌跡の学習モデルを用いて,収集手法の評価を行う。
- 参考スコア（独自算出の注目度）: 37.93419936636945
- License:
- Abstract: Coding agents solve repository issues through long sequences of exploration, editing, and validation. These trajectories are increasingly used as post-training data, so how they are collected shapes what the trained model learns. A common approach is to sample multiple trajectories independently for each issue and then select or curate them. However, as more trajectories are sampled independently, later trajectories become increasingly redundant, even though earlier trajectories could guide where subsequent collection effort should be spent. A natural way to use this history is to expose it to the coding agent as advice. But training on such trajectories can make the model rely on advice that is unavailable at test time, creating a train-test mismatch. Instead, we argue that history should guide where collection effort is spent, while the coding agent decides what to generate. We introduce SWE-Trail, a trajectory collector that uses earlier trajectories to guide subsequent collection while keeping that history outside the coding agent's context. During a new rollout, SWE-Trail uses history to identify a state where additional collection effort may be useful. There, the coding agent proposes candidate next actions from its ordinary context, and SWE-Trail briefly executes them from the same checkpoint to decide which route continues. We evaluate collection approaches by training student models on the trajectories they produce. For a 124B student initialized from Ling-3.0-flash-base, SWE-Trail improves mean resolution over independent sampling by 2.33 and 1.60 percentage points on SWE-bench Multilingual and SWE-bench Pro, respectively. Without history, the same pipeline produces more resolved trajectories than independent sampling, but improves by only 0.11 points on Multilingual. These results show the value of using history to guide collection without exposing it to the coding agent.
- Abstract（参考訳）: コーディングエージェントは、探索、編集、検証の長いシーケンスを通じて、リポジトリの問題を解決する。
これらのトラジェクトリは、ポストトレーニングデータとしてますます使われており、トレーニングされたモデルがどのように学習するかを収集する方法が示されています。
一般的なアプローチは、各問題に対して独立して複数のトラジェクトリをサンプリングし、それらを選択またはキュレートすることである。
しかし、より多くの軌跡が独立してサンプリングされるにつれて、後の軌跡は次第に冗長になるが、初期の軌跡はその後の収集に費やすべき場所を導くことができる。
この履歴を使用する自然な方法は、それをコーディングエージェントにアドバイスとして公開することです。
しかし、そのような軌道でのトレーニングは、テスト時に利用できないアドバイスに依存して、トレインテストのミスマッチを生成します。
代わりに、私たちは履歴が収集に費やされる場所を案内し、コーディングエージェントが生成する場所を決定するべきだと論じます。
我々はSWE-Trailを紹介した。SWE-Trailは、初期のトラジェクトリを使用して、その履歴をコーディングエージェントのコンテキスト外に保持しながら、後続のコレクションをガイドする。
新しいロールアウトの間、SWE-Trailは履歴を使用して、追加のコレクションの取り組みが有用かもしれない状態を特定する。
そこで、コーディングエージェントは、通常のコンテキストから候補次のアクションを提案し、SWE-Trailは同じチェックポイントからそれらを短時間実行して、どのルートが継続するかを決定する。
本研究は,学生が生成する軌跡の学習モデルを用いて,収集手法の評価を行う。
Ling-3.0-flash-baseから初期化された124Bの学生に対して、SWE-TrailはSWE-bench MultilingualとSWE-bench Proでそれぞれ2.33と1.60ポイントの独立サンプリングよりも平均分解能を向上させる。
歴史がなければ、同じパイプラインは独立したサンプリングよりも解決された軌道を生成するが、Multilingualでは0.11ポイントしか改善されない。
これらの結果から, コードエージェントに公開することなく, コレクションのガイドに履歴を用いることの価値が示唆された。
関連論文リスト
- SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories [6.583588820375731]
本稿では,SWE-Critixについて紹介する。
タスクとその実行軌跡が与えられた場合、学習された検証者は完了ラベルを予測し、その判断を説明する自然言語解析を生成する。
SWE-Critixは, ベースQwen3-30B-A3B推論モデルの分類精度を, SFT後66%, RL後78%に改善した。
論文 参考訳（メタデータ） (2026-10-09T10:30:21Z) - Iterative Tool Usage Exploration for Multimodal Agents via Step-wise Preference Tuning [68.00304954972232]
コントローラ、例えば視覚言語モデルと外部ツールを統合するマルチモーダルエージェントは、複雑なマルチモーダルタスクに対処する際、顕著な能力を示した。
これらのエージェントを訓練するための既存のアプローチは、広範囲なヒューマン・アノテートされたタスク・アンサー・ペアとツール・トラジェクトリに依存している。
本研究では,事前に収集したデータのないマルチモーダルエージェント,すなわち SPORT の反復ツール利用探索手法を提案する。
Sportには、タスク合成、ステップサンプリング、ステップ検証、優先度調整の4つの反復的なコンポーネントがある。
論文 参考訳（メタデータ） (2025-04-30T12:01:27Z) - STeCa: Step-level Trajectory Calibration for LLM Agent Learning [9.678098205818566]
大規模言語モデル(LLM)ベースのエージェントは、環境と動的に相互作用することで複雑なタスクに取り組むことを約束している。
LLMエージェント学習のための新しいフレームワークであるStep-Level Trajectory (STeCa)を提案する。
論文 参考訳（メタデータ） (2025-02-20T05:28:44Z) - Leveraging Skills from Unlabeled Prior Data for Efficient Online Exploration [54.8229698058649]
ラベルなしのオフライン軌道データは、効率的な探索戦略を学ぶために利用することができる。
提案手法は,42の長軸,スパース・リワードタスクからなるスイートにおいて,従来戦略よりも一貫して優れていた。
論文 参考訳（メタデータ） (2024-10-23T17:58:45Z) - AgentOhana: Design Unified Data and Training Pipeline for Effective Agent Learning [98.26836657967162]
textbfAgentOhanaは、さまざまなシナリオにまたがって、異なる環境からエージェントのトラジェクトリを集約する。
AIエージェント用に調整された大規模なアクションモデルである textbfxLAM-v0.1 は、さまざまなベンチマークで例外的なパフォーマンスを示している。
論文 参考訳（メタデータ） (2024-02-23T18:56:26Z) - Learning From Failure: Integrating Negative Examples when Fine-tuning Large Language Models as Agents [41.14201835950814]
大規模言語モデル(LLM)は、検索エンジンなどのツールを介して環境と対話するエージェントとして機能することに成功した。
これまでの研究は、LLMと環境の間の相互作用軌跡を初めて収集し、小さなモデルを微調整するためにタスクを完了した軌道のみを用いていた。
これらの軌道からLLMは適切な品質制御と微調整戦略によって学習することができると我々は主張する。
論文 参考訳（メタデータ） (2024-02-18T17:10:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。