論文の概要: Quality, Not Just Outcome: A Structural Scoring Framework for Selecting Coding-Agent Trajectories for Supervised Fine-Tuning
- arxiv url: http://arxiv.org/abs/2610.13152v1
- Date: Fri, 09 Oct 2026 07:40:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.458053
- Title: Quality, Not Just Outcome: A Structural Scoring Framework for Selecting Coding-Agent Trajectories for Supervised Fine-Tuning
- Title(参考訳): 品質, ただの成果ではない: 改良されたファインチューニングのための符号化-エージェント軌道選択のための構造的スコーリングフレームワーク
- Abstract要約: TQS(Trajectory Quality Score)を提案する。
パブリックオープンライセンスコーパスのフィルタされたサブセット上で、TQSとファインチューン符号化エージェントによるトラジェクトリをランク付けする。
以上の結果から,プロセスレベルの軌道品質がコーディングエージェントの監督において重要な要因であることが示唆された。
- 参考スコア(独自算出の注目度): 20.40283470898589
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Open coding agents are commonly trained through supervised fine-tuning on interaction trajectories whose final patches pass the benchmark test suite. However, this outcome-level filtering criterion ignores process quality: trajectories that eventually succeed may still contain inefficient interaction patterns such as repetitive file inspection, unstable tool usage, or delayed modification behavior, all of which become part of the imitation target. We propose TQS (Trajectory Quality Score), a structural scoring framework for coding-agent trajectories that operates directly on trajectory structure, requires no LLM judge, and runs in linear time. TQS characterizes trajectory quality through structural signals organized around structured convergence: information focus, intent--action alignment, and policy dynamics. Using 155,144 successful trajectories from a public open-license corpus, we rank trajectories by TQS and fine-tune coding agents on filtered subsets. Models trained on top-ranked trajectories consistently outperform those trained on random or bottom-ranked subsets on SWE-Bench-Verified. Our results suggest that process-level trajectory quality is an important factor in coding-agent supervision and that structural trajectory filtering provides an effective and scalable alternative to LLM-based data selection.
- Abstract(参考訳): オープンコーディングエージェントは、ベンチマークテストスイートをパスしたインタラクショントラジェクトリの微調整を通じて、一般的に訓練される。
しかし、この結果レベルのフィルタリング基準はプロセスの品質を無視する: 最終的に成功する軌道には、繰り返しファイル検査、不安定なツールの使用、修正の遅れといった非効率な相互作用パターンが含まれており、これらすべてが模倣対象の一部となる。
TQS (Trajectory Quality Score) は, 軌道上で直接動作し, LLM判定を必要とせず, 線形時間で動作可能な符号化・エージェント軌道のスコアリングフレームワークである。
TQSは、情報焦点、意図-行動アライメント、ポリシーダイナミクスといった構造化収束を中心に組織された構造信号を通して軌道品質を特徴付ける。
公用オープンライセンスコーパスから155,144個の軌道を用いて, フィルタされた部分集合上のTQSおよび微細チューン符号化エージェントによる軌道をランク付けする。
上位軌道上で訓練されたモデルは、SWE-Bench-Verified上でランダムまたは下位軌道で訓練されたモデルよりも一貫して優れていた。
この結果から, プロセスレベルのトラジェクトリの品質はコーディングエージェントの監視において重要な要素であり, 構造的トラジェクトリフィルタリングは, LLMに基づくデータ選択に代わる効果的かつスケーラブルな代替手段となることが示唆された。
関連論文リスト
- Structuring MoE Expert Selection for Agentic Reinforcement Learning [31.67168949262172]
エージェント・ポストトレーニングとMoE専門家の選択の関連について検討した。
専門家のルーティングは、エージェントが意味的に類似した操作を行うターンの間にさらに重なる。
エージェントタスクのための階層的ルーティング制御フレームワークを提案する。
論文 参考訳(メタデータ) (2026-10-05T20:06:47Z) - Efficient SWE Agent Benchmarking via Trajectory-Aware Evaluation [46.74484954631231]
プロセスと結果信号を融合するPTA-IRTを提案する。
低キャリブレーションの予算の下では、PTA-IRTは4つのSWEベンチマークのスコアとランキングのリカバリでIRT以前のベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-01T17:59:46Z) - SWE-Prime: Fewer Trajectories, Better Performance [53.66792153458889]
SWE-Primeは多粒度2段階のSFTデータ選択法である。
第1段階は、プロセス品質、結果品質、データ代表性に基づく軌道レベルのスクリーニングを行う。
第2段階は、連続したステップをセマンティックセグメントにグループ化することでセグメントレベルの選択を行う。
論文 参考訳(メタデータ) (2026-08-27T17:58:10Z) - Generate, Filter, Control, Replay: A Comprehensive Survey of Rollout Strategies for LLM Reinforcement Learning [79.88942231770629]
強化学習(RL)は、大規模言語モデル(LLM)の推論能力を向上させるための訓練後の中心的なツールとなっている。
統一表記によるロールアウトパイプラインの形式化とGenerate-Filter-Control-Replay(GFCR)の導入
検証可能な報酬、プロセスの監督、判断に基づくゲーティング、ガイドとツリー/セグメントのロールアウト、アダプティブな計算割り当て、早期終了と部分的なロールアウト、スループット最適化、自己改善のための再生/再配置でRLにまたがる手法を合成する。
論文 参考訳(メタデータ) (2026-04-08T00:53:29Z) - TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。
TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。
TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
論文 参考訳(メタデータ) (2026-03-02T10:38:54Z) - Model Specific Task Similarity for Vision Language Model Selection via Layer Conductance [92.72779885657373]
本稿では,視覚エンコーダの内部関数力学におけるモデル選択の基盤となるフレームワークを提案する。
提案手法は,各タスクをレイヤワイドコンダクタンスにより表現し,エントロピー正規化アライメントによる目標条件付きブロック重要度分布を導出する。
そこで本研究では,DCD(Directional Conductance Divergence)という,ソースタスクが対象の機能ブロックをいかに効果的にカバーするかを定量化する非対称な指標を提案する。
論文 参考訳(メタデータ) (2026-02-01T17:29:43Z) - Guided by Trajectories: Repairing and Rewarding Tool-Use Trajectories for Tool-Integrated Reasoning [65.10602992874787]
AutoTrajはツール使用トラジェクトリの修復と報酬によってTIRを自動的に学習するフレームワークである。
実世界のベンチマークの実験では、AutoTrajの有効性が示されている。
論文 参考訳(メタデータ) (2026-01-30T14:42:04Z) - STeCa: Step-level Trajectory Calibration for LLM Agent Learning [9.678098205818566]
大規模言語モデル(LLM)ベースのエージェントは、環境と動的に相互作用することで複雑なタスクに取り組むことを約束している。
LLMエージェント学習のための新しいフレームワークであるStep-Level Trajectory (STeCa)を提案する。
論文 参考訳(メタデータ) (2025-02-20T05:28:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。