Disagree to Explore, Agree to Commit: Routing-Guided Test-Time Scaling for Software Agents
Abstractの概要
本論文では、外部ジャッジやパッチ実行による検証を用いずに、Mixture-of-Experts（MoE）のネイティブなルータートレースがソフトウェア工学エージェントのテスト時スケーリングを誘導できるかを検証しています。著者らはSWE-bench Verifiedにおけるリポジトリレベルのソフトウェア修復課題を用い、行動の役割、軌跡の履歴、パッチトークン、および独立にサンプリングされた試行にわたるルーティング信号を分析しました。その結果、ルーティングは行動役割をエンコードし、表層的な類似性を補完するとともに、低確率の決定トークンで読み取る際に最も高い情報量を持つことが明らかになりました。これらの知見に基づき、探索時には過去の履歴との不一致を促し、コミットおよび最終選択時には試行間の一致を重視するルーティング誘導型コントローラー「Risa」を提案しています。
新規性
本研究の新規な貢献は、ネイティブなMoEルーティングトレースを、ソフトウェアエージェントの軌跡内ステアリングと試行間のパッチ調停を統合する内部制御信号として利用した点にあります。この手法は外部ジャッジや選択時のコード実行を不要とし、標準的な正解パターンへの依存を避け、自由形式パッチの決定トークンに着目して比較を局所化しています。
成果
6つのgpt-ossモデル／エフォート条件下において、ルーティングに基づく調停は一様選択と比べて解決率を2.3〜5.7ポイント改善し、マクロ平均を44.9%から48.2%に引き上げました。Qwen3.6-35B-A3Bでは一様選択の41.7%に対して45.2%を達成し、フルベンチマークにおいてテキストコンセンサス選択と同等の結果を示しました。さらに、ルーティングに基づく役割分類は3つの行動役割に対して0.940のホールドアウト精度を達成したことが報告されています。
論文の注目点
- MoEルーティングトレースは強力な行動役割信号を提供し、探索的行動とパッチ記述行動の高精度なゲーティングを可能にします。
- 決定トークンにおけるルーティングフィンガープリントは、試行間での自由形式ソフトウェアパッチの順位付けにおいて、全スパンや単純な位置ウィンドウよりも高い情報量を持ちます。
- Risaは探索時の履歴ベースの不一致と、コミットおよび最終調停時の一致を組み合わせることで、検証されたMoEエージェント設定全体で一様選択を上回る一貫した性能向上を達成します。