論文の概要: AgentRouter: Heterogeneous Model Routing for Cost-Optimal Multi-Step Agentic Workflows
- arxiv url: http://arxiv.org/abs/2609.22951v1
- Date: Sat, 19 Sep 2026 11:06:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:00.609608
- Title: AgentRouter: Heterogeneous Model Routing for Cost-Optimal Multi-Step Agentic Workflows
- Title（参考訳）: AgentRouter: コスト最適マルチステップエージェントワークフローのための異種モデルルーティング
- Abstract要約: あらゆる軌道をフロンティアモデルにルートするエンタープライズエージェントシステムは、小さなモデルでも同じようにうまく扱えるサブタスクで予算の60-80%を無駄にします。
エージェント軌道上の逐次代入問題としてモデルルーティングを定式化し,エージェント推論を提案する。
エージェントはフロンティアのみのベースラインに対して72%のコスト削減を実現し、フロンティアのみの品質の97.3%を維持している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Enterprise agentic systems that route every trajectory step to a frontier model waste 60-80% of their inference budget on subtasks that smaller models handle equally well. Existing routing solutions optimize single-turn query assignment but ignore a property unique to agentic workflows: subtask complexity varies widely within a single trajectory. A planning step may require frontier-class reasoning while a subsequent formatting step needs only a 7B model. We formalize step-level model routing as a sequential assignment problem over agent trajectories and propose AgentRouter, a lightweight classifier (12M parameters, <5ms overhead per step on an A100 GPU) that maps each trajectory step to one of four model tiers using five features extractable at routing time. Trained on 50,000 annotated agent trajectory steps spanning planning, coding, research, and data analysis tasks, AgentRouter achieves 72% cost reduction relative to frontier-only baselines, retaining 97.3% of frontier-only quality (less than 3% degradation in end-to-end task completion); per-step routing accuracy reaches 91% on minimal-complexity steps and 85% on efficient-tier steps, with 76-82% on the harder mid-range and frontier tiers. On the same benchmarks, RouteLLM and FrugalGPT (applied per-step) achieve only 31% and 44% cost reduction respectively, because their single-turn training signal misses trajectory-level quality dependencies.
- Abstract（参考訳）: あらゆる軌道をフロンティアモデルにルーティングするエンタープライズエージェントシステムは、小さなモデルでも同じようにうまく扱えるサブタスクにおいて、推論予算の60～80%を無駄にします。
既存のルーティングソリューションは、単一ターンクエリの割り当てを最適化するが、エージェントワークフロー特有の特性を無視する。
プランニングステップはフロンティアクラスの推論を必要とするが、その後のフォーマッティングステップは7Bモデルのみを必要とする。
エージェントトラジェクトリ上の逐次代入問題としてステップレベルのモデルルーティングを形式化し、ルーティング時に抽出可能な5つの特徴を用いて、各トラジェクトリステップを4つのモデル階層のうちの1つにマッピングする軽量な分類器(A100 GPU上の12Mパラメーター<5msオーバーヘッド)であるAgentRouterを提案する。
計画、コーディング、研究、データ分析タスクにまたがる5万のアノテートエージェント軌道で訓練されたエージェントルーターは、フロンティアのみのベースラインに対して72%のコスト削減を実現し、フロンティアのみの品質を97.3%保持している(エンド・ツー・エンドのタスク完了の3%未満)。
同じベンチマークでは、RouteLLMとFrugalGPT(ステップ毎に適用)はそれぞれ31%と44%のコスト削減しか達成していない。
関連論文リスト
- From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。
我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。
このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
論文 参考訳（メタデータ） (2026-09-01T17:39:26Z) - TACIT-Switch: Cost-Aware Model Escalation for LLM Agents from Censored Supervision [2.681967953218225]
より小さな言語モデルバックボーンを持つエージェントは永続的な障害モードにドリフトできるが、より大きなバックボーンを持つエージェントは一般的により信頼性が高いがよりコストがかかる。
この信頼性の高いトレードオフは、より大きなバックボーンを持つエージェントをいつ呼び出すかを決定するルーティングメソッドを動機付けます。
提案手法であるTACIT-SWITCHは,蓄積された軌跡の証拠から永久的ハンドオフポリシーを学習する。
論文 参考訳（メタデータ） (2026-08-28T04:33:11Z) - HetRoute Heterogeneous and Cost-aware Collaborative Routing Framework for Distributed Edge MoE Inference [47.0879800334801]
HetRouteは、分散エッジMoE推論のための異種コスト対応協調ルーティングフレームワークである。
HetRouteは平均推論遅延を59.0%、P99レイテンシを58.0%まで削減する。
論文 参考訳（メタデータ） (2026-08-01T10:30:01Z) - TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI [8.291830023781403]
本稿では,タスクレベルのルーティングフレームワークであるTRACEについて述べる。
タスクの遅延フィードバックを活用することで、TRACEはワークロードに適応するルーティングポリシを学ぶ。
精度にマッチしたトレードオフを継続的に改善し、非レイテンシフロンティアポイントを達成します。
論文 参考訳（メタデータ） (2026-07-24T16:29:06Z) - Orchard: An Open-Source Agentic Modeling Framework [124.68499958175111]
スケーラブルなエージェントモデリングのためのオープンソースのフレームワークOrchardを紹介します。
Orchard Envは、サンドボックスライフサイクル管理のための再利用可能なプリミティブを提供する軽量環境サービスである。
Orchard Envの上に、3つのエージェントモデリングレシピを構築します。
論文 参考訳（メタデータ） (2026-05-14T16:35:12Z) - RouteNLP: Closed-Loop LLM Routing with Conformal Cascading and Distillation Co-Optimization [13.891522069967507]
RouteNLPはクローズドループフレームワークで、タイアップされたモデルポートフォリオにクエリをルーティングし、タスク毎の品質制約を満たすとともに、コストを最小限に抑える。
企業顧客サービス部門の8週間のパイロットデプロイメント処理で、RuteNLPは推論コストを58%削減し、91%の応答受け入れを維持し、p99レイテンシを1,847msから387msに削減した。
論文 参考訳（メタデータ） (2026-04-26T07:34:36Z) - Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization [58.59491516762626]
マルチエージェントシステム(MAS)のための効率的かつ解釈可能なルーティングフレームワークAMRO-Sを提案する。
AMRO-Sは、意味条件付き経路選択問題としてMASルーティングをモデル化し、3つのキーメカニズムを通してルーティング性能を向上させる。
5つの公開ベンチマークと高速ストレステストによる大規模な実験により、AMRO-Sは強いルーティングベースラインに対する品質-コストトレードオフを一貫して改善することを示した。
論文 参考訳（メタデータ） (2026-03-13T12:26:05Z) - TRIM: Hybrid Inference via Targeted Stepwise Routing in Multi-Step Reasoning Tasks [26.198066761026297]
現在のメソッドはクエリ全体を1つのモデルに割り当て、すべての推論を1つのモデルに等しいものとして扱います。
我々は,全ての多段階推論タスクを処理する新しいモデルを提案する。
簡単なしきい値からより表現力のあるルーティングポリシまで,さまざまな戦略を開発しています。
論文 参考訳（メタデータ） (2026-01-15T10:06:06Z) - EvoRoute: Experience-Driven Self-Routing LLM Agent Systems [100.64399490164959]
EvoRouteは、静的で事前定義されたモデルの割り当てを超越する、自己進化型のモデルルーティングパラダイムである。
挑戦的なエージェントベンチマークの実験によると、既製のエージェントシステムに統合されたEvoRouteは、システムのパフォーマンスを維持または向上するだけでなく、実行コストを最大80%削減し、レイテンシを70%以上削減する。
論文 参考訳（メタデータ） (2026-01-06T04:06:46Z) - Dr.LLM: Dynamic Layer Routing in LLMs [55.11953638340419]
Dr.LLMは、事前訓練されたモデルに軽量な層ごとのルータを装備し、ブロックをスキップ、実行、繰り返すように決定する、適合性のあるフレームワークである。
ARC(logic)とDART(math)では、Dr.LLMは平均で5つのレイヤを保存しながら、最大3.4%の精度向上を実現している。
論文 参考訳（メタデータ） (2025-10-14T17:51:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。